第一章 大型語言模型導論一些關鍵術語Transformer 模型大型語言模型LLM 架構選擇合適的 LLM企業級 LLM 應用場景用 LLM 來開發的十項挑戰結語參考文獻第二章 LLMOps 概論什麼是運作框架？LLMOps 團隊與角色LLM 與你的組織LLMOps 的四大目標LLMOps 成熟度模型結語第三章 用LLM 來開發應用程式在應用程式中使用 AI 模型 基礎設施應用vLLM 與多模態 LLM 的興起LLMOps 的核心問題在以 LLM 為核心的應用程式中，你能控制什麼？內建 LLM 的基礎設施系統「更難」開發結語參考文獻第四章 LLM 領域的資料工程資料工程與 LLM 的興起DataOps 工程師的角色資料管理LLM 通用資料預處理作業線向量化結語參考文獻延伸閱讀第五章 讓 LLM 應用程式的模型適應領域從零開始訓練 LLM模型集成方法模型領域適應提示工程微調專家混合模型為資源有限的設備優化模型有效開發 LLM 的啟示結語參考文獻第六章 以 API 為優先，部署 LLM部署你的模型為 LLM 開發 APIAPI 實作憑證管理API 閘道API 版本管理與生命週期管理LLM 部署架構將 RAG 自動化：使用 retriever re-ranker 作業線自動更新知識圖譜部署延遲優化多模型調配優化 RAG 作業線隨需擴展與重複使用結語第七章 評估 LLM為何評估是個難題效能評估一般評估考量傳統指標已力有未逮結語第八章 治理：監視、隱私與安全資料議題：規模與敏感性安全風險防禦措施：LLMSecOps執行 LLMSecOps 稽核安全與倫理護欄結語參考文獻第九章 擴展：硬體、基礎架構與資源管理選擇正確的方法擴展與資源配置監視LLM 的 A/B 測試與影子測試配置與管理自動化基礎架構LLM 基礎架構優化LLM 的平行與分散式運算進階框架：ZeRO 與 DeepSpeed結語參考文獻第十章 LLM 與 LLMOps 的未來不斷擴展，突破現有界限混合式架構：融合神經網路與符號式 AILLMOps 的未來如何成為成功的 LLMOps 工程師結語參考文獻延伸閱讀索引
LLM提示工程技術｜打造兼具藝術與科學的高效應用 生成式AI開發實作｜使用Transformers與擴散模型 LangChain學習手冊｜使用 LangChain 與 LangGraph 建構 AI 與 LLM...more