LLMOps打造穩定運行的大型語言模型系統

「使用 AI 來開發應用程式日益簡單，但在將 LLM 部署到生產環境時，才會面臨真正的挑戰。本書是我用來教導學生掌握複雜的 LLMOps，並成功部署大型語言模型的重要指南。本書以清楚、可行的解決方案，幫助讀者將 LLM 原型轉化為穩定、可投入生產的 AI 系統，是一本不可或缺的讀物。」 —— Ammar Mohanna，EDT&Partners 首席 AI 顧問暨貝魯特美國大學講師 「本書透過清楚、可實作的指導揭開 LLMOps 的神秘面紗。這本完美的資源非常適合機器學習工程師、平台團隊，以及想將 LLM 從原型推向生產環境的所有人。」 —— Nirmal Budhathoki，微軟資深資料科學家 大型語言模型的一大特點，是它們不再依循舊規則。在運行 GenAI 時，傳統的 MLOps 幾乎無助於事，模型會產生幻覺、安全假設不再成立、監視機制失靈、agent 可能無法正常運作，你會突然進入一片未知的領域。這就是 LLMOps 成為一個獨立領域的原因。 本書將帶領你在真正的使用者面前，以及在現實的商業環境中成功運行這些系統。本書不會教你做出華麗的 demo，而是教你讓 LLM 系統在現實世界中穩定運作。 • 掌握運作 LLM 所需的新角色與流程 • 在傳統指標無法全面反映效能時，監視 LLM 的實際表現 • 針對 GenAI 設計真正有意義的評估、治理、安全稽核機制 • 管理 agent、RAG 系統，與不斷演變的提示詞帶來的營運混亂 • 擴展基礎設施，並且控制運算成本

使用FastAPI建構生成式AI服務｜開發理解豐富脈絡的生成式AI應用

「軟體開發者與資料科學家必備的實戰資源！Ali以深厚技術與清晰教學，手把手帶你用FastAPI打造可上線的生成式AI服務，從實作中保持領先地位。」 —Joe Rowe，Applied Data Science Partners技術保證與合規主管 「這是一本極實用的生成式AI入門書籍，詳盡說明如何打造真正能運作的服務，非常適合當成邁入 AI 開發領域的首選書籍。」 —Julian Brendel，Vitol資深Python開發者 準備好要用生成式AI打造真正可上線的應用程式了嗎？ 本書以實作為核心，教你如何運用FastAPI網頁框架來設計與部署AI服務。你將學到如何整合模型，處理文字、圖像、音訊與影片，並讓服務與資料庫、檔案系統、網站與API自然串接。無論你是網頁開發者、資料科學家，還是DevOps工程師，本書提供的範例、工具與策略，都能幫你打造高效、可隨需擴展、能即時提供服務的AI應用程式。 作者Alireza Parandeh透過清楚的解說與實際範例來介紹身分驗證、並行、快取，同時結合向量庫的檢索增強生成（RAG）技術。你將學會如何檢驗AI輸出品質、提升效能，以及保護微服務的最佳做法，並利用Docker來部署容器，在雲端自信啟動你的AI應用程式。 • 建立可與資料庫、檔案系統、網站及API互動的AI服務。 • 管理並行的AI工作與長時間運行的任務。 • 透過WebSockets與伺服器傳送事件（SSE），以串流形式傳送AI生成的結果。 • 使用身分驗證、內容過濾、限流與速率限制機制來保護服務。 • 透過快取、批次處理與微調技術強化AI效能。 Alireza Parandeh 是獲得英國工程委員會（UK Engineering Council）認證的特許工程師（Chartered Engineer），也是微軟與Google認證的開發者、資料工程師與資料科學家。 #FastAPI #生成式AI #AI服務/應用開發 #RAG #Docker部署AI #Context-rich AI

LLM提示工程技術｜打造兼具藝術與科學的高效應用

Albert 和 John 是史上最成功的生成式 AI 產品之一 GitHub Copilot 的幕後推手，也因此成為值得學習的典範。本書讓每個人都能輕鬆邁入提示工程這個領域。 —— Hamel Husain，獨立 AI 研究員與顧問 大型語言模型（LLM）正在徹底改變世界，期許能自動化各種任務並解決複雜問題。新一代的軟體應用紛紛把這些模型作為基礎元件來釋放幾乎所有領域中的驚人潛力，但同時也需要全新的技能才能穩定運用這些能力。本書將帶領你學習提示工程的藝術與科學 — 這正是釋放 LLM 真正潛能的關鍵。 產業專家 John Berryman 和 Albert Ziegler 將分享如何與 AI 有效溝通，將你的想法轉化為適合語言模型理解的格式。學會理論基礎與實用技巧之後，你將具備充分的知識與信心來打造新一代的 LLM 應用程式。 本書精彩內容： • 理解 LLM 的架構，並學會與其互動的最佳方式 • 針對你的應用程式設計完整的提示撰寫策略 • 收集、篩選並呈現高效提示所需的上下文資訊 • 精通特定提示技巧，例如少樣本學習、思維鏈提示設計與 RAG（檢索增強生成）

生成式AI開發實作｜使用Transformers與擴散模型

探索生成式人工智慧的無限可能！ 「如果你是開發者，想要掌握過去十年來最大規模的AI革命背後的工具及概念，本書是必備的指南。」 —Lewis Tunstall，Hugging Face機器學習工程師及《Hugging Face and coauthor of Natural Language Processing with Transformers》一書共同作者 「本書包含學習生成式AI的一切資源，包括全面的解說、深思熟慮的技巧，與DIY練習，可謂應有盡有。」 —Luba Elliott，AI藝術策展人，elluba.com 深入的理論解析與實用的程式碼範例，帶您掌握生成文本、圖像和音訊的最新技術。無論您是數據科學家還是軟體工程師，本書都將助您輕鬆上手，創造出令人驚豔的AI生成作品。立即開啟您的生成式AI之旅，讓創意與技術完美融合！ 本書將教導資料科學家和軟體工程師，如何使用生成式媒體技術和人工智慧來創造新穎的圖像或音樂。書中介紹了理論概念，並提供豐富的程式碼範例和插圖，讓讀者能夠在Google Colaboratory、Kaggle或Hugging Face Spaces等服務上執行這些範例，並學習使用開源庫。 本書還探討了從頭開始訓練和使用大型預訓練模型之間的權衡，如何建立能夠修改圖像風格的模型，以及調整變形模型以達到創意目的。內容涵蓋了文本、圖像和音頻等多種數據類型的生成模型，並詳細講解了Transformer和擴散模型等先進技術的構建和訓練方法。最後介紹了如何訓練一個能夠根據個人風格撰寫文字的模型，以及如何部署模型作為互動展示或服務。 -------------------------------------------------- 透過這本實作指南，學習運用生成式AI技術來建立奇妙的文本、圖像、音訊，甚至音樂。你將瞭解最先進的生成模型如何運作、如何微調與調整它們來滿足需求，以及如何結合現成的基礎模組來建立新模型，並在不同領域中開發創新的應用程式。 這本首選指南透過豐富的範例程式與容易瞭解的插圖來介紹理論概念，並帶你實際應用它們。 你將學習如何透過開源的程式庫來應用transformers和擴散模型，並探索程式、研究幾個既有的專案，藉以完成你的專案。 • 建立並自訂文本與圖像生成模型 • 瞭解「使用預訓的模型」與「微調自有的模型」之間的取捨 • 做出能夠以任意風格生成、編輯與修改圖像的模型，並運用它們 • 為各種創意用途量身打造transformer和擴散模型 • 訓練能夠反映獨特風格的模型 作者推薦先備書籍 •《精通機器學習》https://www.gotop.com.tw/books/BookDetails.aspx?Types=v&bn=A712 •《寫給程式設計師的深度學習》https://www.gotop.com.tw/books/BookDetails.aspx?Types=v&bn=A645

LangChain學習手冊｜使用 LangChain 與 LangGraph 建構 AI 與 LLM 應用程式

若要打造可推理及提取外部資料、理解前後脈絡、可投入正式環境的 AI 應用程式，你就必須熟悉熱門的開發框架與平台 LangChain。它可以用來建立、執行與管理有自主行動能力的 app。目前已有許多頂尖公司採用 LangChain，包括 Zapier、Replit、Databricks 等。對於已經學會 Python 或 JavaScript，且想要掌握 AI 能力的新手開發者而言，本書是必備的學習資源。 作者 Mayo Oshin 與 Nuno Campos 透過實用的見解與深入的教學，帶領你逐步掌握 LangChain 的運用。從基礎概念開始，一步步帶你建立一個可正式上線，並且能夠使用個人資料的 AI agent。 • 運用 retrieval-augmented generation（RAG）技術，結合外部的即時資料來提升 LLM 的準確性。 • 開發並部署能夠與使用者聰明地互動，並且記得前後脈絡的 AI 應用程式。 • 透過 LangGraph 來使用強大的 agent 架構。 • 整合並管理第三方 API 與工具，以擴充 AI 應用程式的功能。 • 監控、測試與評估 AI 應用程式，以提升效能。 • 瞭解 LLM app 開發的基礎知識，並學習如何在 LangChain 上加以活用。 ------------------------------------------------------------- 「本書包含條理分明的講解和可落實的技巧，是掌握 LangChain 的強大功能，並用它來製作可上線的生成式 AI 與 agent 的首選資源。對於想充分利用此平台之潛力的開發者來說，是必讀之作。」 ── Tom Taulli，IT 顧問暨《AI輔助程式開發》作者 「這本完整的指南涵蓋文件提取與檢索，以及在正式環境中部署與監控 AI agent 的完整知識。透過引人入勝的範例、直覺的圖解與實際的程式碼，讓 LangChain 變得既有趣又好玩！」 ── Rajat K. Goel，IBM 資深軟體工程師 「這是一本完整的 LLM 指南，不只介紹基礎知識，也探討生產階段，充滿技術見解、實用策略，以及強大的 AI 模式。」 ── Gourav Singh Bais，Allianz Services 資深資料科學家暨技術內容撰寫人

GitHub Copilot學習手冊｜效率倍增的AI程式設計力

GitHub Copilot學習手冊｜效率倍增的AI程式設計力 「《GitHub Copilot學習手冊》是實用、有深度、貼近日常開發方法的一本書。」 ——Andrew Stellman，開發者、團隊主管、講師與作者 「每一位程式設計師都要瞭解AI輔助程式設計，GitHub Copilot顯然是這個領域的龍頭，而Brent的這一本書是帶你精通這款強大工具的終極指南。」 ——Tom Taulli，《AI輔助程式開發》作者 使用GitHub Copilot的生成式AI來大幅提升程式設計效率！在這本實用指南中，作者Brent Laster將教你如何使用生成式AI來迅速寫出更好的程式、輕鬆生成測試程式、在任何開發階段寫出完善的文件…等。本書也會探討進階用法——例如利用Copilot的Agent功能來自動新增功能，以及自動審查pull requests。 《GitHub Copilot學習手冊》適合任何程度的開發者、測試人員、DevOps工程師，以及軟體專業人士。本書除了介紹基本知識外，還會深入討論Copilot Edits、Agent模式與Copilot Vision。你也將學習建立自己的Copilot擴充套件以擴展功能。不論你使用的是Python、JavaScript還是其他語言，本書都能幫你充滿信心地將AI整合到開發流程中。 - 利用即時的AI建議來探索與瞭解陌生的程式與演算法 - 精通行內補全與聊天介面，將常見任務自動化 - 快速、輕鬆地將自然語言提示詞轉換為完整的函式、測試與文件 - 利用背景資訊與提示詞來優化AI生成的結果，以獲得量身打造的解決方案 - 在IDE中透過AI的協助來簡化功能開發與重構

AI輔助程式開發｜從規劃到部署全流程高效升級

🚀 不只是用AI寫Code，而是完整的AI輔助全流程開發思維。 跟著本書一起改寫AI開發時代的遊戲規則，讓AI成為最佳的開發夥伴！ 本書不只教你用AI寫Code，並涵蓋從需求規劃、程式設計、測試、部署等完整開發流程，你將學到 AI 在每個階段的最佳實踐。不論是希望加速開發流程的工程師，或是想深入理解AI輔助開發的技術領導者，都能從中獲得超實用的見解。 本書內容包括： ✔️ AI在軟體開發的實際應用與案例分析 ✔️ 如何利用AI工具提升程式碼品質與效能 ✔️ AI輔助測試與除錯的最佳方法 ✔️ 優化部署流程，提升軟體交付效率 ------------------------------------------------------------- 「我們在六個星期內，就把向量搜尋的功能順利加入Cassandra，其中Copilot和ChatGPT絕對是我們能在期限內完成任務的重要關鍵；不過，大多數開發者卻不知道該如何善用這類AI工具。Tom這本書就是很棒的入門方式，可以讓你省下無數嘗試錯誤的寶貴時間。」 —— Jonathan Ellis，DataStax共同創辦人兼首席技術長 本書會提供一些實用的建議，讓你學會如何把各種AI開發工具運用到創建程式碼的所有階段，包括需求、規劃、設計、編寫、除錯和測試。無論是初學者或資深的開發人員，都可以透過本書學會運用各式各樣的AI工具，涵蓋範圍從通用的LLM（ChatGPT、Gemini和Claude），到專為程式編寫設計的各類系統（GitHub Copilot、Tabnine、Cursor和Amazon CodeWhisperer）。 你也可以學習到更多特別設計的生成式AI工具，完成一些像是以文字生成圖片之類的任務。 作者Tom Taulli提供了一套完整的模組化程式設計方法論，這套方法論與大家利用提示來生成AI程式碼的做法非常契合。這本指南還介紹了如何以通用的LLM來學習程式語言、解釋程式碼，或是把程式碼從某一種語言轉換成另一種語言的最佳做法。 本書探討了： ．AI開發工具的各種核心能力。 ．較熱門的AI系統（例如GitHub Copilot）其優缺點及實際的使用案例。 ．使用ChatGPT、Gemini、Claude之類的通用LLM來進行程式設計的各種做法。 ．在軟體開發生命週期中使用AI開發工具，包括需求規劃、撰寫程式、除錯、測試等各個階段。 ．軟體開發相關的提示工程。 ．用AI輔助程式設計的做法，來處理一些繁瑣的任務（例如編寫正則表達式）。 ．如何運用那些能讓你少寫一些程式碼、甚至完全不用寫程式碼的AI工具。

LLM語意理解與生成技術完全開發

AI 語言技術的進步，正以前所未有的速度改變世界！ 「Jay和Maarten一如既往地運用精美的插圖為複雜主題提供深具洞察的描述。對於任何想了解大型語言模型背後主要技術的人來說，這本書都是寶貴的資源。」 —Andrew Ng（吳恩達)，DeepLearning.AI 創辦人 「我想不出有哪本書比這本書更重要，值得現在就去閱讀。書中的每一頁，我都學到在這個語言模型時代，對於成功至關重要的知識。」 —Josh Starmer，StatQuest 想深入了解大型語言模型的奧秘，並將其應用於實際專案中？ 《Hands-On Large Language Models》正是為你量身打造的指南！ 由知名AI專家Jay Alammar和Maarten Grootendorst執筆，透過近300幅精美圖解，帶你輕鬆掌握LLM的核心概念和實踐技巧。 無論是文案撰寫、摘要生成，還是建立先進的語義搜尋系統，本書都提供了詳盡的步驟和範例，助你在AI領域中脫穎而出。快讓《Hands-On Large Language Models》開啟你的 AI 進階之旅！ -------------------------------------------------------- 近年來，AI在語言處理領域取得了驚人的突破。隨著深度學習的快速發展，語言AI系統在文字寫作與理解方面的能力，比以往任何時候都更加出色。這一趨勢正在催生全新的功能、產品，甚至是全新的產業。透過本書視覺化的教學方式，你將學習如何運用這些強大技術，掌握實用工具與關鍵概念，並能立即應用於你的專案中！ 你將學會如何運用預訓練的 LLM 進行文案撰寫與摘要生成；打造超越傳統關鍵字匹配技術的語義搜尋系統；運用現有的函式庫和預訓練模型，來進行文本分類、搜尋與聚類。 本書將助你深入理解： • Transformer語言模型的架構，掌握文本生成與語意表達的核心技術。 • 構建高效的LLM流程，對文本資料進行聚類並探索其主題。 • 透過密集檢索（dense retrieval）與重新排名（reranking），構建超越關鍵字匹配的語義搜尋引擎。 • 從提示工程（prompt engineering）到檢索擴增生成（RAG），探索生成式AI的各種運用方式。 • 深入學習如何訓練 LLM，針對特定應用進行優化，包括生成式微調（generative fine-tuning）、對比微調（contrastive fine-tuning）與上下文學習（in-context learning）。 • 透過生成式模型微調（Generative Model Fine-tuning）、對比式微調（Contrastive Fine-tuning）以及情境學習（In-context Learning），更深入地了解如何訓練LLM，並針對特定應用進行最佳化。

Deep Learning 5｜生成模型開發實作

這是暢銷書系列《Deep Learning》的第5集，本次的主題是「生成模型」。 書中延續此系列的風格，以連貫的故事介紹從「常態分布」到「擴散模型」的技術。你可以累積學到的知識，一步一步練習操作，不斷累積學習成果，最終完成類似「Stable Diffusion」這樣的AI影像生成模型。 技術的有趣之處在於細節，從零開始建構，挑戰各種公式。

AI工程｜從基礎模型建構應用

⭐⭐⭐⭐⭐ Amazon五星好評 🏆 機器理論#1 🏆自然語言處理#1 🏆企業應用#1，霸榜超過30週 「本書提供了一個全面且結構清晰的指南，涵蓋建構生成式AI系統的基本面向。對於希望在企業內推展AI的專業人士來說，這是一本必讀之作。」 ——Vittorio Cretella，前 P&G and Mars 全球資訊長 「Chip Huyen很懂生成式AI，她是一位卓越的教師和作家，她的著作在幫助團隊將AI導入產品上發揮了重要作用。憑藉深厚的專業知識，《AI工程》是一本深入且全面性的指南，幫助讀者產出構建生成式AI應用。」 ——Luke Metz，ChatGPT共同創建人，前OpenAI研發經理 打造真正可用的LLM應用！ 從架構設計到部署評估，帶你一次打通 AI 工程實務全流程。 面對LLM，你是否也曾困惑： •該怎麼選模型，Prompt要怎麼設計？ •模型要微調，還是直接上線？ •部署、監控、評估效果要怎麼做？能讓AI自評嗎？ •又該如何避免幻覺、安全性、延遲等應用風險？ 無論你是AI工程師、ML工程師、資料科學家、工程經理、技術產品經理，或是AI工具開發者、研究人員、求職者，本書都能幫助你跨出關鍵第一步！ 📌 從零開始建構AI應用，或將原型提升至生產環境 📌 解決幻覺、安全性、延遲與成本等應用挑戰 📌 簡化團隊AI開發流程，讓系統更快、更穩、更可靠 📌 在組織內有效運用基礎模型，提升業務價值與團隊能力 📌 了解AI的能力與限制，釐清AI工程師的核心技能 ----------------------------------------- 基礎模型促成了新的AI使用案例，降低了建構AI產品的進入門檻，將AI從一門深奧的學科，轉化為沒有任何AI經驗的人都能使用的強大開發工具。 在這本易懂的指南中，作者Chip Huyen認為AI工程就是運用現有基礎模型建構應用的流程。AI應用開發者會看到包括模型、數據集、評估基準，以及看似無窮無盡應用模式的AI領域，本書也介紹了開發AI應用並可高效部署的實用框架。 •理解什麼是AI工程及其與傳統機器學習工程有何不同 •學習開發AI應用的流程、每個步驟的挑戰，以及應對這些挑戰的方法 •探索包括提示工程、RAG、微調、代理和數據集工程的各種模型適配技術，並理解它們運作的方式與目的 •檢視服務基礎模型時的延遲和成本瓶頸，及如何克服這些問題 •針對需求選擇正確的模型、指標、數據和開發模式 本書與《設計機器學習系統》互為補充，進一步探索AI工程的實務應用。

生成式AI提示工程｜以前瞻性的設計打造穩定、可信任的AI解決方案

來自業界專家的推薦📢 「Mike和James是這領域的大師，這絕對是我讀過關於提示工程的最棒書籍之一。」 ── Dan Shipper，Every共同創辦人與CEO 「如果想要提升AI系統的準確性和可靠性，這本書在你的書架上足有一席之地。」 ── Mayo Oshin，Siennai Analytics創辦人與CEO，LangChain早期貢獻者 ChatGPT、DALL-E這類大型語言模型（LLM）和生成擴散模型具備了前所未有的潛力。經由網際網路上的公開文字與圖像訓練之後，這些模型可應用於各種任務。由於進入門檻大幅降低，幾乎任何開發者都能利用AI模型來解決以往不適合自動化的問題。 透過本書，你將掌握生成式AI的扎實基礎，並學習如何將這些模型應用於實際情境。在將大型語言模型與生成擴散模型整合至工作流程時，多數開發者往往難以生成可供自動化系統使用的可靠結果，本書作者James Phoenix與Mike Taylor將深入解析提示工程的核心原則，讓你在正式部署後能與AI高效共事。 本書精彩內容： • 適用於不同模型且未來也依然有效的提示五大原則。 • 使用LangChain等函式庫和框架，將生成式AI應用於實際案例。 • 評估GPT-4和DALL-E 2等OpenAI模型與其他包括開放原始碼模型的替代方案，分析比較各自的優勢與弱點。 • 這些原則如何實際應用在自然語言處理、文字與圖像生成以及程式開發領域中。

LLM資安教戰手冊｜打造安全的AI應用程式

💥 AI工具爆炸性成長，從ChatGPT到企業內部專屬LLM，生成式AI已大量融入我們的生活與工作。但我們真的準備好「安全上線」了嗎？ LLM帶來前所未見的創新機會，但同時也伴隨著新型態的安全風險，從prompt injection、資訊外洩，到代理人失控、幻覺誤導，每一項都可能讓AI工具從生產力助力變成潛在風險來源。 《LLM資安教戰手冊｜打造安全的AI應用程式》由LLM資安教父、OWASP「LLM 十大安全風險」專案負責人Steve Wilson撰寫，被業界譽為「創新者必讀之作」，是目前最系統化、最具實務操作性的 LLM安全指南。 書中全面探討LLM應用開發中常見的十大風險，搭配實際案例與對應策略，幫助你在開發初期就建立正確的安全架構思維。從威脅情境、風險辨識，到實用防禦技術與風險最小化原則，內容清晰易懂，實作性高，適用於各種LLM應用場景。 🎯聚焦探討LLM的安全性，為開發者提供具體的安全策略和最佳實踐。 📌涵蓋設計、部署和維運過程中的的關鍵安全挑戰。 🎯透過實例分析，協助讀者理解並應用防範措施，有效預防安全漏洞。 📌適用於AI工具開發者、產品經理、資安人員及企業技術決策者。 不論你是AI開發新手，還是負責導入LLM的企業技術主管，這本書都能幫你掌握攻防思維，補強資安弱點，打造能安心上線的AI應用。 ------------------------------------------------------------- 「這本書對於AI開發者和紅隊演練專家至關重要，它將巨大的風險轉化為可管理的挑戰，提供了專業知識，以保障基於LLM應用的安全。」 —Marten Mickos，HackerOne執行長 「由LLM資安之父Steve Wilson撰寫，一本創新者的必讀之書。」 —Sherri Douville，Medigram執行長 「根據我在AI 紅隊的經驗，我全力支持這本書中頂尖的全端方法及其嚴謹、多面向的見解。」 —Ads Dawson，Cohere資深資安工程師 「這本書是當我們傾盡全力快速採用GenAI和LLM，並確保組織結果安全時，關於資安產業重要且全面的指南。」 —Chris Hughes，Aquia總裁及Resilient Cyber創始人 LLM不僅塑造了AI的發展軌跡，也揭開了一個充滿安全挑戰的新時代。這本實用的書籍將帶您直擊這些威脅的核心。作者Steve Wilson是OWASP（開放式Web應用程式安全計畫）「Top 10 for LLM Applications」的計畫負責人，他將重點放在使用LLM建立軟體時必須處理的特性與弱點。 本書為開發人員和資安團隊提供了真實世界的指導及可行的策略，協助你應對LLM應用程式的挑戰。無論是要建構新的應用程式，還是要為在現有的應用程式中加入AI功能，這本書都會是你要掌握AI下一個新領域資安環境的必備資源。 你將會學到： - 為什麼LLM會帶來獨特的資安挑戰 - 如何應對使用LLM技術所帶來的風險 - 與LLM相關的威脅環境，以及必須維護的重要信任邊界 - 部署防禦措施的方法，以保護針對主要漏洞的攻擊 - 改善軟體開發流程的方法，以確保建構安全可靠的AI應用程式

架構資料與機器學習平台｜雲端啟動分析與AI驅動的創新

🔹 全面掌握雲端資料與AI平台設計關鍵 🔹 實戰導向，靈活運用AWS、Azure、Google Cloud、Snowflake、Databricks 🔹 從基礎到進階，打造符合企業需求的現代化資料平台 🔹 強化資料治理，加速AI/ML創新，驅動決策智慧 無論你是資料架構師、工程師，或是希望運用AI強化決策的企業領導者，本書都將成為你打造未來資料與機器學習平台的最佳指南！ 在資料驅動的時代，企業該如何善用資料創造價值？ 本書由三位資深工程師聯手打造，為雲端架構師與資料專業人士提供了一套清晰完整的解決方案。從雲端資料平台的設計到AI與機器學習的整合，帶您走過資料現代化的每一步。無論是整合分散的資料、實現即時決策，還是利用AI解鎖創新潛力，本書都提供了實用的架構與工具，幫助你在雲端時代保持優勢。 ----------------------------------------------------------- 「本書完整介紹，如何依據企業組織的策略方向，設計與建置現代雲端資料與ML平台的概念、模式與元件。真希望我能在多年前就能讀到這本書。」 —Robert Sahlin，Mathem資料平台主管 所有的雲端架構師都必須知道如何建置資料平台，以賦與企業能夠快速高效地做出資料驅動的決策，並在整個企業範圍內提供智能化服務。本書將展示如何使用AWS、Azure、Google Cloud以及Snowflake與Databricks這類多重雲端工具，設計、建置與現代化雲端原生資料與機器學習平台。 作者Marco Tranquillin、Valliappa Lakshmanan與Firat Tekiner使用真實世界企業架構來說明，內容涵蓋從雲端匯入到啟動整個資料生命週期。你將學到如何轉換、保全與現代化資料倉儲與資料湖這些熟悉的解決方案，也將能充份利用最新的AI/ML模式取得精準且快速的洞見，提升競爭優勢。 你將學會： *設計現代化且安全的雲端原生或混合資料分析與機器學習平台 *透過將企業資料整合到治理良好、可擴充的與彈性的資料平台，加速資料導向的創新。 *民主化存取企業資料，治理業務團隊提取洞見方式與建置AI/ML的能力。 *讓您的企業利用串流管道即時決策 *建置MLOps平台，移往預測性與指示性分析

AI應用程式開發 第二版｜活用ChatGPT與LLM技術開發實作

來自Amazon讀者的好評📢 「這本書是LLM新手的理想入門書，簡單易懂的Python範例，幫助我輕鬆學會在應用程式中運用GPT技術。」 「書中提供很多實用的OpenAI API使用建議，並包含清晰的範例和經驗分享。讓我節省了大量搜尋和試錯的時間，是學習GPT開發的絕佳資源。」 來自業界專家的推薦📢 「透過實用範例與逐步指南，作者為前沿應用開發鋪設了清晰的道路。」 ——Tom Taulli，《Generative AI》（Apress）作者 「完美結合理論與實作，讓GPT-4和ChatGPT的技術細節變得易於理解。」 ——Lucas Soares，Biometrid機器學習工程師 🌟 AI正在改變開發世界，準備好加入這場革新了嗎？ 本書帶你掌握ChatGPT與LLM的強大功能，從文字生成、智慧問答到提示工程、模型微調。 用Python就能讓AI成為你最棒的開發夥伴！ 本書提供： ✅ 從零開始：快速理解 LLM 原理，掌握ChatGPT應用開發核心技術 ✅ 實戰導向：使用OpenAI API，打造各種AI功能，包括智能助理與問答系統 ✅ 進階技巧：提示工程、RAG、LangChain、LlamaIndex，優化AI效能 ✅ 完整範例：GitHub程式碼+逐步指引，動手實作AI應用 🎯 不論你是開發者、數據工程師，還是AI愛好者，本書都是你進入AI應用開發領域的最佳幫手！ ---------------------------------------------- 這本書是Python開發者的理想指南，可為學習如何使用大型語言模型來開發應用程式提供協助。作者Olivier Caelen和Marie-Alice Blete詳細介紹了GPT-4和GPT-3.5模型的主要功能與優勢，並深入解釋這些模型的運作原理。此外，書中還提供了使用OpenAI的Python函式庫進行應用程式開發的步驟指南，包括文本生成、問答系統和智慧助裡等應用。 本書以清晰易懂的敘述方式撰寫，搭配簡單易學的範例，幫助讀者理解概念並將其應用於實際專案。書中提供的Python程式碼範例皆可在GitHub上取得，並附有關鍵術語的詞彙表。準備好在應用程式中釋放大型語言模型的威力了嗎？這本書是您的必備之選！ 您將於本書中學習到： ．GPT-4與GPT-3.5模型的基本概念、核心特性與運作方式。 ．如何將這些模型整合至基於Python的應用程式中，並充分發揮自然語言處理能力，解決LLM相關的挑戰。 ．在Python中使用OpenAI API進行文本生成、問答、內容摘要、分類等實作應用。 ．進階的LLM主題，如提示工程、特定任務的模型微調、檢索強化生成（RAG）、插件、LangChain、LlamaIndex、GPTs和智慧助理。

機器學習面試指南

啟動你的機器學習與資料科學職涯 「這是一本關於機器學習面試的全方位指南。本書涵蓋了大多數機器學習面試的內容，對於該領域的新手、經驗豐富的機器學習（ML）從業者以及資料科學家來說，都非常實用。」 --Prithvishankar Srinivasan Instacart的ML工程師（曾任職於Twitter、Microsoft） 隨著現今科技產品日益普及，對機器學習專業人才的需求也持續成長。但是不同公司之間對於ML專業人員的職責和技能要求差異迥然不同，使得面試過程難以預測。在本書中，資料科學領導者Susan Shu Chang將為你揭示如何成功應對ML招募過程的每一項挑戰。 Susan Shu Chang曾任職於多間公司的首席資料科學家，無論是擔任ML 面試官或身為應試者的身分，都擁有相當豐富的經驗。藉由本書，她分享自己在這整個過程中學到的寶貴心得，向你說明這個具高度選擇性的招募過程，讓您能快速掌握典型ML面試的成功秘訣。 這本書將帶您了解： •探索各種機器學習職位，涵蓋ML工程師、應用科學家、資料科學家和其他相關職位。 •在決定要將何種ML職位設定為目標前，先評估自己的興趣和技能。 •衡量自己目前的技術水準，針對阻礙面試成功的弱項進行補強。 •取得每個ML職位需要的技能，並製作適用於應徵的履歷表。 •在編碼測試、統計和ML理論、以及行為問題等ML面試主題上輕鬆得分。 •透過研究常見的ML面試模式和提問，為面試做好充足準備。 •獲取面試後的提示和其他有價值的資源。

生成深度學習｜訓練機器繪畫、寫作、作曲與玩遊戲 第二版

生成式AI是科技界最熱門的主題。本書以實務導向，教導機器學習工程師與資料科學家們如何使用 TensorFlow 與 Keras 來從頭做出令人讚嘆的生成深度學習模型，包含變分自動編碼器（VAE）、生成對抗網路（GAN）、Transformer、正規化流、能量模型與降噪擴散模型。 本書從深度學習的基礎開始，逐步談到最尖端的架構。透過各種提示與小技巧，您將理解如何讓模型更有效地學習並變得更富有創造力。 ．探索如何使用VAE（變分自動編碼器）來修改照片中的臉部表情 ．訓練各種GAN（生成對抗網路）以根據您專屬的資料集來生成圖像 ．建置擴散模型來生成新品種的花卉 ．自行訓練GPT來生成文字 ．了解像ChatGPT這樣的大型語言模型是如何訓練的 ．探索StyleGAN2與ViT-VQGAN這類最新架構 ．使用變換器（Transformer）和MuseGAN編寫多聲部音樂 ．理解生成世界模型如何解決強化學習任務 ．深入研究DALL.E 2、Imagen和Stable Diffusion這類多模態模型 本書還探討了生成式AI的未來，以及個人和公司如何藉由積極著手運用這項非凡的新技術來創造競爭優勢。 「這是一本淺顯易懂的絕佳入門書，介紹生成建模的各種深度學習套件。如果您喜歡寫點程式並希望將深度學習應用於工作中的創意從業者，這本書保證適合您。」 ——Stability AI策略部門主管David Ha—— 「這本書超級棒，深入介紹了各種最新生成式深度學習背後的所有主要技術。這是對AI中最迷人領域的一趟引人入勝探索之旅！」 ——Keras創辦人François Chollet——

機器學習的訓練資料

從標註到資料科學的人類監督 掌握訓練資料的訣竅，提升AI專案成功率 「本書以全方位的視角解說如何產生高品質的訓練資料以及啟動新專案。」 — Anirudh Koul Pinterest機器學習、資料科學負責人 「要做好機器學習，必須學習如何訓練資料。本書的價值比黃金還要珍貴。」 — Neal Linson InCite Logix首席資料與分析長，LLM超級明星 您的訓練資料對於資料專案的成功與否與演算法本身一樣重要，因為人工智慧系統的大多數失敗都與訓練資料有關。儘管訓練資料是成功的人工智慧與機器學習的基礎，但鮮少有全面的資源可以幫助您掌握這一過程。 在這本實用指南中，作者Anthony Sarkis（Diffgram AI訓練資料軟體的首席工程師）向技術專業人員、管理者和相關領域專家展示如何處理和擴展訓練資料，同時闡述監督機器的人性面。無論是工程領導者、資料工程師或是資料科學專業人士，都能從本書獲得成功使用訓練資料所需之概念、工具和流程的深入理解。 透過這本書，您將學會： ‧有效地處理訓練資料，包括綱要、原始資料和標註 ‧將工作、團隊或組織轉型為更以人工智慧/機器學習資料為中心 ‧向其他員工、團隊成員和利益相關者清楚解釋訓練資料概念 ‧為生產級別的人工智慧應用設計、部署和交付訓練資料 ‧識別並修正基於新訓練資料的失敗模式，如資料偏差 ‧完全掌握自動化技術，更有效地建立訓練資料 ‧成功維護、操作和改進訓練資料的記錄系統

機器學習的高風險應用｜負責任的人工智慧方法

「作者完美呈現監管單位觀點、風險管理、可解釋性與其他諸多主題的概觀，同時提供實務建議與程式碼範例。」 —Christoph Molnar Interpretable Machine Learning作者 「使用獨特戰術處理方式，解決ML系統風險，讓本書脫穎而出。透過細微差異的處理降低ML風險，為讀者提供寶貴資源，以負責任又可持續的方式成功佈署ML系統。」 —Liz Grennan Digital Trust, McKinsey&Company初級合夥人暨全球事務共同領導者 過去十年，見證了人工智慧與機器學習(AI/ML)技術的廣泛採用。然而，疏於監督這些廣泛實施的技術，導致原本可由適切風險管理來避免的事故與不良後果。在認識AI/ML真正的好處前，從業人員必須瞭解如何降低風險。 本書說明負責任AI的處理方式：建立在風險管理、資安、資料隱私上，並套用社交科學的最佳實作，提升AI/ML技術、商業程序與文化能力的完整框架。作者Patrick Hall、James Curtis與Parul Pandey創作了這本指南，以期能協助企業、客戶與大眾改善真實世界AI/ML系統結果的資料科學家。 ‧學習完整涵蓋可解釋性、模組驗證與除錯、偏見管理、資料隱私與ML安全性的負責任AI技術處理 ‧學習如何建立成功的、有影響力的AI風險管理實作 ‧對採用AI技術的現有標準、法律與評估方式有基本瞭解，包括近期的NIST AI Risk Management Framework ‧使用GitHub與Colab的互動式資源

邊緣AI｜使用嵌入式機器學習解決真實世界的問題

邊緣AI正轉變著電腦與現實世界的互動方式，讓物聯網裝置能夠重拾先前因成本、頻寬或電力限制而被捨棄的99%感測器資料，進而做出決策。透過嵌入式機器學習等技術，開發者就能精煉人類直覺並將其部署到各種目標上，涵蓋了超低功耗微控制器到嵌入式Linux裝置。 這本實用指南為專業工程人士，包括產品經理和技術主管，提供了一個運用邊緣AI技術來解決實際工業、商業和科學問題的端對端框架。你將有機會探索從資料收集、模型最佳化再到調校測試的所有階段，學習如何設計和支援邊緣AI和嵌入式機器學習產品。邊緣AI必定會成為系統工程師的標準工具，本書中的高階路線圖可幫助你快速上手。 ．奠定關於邊緣裝置的AI和ML專業知識 ．了解哪些專案最適合使用邊緣AI來解決 ．探索邊緣AI應用的關鍵設計模式 ．學習開發AI系統的迭代工作流程 ．打造一支能夠解決實際問題的團隊 ．遵循負責任AI過程來製作有效的產品 「本書針對如何結合現今的AI智慧技術和嵌入式系統做了完美的介紹」 —Elecia White 《Making Embedded Systems》書籍作者與Embedded數位廣播節目主持人 「任何剛踏入這個新興領域的人都會受益於本書所提供的深刻見解和清晰思緒」 —Aurélien Geron 曾任YouTube自動影片分類小組主管與暢銷書作家 「我可以想像這本書被大家當作參考書來反覆查找」 —Fran Baker Arm永續與社會影響力部門主任

精通機器學習｜使用Scikit-Learn, Keras與TensorFlow 第三版

建立智慧型系統的概念、工具與技術 「這是一本出色的機器學習資源，包含淺顯易懂的解說，以及豐富的實用技巧。」 —François Chollet Keras作者，《Deep Learning with Python》作者 「本書是運用神經網路來解決問題的絕佳入門資源，涵蓋理論及實踐。推薦給想學習實用機器學習技術的人。」 —Pete Warden TensorFlow行動主管 深度學習在經歷了一系列的突破之後，已經推動了整個機器學習領域的發展。如今，即使是對於這項技術非常陌生的程式設計師，也能夠使用簡單、高效率的工具，寫出能從資料中學習的程式。這本暢銷書使用具體的例子、最少的理論，以及具備生產水準的Python框架(Scikit-Learn、Keras和TensorFlow)來協助你直接瞭解智慧系統的建構概念與工具。 在這本第三版中，作者Aurélien Géron將探索一系列的技術，從簡單的線性回歸開始，逐步發展到深度神經網路。本書包含許多範例程式和習題來幫助活用所學，只要具備一些程式設計經驗即可入門。 ‧使用Scikit-Learn自始至終完成機器學習專案 ‧探索多種模型，包括支援向量機、決策樹、隨機森林，和集成方法 ‧運用無監督學習技術，例如降維、聚類法和異常檢測 ‧深入探討神經網路架構，包括摺積神經網路、遞迴網路、生成對抗網路、自動編碼器、擴散模型、轉換器 ‧使用TensorFlow和Keras建構和訓練神經網路，以進行計算機視覺、自然語言處理、生成模型和深度強化學習

設計機器學習系統｜迭代開發生產環境就緒的ML程式

「簡而言之，這是關於如何在公司構建、部署和擴展機器學習模型以獲得最大影響的最佳書籍。 」 —Josh Wills WeaveGrid軟體工程師和前任Slack資料工程總監 「在蓬勃發展但混亂的生態系統中，提供了ML從端到端的原則性視角，既是地圖又是指南針；大型科技公司內外的從業者必讀。」 —Jacopo Tagliabue Coveo人工智慧總監 機器學習系統既複雜又獨特，複雜之處在於系統組件繁多，並涉及許多不同的持份者。獨特之處在於系統依賴資料，且資料在不同使用案例中大有不同。在本書，您將學習一種整體方法來設計可靠、可擴展、可維護，並能適應不斷變化環境和業務需求的機器學習系統。 Claypot AI的聯合創始人、作者Chip Huyen考慮了每項設計決策—如何處理和創建訓練資料、使用哪些功能、重新訓練模型的頻率以及監控範圍，讓系統全面達標。本書提出的迭代框架結合實際案例研究，案例背後具大量參考文獻支持。 本書將幫助您應對以下場景： ‧規劃資料並選擇正確的指標來解決業務問題 ‧自動化流程以持續開發、評估、部署和更新模型 ‧開發監控系統，以快速檢測和解決模型在生產環境可能遇到的問題 ‧構建跨用例服務的ML平台 ‧開發負責任的機器學習系統

Deep Learning 4｜用Python進行強化學習的開發實作

本暢銷系列作品的第4本書，這次的主題是強化學習。書中延續此系列的一貫風格，顯示實際的程式碼，讓讀者邊執行邊學習，不依賴外部程式庫，從零開始建置、學習支撐強化學習的基本技術與概念。 從「理論」與「實踐」兩方面著手，仔細解說強化學習這個複雜主題的構成要素，讓讀者確實掌握強化學習的獨特理論。有別於只用公式說明理論的書籍，讀者可以從書中的程式碼，獲得許多意想不到的領悟。

金融風險管理的機器學習應用｜使用Python

風險建模演算法 「Abdullah Karasan成功展現了在金融風險管理領域中使用機器學習的能力，這是對任何金融機構都攸關重要的功能。」 —Yves J. Hilpisch博士 The Python Quants與The AI Machine創辦人及總裁 「如果您需要將統計和機器學習方法應用在金融風險分析的入門指南，那麼這是一個很好的起點。」 —Graham L. Giller 《Adventures in Financial Data Science》作者 金融風險管理在人工智慧的幫助下發展迅速。透過這本實用指南，開發人員、程式設計師、工程師、金融分析師、風險分析師及定量和演算法分析師，將可以機器學習和深度學習模型進行金融風險評估。建立基於人工智慧的財務建模實務技能後，您將學習要如何運用機器學習模型來取代傳統的金融風險模型。 作者Abdullah Karasan幫助您探索金融風險建模背後的理論，再深入研究使用Python運用機器學習模型以對金融風險進行建模的實際方法。 有了這本書，您將可以： ‧回顧經典的時間序列應用並將其與深度學習模型進行比較 ‧使用支撐向量迴歸、神經網路和深度學習來探索波動率模型以衡量風險程度 ‧使用機器學習技術來改善市場風險模型(VaR和ES)，並包括了流動性維度 ‧使用分群和貝氏方法來進行信用風險分析 ‧使用高斯混合模型和關聯結構模型來捕捉流動性風險的不同面向 ‧使用機器學習模型來進行詐欺偵測 ‧使用機器學習模型來預測股價崩盤並識別其決定因素

資料科學基礎數學

使用基本的線性代數、機率和統計來掌控您的資料 「在當前資料科學教育環境的嘈雜聲中，這本書脫穎而出，包含許多清晰、實用的範例，說明理解和建構資料所需的基礎知識。」 —Vicki Boykis Tumblr高級機器學習工程師 讓您掌握在資料科學、機器學習和統計學等方面所需具備的數學知識。作者Thomas Nield將引導您了解微積分、機率、線性代數和統計等領域，以及它們是如何應用在線性迴歸、邏輯迴歸和神經網路等技術。 在此過程中，您還將獲得對資料科學的實用見解，以及如何利用這些見解幫助提升您的職業生涯。 您將了解如何： ‧使用Python程式碼和SymPy、NumPy和scikit-learn等程式庫來探索基本的數學概念，例如微積分、線性代數、統計和機器學習 ‧用簡單的語言並使用最少的數學符號和行話來理解線性迴歸、邏輯迴歸和神經網路等技術 ‧對資料集執行描述性統計和假說檢定，以解釋p值和統計顯著性 ‧操作向量和矩陣並執行矩陣分解 ‧對微積分、機率、統計和線性代數的知識進行整合和建構，並應用於包括神經網路在內的迴歸模型 ‧在資料科學職業生涯中進行實際導航，避免常見的陷阱、假設和偏見，同時調整您的技能以在就業市場中脫穎而出

機器學習模擬應用｜將合成資料運用於AI

「在資料需求很高但可存取資料稀少的時代，建立逼真的模擬環境以產生更強大的研究和ML應用程式將比以往任何時候都更加重要。本書對於機器學習和Unity開發人員來說是進入該領域的最佳途徑。」 —Dominic Monn 機器學習工程師 模擬和合成將是人工智慧和機器學習的未來核心。想像一下，程式設計師、資料科學家和機器學習工程師可以在沒有汽車的情況下建立自動駕駛汽車的大腦。您可以使用模擬來合成人工資料訓練傳統的機器學習模型，而不是使用實際的資訊。這只是開始而已。 透過這本實用的書，您將探索基於模擬和合成的機器學習和AI的可能性，重點是深度強化學習和模仿學習技術。AI和ML是藉由資料來驅動，而模擬是釋放它們全部潛力的強大且引人入勝的方式。 您將學習如何： ‧使用Unity引擎的模擬來設計解決ML和AI問題的方法 ‧使用遊戲引擎合成影像以用作訓練資料 ‧建立用來訓練深度強化學習和模仿學習模型的模擬環境 ‧為基於模擬的ML來使用和應用有效率的通用演算法，例如近端策略優化 ‧使用不同的方法來訓練各種ML模型 ‧使用PyTorch和Unity ML-Agents和Perception Toolkits來讓ML工具能夠與業界標準的遊戲開發工具一起使用

建構機器學習管道｜運用TensorFlow實現模型生命週期自動化

「本書是一本出色的參考資料，全面介紹ML產品系統，特別關注TFX。它包含最準確的資訊，並提供清晰、簡潔的解釋案例。」 —Robert Crowe TensorFlow Developer Advocate, Google 公司在機器學習專案上耗費巨資，但如果不能有效地部署模型，無疑是在浪費金錢。在本書中，Hannes Hapke和Catherine Nelson將帶領您瞭解使用TensorFlow生態系統自動化機器學習管道的步驟。您將學習到將部署時間從幾天縮短到幾分鐘的技術和工具，進而更專注新模型的開發，而不是維護舊有的系統。 數據科學家、機器學習工程師和DevOps工程師將發現如何超越模型開發，成功地將他們的數據科學項目產品化，而管理人員將更瞭解他們在加速這些專案項目所扮演的角色。 ‧瞭解構建機器學習管道的步驟 ‧使用TensorFlow Extended中的組件建構您的管道 ‧使用Apache Beam、Apache Airflow和Kubeflow管道來協作您的機器學習管道 ‧使用TensorFlow數據驗證和TensorFlow轉換來處理數據 ‧使用TensorFlow模型驗證對模型進行詳細分析 ‧檢驗模型表現的公平性和偏誤性 ‧使用TensorFlow Serving或TensorFlow Lite為移動設備部署模型 ‧學習隱私保護(privacy-preserving)機器學習技術

AI策略｜人與企業的數位轉型

創造更好的體驗和商業成功架構 「對於有興趣了解AI並開啟其優勢的企業領導層和管理者來說，這是一本必讀之書。Alex Castrounis簡化了複雜的主題，以便任何人都可以開始在其組織內運用AI。」 —Dan Park Uber總經理兼執行長 「Alex Castrounis一直站在幫助組織理解AI前景並利用其優勢的最前沿，同時避免了許多可能破壞成功的陷阱。在這本必讀的書中，他向我們分享了他的專業知識。」 —Dean Wampler博士 Fast Data Engineering副總 如果你是高階經理人、管理者或任何對在組織內運用AI感興趣的人，這本書就是你的指南。你將了解AI是什麼、學習如何識別AI機會，並發展和執行成功的AI願景和策略。Alex Castrounis是企業顧問、前IndyCar工程師和競賽策略師，他檢視了AI的價值，並向你展示如何發展出對人和企業都有益的AI願景和策略。 AI是令人興奮、強大且改變遊戲規則的；但太多AI提案以失敗告終。在本書中，你將探索實施AI提案的風險、注意事項、權衡和限制。你將得知透過好的AI解決方案和以人為中心的產品，如何能創造出更好的人類體驗和更成功的企業。 ‧使用本書的AIPB架構，透過AI進行端到端的、目標驅動的創新和價值創造 ‧為利害關係者(包括企業、客戶和使用者)定義出與目標一致的AI願景和策略 ‧透過關注科學創新和AI準備度和成熟度等概念，成功運用AI ‧了解企業領導層對於追求AI提案的重要性