💥 AI工具爆炸性成長，從ChatGPT到企業內部專屬LLM，生成式AI已大量融入我們的生活與工作。但我們真的準備好「安全上線」了嗎？

LLM帶來前所未見的創新機會，但同時也伴隨著新型態的安全風險，從prompt injection、資訊外洩，到代理人失控、幻覺誤導，每一項都可能讓AI工具從生產力助力變成潛在風險來源。

《LLM資安教戰手冊｜打造安全的AI應用程式》由LLM資安教父、OWASP「LLM 十大安全風險」專案負責人Steve Wilson撰寫，被業界譽為「創新者必讀之作」，是目前最系統化、最具實務操作性的 LLM安全指南。

書中全面探討LLM應用開發中常見的十大風險，搭配實際案例與對應策略，幫助你在開發初期就建立正確的安全架構思維。從威脅情境、風險辨識，到實用防禦技術與風險最小化原則，內容清晰易懂，實作性高，適用於各種LLM應用場景。

🎯聚焦探討LLM的安全性，為開發者提供具體的安全策略和最佳實踐。
📌涵蓋設計、部署和維運過程中的的關鍵安全挑戰。
🎯透過實例分析，協助讀者理解並應用防範措施，有效預防安全漏洞。
📌適用於AI工具開發者、產品經理、資安人員及企業技術決策者。

不論你是AI開發新手，還是負責導入LLM的企業技術主管，這本書都能幫你掌握攻防思維，補強資安弱點，打造能安心上線的AI應用。

-------------------------------------------------------------

「這本書對於AI開發者和紅隊演練專家至關重要，它將巨大的風險轉化為可管理的挑戰，提供了專業知識，以保障基於LLM應用的安全。」
—Marten Mickos，HackerOne執行長

「由LLM資安之父Steve Wilson撰寫，一本創新者的必讀之書。」
—Sherri Douville，Medigram執行長

「根據我在AI 紅隊的經驗，我全力支持這本書中頂尖的全端方法及其嚴謹、多面向的見解。」
—Ads Dawson，Cohere資深資安工程師

「這本書是當我們傾盡全力快速採用GenAI和LLM，並確保組織結果安全時，關於資安產業重要且全面的指南。」
—Chris Hughes，Aquia總裁及Resilient Cyber創始人

LLM不僅塑造了AI的發展軌跡，也揭開了一個充滿安全挑戰的新時代。這本實用的書籍將帶您直擊這些威脅的核心。作者Steve Wilson是OWASP（開放式Web應用程式安全計畫）「Top 10 for LLM Applications」的計畫負責人，他將重點放在使用LLM建立軟體時必須處理的特性與弱點。

本書為開發人員和資安團隊提供了真實世界的指導及可行的策略，協助你應對LLM應用程式的挑戰。無論是要建構新的應用程式，還是要為在現有的應用程式中加入AI功能，這本書都會是你要掌握AI下一個新領域資安環境的必備資源。

你將會學到：
- 為什麼LLM會帶來獨特的資安挑戰
- 如何應對使用LLM技術所帶來的風險
- 與LLM相關的威脅環境，以及必須維護的重要信任邊界
- 部署防禦措施的方法，以保護針對主要漏洞的攻擊
- 改善軟體開發流程的方法，以確保建構安全可靠的AI應用程式

Steve Wilson 是Exabeam的產品長，也是人工智慧和網路安全領域公認的領導者。他曾服務於Citrix、Oracle和Sun Microsystems等市值數十億美元的科技公司，擁有超過25年建置軟體平台的經驗。Steve也是《Java Platform Performance: Strategies and Tactics》一書的作者。

前言

chapter01 崩壞的聊天機器人
我們來看看Tay
Tay的迅速殞落
為什麼Tay壞掉了？
這是個難題

chapter02 OWASP LLM十大安全風險
關於OWASP
LLM十大安全風險計畫
本書與十大安全風險清單

chapter03 架構與信任邊界
人工智慧、神經網路和大型語言模型：有什麼不同？
Transformer革命：起源、影響以及與LLM 的連結
LLM應用程式類型
LLM應用程式架構
結論

chapter04 提示注入
提示注入攻擊的範例
提示注入的影響
直接提示注入與間接提示注入
緩解提示注入
結論

chapter05 你的LLM會知道太多嗎？
真實世界的例子
知識獲取的方法
模型訓練
檢索增強生成（RAG）
從使用者互動中學習
結論

chapter06 語言模型會夢到電子羊嗎？
LLM為什麼會產生幻覺？
幻覺的類型
範例
誰該負責？
緩解的最佳實踐
結論

chapter07 別相信任何人
零信任解碼
為什麼要這麼多懷疑？
為LLM實施零信任架構
建立你的輸出過濾器
結論

chapter08 不要丟了錢包
DoS攻擊
針對LLM的模型DoS攻擊
DoW攻擊
模型克隆
緩解策略
結論

chapter09 找出最弱的一環
供應鏈基礎知識
了解LLM供應鏈
建立工件來追蹤你的供應鏈
LLM供應鏈安全的未來
結論

chapter10 從未來的歷史中學習
回顧OWASP LLM十大安全風險
案例研究
結論

chapter11 信任流程
DevSecOps的演變
將安全性建置到LLMOps
LLM開發過程中的安全性
用防護欄來保護你的應用程式
監控你的應用程式
建立你的AI紅隊
持續改進
結論

chapter12 負責任AI安全的實用框架
能力
責任
結論

索引