可信賴AI代理人

課程大綱

本課程系統性介紹可信賴 AI 代理人的設計、開發與評估，並以自主擴張型 Agent 應用為核心主軸。課程分為四大模組：(一)可信賴 AI 基礎與倫理(第 1–2 週)，涵蓋 AI 治理框架、倫理原則，以及以 OpenClaw 為例的當代 Agent 發展現況與設計模式；(二)AI 代理人框架與實作(第 3–9 週)，以 LangChain 與 LangGraph 為核心實作記憶管理、工具呼叫、RAG 管線與多代理人協作，並以 OpenClaw 實際部署與 skill 開發為實習主軸，探討自主擴張代理人如何透過社群技能庫持續擴充能力；(三)AI 代理人安全與風險控制(第 10–13 週)，分析提示注入、越權行為、資料外洩與惡意 skill 等現實攻擊案例(含 OpenClaw 相關事件)，並探討輸入驗證、存取控制、skill 審核機制與權限最小化等防禦策略；(四)可信賴性驗證(第 14–15 週)，涵蓋可靠性評估指標、RAGAS 評測框架、人機協作監督機制及 MLflow 觀測工具，末週進行期末專題發表。