本場分享以「代理式 AI(Agentic AI)」為主軸,串連三大核心技術主題:檢索增強生成(RAG)、代理記憶架構(Agent Memory Architectures)、上下文工程(Context Engineering),並以 NVIDIA NIM 微服務與 DLI 自學課程作為實作落地的入口。內容涵蓋從技術典範演進(傳統 AI → 生成式 AI → 代理式 AI → 實體 AI)、五大 RAG 範式(Naive、Advanced、Modular、Graph、Agentic RAG)、三大記憶典範(Token-level、Parametric、Latent Memory)到企業級多模態 PDF 抽取流程的整體架構討論,最後以臺北大學主導的 AI CUP 2026 VeriPromiseESG 永續承諾驗證競賽作為應用案例收尾。
本講座由國立臺北大學資訊管理研究所戴敏育教授主講,將深入剖析如何整合檢索增強生成(RAG)、記憶架構(Memory Architectures)與上下文工程(Context Engineering),打造出具備「長短期記憶」且能精準理解複雜指令的自主代理系統。
LLM 代理記憶分為三類:
Token-level Memory:符號式、可定址、透明,支援快速增刪改,適用多輪對話、推薦系統、法律金融醫療等高風險領域。代表:Memory graph(Zep、AriGraph)、Agentic memory(A-Mem、G-Memory)、Working memory(HiAgent、ReSum)
Parametric Memory:隱式、抽象、可泛化,更新慢但效能高,伴隨較嚴重的災難性遺忘問題,適合角色扮演、重度推理任務。代表:Retroformer、Early Experience、RL-enabled Memory(MemAgent、MEM1、Memory-R1)
Latent Memory:機器原生、人類不可讀,效率與彈性需權衡,token 使用效率高,適合多模態融合與邊緣裝置部署。代表:MemoryLLM、M+、MemGen
由小至大的三層工程關係:
上下文工程的基礎元件分三層:取得與生成(Prompt Engineering、External Knowledge Retrieval、Dynamic Context Assembly)、處理(Long Sequence Processing、Self-Refinement、Relational and Structured Information Integration)、管理(Fundamental Constraints、Memory Hierarchies and Storage、Context Compression)。Karpathy 提出的 Autoresearch 概念即建立在這套架構上讓代理自我改進地執行研究迴圈。