課程形式
線上
課程名稱
NAPAI計畫-SIGAgent#1 Building Agentic AI RAG Systems with Memory Architectures and Context Engineering (782)
課程編號
782
課程期間
2026-04-09 ~
老師
戴敏育 (教授 / 國立臺北大學)
課程類別
AI人工智慧
時數
3 (小時)
修課人數
0
標籤
Agentic AI, RAG系統, 記憶架構, 上下文工程, 戴敏育, 臺北大學, LLM, NVIDIA, AI Agent, 智慧檢索
簡介
Building Agentic AI RAG Systems with Memory Architectures and Context Engineering

本場分享以「代理式 AI(Agentic AI)」為主軸,串連三大核心技術主題:檢索增強生成(RAG)、代理記憶架構(Agent Memory Architectures)、上下文工程(Context Engineering),並以 NVIDIA NIM 微服務與 DLI 自學課程作為實作落地的入口。內容涵蓋從技術典範演進(傳統 AI → 生成式 AI → 代理式 AI → 實體 AI)、五大 RAG 範式(Naive、Advanced、Modular、Graph、Agentic RAG)、三大記憶典範(Token-level、Parametric、Latent Memory)到企業級多模態 PDF 抽取流程的整體架構討論,最後以臺北大學主導的 AI CUP 2026 VeriPromiseESG 永續承諾驗證競賽作為應用案例收尾。

本講座由國立臺北大學資訊管理研究所戴敏育教授主講,將深入剖析如何整合檢索增強生成(RAG)記憶架構(Memory Architectures)上下文工程(Context Engineering),打造出具備「長短期記憶」且能精準理解複雜指令的自主代理系統。

更多資訊--
5b88a4da55cc1f1e365357e39e7104d1.png

報名資訊    
報名期間
開始: 2026-09-15
總人數限制
無限制
其他資訊
承辦人
林瑞雅 / 網路學習科技研究所碩士班
葉家綸 / 土木工程學系
張珀瑞 / 土木工程學系
開課單位
教學發展中心
課程 QR code
https://ncuxms.ncu.edu.tw/course/782
課程教材
  1. 1.
    RAG 五大範式與 GraphRAG
    五大 RAG 範式:Naive RAG → Advanced RAG → Modular RAG → Graph RAG → Agentic RAG。GraphRAG 將知識儲存為「實體—關係—實體」三元組,適合需要多跳推理的查詢;以「19 世紀藝術運動對 20 世紀現代藝術的影響」為例,純 LLM 答案空泛、傳統 RAG 答案片段、GraphRAG 因有明確關係鏈而能給出完整且結構化的回應。Agentic RAG 具備動態檢索決策、迭代修正、跨領域擴展能力,準確度最高但運算成本也最大。LLM 增強路徑的選擇:Prompt Engineering、RAG、Agent、Fine-tuning,依任務複雜度與資料更新頻率取捨。
  2. 2.
    代理記憶的三大典範

    LLM 代理記憶分為三類:

    • Token-level Memory:符號式、可定址、透明,支援快速增刪改,適用多輪對話、推薦系統、法律金融醫療等高風險領域。代表:Memory graph(Zep、AriGraph)、Agentic memory(A-Mem、G-Memory)、Working memory(HiAgent、ReSum)

    • Parametric Memory:隱式、抽象、可泛化,更新慢但效能高,伴隨較嚴重的災難性遺忘問題,適合角色扮演、重度推理任務。代表:Retroformer、Early Experience、RL-enabled Memory(MemAgent、MEM1、Memory-R1)

    • Latent Memory:機器原生、人類不可讀,效率與彈性需權衡,token 使用效率高,適合多模態融合與邊緣裝置部署。代表:MemoryLLM、M+、MemGen


  3. 3.
    Prompt / Context / Harness Engineering 三層架構

    由小至大的三層工程關係:

    • Prompt Engineering:撰寫給模型的指令
    • Context Engineering:決定什麼資料、在什麼時機進入上下文窗口(包含 Retrieval、Compression、Assembly)
    • Harness Engineering:完整基礎設施,含工具、記憶、沙盒、編排、驗證、失敗處理

    上下文工程的基礎元件分三層:取得與生成(Prompt Engineering、External Knowledge Retrieval、Dynamic Context Assembly)、處理(Long Sequence Processing、Self-Refinement、Relational and Structured Information Integration)、管理(Fundamental Constraints、Memory Hierarchies and Storage、Context Compression)。Karpathy 提出的 Autoresearch 概念即建立在這套架構上讓代理自我改進地執行研究迴圈。


  4. 4.
    NVIDIA NIM 與 DLI 學習路徑
    NVIDIA NIM(NVIDIA Inference Microservices)提供生成式 AI 模型的即用即連推論服務,可在任意基礎設施上部署。建議學習順序:Generative AI Explained → Introduction to Transformer-Based NLP → Building RAG Agents with LLMs → Building Agentic AI Applications with LLMs。完成可獲得 NVIDIA 官方數位證書。企業級多模態 PDF 抽取流程整合 YOLOX 物件偵測、PaddleOCR 表格抽取、VLM DePlot 圖表解析、CACHED 圖表元素偵測,配合 NeMo Retriever 進行嵌入與重排序,並建立使用者回饋回流機制持續優化檢索品質。