系列

依主題分組的連續筆記。建議從第 1 篇開始讀。

Series

多模態 AI 核心原理

10 篇
  1. 01 什麼是多模態 AI?從單模態 LLM 到跨模態理解
  2. 02 多模態模型架構:對比式、融合式與統一式的取捨
  3. 03 視覺編碼器:ViT、SigLIP 與 DINOv2 的選擇
  4. 04 跨模態對齊:圖片與文字如何理解彼此?
  5. 05 多模態訓練:模型如何從「看見」變成「理解」?
  6. 還有 5 篇 →
Series

LLM Agent 核心原理

10 篇
  1. 01 什麼是 LLM Agent?從 Chatbot 到自主行動
  2. 02 Agent 的核心循環:ReAct、Plan-and-Execute 與 Reflection
  3. 03 工具呼叫與 Function Calling:讓 LLM 連接外部世界
  4. 04 從零打造一個最基礎的 Agent:LLM + 工具 + 迴圈
  5. 05 Agent 的記憶機制:短期、長期與向量資料庫
  6. 還有 5 篇 →
Series

Application Trilogy:LLM 部署與推理優化

8 篇
  1. 01 LLM 部署的挑戰:延遲、吞吐、成本
  2. 02 KV Cache:為什麼推理需要它
  3. 03 量化:FP16、INT8、INT4 的取捨
  4. 04 vLLM 與 PagedAttention:高吞吐推理的關鍵
  5. 05 批次處理與連續批次:提升吞吐的關鍵
  6. 還有 3 篇 →
Series

Application Trilogy:Agent Skills

8 篇
  1. 01 什麼是 Agent Skill?從工具到技能的演進
  2. 02 Skill 的結構:指令、工具、資源與範例
  3. 03 設計一個可重用的 Skill:以程式碼審查為例
  4. 04 Skill 的組合與編排:讓 Skill 呼叫 Skill
  5. 05 Skill 的版本管理與迭代
  6. 還有 3 篇 →
Series

LLM 核心原理

7 篇
  1. 01 從文字到向量:NLP 向量化與 Token 的演進
  2. 02 詞嵌入與位置編碼:模型如何理解語意與順序
  3. 03 注意力機制入門:QKV、Mask 與縮放點積
  4. 04 Transformer 的心臟:多頭注意力與 FFN
  5. 05 大模型如何運作:從自回歸生成到推理採樣
  6. 還有 2 篇 →
Series

Application Trilogy:Agent Harness

6 篇
  1. 01 什麼是 Agent Harness?AI Agent 的測試、評估與回歸檢測框架
  2. 02 測試案例設計:從單元到端到端
  3. 03 自動化執行與評分:Runner、Evaluator 與報告
  4. 04 LLM-as-Judge 與 Jev:推理式評估與決策式評估的取捨
  5. 05 回歸測試與失敗分析:確保修改不退步
  6. 還有 1 篇 →