系列
依主題分組的連續筆記。建議從第 1 篇開始讀。
Series
多模態 AI 核心原理
10 篇
- 01 什麼是多模態 AI?從單模態 LLM 到跨模態理解
- 02 多模態模型架構:對比式、融合式與統一式的取捨
- 03 視覺編碼器:ViT、SigLIP 與 DINOv2 的選擇
- 04 跨模態對齊:圖片與文字如何理解彼此?
- 05 多模態訓練:模型如何從「看見」變成「理解」?
- 還有 5 篇 →
Series
LLM Agent 核心原理
10 篇
- 01 什麼是 LLM Agent?從 Chatbot 到自主行動
- 02 Agent 的核心循環:ReAct、Plan-and-Execute 與 Reflection
- 03 工具呼叫與 Function Calling:讓 LLM 連接外部世界
- 04 從零打造一個最基礎的 Agent:LLM + 工具 + 迴圈
- 05 Agent 的記憶機制:短期、長期與向量資料庫
- 還有 5 篇 →
Series
Application Trilogy:LLM 部署與推理優化
8 篇
- 01 LLM 部署的挑戰:延遲、吞吐、成本
- 02 KV Cache:為什麼推理需要它
- 03 量化:FP16、INT8、INT4 的取捨
- 04 vLLM 與 PagedAttention:高吞吐推理的關鍵
- 05 批次處理與連續批次:提升吞吐的關鍵
- 還有 3 篇 →
Series
Application Trilogy:Agent Skills
8 篇
- 01 什麼是 Agent Skill?從工具到技能的演進
- 02 Skill 的結構:指令、工具、資源與範例
- 03 設計一個可重用的 Skill:以程式碼審查為例
- 04 Skill 的組合與編排:讓 Skill 呼叫 Skill
- 05 Skill 的版本管理與迭代
- 還有 3 篇 →
Series
LLM 核心原理
7 篇
- 01 從文字到向量:NLP 向量化與 Token 的演進
- 02 詞嵌入與位置編碼:模型如何理解語意與順序
- 03 注意力機制入門:QKV、Mask 與縮放點積
- 04 Transformer 的心臟:多頭注意力與 FFN
- 05 大模型如何運作:從自回歸生成到推理採樣
- 還有 2 篇 →
Series
Application Trilogy:Agent Harness
6 篇
- 01 什麼是 Agent Harness?AI Agent 的測試、評估與回歸檢測框架
- 02 測試案例設計:從單元到端到端
- 03 自動化執行與評分:Runner、Evaluator 與報告
- 04 LLM-as-Judge 與 Jev:推理式評估與決策式評估的取捨
- 05 回歸測試與失敗分析:確保修改不退步
- 還有 1 篇 →