LLM Agent 架构(DeepWiki 课程笔记)

LLM Agent 架构(DeepWiki 课程笔记)

LLM Agent 架构

来源:DeepWiki 对 mlabonne/llm-course 的 AI 生成文档,最后索引 2026.02.06。

概述

LLM Agent 是能通过推理环境、调用外部工具,自主执行任务的 AI 系统。它扩展了 RAG 的能力边界——不再只是检索+回答,而是能自主决策、多步执行。

核心循环:Thought-Action-Observation

Thought(思考)→ Action(行动)→ Observation(观察)→ 循环直到完成
阶段描述示例
ThoughtLLM 根据当前上下文推理下一步”我需要查一下 AAPL 的最新股价”
Action调用外部工具执行具体操作search_stock_price("AAPL")
Observation处理返回结果,更新内部状态”当前价 $150.23”

架构组件

┌─────────────────────────────────────┐
│ LLM Agent │
│ ┌──────────┐ ┌──────────────────┐ │
│ │ LLM Core │ │ Memory │ │
│ │ (推理) │ │ (对话状态/上下文)│ │
│ └─────┬────┘ └──────────────────┘ │
│ │ │
│ ┌─────▼────┐ ┌──────────────────┐ │
│ │ Planner │ │ Tool Registry │ │
│ │ (任务拆解) │ │ (工具注册表) │ │
│ └──────────┘ └────────┬─────────┘ │
│ │ │
│ ┌──────────────────────▼──────────┐│
│ │ Tool Executor ││
│ │ (函数调用/参数验证/错误处理) ││
│ └─────────────────────────────────┘│
└─────────────────────────────────────┘

Agent 协议

MCP(Model Context Protocol)

行业标准,连接 Agent 与外部工具/数据源。客户端-服务器架构:

MCP Server能力
filesystem读写搜索文件
postgresSQL 查询
github仓库/Issue/PR 交互
slack消息收发

详见 mcp-debugging

A2A(Agent-to-Agent Protocol)

Google 提出的 Agent 间通信标准,定义:

  • 消息 Schema:标准化的请求/响应格式
  • Agent Discovery:发现彼此的能力
  • 会话管理:跨 Agent 的上下文传播
  • 错误处理:标准化错误码和重试

厂商框架对比

框架厂商特点适合
OpenAI SDKOpenAIFunction calling, streaming, 结构化输出GPT-4o 场景
Google ADKGoogleVertex AI 集成, Gemini 优化Gemini 生态
Claude Agent SDKAnthropic长上下文, 工具使用, 宪法 AIClaude 生态

开源框架

LangGraph

  • 核心模型:状态机(图结构 workflow)
  • 亮点:可视化调试、human-in-the-loop、checkpoint 持久化
  • 适合:复杂多步骤 workflow、需要可视化

LlamaIndex Agents

  • 核心模型:ReActAgent(Thought-Action-Observation)
  • 亮点:与 RAG 生态深度整合,RAG pipeline 可转换成 Agent 工具
  • 适合:RAG-heavy 应用

多 Agent 框架

CrewAI

  • 模式:角色分工(researcher → writer → editor → reviewer)
  • 结构:Crew → Agent Roles → Tasks → Process(顺序/层级)
  • 适合:内容生产流水线

AutoGen

  • 模式:Agent 间对话驱动协作
  • 组件:AssistantAgent(推理) + UserProxyAgent(执行代码/代表人类)
  • 模式:两人编程、多 Agent 辩论、层级团队
  • 适合:对话式多 Agent 协作

框架选型指南

需求推荐框架
绑定特定厂商厂商 SDK(OpenAI/ADK/Claude)
复杂 workflow + 可视化LangGraph
RAG 为主LlamaIndex Agents
多 Agent 协作CrewAI / AutoGen
标准化工具集成MCP 兼容框架
跨厂商通用LangGraph / 自定义 MCP

外部资源

相关页面