AI Agent开发模式与流程完整指南

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

一、核心开发模式

1.1 基础能力实现方式

Function Calling 模式（零代码框架支持）

核心理念：通过赋予模型调用外部功能的能力，构建“语言模型 + 工具执行”的协同机制。

典型应用场景包括：

• 调用API接口（如天气信息查询、实时数据获取）
• 执行本地函数（文件读写、数学计算等任务）
• 集成第三方服务平台的功能模块

技术实现示例：

# 定义一个获取天气的工具函数
def get_weather(city: str) -> str:
    return f"{city}今天晴天,温度25°C"

# 配置可供调用的工具描述
tools = [{
    "name": "get_weather",
    "description": "获取城市天气信息",
    "parameters": {
        "city": {"type": "string", "description": "城市名称"}
    }
}]

1.2 Agent 设计范式解析

CoT（Chain of Thought，思维链）

原理说明：引导智能体逐步推理，将复杂问题拆解为多个中间步骤，提升解答准确率和逻辑性。

应用示意：

用户问题:计算23×17
Agent思考过程:
1. 将23分解为20+3
2. 20×17=340
3. 3×17=51
4. 340+51=391
最终答案:391

ReAct（Reasoning + Acting，思考与行动结合）

运行流程：采用“思考 → 行动 → 观察 → 再思考”的闭环结构。

具体执行阶段：

• Thought：判断当前需要哪些信息来推进任务
• Action：选择合适的工具进行调用以获取数据
• Observation：接收并分析工具返回的结果
• Thought：基于新信息继续推理或输出最终答案

程序片段参考：

while not task_complete:
    thought = agent.think(current_state)
    action = agent.decide_action(thought)
    observation = execute_tool(action)
    current_state = update_state(observation)

Reflexion（自我反思机制）

主要特征：Agent在完成操作后对自身行为进行评估，并据此优化后续策略。

适用领域：

• 自动生成代码后的调试与修正
• 回答质量的二次验证
• 决策路径的持续迭代改进

ReWOO（并行化工具调度）

核心优势：将主任务分解为若干子任务，支持多工具并发调用，显著提高响应速度。

典型使用场景：

• 整合多个数据源（例如同时抓取股票行情、相关新闻及财务报表）
• 批量处理大量请求或数据记录

1.3 工程级架构模式

多Agent协作系统（A2A 架构）

设计思路：由多个具备专业职能的Agent协同工作，各司其职，形成完整业务闭环。

代表性案例：金融数据分析平台

• 数据采集Agent：负责实时抓取股市行情、财经新闻等内容
• 分析Agent：执行技术指标计算与基本面研究
• 报告生成Agent：汇总信息并撰写投资建议文档

实现技术栈：借助 LangGraph 实现流程编排与状态管理。

MCP 架构驱动模式

三大构成要素：

• Model（模型）：作为智能中枢的大语言模型
• Component（组件）：涵盖各类插件、工具和服务接口
• Platform（平台）：提供统一运行环境与交互界面

快速搭建实例：AI求职助手

• 模型选型：DeepSeek R1
• 功能组件：简历解析模块、职位匹配引擎、邮件发送服务
• 交互平台：LobeChat 提供可视化对话体验

二、全流程开发实践

阶段一：基础环境搭建与资源整合

1.1 开源大模型选型推荐

• DeepSeek R1：擅长复杂推理任务
• Qwen 系列：中文理解能力强，适配本土化需求
• LLaMA 系列：拥有完善的开发生态和社区支持

1.2 私有部署方案对比

部署方式	适用场景	部署难度	性能表现
Ollama	单机快速部署	?	中等
Kubernetes	企业级GPU集群环境	???	高
llama.cpp	CPU轻量级部署	??	低

Ollama 部署流程：

# 1. 安装Ollama运行时
curl -fsSL https://ollama.ai/install.sh | sh

# 2. 下载指定模型
ollama pull deepseek-r1:7b

# 3. 启动服务进程
ollama serve

# 4. 测试API连通性
curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:7b",
  "prompt": "你好,我是AI助手"
}'

1.3 工具生态接入方法

方式一：配置 Function Calling 接口

{
  "tools": [
    {
      "name": "search_web",
      "description": "搜索互联网信息",
      "parameters": {
        "query": "string"
      }
    }
  ]
}

方式二：复用 LangChain Hub 中的标准模板

from langchain import hub
prompt = hub.pull("hwchase17/react")

阶段二：Agent 核心能力构建

2.1 设计模式选取与实现路径

根据实际业务需求，选择合适的 Agent 架构模式（如 CoT、ReAct 或 Reflexion），并通过代码工程化落地。结合工具注册、提示词工程与状态管理机制，完成具备自主决策能力的智能体原型开发。

三、关键技术工具详解

LLaMA-Factory 微调工具深度应用

提供完整的指令微调（Instruction Tuning）解决方案，支持 LoRA、全参数等多种训练方式，适用于垂直领域知识注入与行为定制。

关键特性：

• 图形化配置界面简化训练流程
• 兼容主流开源模型格式
• 支持多卡分布式训练加速

主流模型蒸馏方案介绍

针对推理效率要求高的场景，采用知识蒸馏技术将大型教师模型的知识迁移到小型学生模型中，实现性能与资源消耗的平衡。

常用策略：

• 响应层对齐：确保输出分布一致
• 中间层模仿：传递隐藏层表示能力
• 任务特定蒸馏：聚焦特定应用场景优化

四、实战案例解析

案例一：新闻分类智能体

利用文本理解能力自动识别新闻主题类别（如体育、科技、财经），结合标签体系完成结构化归档，支持后续检索与推荐。

案例二：金融分析多Agent系统

构建包含数据采集、量化分析与报告生成三个角色的协同网络，实现实时市场监控与自动化投研输出。

案例三：基于CPU的轻量客服Agent

采用 llama.cpp 在无GPU环境下部署，结合本地知识库实现高效问答服务，适用于资源受限的企业终端场景。

ReAct模式应用实例

通过以下代码示例展示如何使用LangChain框架实现ReAct（Reasoning & Acting）模式的智能体：

from langchain.agents import initialize_agent, Tool
from langchain.llms import Ollama

# 创建可用工具集
tools = [
    Tool(
        name="Calculator",
        func=lambda x: eval(x),
        description="用于执行数学运算"
    )
]

# 加载本地大模型
llm = Ollama(model="deepseek-r1:7b")

# 初始化具备推理能力的Agent
agent = initialize_agent(
    tools,
    llm,
    agent="zero-shot-react-description"
)

# 发起任务请求
result = agent.run("计算(123+456)*2等于多少?")

用户问题:计算23×17
Agent思考过程:
1. 将23分解为20+3
2. 20×17=340
3. 3×17=51
4. 340+51=391
最终答案:391

模型能力增强方法：微调与蒸馏

以新闻分类任务为例，说明如何对基础模型进行定制化优化。

微调实施步骤

1. 准备标注数据集（例如：1000条带类别标签的新闻文本）
2. 利用LLaMA-Factory对DeepSeek R1模型进行指令微调
3. 完成训练后导出专用领域适配模型

训练数据格式规范

采用标准JSON结构组织样本数据：

[
  {
    "instruction": "对新闻进行分类",
    "input": "苹果公司发布新款iPhone...",
    "output": "科技类"
  }
]

用户查询 → 数据采集Agent → 分析Agent → 报告Agent → 输出结果
             ↓                ↓            ↓
          股票API          技术指标     生成PDF

工程化落地阶段

3.1 构建智能体服务平台（基于MCP架构）

系统由三层组成：

• 模型层：通过Ollama部署并管理DeepSeek R1模型实例
• 工具层：支持自定义函数调用机制，扩展外部交互能力
• 前端层：集成LobeChat实现可视化对话界面

LobeChat接入流程

# 1. 克隆项目源码
git clone https://github.com/lobehub/lobe-chat.git

# 2. 设置环境变量文件
echo "OLLAMA_BASE_URL=http://localhost:11434" > .env

# 3. 安装依赖并启动服务
npm install && npm run dev

[此处为图片3]

3.2 多智能体协同编排（基于LangGraph）

以金融数据分析场景为例，构建多角色协作流程。

from langgraph.graph import StateGraph

def data_collector(state):
    """负责采集股票市场数据"""
    stock_data = fetch_stock_data(state["symbol"])
    return {"stock_data": stock_data}

def analyzer(state):
    """执行技术指标分析"""
    analysis = run_technical_analysis(state["stock_data"])
    return {"analysis": analysis}

def reporter(state):
    """生成最终分析报告"""
    report = generate_report(state["analysis"])
    return {"report": report}

# 定义工作流图结构
workflow = StateGraph()
workflow.add_node("collector", data_collector)
workflow.add_node("analyzer", analyzer)
workflow.add_node("reporter", reporter)
workflow.add_edge("collector", "analyzer")
workflow.add_edge("analyzer", "reporter")

app = workflow.compile()

[此处为图片4]

部署与运维保障

4.1 高可用集群部署方案

使用Kubernetes Ingress控制器配置Higress网关，实现流量统一入口管理。

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  name: agent-gateway
spec:
  rules:
  - host: agent.example.com
    http:
      paths:
      - path: /
        backend:
          service:
            name: ollama-service
            port: 11434

4.2 不同规模下的资源选型建议

应用场景	推荐部署方式	硬件配置要求
个人开发者	Ollama单机部署	16GB内存 + RTX 3060显卡
小型团队	Kubernetes集群 + GPU节点	3台服务器 + A100×2
轻量级CPU部署	llama.cpp运行时	32GB内存

核心工具支持体系

LLaMA-Factory：高效微调平台

该工具提供全面的大模型优化能力。

主要特性

• 兼容超过100种主流模型架构（包括DeepSeek、Qwen、ChatGLM等）
• 完整覆盖SFT、DPO、PPO等多种微调范式
• 提供图形化Web界面，降低操作门槛

快速上手流程

# 1. 下载项目代码
git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory

# 2. 安装所需依赖包
pip install -r requirements.txt

# 3. 启动可视化界面
python app.py --host 0.0.0.0 --port 7860

python src/train_web.py

3. 浏览器访问方式

启动服务后，可通过以下地址在本地浏览器中访问训练界面：

http://localhost:7860

进入页面后，按顺序执行以下操作：选择目标模型 → 上传自定义数据集 → 点击“开始训练”按钮启动微调流程。

微调配置参数示例

• model_name: deepseek-r1-7b
• dataset: news_classification
• finetuning_type: lora
• lora_rank: 8
• learning_rate: 5e-5
• num_epochs: 3

3.2 主流模型蒸馏工具介绍

Hugging Face Transformers

核心特点：集成多种预训练的轻量化模型，如 DistilBERT，支持直接加载用于知识蒸馏任务。

代码实现示例：

from transformers import DistilBertForSequenceClassification

# 加载教师模型（BERT）
teacher = BertForSequenceClassification.from_pretrained("bert-base")

# 加载学生模型（DistilBERT）
student = DistilBertForSequenceClassification.from_pretrained("distilbert-base")

# 启动蒸馏训练流程
train_distillation(teacher, student, train_data)

AutoDistill

主要优势：提供端到端自动化的模型蒸馏流程，简化从大模型到小模型的知识迁移过程。

典型应用场景：

• 将 GPT-3.5 类大型语言模型蒸馏为适用于边缘设备部署的 7B 规模模型
• 优化云端推理成本，降低资源消耗

DeepSpeed

适用范围：专为超大规模模型压缩设计，尤其适用于 GPT-3 级别及以上模型的高效压缩。

关键功能特性：

• 支持结合蒸馏、量化与剪枝的多阶段压缩策略
• 基于多 GPU 的分布式训练架构
• 采用 ZeRO 优化器显著减少显存占用

3.3 不同蒸馏方案性能对比

方案	参数压缩率	推理速度提升	性能保留度
DistilBERT	40%	60%	97%
TinyBERT	86%	9.4×	96.8%
LLaVA-KD	50%	3×	95%

四、实际应用案例解析

案例1：新闻分类智能体构建

业务需求：实现自动化新闻文本分类，准确识别并划分至科技、财经、体育、娱乐四大类别。

技术解决方案：

• 模型选型：选用 DeepSeek R1-7B 作为基础语言模型
• 微调方法：借助 LLaMA-Factory 工具链，使用 5000 条人工标注样本进行 LoRA 微调
• 部署方式：通过 Ollama 在单机环境完成模型部署
• 接口服务：利用 FastAPI 搭建 RESTful 接口对外提供分类能力

完整服务代码：

from fastapi import FastAPI
from ollama import Client

app = FastAPI()
client = Client(host='http://localhost:11434')

@app.post("/classify")
async def classify_news(text: str):
    response = client.generate(
        model='news-classifier:latest',
        prompt=f"对以下新闻分类:\n{text}"
    )
    return {"category": response['response']}

案例2：金融分析多 Agent 协同系统

系统架构设计

用户查询 → 数据采集Agent → 分析Agent → 报告Agent → 输出结果
             ↓                ↓            ↓
          股票API          技术指标     生成PDF

技术实现细节：

• 流程编排框架：采用 LangGraph 实现多智能体状态管理与任务调度
• 模型组合：DeepSeek R1-14B 负责数据分析，Qwen-7B 承担报告生成任务
• 外部工具集成：yfinance 获取股票行情、pandas_ta 计算技术指标、reportlab 生成 PDF 报告

核心逻辑代码：

from langgraph.graph import StateGraph
import yfinance as yf

class FinanceAgent:
    def __init__(self):
        self.workflow = StateGraph()
        self._build_workflow()

    def _build_workflow(self):
        self.workflow.add_node("fetch_data", self.fetch_stock_data)
        self.workflow.add_node("analyze", self.technical_analysis)
        self.workflow.add_node("report", self.generate_report)
        self.workflow.add_edge("fetch_data", "analyze")
        self.workflow.add_edge("analyze", "report")

    def fetch_stock_data(self, state):
        ticker = yf.Ticker(state["symbol"])
        data = ticker.history(period="1y")
        return {"data": data}

    def technical_analysis(self, state):
        # 调用 DeepSeek R1 执行深度分析
        analysis = call_llm_analysis(state["data"])
        return {"analysis": analysis}

开发路径的选择需根据具体应用场景进行权衡，以下是三种典型场景的解决方案：

场景A：快速原型验证

适用于初期探索与功能验证阶段，推荐使用 Ollama 进行快速部署，结合 ReAct 模式实现推理与行动的循环，并通过 Function Calling 机制扩展 Agent 的能力边界。

场景B：企业级应用

面向高可用、高并发的企业级需求，建议采用 Kubernetes 构建容器化集群，支持多 Agent 并行协作。使用 LangGraph 实现复杂流程的可视化编排，并通过 Higress 网关统一管理服务入口与流量调度。

用户问题:计算23×17
Agent思考过程:
1. 将23分解为20+3
2. 20×17=340
3. 3×17=51
4. 340+51=391
最终答案:391

场景C：资源受限环境（如CPU部署）

在缺乏GPU资源且对响应速度有要求（<2秒）的条件下，可采取轻量化策略：

• 模型蒸馏：将大模型 Qwen-14B 的知识迁移至更小的 Qwen-2.5-3B 模型中，在保留性能的同时显著降低计算开销。
• 部署工具选择：采用 llama.cpp，专为 CPU 环境优化的推理框架，具备高效的本地运行能力。
• 量化技术：应用 Q4_K_M 量化方案，使模型内存占用控制在 4GB 以内。

部署步骤如下：

# 1. 克隆并编译 llama.cpp
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp && make

# 2. 转换模型格式
python convert.py /path/to/qwen-3b --outtype q4_k_m

# 3. 启动服务
./server -m qwen-3b-q4.gguf -c 2048 --host 0.0.0.0 --port 8080
    

性能测试结果：

CPU型号：Intel i7-12700（16核心）
内存占用：3.2GB
平均响应延迟：1.5秒/次

关键成功要素总结

1. 选对模型：依据任务复杂度合理选择参数规模，如7B、14B或70B级别模型。
2. 工具适配：通过微调让 Agent 掌握特定领域的专业知识，提升任务执行准确率。
3. 工程优化：利用模型蒸馏和量化技术有效降低部署成本，适应不同硬件环境。
4. 流程编排：将复杂任务拆解为多个子任务，由多个 Agent 协同完成，提高整体效率。

进阶学习资源

LLaMA-Factory文档：https://github.com/hiyouga/LLaMA-Factory

LangGraph教程：https://langchain-ai.github.io/langgraph/

Ollama模型库：https://ollama.ai/library

DeepSpeed优化指南：https://www.deepspeed.ai/

代码示例：生成分析报告

def generate_report(self, state):
    # 调用Qwen生成报告
    report = call_llm_report(state["analysis"])
    return {"report": report}
    

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：agent Age Transformers Requirements Description

相关内容：AI Agent开发指南