大模型应用 | Civilization Museum

type

Post

status

Published

password

date

Jul 10, 2026

slug

summary

简介

LLM（大语言模型）— 一切的基础：根据上文预测下一个token

Prompt/Context/Memory — 让LLM能对话：

维度	内容
实际操作	把历史对话打包成上下文，作为Prompt的一部分传给LLM
解决问题	实现多轮对话、追问、保持对话连续性 Prompt：用户的指令 Context：上下文历史信息，例如历史对话信息；但是有长度限制。 Memory：长期记忆，对上下信息进行压缩，通过输入到大模型解决长度限制问题

RAG（检索增强生成）— 让LLM有知识

维度	内容
实际操作	从外部知识库搜索信息，通过上下文的形式输入到大模型，让大模型生成答案
解决问题	LLM训练数据过时、专业知识不足、幻觉问题

Function Calling

维度	内容
实际操作	将函数信息以json的形式传入LLM，通过LLM选择执行哪个函数
解决问题	解决工具调用问题

Agent（智能体）— 让LLM能干活

维度	内容
实际操作	能自主规划、多步推理、循环思考的 “任务执行者”。包括规划、记忆、反思、Function Calling等模块。
解决问题	LLM本身不能上网、不能查数据库、不能执行代码，Agent赋予这些能力

Sub Agent（智能体）

维度	内容
实际操作	主 Agent 拆分任务后，负责单一专项子任务的专精型智能体。主agent不可见子Agent的上下文信息
解决问题	全能 Agent 处理复杂跨领域任务时的 “不专精、效率低、易出错”

MCP（模型上下文协议）

维度	内容
实际操作	标准化接口协议，约定工具的调用方式、传参、返回值。例如`tools/list`是发现工具
解决问题	不用为每个工具写不同对接代码，统一调用标准

SKILL（技能）

维度	内容
实际操作	预设`skill.md`说明文件+脚本，告诉Agent如何使用工具完成复杂任务。实际上就是context
解决问题	能完成某一类具体、单一任务的最小可复用功能单元

RAG

大模型查询文档

Practical Guide for Model Selection for Real‑World Use Cases

This cookbook serves as your practical guide to selecting, prompting, and deploying the right OpenAI model (between GPT 4.1, o3, and o4-mini

环节	关键操作	技术要点
📄 文件加载	读取1000+页PDF法律文档	策略性截取前920页，适配GPT-4.1-mini的100万Token上下文窗口
🔍 层次化导航	多轮迭代筛选相关内容	初始粗切20个大块 → 通过大模型筛选相关 → 逐层筛选知道到段落级。（使用GPT-4.1-mini，上下文窗口大、成本低）
✍️ 答案生成	用精选段落+问题生成回答	使用GPT-4.1保证答案质量
✅ 答案验证	LLM-as-Judge审核答案	用o4/o4-mini模型验证答案准确性（推理强）

🪖
Agent概述

Agent：你给一个目标，它自己查资料、做计划、分步执行、自动纠错，直到把事做完。

Cline

提示词：包含了许多环境信息，以及全局的内置工具信息。

通信协议

MCP 是 C/S 架构，服务器不能反向调用客户端，无法满足智能体之间的相互调用；A2A 是 P2P 架构，智能体之间可双向互调；ANP 同样是 P2P 架构，支持智能体交互，但其区别在于认证机制 ——ANP 无需第三方，即可直接完成客户端认证。

MCP

LLM ↔ App：LLM 与App的通信可采用 llm_logger 进行透传，通过该组件捕获传输至模型的上下文数据。python llm_logger.py

llm_logger.py

2.6 KiB

MCP Client ↔ MCP Server：MCP Client 与 MCP Server可以通过进行透传，通过该组件捕获MCP Server的输入输出。 python mcp_logger.py python weather.py

mcp_logger.py

8.1 KiB

示例

功能

Root：让服务器安全访问客户端的文件

Sampling：让 MCP server 使用 client 的 AI 能力

Prompt：服务器向客户端公开提示模板，与资源工具配合使用

Resource：服务器向客户端公开资源

Tools：服务器公开可以由语言模型调用的工具

传输方式

传输方式	适用场景	优点	缺点
Memory	单元测试、快速原型	最快、无网络开销	仅限同进程
Stdio	本地开发、命令行工具	简单、无需网络配置	仅限本地、可能有兼容性问题
HTTP	生产环境、远程服务	通用、防火墙友好	无流式支持、延迟较高
SSE	实时通信、流式响应	支持服务器推送	单向通信、需要 HTTP 服务器
StreamableHTTP	流式 HTTP 通信	双向流式、HTTP 兼容	需要特定服务器支持

http

请求

A2A

A2A定义了两个智能体之间如何谈判、达成共识和分工。A2A 允许被调用的智能体拥有自己的思考过程（灰盒模式），它可以反问、请求更多上下文，甚至拒绝任务。

简介