LLM

LLM Large Language Model大语言模型/大模型。其底层引擎、内部架构是Transformer

大模型的工作原理本质上就是一个文字接龙游戏

Token

大模型本质上是一个庞大的数学函数，接收的是数字输出的也是数字，压根看不懂人类的语言，所以在人类和大模型之间有个中间人做翻译：Tokenizer负责编码和解码，编码将token变成数字；解码将数字变成token，解码过程只需进行映射输出就可以了。由此可见Token是大模型处理文本的最基本单位。

词和token没有明确的一对一关系，token是文本切分得出一次最小单位会和日常的词有区别。1个token对应1.5~2个汉字，

Context上下文

Context就是大模型每次处理任务时所接收到的信息总和，可以看作是一个临时记忆体

Context Window上下文窗口

代表Context能容纳的最大Token数量

RAG

Retrieval Augmented Generation 检索增减生成

RAG基本运行流程

Prompt提示词

提示词调优（使用框架、描述清晰不含歧义、提供典型示例、对指令遵循差的进行单列）

提示关键原则：尽可能保证下达的指令清晰没有歧义；给大模型思考的时间，以及足够的时间去完成任务。

User Prompt用户提示词

用户自己输入的

System Prompt系统提示词

开发者后台配置的

Tool

大模型唯一的能力就是输出文本自身没有能力完成用户提出的所有需求，有的时候就需要借助外部的力量也就是我们所说的-tool工具

大模型负责决定“要不要调用工具、调用哪个工具、传什么参数”；真正执行操作的是外部工具或系统也可能是一个工具编排平台统一管理和执行工具调用

用户
  ↓
大模型
  ↓
工具编排平台 / Agent Runtime
  ↓
选择并调用具体工具
  ├── 搜索引擎
  ├── 数据库
  ├── 文件系统
  ├── Python
  ├── 邮件
  ├── 日历
  └── 内部 API
  ↓
工具返回结果
  ↓
编排平台把结果交给大模型
  ↓
大模型生成最终回答

MCP

一个工具编排平台有多种工具接入，但是这个接入规范每个平台都不一样，在不同的平台上接入就要符合不同的规范因此出现了一个统一标准，MCP就是这个统一的接入规范。

MCP Model Context Protool 模型上下文协议

MCP Host

支持MCP协议的软件：Cursor、Cline等

配置Cline的API key

MCP Server和Tool

MCP Server本质上就是一个程序内置功能模块解决问题，内置的功能模块也就是Tool可以理解为函数

比如询问纽约明天的天气如何，这里需要一个

去配置MCP Server

然后去我们的Client平台尝试调用

MCP交互流程详解

MCP Client与MCP Server的交互

与MCP Server交互并不必要Client，本地的命令行也同样可以进行交互

在这个过程中我们发现并没有大模型什么事情，MCP只是告知了注册了哪些tool和如何调用这些tool，也就是说MCP没有规定如何和大模型进行交互。

Json 和 JsonSchema的区别

Json是一种数据格式，用来传输或保存数据

{
  "latitude": 40.7128,
  "longitude": -74.006
}

这就是一份普通JSON数据，只表达其存在两个值且都是数字

JsonSchema则是一份说明书，用来约束和验证JSON，比如前面的JSON数据对应的JsonSchema可以写成

{
  "type": "object",
  "properties": {
    "latitude": {
      "type": "number",
      "minimum": -90,
      "maximum": 90
    },
    "longitude": {
      "type": "number",
      "minimum": -180,
      "maximum": 180
    }
  },
  "required": [
    "latitude",
    "longitude"
  ],
  "additionalProperties": false
}

这份Schema表示整体必须是一个对象，latitude必须是数字维度在-90到90之间；longitude必须是数字范围在-180到180之间；两个字段必须提供，不允许添加其他字段。

JSON是具体的数据，JSON Schema则是验证这些数据的规则

Agent

能够自主规划，自主调用工具直至完成用户任务的系统为Agent

Agent运行模式

React模式

Plan-and-Execute模式

Agent Skill

本质上就是一段塞给Agent的说明文档

SKill机制：按需加载，只有在Skill被选中之后才会被加载进来给模型看

references/ 是给 LLM 阅读的“专业资料”，scripts/ 是让 Agent 执行的“现成程序”。

references/ 中一般存放文档、规范和专业知识；scripts/ 中存放可以实际执行的程序

渐进式披露机制

CLI

目前MCP转CLI是一种趋势

CLI工具的优势：Token消耗小、执行效率高

CLI传递给大模型只需要传入一个Bash工具即可，token消耗可以忽略不记

CLI程序可以随意组合

MCP的优势：更可控、更安全

LLM