AI编程模型「上下文长度」是什么
上下文长度（Context Window，上下文窗口）：模型一次能同时读取、理解、处理的全部文本总容量，单位一般是 token（词元）。
简单一句话：就是模型单次对话/单次代码请求里，最多能“看”到多少内容，超出的部分它会忘掉。
1. token 怎么理解
token不是汉字/单词：
- 英文：1 token ≈ 0.75个单词
- 中文：1 token ≈ 0.5～0.7个汉字（含标点、代码符号、空格）
示例：1000 token ≈ 700个中文汉字；代码因为符号多，同样token下能承载的代码行数更少。
2. 对编程场景的关键含义
上下文窗口 = 历史对话 + 你本次提问 + 代码（粘贴的源码、报错、注释）全部加起来的token上限
- ✅ 全部内容在窗口内：模型记得前面所有代码、函数定义、之前约定的架构，能连贯修改
- ❌ 超过窗口上限：最早的内容会被截断丢弃，模型看不到前面的代码，会丢失变量、函数、接口定义，写出矛盾、bug代码
编程模型常见例子
- CodeLlama 7B：基础版本 4k token，长上下文版 16k
- DeepSeek-Coder：有 64k / 128k 版本
- Claude 3.5 Sonnet：200k上下文，适合读完整项目文件
- GPT‑4o：128k上下文
64k token 大概可以一次性读几万行代码，适合读取整个模块；4k只能处理小函数、小段代码。
3. 容易踩坑的点（写代码时很重要）
- 上下文是双向占用：不是只限制你输入，模型输出的代码也会消耗token，占用窗口。
- 长代码粘贴不会自动智能裁剪，超出就直接截断头部，不会提示你哪段丢了。
- 长项目不代表必须无限上下文：可以用RAG检索增强，把代码库分片检索，不用一次性把全部源码塞进上下文窗口。
4. 简单类比
上下文窗口就像一张草稿纸：
- 纸越大（token越大），一次性可以写越多代码、需求、报错信息；
- 纸写满之后，再新增内容，就会把最前面的文字擦掉。
如果你想，我可以对比主流开源/闭源编程大模型的上下文窗口参数表。
主流编程专用大模型上下文窗口对比表
说明：原生上下文 = 模型预训练原生支持；扩展上下文 = 通过YaRN等技术外推（长文本保真度会下降）；单位：token；代码场景：128K可一次性读中小型仓库，256K+适合大型项目整仓分析。
🔓 开源（可本地部署）
| 模型 | 原生上下文 | 扩展上限 | 许可证 | 定位 |
|---|---|---|---|---|
| DeepSeek-Coder V2 | 128K | — | DeepSeek开源许可（商用） | 代码全能，多语言，项目级代码阅读，最常用开源代码模型 |
| DeepSeek-Coder V1 | 16K | — | DeepSeek许可 | 早期版本，适合函数级、小文件补全 |
| Qwen2.5-Coder | 128K | — | Apache 2.0 | 阿里千问代码模型，0.5B~32B全尺寸，IDE补全、代码重构 |
| Qwen3-Coder | 256K | 1M（YaRN） | Apache 2.0 | MoE架构，Agent智能编程，大型仓库分析、PR评审 |
| CodeLlama（Meta） | 16K | 部分版本可外推至100K | Llama 3许可 | Meta老牌代码基座，通用代码生成，长外推稳定性一般 |
| StarCoder2 | 16K | — | Apache 2.0 | IDE代码补全、中间填充FIM，轻量快速，适合本地tab补全 |
| CodeStral 22B | 32K | — | Mistral许可 | Mistral代码模型，速度快，适合本地API服务 |
🔒 闭源API模型（云服务，不可本地部署）
| 模型 | 上下文窗口 | 定位 |
|---|---|---|
| GPT-4o | 128K | OpenAI主力编程模型，日常开发、调试、架构设计 |
| OpenAI o1 / o3 | 200K | 推理强化，复杂算法、系统设计、疑难bug排查 |
| Claude 3.5 Sonnet | 200K | 编程首选闭源模型，读取整仓、多文件代码理解、大项目重构 |
| Claude Opus | 200K（企业版1M beta） | 超大型代码库、复杂系统架构深度分析 |
| Gemini 2.5 Pro | 1M | 百万token超长上下文，一次性加载整个大型代码仓库 |
补充关键提示（编程场景重点）
- 标称上下文 ≠ 有效上下文
哪怕窗口1M token，在超长段（>200k）模型容易丢失远端细节。不要把超大仓库全部塞进上下文，优先RAG分片检索。 - token消耗是双向
用户输入代码 + 历史对话 + 模型输出代码 全部占用上下文窗口。不是只限制粘贴的源码。 - 选型快速建议
- 本地IDE代码补全：StarCoder2 16K / Qwen2.5-Coder 7B 128K
- 本地读中小型项目：DeepSeek-Coder V2（128K）
- 本地Agent整仓编程：Qwen3-Coder（256K）
- 云端分析多文件/大型项目：Claude 3.5 Sonnet（200K）
- 一次性加载完整大仓库：Gemini 2.5 Pro（1M）
如果你想要，我可以额外输出一份Obsidian Markdown版本，或者增加「显存占用、SWE-bench得分」扩展对比列。