AI 编程基本概念 · 从入门到能用

AI 编程的第一步不是写代码，而是调用 API。类比为"餐厅点餐"：你无需关心后厨如何做菜，只需依据菜单点单，厨房便会返回成品。

API 是由 AI 服务商（如 OpenAI、Anthropic、百度、阿里）提供的网络接口。你向其发送文字，AI 接收、处理并返回结果。所有 AI 编程行为，本质上都是对 API 的调用。

Prompt 是你发送给 AI 的指令文本。Prompt 工程不是玄学，核心三要素为：

• 清晰的指令：明确告诉 AI 要做什么。
• 相关的背景信息：补充 AI 完成任务的必要上下文。
• 要求的输出格式：指定返回结构（如 JSON、表格、Markdown）。

这是你控制 AI 输出质量的最直接手段。

Token 是 AI 处理文本的最小计量单位，也是 API 计费的依据。

• 英文：约 1 个 Token = 0.75 个单词。
• 中文：约 1 个汉字 = 1\~2 个 Token。
• 输入与输出均消耗 Token，构成实际成本。

理解 Token，是理解 AI 成本与上下文限制的起点。

模型可理解为能力各异的"大脑"。不同模型在能力、速度、成本上差异显著：

模型示例	特征	适用场景
GPT-4o、Claude 3.5 Sonnet	能力最强，速度较慢，成本最高	复杂推理、关键任务
GPT-4o-mini、Claude 3 Haiku	能力略弱，速度快，成本低	高频调用、简单任务

模型选型即在能力、速度、成本三者间做权衡。

Context Window 是模型的短期记忆容量，以 Token 数计量。

• 容量之内：模型可同时处理全部信息（如整本《三体》+ 你的提问）。
• 超出容量：最早输入的信息会被丢弃，模型将"遗忘"前文。

这是所有"AI 记不住""AI 答非所问"问题的最常见根源。

SDK 是 AI 服务商官方封装好的代码库，其作用是简化 API 调用。借助 SDK，无需手动构建 HTTP 请求，几行代码即可完成调用。

# Python 示例：使用 OpenAI SDK
from openai import OpenAI
client = OpenAI()
response = client.chat.completions.create(
    model="gpt-4o-mini",
    messages=[{"role": "user", "content": "你好"}]
)

Streaming 是一种使文字逐字实时输出的技术机制。

• 关闭 Streaming：必须等待模型生成完整段落后一次性返回。
• 开启 Streaming：模型每生成若干 Token 即推送一次，客户端实时显示。

所有聊天类应用（ChatGPT、通义千问、文心一言）均默认启用 Streaming，是其流畅体验的技术基础。

Temperature 是控制模型输出随机性的参数，取值范围通常为 0\~2。

• Temperature = 0：输出趋于确定，适合代码生成、事实性翻译。
• Temperature = 0.8\~1.2：输出更具创造性，适合文案、诗歌、头脑风暴。
• Temperature 接近 2：输出趋于混乱，一般不推荐。

Temperature 调节的是模型对候选词分布的平滑程度，并非简单的"概率开关"。

System Prompt 是为模型设定人设、规则与底线的指令，具有最高优先级。

你是一名资深 Python 工程师。所有回答必须包含可运行代码示例，并标注 Python 版本。

System Prompt 的关键特性是：用户消息无法覆盖其设定。这是约束模型行为的有效手段。

Embedding 是将文字、图片等信息转换为高维数字向量的技术。

• 语义相近的文本，对应向量在高维空间中的距离相近。
• 语义无关的文本，对应向量的距离较远。

Embedding 是 AI 实现"语义理解"而非"关键词匹配"的基础。

向量数据库是专门存储与检索向量的数据库系统。

当用户提问"推荐游戏"时，向量数据库能在毫秒级找出与"游戏机""PS5""Switch"等语义相关的内容，即使字面上完全不匹配关键词。

常见向量数据库：Chroma、Milvus、Pinecone、Weaviate。

RAG 是当前最主流的企业级 AI 应用范式，其流程分为两步：

1. 检索（Retrieval）：从私有文档或向量数据库中，找出与问题最相关的信息。
2. 生成（Generation）：将检索到的信息"注入" Prompt，再交由大模型生成最终答案。

RAG 解决了大模型的两大固有缺陷：知识陈旧与私有数据无法访问。

用户直接可见的界面变化。虽面向用户，但需开发者主动设计与处理：

• Loading 状态：按钮变灰、转圈动画、"AI 思考中..."提示。
• 错误提示：Toast 消息条或弹窗，如"网络错误，请重试"。
• 空状态：列表无数据时显示引导语，避免空白。
• 成功提示：操作生效后的短暂确认。

打开方式：浏览器按 F12（或右键 → 检查）→ 切换至 Console 标签。

可查看内容：

• 红色报错：JS 语法错误、未定义变量、网络请求失败。
• 自定义日志：console.log('用户输入:', input) 的输出。
• AI 调用痕迹：Prompt 发送内容与模型返回结果。

Console 是前端逻辑的"黑匣子"。

与 Console 位于同一开发者工具内，切换至 Network 标签即可。

可查看内容：

• 所有网络请求：页面加载资源、AI API 调用等。
• Payload 与 Response：请求体（发送数据）与响应体（AI 返回的原始 JSON）。
• 状态码：200 成功；401 API Key 错误；429 速率超限；500 服务端异常。

Network 是验证前端与 AI 服务是否"正常对话"的核心面板。

黑底白字的命令行窗口，运行后端程序（Python、Node.js 等）。

可查看内容：

• 后端日志：print() 或 console.log() 输出。
• 完整报错堆栈：崩溃时的错误信息及出错行号。
• 运行信号：Server running on port 3000 等启动成功提示。

Terminal 是判断后端"存活状态"的依据。

部署在服务器上的程序产生的持久化日志，级别分明：

• DEBUG：最详尽的调试信息。
• INFO：常规运行信息。
• WARN：警告（如配额接近上限）。
• ERROR：捕获到的异常。

Server Logs 是线上应用的"健康档案"。

SDK 自带的底层通信日志，需手动开启（如设置环境变量 OPENAI_LOG=debug）。

可查看内容：

• HTTP 请求头：验证 Authorization 是否携带 API Key。
• 请求体与响应体的原始 JSON。
• 重试信息：网络异常时的自动重试记录。

AI 调不通时，开启此日志可定位最底层通信问题。

注册 API Key 的服务商管理后台（如 platform.openai.com）。

可查看内容：

• 用量与花费：当日累计消耗与剩余额度。
• 速率限制：当前请求频率与上限。
• 服务状态：服务商是否全局宕机。

这是 API Key 的"银行账户与体检中心"。