←

AI开始互相请教了:从一个模型回答问题,到一群模型共同思考

📄 文章 🌐 公开 👁 15 次
📋 列表 ✏️ 编辑 🎨 画布版 📋 复制MD 🌐 复制HTML ☆ 收藏 🔗 复制链接

AI开始互相请教了:从一个模型回答问题,到一群模型共同思考

如果你最近关注人工智能,可能已经注意到一个很有意思的变化:

有些 AI 已经不再试图独自回答所有问题了。

当它遇到一个自己不擅长的问题时,它可能会把问题的一部分交给另一个更专业的模型;专业模型完成分析之后,再把结果交回来,由原来的模型继续处理。

换句话说:

AI开始向AI请教了。

这听起来似乎只是一个技术细节,但它背后可能意味着人工智能正在发生一个重要变化:

AI的能力,开始从“单个模型的能力”,走向“多个模型之间的协作能力”。


一、过去的AI:一个模型什么都自己做

早期我们使用人工智能时,基本是这样的:

人
 ↓
AI
 ↓
答案

你提出一个问题,模型根据自己训练得到的知识和能力进行推理,然后给出答案。

因此,人们很自然地会问:

“这个模型有多强?”

于是各种模型排行榜、参数规模、考试成绩、代码能力、数学能力,都成为衡量模型的重要指标。

这时候的思路其实非常像评价一个人:

这个人的知识多不多?
数学好不好?
写代码厉不厉害?
逻辑能力强不强?

所以过去很长时间里,人工智能发展的一个主要方向就是:

让一个模型越来越强。


二、但现实中的问题越来越复杂

问题是,现实世界并不是一张试卷。

一个真正复杂的问题,往往同时涉及很多领域。

例如:

“设计一种新的自动驾驶系统。”

这里面可能同时需要:

  • 数学
  • 物理
  • 计算机视觉
  • 控制理论
  • 软件工程
  • 芯片
  • 交通规则
  • 安全工程

如果要求一个模型把所有事情都做到最好,就会产生一个非常现实的问题:

为什么一定要让一个模型自己完成所有事情?

人类社会早就发现了另一种方法:

专业分工。

医生负责医学,律师负责法律,工程师负责工程,数学家负责数学。

一个人并不需要掌握所有知识。

他真正需要的是:

知道自己什么时候需要别人,以及应该找谁。

AI也开始出现类似的变化。


三、于是出现了“模型请教模型”

现在的一些AI系统已经可以根据任务的特点,把问题交给其他模型处理。

简单来说:

用户
 ↓
主模型
 ↓
判断问题
 ↓
“这个部分我需要专家”
 ↓
专家模型
 ↓
返回结果
 ↓
主模型继续处理
 ↓
最终答案

例如一个模型正在解决一个复杂的数学问题。

它可能发现:

“语言解释我可以完成,但是这个证明最好让专门的数学模型验证。”

于是:

主模型
   │
   └──→ 数学模型
           │
           ↓
        数学证明
           │
           ↓
        返回主模型
           │
           ↓
        最终回答

如果问题同时涉及程序,它甚至可以继续调用代码模型:

                    主模型
                       │
          ┌────────────┼────────────┐
          ↓            ↓            ↓
       数学模型      编程模型      数据模型
          │            │            │
          └────────────┼────────────┘
                       ↓
                    综合结果

这时候,我们看到的已经不是一个模型。

而是一个模型网络。


四、这和普通的软件调用有什么区别?

有人可能会说:

“程序调用另一个程序不是很正常吗?”

确实如此。

计算机程序几十年前就可以调用其他程序。

真正值得注意的是:

现在被调用的对象,本身也具有一定的推理能力。

传统程序通常是:

程序A
 ↓
调用函数B
 ↓
得到确定结果

而模型之间的调用可能是:

模型A
 ↓
理解问题
 ↓
决定需要什么帮助
 ↓
设计一个子问题
 ↓
请求模型B分析
 ↓
理解模型B的结果
 ↓
判断是否可信
 ↓
继续推理

因此,变化的不只是“调用”。

而是:

调用本身开始成为推理过程的一部分。


五、最关键的变化:AI开始认识自己的能力边界

这可能比“AI调用AI”本身更加重要。

一个真正成熟的系统,不一定需要什么都会。

它需要知道:

什么事情自己做比较可靠,什么事情最好交给别人。

比如:

我擅长语言理解
       ↓
发现数学证明比较复杂
       ↓
调用数学专家
       ↓
发现数据还需要验证
       ↓
调用数据分析模型
       ↓
发现最终结论存在冲突
       ↓
再次请求专家复核

这实际上形成了一种新的能力:

能力边界识别。

过去我们主要关注:

AI知道什么?

以后可能还要关注:

AI知道自己不知道什么吗?

以及:

AI知道应该向谁询问吗?


六、这很像人类社会的专业分工

人类社会为什么需要专业分工?

因为一个人的认知能力是有限的。

一个工程师遇到法律问题,会找律师。

律师遇到医学问题,会找医生。

医生遇到复杂设备问题,会找工程师。

没有任何一个人需要独立完成整个社会的知识生产。

于是形成了:

个人
 ↓
专业分工
 ↓
相互协作
 ↓
复杂系统

现在AI也可能逐渐形成类似结构:

模型
 ↓
专业分工
 ↓
模型之间协作
 ↓
模型网络
 ↓
复杂认知系统

所以人工智能的发展可能出现一个很有意思的转变:

过去是在制造“更聪明的个体”,现在开始逐渐研究“如何组织聪明的个体”。


七、未来不一定需要一个“什么都会”的超级模型

这是一个非常重要的变化。

我们以前很容易想象:

最终会出现一个超级AI,它什么都会。

但另一种可能性是:

未来最强的人工智能系统,并不是一个无所不能的模型,而是一群专业模型组成的系统。

例如:

                    总协调模型
                         │
        ┌────────────────┼────────────────┐
        ↓                ↓                ↓
     数学专家          编程专家          视觉专家
        │                │                │
        ↓                ↓                ↓
     数学验证          代码验证          图像分析
        └────────────────┼────────────────┘
                         ↓
                      综合模型
                         ↓
                       输出

甚至还可以继续细分:

总模型
 │
 ├── 发现问题
 │
 ├── 分解问题
 │
 ├── 寻找专家
 │
 ├── 分配任务
 │
 ├── 收集结果
 │
 ├── 发现冲突
 │
 ├── 要求复核
 │
 └── 综合答案

这时候,真正重要的能力就不再只是“回答问题”。

而是:

组织问题解决过程。


八、模型之间甚至可能形成“上下级”

这一步就更有意思了。

假设有三个模型:

A:通用模型
B:数学专家
C:数学验证模型

A把问题交给B。

B完成以后,A又可能要求C检查B的结果。

于是:

A
│
└── B
     │
     └── C

这已经出现了某种层级结构。

如果再复杂一点:

                 总模型
                    │
        ┌───────────┼───────────┐
        ↓           ↓           ↓
      数学组       编程组       数据组
        │           │           │
     ┌──┴──┐     ┌──┴──┐     ┌──┴──┐
     ↓     ↓     ↓     ↓     ↓     ↓
    A1    A2    B1    B2    C1    C2

这已经越来越像一个组织,而不是一个孤立的软件。


九、模型越多,不一定越聪明

不过,这里也有一个非常重要的问题。

模型之间互相调用,并不意味着系统一定更可靠。

如果一个模型犯错,另一个模型只是相信它,那么错误可能继续传播。

甚至可能出现:

模型A犯错
 ↓
模型B相信A
 ↓
模型C相信B
 ↓
模型D继续引用C
 ↓
最终系统非常自信地给出错误答案

这叫做一种很直观的风险:

错误级联。

所以模型协作系统必须解决一个问题:

谁来验证专家?

这就意味着未来的AI系统可能不仅需要:

调用机制

还需要:

验证机制。

例如:

提出
 ↓
专家分析
 ↓
独立验证
 ↓
交叉检查
 ↓
发现冲突
 ↓
重新分析
 ↓
形成结论

这和人类科学研究中的同行评议、实验重复、交叉验证,其实有一些相似之处。


十、于是“模型之间的关系”开始变得重要

过去我们主要研究:

模型本身有多强。

以后可能还需要研究:

模型和模型之间是什么关系?

例如:

谁负责提出问题?

谁负责执行?

谁负责验证?

谁拥有最终决定权?

不同模型意见冲突的时候怎么办?

一个模型可以调用多少其他模型?

调用成本由谁承担?

什么时候应该停止继续调用?

这些问题听起来已经不像传统意义上的“模型性能问题”。

它更像是:

一个人工智能系统应该怎样组织自己的认知活动。


十一、这可能是AI从“工具”走向“认知组织”的一步

我们可以把人工智能的发展粗略理解成几个阶段。

第一阶段:工具

人 → AI → 结果

AI主要执行人的指令。

第二阶段:助手

人
 ↓
AI
 ↓
主动补充

AI开始理解人的意图,并主动完成一些工作。

第三阶段:智能代理

目标
 ↓
AI
 ↓
计划
 ↓
执行
 ↓
检查
 ↓
完成

AI开始自己组织任务。

第四阶段:模型协作

目标
 ↓
协调模型
 ↓
┌───────────────┐
│ 数学模型      │
│ 编程模型      │
│ 视觉模型      │
│ 数据模型      │
│ 专业模型      │
└───────────────┘
 ↓
验证
 ↓
综合

这时候,AI不再只是一个工具。

它开始拥有某种内部的专业分工体系。


十二、这甚至可能改变我们理解“智能”的方式

我们过去经常把智能理解成:

一个大脑有多聪明。

但人类文明的发展告诉我们,还有另一种智能:

很多有限能力的个体,通过协作形成非常强大的整体能力。

一个人可能不会造汽车。

但是:

设计师
+
材料工程师
+
机械工程师
+
软件工程师
+
制造工人
+
测试人员

可以共同制造汽车。

所以:

整体智能不一定等于某一个个体智能的简单相加。

人工智能可能也会走向类似方向。

一个模型不会做所有事情并不可怕。

关键是它能不能:

找到会做的人、把问题交给他、理解他的回答、发现他的错误,再把不同人的结果组织起来。


十三、未来真正重要的可能是“会不会组织智能”

因此,我们以后评价AI,可能不能只问:

“这个模型有多少参数?”

也不能只问:

“这个模型考试得了多少分?”

还可以问:

它能不能发现自己的能力边界?

它能不能把复杂问题拆开?

它能不能找到合适的专家?

它能不能验证专家的答案?

它能不能处理不同专家之间的冲突?

它能不能在成本和准确性之间找到合适的平衡?

这些能力加起来,可以称为:

智能的组织能力。


十四、从“一个AI”到“AI社会”

如果这种趋势继续发展,未来我们看到的人工智能系统可能越来越不像今天的聊天机器人。

它可能更像一个小型社会:

                    用户目标
                       ↓
                   总协调AI
                       ↓
             ┌─────────┼─────────┐
             ↓         ↓         ↓
           专家A      专家B      专家C
             ↓         ↓         ↓
           验证A      验证B      验证C
             └─────────┼─────────┘
                       ↓
                    冲突处理
                       ↓
                    综合推理
                       ↓
                    最终结果

这里面每个模型都可能只是一个“小专家”。

真正强大的地方,是:

它们之间形成了连接。

这也意味着人工智能发展的一个重要方向,可能正在发生变化:

过去,我们努力制造更大的模型。

现在,我们开始学习如何让模型彼此协作。

而下一步可能是:

让模型自己建立、调整和管理这种协作关系。

那时候,我们看到的就不再只是“一个越来越聪明的AI”。

而可能是:

一个由大量不同能力的人工智能共同构成的认知系统。

这或许才是“AI开始互相请教”这件小事背后,真正值得关注的变化。

AI的未来,不一定只是一个超级大脑。

也可能是一群彼此协作的大脑。

💬 留言 ⋮⋮

加载中…
💡 不登录也可留言(IP 限制:每文/每天各 1/10 条)

加载中…

分 0.00
纸张白
护眼绿
羊皮卷
夜间黑
100%