AI最难学的，不是怎么做，而是什么更重要

2026-09-04

最近玩《底特律：化身为人》，有一个选择让我印象很深。

康纳是一台非常先进的仿生人。他的任务是追查异常仿生人，分析能力、推理能力、行动能力几乎都是顶级的。

有一次，他正在追一个非常重要的目标。

追到一半，他的搭档汉克遇到了危险。

游戏突然给了你一个选择：

救汉克，还是继续追？

我当时几乎没有犹豫，选择了救人。

因为站在人类的角度，这似乎是一个很自然的答案：任务再重要，也不能眼睁睁看着自己的搭档出事。

但后来我突然想到：

如果我是制造康纳的人，我会希望他怎么选？

事情一下就没那么简单了。

⸻

如果康纳的最高指令是“完成任务”，那么他当然应该继续追。

线索可能稍纵即逝，目标跑掉之后，可能还会伤害更多的人。

从效率上说，为了一个人放弃整个任务，甚至可能导致更多人受到伤害，未必是最优解。

可如果康纳真的这么做了，我们又很可能会说：

这个机器人太冷血了。

于是问题来了。

我们到底希望AI怎么选？

这也是我玩《底特律》时，第一次真正意识到：

AI最难学的，可能根本不是怎么做，而是什么更重要。

怎么追踪一个人，可以计算。

怎么分析现场，可以训练。

怎么判断路线，可以优化。

甚至怎样把一件事情做到效率最高，都可以慢慢找到越来越好的答案。

但“什么更重要”不一样。

因为它涉及排序。

任务重要，还是生命重要？

眼前这个人的生命重要，还是未来更多人的安全重要？

规则重要，还是感情重要？

结果重要，还是过程重要？

这些问题最麻烦的地方，不是AI不知道答案。

而是人类自己就没有统一答案。

⸻

这让我重新理解了现在AI领域经常提到的一个词：Alignment，也就是“对齐”。

我们很容易把对齐理解成：

让AI按照人类的要求做事。

但“做事”其实可能是最容易对齐的部分。

我要一张什么格式的表格，我可以告诉你。

我要你按照什么流程处理订单，我也可以写成规则。

甚至开车、搬运、诊断、写程序，只要目标足够明确，都可以不断提高准确率。

真正麻烦的是：

当两个正确的目标发生冲突时，谁排在前面？

这时候，规则就开始失效了。

就像康纳面对的选择。

“保护人类”是对的。

“完成任务”也是对的。

“阻止更多伤害”还是对的。

可它们偏偏在某个瞬间冲突了。

你必须牺牲其中一个。

这才是最难的地方。

⸻

而且更有意思的是，不同的人会给AI不同的答案。

一个极度强调结果的人，可能会告诉康纳：

别管汉克，继续追。

一个更看重人与人之间关系的人，会说：

先救人。

警察系统可能希望他优先考虑公共安全。

汉克本人可能又有完全不同的答案。

所以我们经常说：

要让AI符合“人类的价值观”。

但仔细想想，这句话本身就有一个问题：

哪一个人类的价值观？

人类从来没有一套整整齐齐、所有人共同遵守的价值排序。

我们真正拥有的，是无数套互相重叠、又经常彼此冲突的价值观。

平时没有冲突的时候，大家看起来差不多。

真正到了必须二选一的时候，区别才会暴露出来。

⸻

所以我现在觉得，AI对齐最难的地方，可能不是教会AI“什么是对的”。

而是教它：

当两件事情都是对的时候，哪一件更重要。

甚至这句话还不够。

还要加一句：

在什么情况下，哪一件更重要。

这已经不是给AI写几条规则那么简单了。

某种意义上，我们是在要求AI学习一件连人类自己都争论了几千年的事情：

如何取舍。

所以《底特律：化身为人》里康纳真正有意思的地方，并不是他越来越像不像人。

而是随着游戏推进，他不断遇到那些程序无法轻易解决的问题。

你会渐渐发现：

一个完美执行命令的机器人，其实很好制造。

真正难制造的，是一个知道什么时候不该完美执行命令的机器人。