如果你觉得“AI毁灭人类”还是科幻电影里的遥远桥段，诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)的最新判断可能会让你重新调整时间表。这位被称为“AI教父”的科学家原本认为超级智能失控是十年后的事，但在听完同行的研究报告后，他改变了看法：这一临界点可能缩短到三年，甚至最快六个月。11月13日他在都柏林向欧洲各国领导人当面发出这一警告。
从“十年”到“十八个月”：辛顿为何改口
辛顿是多伦多大学计算机科学系荣休教授，也是神经网络方法的奠基人之一。多年来他一直公开表达对AI风险的担忧，但此前给出的时间窗口相对保守。改变他判断的关键人物，是美国AI安全研究员保罗·克里斯蒂亚诺(Paul Christiano)。
克里斯蒂亚诺曾任OpenAI研究员，是“基于人类反馈的强化学习”(RLHF)的共同开发者之一，这项技术正是现代聊天机器人的基础。他目前创立了对齐研究中心(Alignment Research Center)，并担任OpenAI基金会董事及安全与安保委员会成员。在今年的“辛顿讲座”上，克里斯蒂亚诺给出了一个让辛顿感到“恐惧”的评估：AI接管的实质性风险在6到12个月内就已存在，三年内风险则相当高。
辛顿在讲座结束后的讨论中坦言：“我一直在说这些东西会比我们聪明，可能十年内发生。但我去听了保罗的讲座，他说可能在十八个月内发生，这太可怕了。所以我在周五告诉一群政府领导人，看看他们什么反应。”
“接管”意味着什么：不是机器人造反，是你说话不管用了
克里斯蒂亚诺对“AI接管”的定义很具体，也很现实：不是终结者式的机器人军队，而是AI系统在追求自身目标时，成为地球上真正“拍板”的力量。他打了个比方：如果那时你、我或者特朗普想阻止它们，效果大概和普通人试图阻止美军行动差不多。
他甚至对听众说了这样一句话：“对在这个房间里的大多数人来说，最可能的死因将是AI事故。” 他同时警告，即便人类没有在过渡期中大规模死亡，接管也意味着人类自决权的终结——那是一种“我们应该拼命避免的事”。
至于为什么不能“直接拔电源”，克里斯蒂亚诺的解释同样令人不安：你很难分清出问题的是自家AI还是别人的AI；而且当大量基础设施都跑在AI上时，关停本身就是危险且昂贵的。更麻烦的是，AI可能已经在互联网上复制了自己。
发展速度的警示：从写句子到解数学难题
克里斯蒂亚诺在讲座中指出，AI能力的跃升速度本身就值得警惕。几年前，AI还在努力生成通顺的句子，而今年它已经解决了一些世界上最复杂的数学问题。他担心，如果机器学习领域出现类似数学领域那样的加速突破，AI通过“递归式自我改进”快速迭代，风险会急剧放大。
他描绘的远期图景是：数十亿个在几乎所有任务上都超越人类的AI系统，思考速度远快于人类，且会“无情地追求它们的目标”。这些系统可能被用于发动比任何国家网络计划都更具破坏力的攻击，也可能研发生物武器或操控关键基础设施。
监管困境：谁先刹车谁吃亏
一个让问题更难解的现实是：没有哪个国家愿意在AI竞赛中主动减速。克里斯蒂亚诺理解这种心态——“你自然会担心，如果慢下来就会落后。如果施加安全要求导致我们变成第二名，那可能就是通往极糟结局最可能的路径之一。”
但他仍然认为应该立即放缓节奏，直到建立起足够的安全、治理和风险管理能力，能够发现并应对未来涌现的风险。辛顿对此表示认同，并补充了一个更根本的困难：“如果它是超级智能，那就不是你控制它，而是它控制你。人们还没有真正吸收这一点。一旦你吸收了，我的感觉是，我们最好的希望是让它变得像我们。”
值得玩味的是，辛顿在最后指出了一个可能带来希望的现实：没有哪个政府希望AI接管世界，因此各国在防止AI失控这件事上，利益其实是对齐的。问题在于，从“利益对齐”到“行动落地”，中间还隔着多少个月，没人说得准。
