“AI 教父”辛顿：AI 灾难越来越近，10% 概率灭掉人类不是危言耸听

北京时间9月11日，《商业内幕》消息称，“AI教父”杰弗里·辛顿指出，要精确计算人工智能导致人类全部灭绝的几率相当困难，但这个数字并非零。

辛顿在周三接受BBC《新闻之夜》采访时提到：“我个人认为，10%的概率算不上离谱的猜测，但实际上，没人知道怎样才算是合理的推算。”

《新闻之夜》主持人维多利亚·德比希尔对此感到震惊，因为辛顿基本认同了Anthropic顶级AI安全研究员雅各布·考克森的论断。该研究员认为，未来10年内，AI“有超过10%的可能性导致全人类死亡”。

“哇，”德比希尔感叹道，“天哪。”

辛顿表示，由于人类历史上从未出现过一种“可能很快比我们更聪明”的技术，因此很难估算具体概率。

“如果只说1%的概率，那就太轻率了，”他说，“没人知道该怎么算。”

这位诺贝尔奖得主指出，可以确认的是，这种灾难可能发生的时间窗口已经缩短。“我以前觉得是30到50年，后来减少到10到20年，”他说，“现在，我认为可能是10年，甚至更短。而其他人认为比这还要快得多。”

至于这种情景可能如何发生，辛顿提到了从网络攻击到AI制造致命病毒等多种风险。尽管辛顿没有解释为什么时间表大幅缩短，但包括Anthropic和OpenAI在内的领先AI公司已投入数十亿美元扩大模型规模，它们最近发布的产品相比几个月前的模型已显示出明显进步。

在辛顿发表这些言论之前，Anthropic研究员考克森在该公司备受期待的IPO前夕宣布辞职。考克森曾在OpenAI工作，他表示这些AI巨头正在“拿我们的生命冒险”。

“那些开发AI的人真心相信，AI可能在这个十年结束前杀死我们所有人，”考克森在X上写道，“这不是营销手段。如果说有什么不同，那就是许多高管和资深研究员在媒体上会措辞谨慎，让自己显得理性，但我在私下听到的是同一批人表达恐惧。”

辛顿表示，人类可能走上自我毁灭的道路，也可能在发挥AI潜力的同时，找到“应对AI所带来危险”的方法。他再次呼吁加强全球监管，并指出尽管各国可能无法在所有问题上达成一致，但它们都有维护人类生存的共同愿望。

“对于防止AI取代人类这类问题，各国的利益是一致的。因此，它们最终会展开合作。问题在于，他们能否及时行动？”他表示。