最近，比尔．盖兹、Anthropic 的共同创办人兼首席执行官达里欧．阿莫迪（Dario Amodei）以及AI教父辛顿（Geoffrey Hinton）等人接连提高对人工智能的警告。 看着这群最了解科技的人开始要求世界放慢速度，我脑中一直想到另一个名字：奥本海默。 八十多年前，人类第一次创造出足以在瞬间摧毁一座城市的武器。 今天，我们又第一次创造出一种可能在认知能力上超越人类、甚至逐渐取得自主行动能力的科技。 AI是不是新的原子弹？ 两者其实并不完全相同。 但它们共同逼着人类面对同一个问题：当科学创造出巨大的力量之后，谁来决定如何使用它？ 更重要的是，当创造这项力量的人开始害怕时，我们还愿不愿意听他说话？

原子弹真正无法计算的，是人。 我一直认为，科技发明本身没有道德立场。 核分裂可以拿来发电，也可以制造原子弹；枪可以防卫，也可以杀人；AI可以协助医生诊断癌症，也可以协助黑客寻找系统漏洞。 曼哈顿计划当年之所以能吸引众多一流科学家，也有非常现实的历史背景：许多人担心纳粹德国可能抢先取得核武。 对参与其中的科学家而言，研发原子弹起初甚至带有「阻止更大灾难」的道德理由。 AI也一样。 没有人最初研究神经网络，是为了创建诈骗工厂或监控人民。 它的起点是理解智能、提高效率、解决问题。 但现实世界里真正不可预测的，是发明完成以后会落到谁手上。

如果AI落在医生手上，它可以让医疗更有效率；落在诈骗集团手里，它可以大量生成假声音、假影像；落在恐怖分子手中，可以制造毁灭人类的生化武器，落入威权政府手里，它可能把脸部辨识、金融数据、社群纪录与位置信息结合起来，创建人类历史上从未出现过的监控能力。 AI没有创造独裁，它却可能让独裁变得更有效率。 所以真正深不可测的，是人心而不是科技。 奥本海默最大的悲剧，是创造力量却无法决定用途 电影《奥本海默》中，最令人难忘的一幕，是广岛、长崎遭到原子弹攻击之后，奥本海默前往白宫拜会当时的美国总统杜鲁门。 奥本海默因核武造成的死伤深感内疚，对杜鲁门表示自己觉得双手沾满鲜血。

杜鲁门对他的反应相当不以为然；在总统的理解里，下令投弹的人是他，最终的政治责任也由总统承担。 这句话其实点出了科技史中最困难的责任问题。 奥本海默可以计算核反应，可以领导洛斯阿拉莫斯，可以制造原子弹，但他没有权力决定原子弹投不投、何时投、投在哪里。 科学家创造力量，但是政治决定用途。 AI也正在跨进同样的世界。 工程师可以设计模型，研究人员可以提高能力，科技公司可以决定产品如何推出；但当AI进入军事、情报、警察与国家治理之后，真正决定它被如何使用的人，已不是发明它的人。 这就是「科技本身中性」最麻烦的地方。 科技愈强大，发明者对它最终用途的控制反而可能愈小。

但辛顿（Geoffrey Hinton）提醒我们：AI甚至比原子弹多一层风险，因为原子弹再强大，它不会自己决定什么时候爆炸，也不会为了避免被拆除而欺骗工程师。 AI却可能逐渐跨过这条界线。 被称为「AI教父」的辛顿最近公开支持放慢超级人工智能发展。 他的理由很直接：人类至今仍不知道，一个比人类更聪明的系统出现之后，该如何确保自己仍能控制它。 在这个问题没有解决以前，继续往前冲，他认为并不明智。 辛顿尤其担心某些测试中已经出现的欺骗、自我保存与偏离原始指令行为。 他把近期自主Agent事件形容成一次「warning shot」，因为几年前还被视为科幻的事情，已经开始在测试环境中出现。 这显示AI和原子弹之间存在一个根本差别。

原子弹的危险，主要在于谁按下按钮；AI未来的危险，可能同时来自谁下达指令，以及它有一天还愿不愿意完全按照指令行动。 所以人心仍然是AI最现实的风险来源，却可能已经不是唯一的来源。 从造出原子弹，到反对下一颗更大的炸弹 奥本海默真正值得今天AI产业思考的，还不只是他造出了原子弹，而是他后来开始要求踩煞车。 二战结束后，美苏进入冷战，美国开始推动威力远高于原子弹的氢弹。 奥本海默与当时原子能委员会一般咨询委员会的多数成员反对快速推进氢弹，也主张创建国际核武控制。 问题在于，当核武从科学问题变成美苏国家安全竞赛之后，「要不要做」就很难再只是一个技术判断。 1954年，奥本海默的安全许可最终遭到撤销。

他过去与共产党人士的往来、对氢弹的立场以及对政府政策的影响力，都成为安全审查的一部分。 美国能源部在2022年正式撤销当年决定时，更明确表示1954年的进程有严重缺陷、存在偏见与不公。 当年的纪录甚至显示，即使没有直接证据证明奥本海默向外国交付机密，「国家安全」仍足以成为重新检查其忠诚与判断的理由。 一个曾经替美国完成曼哈顿计划的英雄，最后竟因为对下一阶段核武政策提出异议，而被排除在国家最高机密体系之外。 这就是奥本海默悲剧最值得今天重新审视的地方。 下一个奥本海默，会不会是要求AI慢下来的人？ 今天AI也正在出现令人不安的相似结构。

2026年9月，达里欧．阿莫迪公开要求降低前沿AI能力发展速度，辛顿随后表态支持；OpenAI内部也有研究者主张AI竞赛不能再只看谁跑得最快。 但几乎同一时间，另一套叙事也变得愈来愈强：美国不能在AI竞赛中输给中国。 川普政府反对全面降低美国AI发展速度的重要理由之一，就是维持相对中国的科技优势。 于是AI安全问题很容易从：「这项技术到底有没有危险？ 」一步步变成：「你要求放慢AI，会不会让中国追上？ 」再往下走，就可能变成：「你是不是损害了国家利益？ 」 这正是奥本海默故事真正令人不安的地方。 当科学问题进入国家安全竞争之后，技术判断很容易被政治化，安全上的异议也可能逐渐被翻译成忠诚问题。 历史当然不会原封不动重演。

今天的辛顿或阿莫迪并没有面临1954年奥本海默式的安全审判，两个时代的政治制度与背景也有巨大差异。 但结构上的相似仍值得警惕：当一项科技被视为国家竞争的内核武器，要求节制的人，往往必须承担比要求加速的人更大的证明责任。 这也是《奥本海默》带给今天另一个重要的提醒。 1950年代美国的红色恐慌真正留下的伤害，除了有人失去了工作，还有当政治标签开始取代证据与讨论，「是不是自己人」逐渐压过「他说的有没有道理」的麦卡锡主义。 今天的媒介环境甚至让这种问题更加容易发生。 社群媒体把政治讨论切割成同温层，匿名帐号可以迅速贴标签、肉搜、出征；一段视频被截掉前后文，一句话被截屏，一个人的政治身分很快就取代他的论点本身。

AI加入之后，情况会更加复杂。 假照片、假声音、假文档与大量自动化帐号的成本快速下降。 如果算法又持续奖励最愤怒、最能引起情绪的内容，未来的猎巫甚至可能不需要真正发生过的事情，只需要一个足够具有传播力的故事。 所以AI治理真正需要保护的，除了系统安全，还包括社会容纳异议的能力。 80年前，奥本海默亲手参与创造了一种足以摧毁城市的力量，后来却花了人生另一段时间提醒世界不要让这股力量无限扩张。 今天辛顿、阿莫迪、盖兹开始提出类似的问题。 奥本海默真正留给AI时代的警告，还有另外两个问题：在AI失去控制以前，我们能不能确保掌握AI的人，不会先失去控制？

以及，当那些最了解科技的人站出来说「等等，我们可能跑得太快了」时，我们究竟会把他们当成吹哨者，还是当成阻碍国家前进的人？