微软共同创办人比尔．盖兹警告，人工智能 (AI) 的力量已强大到足以夺走 10 亿条人命，特别是当恶人掌握最新 AI 工具，可能形成前所未见的强大武器。他强调，科技公司自律不足以控制相关风险，呼吁美国政府「绝对」有必要立法监管。

NBC News 周五 (25 日) 公布盖兹接受《Meet the Press》节目专访的部分片段。主持人问及 AI 从业人员提出的警告，也就是这项技术最终可能消灭人类，盖兹回应，AI「确实强大到足以推动造成 10 亿人死亡的事件」。

盖兹表示，虽然很难让人类灭亡的几率达到 100%，但过去从未出现过像「怀有恶意者结合最新 AI 工具」如此强大的武器。

盖兹的说法正值 AI 安全与监管争议迅速升温之际。Anthropic 首席执行官阿莫戴 (Dario Amodei) 最近撰文呼吁前沿 AI 实验室放慢技术推进速度，并自愿合作制定安全标准，以降低先进 AI 可能带来的风险。

针对是否可由科技公司自行约束，盖兹直言，没人会认为只靠业界自律便已足够。

他表示，美国「绝对」需要制定 AI 监管法律，执法机关与政治人物也必须加入讨论，共同决定安全防护、监控及问责机制应如何设计。

阿莫戴同样支持政府介入，但也坦言，立法进程通常需要一段时间，AI 技术却正以极快速度进步。这种时间落差已成为监管争议的内核：在国会完成立法前，尖端 AI 模型的能力可能已大幅提升。

盖兹一向被视为科技业最具代表性的乐观派之一，因此他近来逐步提高对 AI 风险的示警力度，格外受到关注。

他今年 8 月发布备忘录，将 AI 形容为人类史上影响最深远的技术之一。

盖兹当时表示，AI 可能成为人类发明过最强大的平等工具，也可能成为最严重的不公平来源。如果依照目前的发展方向与速度前进，最终出现整体负面结果的几率非常高。他当时即呼吁政府与各政党立即合作，找出防止 AI 失控的方法。

不过，美国联邦政府最终会对 AI 采取何种监管政策，目前仍不明朗。

美国总统川普近期公开表示反对为人工智能设置安全护栏，并斥责相关的安全担忧与末日论为一场「骗局」。共和党国会领袖也尚未展现迅速推动 AI 立法的意愿。

据多家媒体报导，川普预计下周二 (29日) 与众议院议长强生及 AI 企业高层举行会议，但具体议程及出席名单仍未公布。

强生先前表示，希望川普与 AI 首席执行官们进入同一个房间，关起门来把问题谈清楚。他上周也说，各方应审慎讨论科技公司维护 AI 安全的责任，以及政府是否应介入、应扮演何种角色。

这场会议召开前，马斯克与 OpenAI 首席执行官奥特曼周四曾出席白宫国宴。目前尚不清楚两人或其他主要 AI 公司高层是否会参加下周二的会议。

在国会方面，参议院多数党领袖图恩(John Thune) 长期主张监管 AI，也曾于 2023 年提出相关法案，但近期并未积极要求国会立即处理。他 9 月中旬表示，参议院能否在年底前通过 AI 法案仍「有待观察」，并坦言，国会还有其他事务必须处理，短期内要推动任何法案都相当困难。

不过，图恩本周三向 Axios 表示，曾与他共同提出法案的民主党参议员 Amy Klobuchar，正争取更多民主党议员支持，之后才会在国会重新提出相关法案。

依照 2023 年版本，法案将要求关键 AI 系统接受认证，生成式 AI 产制的内容须符合透明度规范，并强制企业进行 AI 风险评估。法案也要求政府进一步研究如何辨识 AI 生成内容，以及 AI 产业应创建哪些安全护栏。

目前尚不确定这项法案或其他 AI 监管措施能否在国会过关，即使通过，也可能面临川普否决。不过，图恩认为，川普私下对 AI 安全护栏的接受程度，可能高于他公开表现出的态度。

AI 安全争议近几周快速升温。Anthropic 前研究员 Jacob Coxon 9 月 9 日宣布辞职，并声称负责开发 AI 的人确实相信，这项技术可能在本世纪末前杀死所有人。

Anthropic 对齐科学主管 Evan Hubinger 随后公开支持 Coxon 的说法，表示 AI 从业人员确实真诚相信这项技术可能导致全人类死亡。他估计，未来十年 AI 消灭人类的几率超过 10%。

Hubinger还警告，Anthropic 尚未提出解决超级智能「对齐」问题的方案，目前也没有明确迹象显示公司即将找到答案。所谓对齐，是指确保 AI 系统的行为符合人类设置的目标及安全要求。

相关警告引发更多公众反弹，也使要求政府监管的声浪升高。Google、Anthropic 与 OpenAI 已在争议扩大后展开合作，着手规画成立 AI 安全组织。

OpenAI 首席执行官阿特曼 (Sam Altman)与阿莫戴本周也在联合国强调，AI 治理需要全球合作及国际共同标准。阿莫戴表示，影响 AI 发展方向的重大决策，必须通过民主进程形成，并由向人民负责的政府参与。

盖兹的立场并非反对发展 AI，而是主张政府治理速度必须追上技术进展。在 AI 公司持续推出能力更强的模型之际，他警告，若各国未及早创建法律、安全防护与监控制度，AI 带来的风险可能远超科技业自行控制的范围。