新闻正文
川普推动AI「自我监管」,表面上是替安全加一道防线,但协议没有要求企业放慢开发,而是把测试、审计与监控嵌入AI扩张。对辉达( NVDA-US ) 而言,这些要求可能催生更多算力需求;对业界而言,关键则是谁掌握监督权。
9月30日,川普与20多位AI高层在白宫共进午餐后,宣布由Anthropic、OpenAI、Google(GOOGL-US)、Meta( META-US ) 、xAI及辉达签署的自愿协议。他形容文档「几乎像一部宪法」,但这份不具法律效力的两页协议,背后是一场安全、权力与商机的角力。
AI安全不踩煞车 辉达迎算力新商机
市场对安全监管的直觉是:测试拖慢发布,发布放缓压缩算力需求。InvestorPlace分析师Luke Lango认为,这套逻辑可能反了。
白宫协议并未要求放慢模型开发,而是加强内部评估、外部审计与风险控制。更多测试、持续监控与模型运行,反而可能让「安全合规」成为一笔持续的算力支出。
辉达已有动作。9月28日,公司联合逾100家伙伴推出Open Agent Safety Platform,结合开源访问控制与运行于独立芯片的监控层,不必嵌入AI系统内部就能进行监控。黄仁勋表示,安全与能力必须同步解决,才能实现AI潜力。
辉达也承诺向光互联企业Lumentum投入20亿美元,扩大产能并深化数据中心光学联合研发。
Lango预期,未来6至12个月,需求将从GPU密集的预训练,转向推理与测试,更重视数据传输效率及多任务协调。他认为,自我监管不会终结AI资本支出周期,只会改变资金流向,并关注Marvell、Arm与Lumentum等受益方向。
从这个角度看,黄仁勋争取到的,是让安全要求与AI扩张并行的路径。辉达可能受益,但这仍是分析师对需求走向的判断。
黄仁勋当面质问Amodei AI风险说太重?
镜头前,各家首席执行官站在川普身旁,展现产业团结;镜头后,对AI风险的分歧直接摊上台面。
《华尔街日报》引述知情人士指出,午宴结束后,在罗斯福厅的小范围会议中,黄仁勋等高层当面质问Anthropic首席执行官Dario Amodei:为何要公开对AI能力与风险发出如此极端的警告?
Amodei回应,诚实向大众说明模型能力、不淡化风险,十分重要。他先前曾警告AI可能发动网络攻击、造成大规模失业,并批评白宫与竞争对手淡化安全问题。
当天午宴上,Amodei再次提出安全顾虑,祖克柏则表示,最好的解决方式,就是整个产业切实落实这些原则。
此次协议的直接背景,是Anthropic的Mythos等模型发布后引发一系列AI网络攻击事件。Amodei会后表示,产业与政府合作可以安全地取得胜利,但风险处理的具体机制「仍在讨论中」。
这场局的真正推手有两位
这场白宫午宴并非突然出现。据《华尔街日报》知情人士透露,起点是先前国宴上,祖克柏与众议院议长Mike Johnson相邻而坐,谈起AI政策。随后,祖克柏与黄仁勋协调各家首席执行官,由川普与Johnson举办午宴。
两人更关键的角色,是推动放弃先前较强的监管方案。
今年夏天,Anthropic、OpenAI与Google曾共同推动类似金融业监理局(FINRA)的AI自律组织。但据报导,祖克柏、黄仁勋与马斯克向川普表示,担心方案让过多权力集中在主要AI公司手中,方案随即被放弃。
最终落地的是较宽松的自愿协议。值得注意的是,被否决的方案同样包含内部评审与外部测试,与最终协议的技术要求高度重叠。真正的角力在于:谁来掌控这套安全机制。
两页协议能管住AI?新要求其实有限
协议要求企业创建多层控制与审计,持续监控先进模型的网络及生物安全威胁,避免模型以非预期方式入侵其他系统;接受独立外部评估,并在董事会层级设立独立委员会监督。
但真正添加的要求,可能没有想像中多。Anthropic、OpenAI与Google DeepMind早已进行模型发布前评估,除辉达外,其余企业也曾在2024年首尔AI峰会后做出类似承诺。媒体评论认为,协议可能主要促使尚未开放独立评估的企业跟进。
LawAI的Mackenzie Arnold直言,协议主要在态度层面有意义,没有授权任何机构制定具约束力的标准。科技监督计划的Sacha Haworth则批评,这让首席执行官「自己给自己的作业打分」。
不过,保守派律师Joel Thayer认为,公开承诺却不履行,可能构成对消费者的欺骗;FTC主席Andrew Ferguson出席午宴,也让他看见执法可能。据报导,FTC在协议发布隔天扩大对AI公司的调查。
川普称协议为「道德约束」,点出了它的限度。业界争取到持续开发的空间,安全措施也可能带动新的运算需求;但企业承诺如何落实,这份两页文档仍未给出完整答案。