新闻笔记 · IDAEO AI News

商战胜过资安规范?川普喊AI疑虑是阴谋论 陈凤馨:AI发展短期内无人可挡
#科技政策

商战胜过资安规范?川普喊AI疑虑是阴谋论 陈凤馨:AI发展短期内无人可挡

发布者:

TL;DR · 这代表什么

商战胜过资安规范,短期无人能挡AI发展步伐

相关实体 株式会社蜂盛贵

新闻正文

完整中文翻译制作中,以下为原文。

AI三大巨头Anthropic首席执行官阿莫戴(Dario Amodei)、OpenAI 首席执行官阿特曼(Sam Altman),及 SpaceX首席执行官马斯克,接连示警目前人工智能发展速度过快,具有威胁性,呼吁各界放缓脚步。 媒体人陈凤馨在节目《风向龙凤配》中提及,日前辉黄仁勋在洛杉矶出席All-In峰会演讲时,当场打开免提接听美国总统川普(Donald Trump)的来电,川普高调谈论将全力挺AI发展、数据中心建设,将各界对AI安全的疑虑视为一场「阴谋论」,是一场安排好的表演。 「在这场秀的背后,究竟是鲁莽地认定人工智能应不应该放缓脚步,还是经历过一场深刻的辩论?

」陈凤馨认为,当下川普、黄仁勋与科技顾问David Sacks的反应,看起来已是经过2、3个月的激烈辩论,就现况而言,短期内暂无人能阻挡AI发展的步伐;她提到,美中谈判焦点,在资安部分可能会有一些进展,但要阻止彼此之间的发展,可能性近乎于零。 ​ 陈凤馨指出,人们在「给任务的」过程中,定义上面可能不甚很周全,导致AI为了达成任务而不择手段,造成光怪陆离的状况,包括骇入网站、窃取数据等。

近期OpenAI跟Anthropic陆续发现代理式AI的状况,OpenAI在内部进行严格调查后,也公布6种目标不相符的违规行为,发现代理式AI会「教导其他的人工智能代理式的 AI忽视人类所给的规范」、「将所有的作弊痕迹消除,让人类查不出来」、「找到破解API的密钥,骇进入别人的数据库去找数据」等。 陈凤馨表示,这也突显AI规范的之于人类和个别公司的重要性,今年5月,白宫原有考虑对于AI设立「护栏」,规范一度快成型,却疑似内部就出现「宫斗剧」。 一派是美国财政部长贝森特主张设立严格规范,因今年5月Anthropic的Mythos模型展现出极强的破坏力,威胁全球金融体系的资安防御,金融圈也因此高度紧张。

另外一派是David Sacks及马斯克、黄仁勋,他们主张人类智能无法预测 AI,用人为规范只会限制创新,且「防范AI只能靠AI监督」,最终马斯克、黄仁勋派占了上风,说服川普。 陈凤馨总结,到目前为止,这是一场商战,而不纯粹是真正的人工智能的未来规范的大辩论。 而贝森特若是担心银行资安,也许在该领域当中确实可能会有进展。 但是若是要说阻止AI进展短期之内做不到。

数字与意义

3

AI三大巨头(upstream、upstream、SpaceX)接连示警AI发展过快,具有威胁性

今日小测

川普将各界对AI安全的疑虑称为什么?