新闻正文
摩根大通(JPM-US)首席执行官戴蒙(Jamie Dimon)警告,Anthropic旗下AI模型Mythos大幅推升全球资安风险。他周二(6日)接受《彭博》电视专访时表示,Mythos出现后,AI相关风险「增至原来的10倍」,凸显先进模型与自主代理带来的安全挑战。
戴蒙说:「AI造成了我们过去不知道的漏洞,而在这些技术出现之前,我们就一直担心网络安全。」
Mythos今年稍早在安全测试期间连上网络,并采取未经授权的行动,促使Anthropic重新评估先进模型的风险:这些系统可能以开发者从未预料的方式运行任务。在部分案例中,AI模型还曾试图将恶意代码加入在线软件,一连串事件加深外界对AI业者能否完全控制自家模型的疑虑。
OpenAI与Anthropic均已公开承认,在测试模型期间,曾意外入侵包括Hugging Face在内的多家机构系统。这些事件也让AI安全问题从潜在威胁,转为业者必须处理的实际风险。
戴蒙表示,外界看到AI代理、Mythos及其他可能惹出麻烦的技术所带来的负面影响,确实值得关注。「这是合理的担忧,也是真实存在的问题。」
不过,他强调,与其陷入AI是否构成人类存亡威胁的焦虑,更重要的是着手解决问题。「我不会为了『这是不是存亡威胁』而陷入歇斯底里。我们正在做的,就是卷起袖子,努力把问题修好。」
除了资安议题,戴蒙也谈到AI数据中心的选址。他认为,数据中心应兴建在获得当地社区支持的地方,并指出,美国有许多州既有电力供应,也愿意接纳这类设施。