新闻笔记 · IDAEO AI News

黄仁勋称AGI已到来!DeepMind打脸:Astra连OpenAI标准都未达
#AI争议

黄仁勋称AGI已到来!DeepMind打脸:Astra连OpenAI标准都未达

发布者:

TL;DR · 这代表什么

DeepMind创办人指出目前模型未达AGI标准,预测2028年才有半数可能

相关实体 News Cnyes

新闻正文

Google(GOOGL-US)旗下DeepMind共同创办人兼首席通用人工智能科学家Shane Legg反驳辉达(NVDA-US)首席执行官黄仁勋及OpenAI总裁Greg Brockman宣称「AGI已经到来」的说法,直言GPT-6 Astra可能连OpenAI自己订下的通用人工智能标准都尚未达到,目前就宣布人类进入AGI时代仍言之过早。

黄仁勋日前以Astra展现的能力为例,宣称AGI已经诞生;Brockman也表示,最新模型问世象征人类正式进入AGI时代。不过,Legg接受《金融时报》(FT)访问时表示,尽管Astra确实能完成一些令人惊叹的任务,仍不清楚它是否具备运行大多数具经济价值认知工作的能力,而这正是OpenAI自己提出的AGI定义。

Legg是「AGI」一词的早期提出者之一。他仍维持长期预测,认为人类在2028年前实现「最低限度AGI」的几率约为50%。DeepMind则将AGI定义为具备人类大脑所有认知能力的系统。

尽管认为AGI尚未真正到来,Legg仍警告,AI能力正以极快速度提升,安全机制绝不能落后,否则人类可能在缺乏充分理解及控制能力的情况下,迎接更强大的智能系统。

他认为,Anthropic首席执行官阿莫戴(Dario Amodei)提出放慢、但不全面暂停前沿模型发布的主张,方向值得考虑。不过,业界仍须仔细讨论如何实际运行,并避免企业在竞争压力下牺牲安全及透明度。

Legg同时宣布成立DeepMind Institute,由他与DeepMind董事长哈萨比斯(Demis Hassabis)、Google资深副总裁James Manyika共同领导。该机构将研究AGI对科学、教育、社会、政策、哲学及人类福祉的影响,并把复杂的技术研究转化为大众较容易理解的内容。

研究所首批文章聚焦AI安全、经济政策及「新乌托邦主义」。其中,DeepMind研究员Rohin Shah与Anca Dragan批评OpenAI快速推出GPT-6 Astra,显示模型推理过程的透明度出现令人担忧的下降趋势。

两人警告,激烈的AI竞争可能让业者缺乏提高透明度的诱因,因此有必要通过监管加以改善。不过,只要在设计阶段纳入透明架构,业界仍能继续开发能力更强的模型。Manyika强调,Google唯一想参与的AI竞赛,不是抢先宣布AGI到来,而是确保这项技术朝正确方向发展。

数字与意义

50%

Legg预测2028年前实现最低限度AGI的几率仅50%

常见问题(FAQ)

AGI的定義有統一嗎?

沒有。OpenAI著重經濟價值的認知工作,DeepMind則要求完整的人類等級認知能力。

DeepMind Institute的角色是什麼?

研究AGI的社會影響,並從科學、政策與哲學角度向公眾傳達複雜研究。

AI開發中透明度為何重要?

模型不可解釋會提高安全風險,並損害公眾信任。

今日小测

DeepMind共同创办人认为哪个模型未达upstream的AGI标准?