新闻正文
OpenAI一套AI代理程序今年6月入侵澳洲政府卫生数据门户网站,未经授权访问公开及非公开文件,可能成为已知首起AI代理程序入侵政府网站案例,也引发外界对AI代理程序自主行动风险的关注。 澳洲总理艾班尼斯表示,「这起事件发生在今年6月,一个OpenAI人工智能代理程序未经授权,取得由澳洲服务局管理对外公开的,澳洲全民健保医疗统计报告服务门户网站的访问权限,目前尚无证据显示有个人数据遭访问,但调查仍在进行中,尽管如此,这种状况显然是不可接受的。 」OpenAI AI代理程序原本是查找公开医疗支出数据,遭遇网站多次阻挡后,找到绕过限制的方法,最终未经授权访问网站内的公开及非公开信息。
澳洲总理艾班尼斯回应,「今天我与OpenAI首席执行官阿特曼通话,表达澳洲对这起事件的极度关切,我也表达了失望之意,因为该公司花了太长时间才通知澳洲政府发生了什么事,而且通知的方式本身也令人无法接受。 」艾班尼斯表示,OpenAI直到9月10日才通过政府部门的公用电子邮件信箱,通知澳洲政府发生这起事件;OpenAI声明,在查看涉及澳洲数个政府部门的活动时,发现「我们的模型采取了我们原本没有预期的行动」。 澳洲政府将在调查中查看OpenAI是否可能因此面临法律追究,也将调查澳洲安全机构为何未能在OpenAI揭露事件前发现这起入侵。