OpenAI執行長奧特曼（Sam Altman）下週將在紐約舉行的聯合國大會期間，向聯合國安全理事會進行簡報，屆時全球各國領袖將齊聚紐約出席一年一度的聯合國大會。

根據《路透》報導，OpenAI發言人週五（18日）表示，奧特曼下週將親自向聯合國安理會的公開會議進行簡報。

聯合國安理會由15個成員國組成，預計於下週三（23日）召開AI與國際安全相關會議。

此次會議正值AI產業對先進技術風險的討論升溫之際，數週前已有多名AI業界領袖呼籲協調放慢技術開發速度，並警告AI可能很快具備自行改進的能力，進而脫離人類控制。

外交人士透露，AI公司Anthropic也可能派遣高層出席會議，但目前尚未獲得確認。Anthropic尚未立即回應置評要求。

此次會議由9月輪值安理會主席國法國召集，並由法國歐洲暨外交部長巴羅（Jean-Noël Barrot）主持。

法國向安理會成員散發的會議概念文件指出，鑑於AI遭到濫用、用於惡意目的的風險，並考慮到安理會過去在此領域的參與，法國希望強調，國際社會迫切需要採取行動，推動安全且負責任的AI發展，以造福整個國際社會。

法國在會議概念文件中表示，此次會議旨在讓與會者「提出對失去控制或利用最新AI模型開發、促成及執行可能影響國際安全與和平之行動等相關風險的分析」。

負責維護國際和平與安全的聯合國安理會，早在2023年便首次針對AI風險召開會議。當時，中國警告AI不應成為「脫韁野馬」；美國則提醒，AI不應被用於審查或壓制民眾。

奧特曼早在當前AI熱潮興起前，就曾公開警告相關技術可能帶來的風險。他在2015年發表的文章《Machine Intelligence, part 1》中指出，超越人類的機器智慧可能是人類延續生存所面臨的最大威脅。