新闻正文
微软(Microsoft)总裁布莱德.史密斯(Brad Smith)在接受英国广播公司(BBC)专访时指出,全球针对人工智能(AI)的法规监管力度严重不足,目前AI所面临的安全规范甚至比市售牛奶或洗衣机还要宽松。 他强调,创建全球统一的AI安全守则已刻不容缓,其中包括系统遭恶意AI代理(AI Agent)入侵时的受害者通报机制,以及赋予开发者停止系统运作的「紧急煞车」开关。 史密斯表示,各国政府应通过法律明确规定,当AI系统出现异常或发生安全事故时,相关企业必须提出官方事故报告。 他直言:「我们对于其他实体产品早已具备成熟的安全管理经验,应以此为基础,研拟如何将相关机制套用于人工智能领域。
在现行法规下,家中的洗衣机受到的安全监管都比AI更多;走进杂货店,每盒牛奶也都必须符合严格的安全标准与卫生检查。 」 AI龙头企业公开主张适度调节AI演进速度 这项呼吁发表之际,正值顶尖AI开发企业负责人相继对技术失控风险发出警讯。 包含OpenAI首席执行官山姆.阿特曼(Sam Altman)与Anthropic首席执行官达里奥.阿莫迪(Dario Amodei)均公开主张,开发者应适度调节先进AI技术的演进速度,以确保模型始终处于人类掌控之中。 阿特曼与阿莫迪皆建议,应允许第三方独立评估机构获得类似内部员工的访问权限,以实时监测模型的技术能力与潜在漏洞,并向公众发布评估结果以提升透明度。
针对各国的监管政策,史密斯特别提到,英国由前首相里希.苏纳克(Rishi Sunak)推动成立的「AI 安全研究所」(AI Security Institute),使英国在引领全球AI规范方面具备独特优势。 他分析,美国华府官员对于英国所采取的监管途径,评价与欧盟(EU)依据风险等级划分监管程度的架构截然不同。 英国不排除采取强制性立法监管高端AI模型 目前英国AI安全研究所系通过与各大主要开发商签署的自愿性协议,在先进模型正式部署前取得测试权限,借此评估技术能力及其可能带来的潜在风险。
英国AI事务政务次官卡尼什卡.纳拉扬(Kanishka Narayan)对此表示,若现行的自愿性审查制度未来被证明无法有效防范风险,英国政府将不排除采取强制性的立法手段来监管高端模型。 责任编辑:许咏翔 更多风传媒独家新闻: ‧AI沦犯罪帮凶 如何预见数字金融「5大破口」 OpenAI、Anthropic急推演预防「全面性危机」 ‧中国黑客冒充美国AI专家发送钓鱼信 连白宫都中招 专家:意在「AI政策制定」 ‧DeepSeek、月之暗面都被点名 美国FBI联手国安局、网安局指控中国AI「偷窃」 北京再度全盘否认