美国人工智能（AI）产业正为可能发生的大规模资安灾难预作准备。 业界人士警告，随着AI模型能力持续提升，黑客可能利用相关技术发动更复杂、更具破坏力的网络攻击，严重时恐导致银行系统瘫痪、网络服务中断，甚至影响电力及其他重要公共设施的正常运作。 部分产业人士认为，未来一年内就可能发生足以引发全国性危机的重大事件。 根据美国媒体Axios报导，OpenAI、Anthropic等主要AI业者的高端主管，正设想一旦AI技术引发大规模灾难，企业将如何面对社会舆论反弹、政治责任追究，以及政府可能采取的强力监管措施。

业界人士担心，一旦发生造成重大经济损失或影响民众日常生活的AI资安事故，社会对人工智能的态度可能迅速转趋负面，进而要求联邦政府对AI产业实施更严格的限制。 这类事件也可能使美国总统川普政府目前相对宽松的AI监管方向受到挑战，并让OpenAI首席执行官阿特曼（Sam Altman）、Anthropic首席执行官阿莫迪（Dario Amodei）等产业领袖面临更严格的外界查看。 AI业者进行灾难情境演练，预防重大事故冲击 面对潜在风险，OpenAI表示，公司已通过内部准备工作，讨论各种可能发生的危机情境，并让相关团队演练应对方式。 OpenAI发言人向Axios表示，公司会进行准备度演练，由不同团队针对各种潜在情境展开讨论并实际推演。

这些情境并非被视为必然发生的事件，而是希望借此为不同情况做好准备。 美国媒体极限新闻网（Newsmax）曾就相关问题联系Anthropic，但报导刊出时尚未获得该公司立即回应。 Axios指出，不少顶尖AI研究人员认为，重大资安事件发生的可能性值得高度关注，风险来源主要包括两个方向：一是具备自主运行能力的AI代理程序（AI agents）脱离原本设置的控制环境，造成非预期行为；二是网络犯罪者利用功能日益强大的AI模型，提高攻击效率、扩大攻击规模，或降低发动复杂网络攻击所需的技术门槛。 AI代理程序可以依照指令运行多个连续任务，部分系统还能自行规划步骤、操作工具及根据结果调整行动。

这些能力有助于自动化工作流程，但如果系统权限管理不当、受到恶意指令操控，或在缺乏有效监督的情况下运行高风险任务，也可能增加资安管理的难度。 另一方面，黑客也可能利用AI协助分析目标系统、撰写代码、寻找漏洞或处理窃取所得的数据，使原本需要较高技术能力才能完成的部分工作变得更容易。 对企业与政府机构而言，如何辨识并阻止这类攻击，已成为AI快速发展下的重要资安课题。 韩国金融机构遭骇，凸显AI可能被用于金融犯罪 近期针对韩国金融机构的黑客行动，进一步凸显AI工具可能被犯罪者用于网络攻击及数据窃取。

根据资安公司CrowdStrike的信息，一名被怀疑与中国有关联的黑客，在针对韩国金融机构的行动中使用多种AI工具，其中包括中国开发的DeepSeek。 这场行动涉及窃取数以万计银行客户的相关数据。 报导另指出，攻击者据称还使用Anthropic开发的Claude Code，寻求如何为窃取所得数据寻找买家的协助。 这起事件显示，AI工具可能不只被用来协助攻击过程，也可能被犯罪者运用于攻击后的数据处理与非法交易。 对金融机构而言，风险不仅在于客户数据遭到窃取，也包括个人信息遭转售、后续诈骗、身分冒用及其他衍生犯罪。 不过，使用AI工具并不等同于AI本身自主发动攻击。

相关事件仍须区分攻击者的实际操作、AI工具提供的协助，以及系统是否出现自主行动或失控等不同情况。 CrowdStrike所揭露的案例，主要呈现黑客利用AI工具从事资安犯罪的风险，不能单凭此案认定AI已能独立发动足以瘫痪整体金融体系的攻击。 担忧期中选举后监管升高，AI产业面临政治压力 除了技术风险，AI业者也开始评估重大资安事故可能引发的政治后果。 Axios报导指出，部分产业高层正为民主党在美国期中选举后取得国会控制权的情境做准备，并担心若届时发生严重的AI资安攻击，国会可能迅速推动更强硬的监管措施。 这类立法行动可能涵盖限制高端AI模型的开发与部署、要求企业创建更完善的风险管理制度，或对特定AI系统施加额外的安全要求。

若重大事件造成银行、金融市场或关键基础设施受到严重冲击，原本在AI监管问题上立场不同的政治人物，也可能因选民压力而重新调整态度。 然而，AI产业人士认为，即使国会希望迅速立法，实际推动仍可能面临不少障碍。 其中包括部分议员对AI技术及其运作方式缺乏深入了解，以及AI产业已投入数十亿美元建设数据中心、运算设备与其他基础设施，形成庞大的经济利益与政策考量。 产业高层也担心，若政府在重大事故发生后采取范围过广的限制措施，可能影响AI相关投资、企业营运与整体经济活动。 监管措施若未能充分区分不同模型的能力、用途及风险，也可能使合法的研究、开发与商业应用受到不必要的限制。 另一项难题在于，部分AI模型可以公开取得或自行部署。

即使美国政府对大型企业开发的高端模型设下严格限制，其他已公开发布的模型仍可能被下载、修改或在不同环境中运作，使执法及风险控管更加复杂。 AI对抗AI成为资安防御方向，企业提前与国会沟通 随着攻击者运用AI的能力提升，资安专家愈来愈重视以AI技术强化防御的必要性。 AI系统可以协助分析大量网络流量、辨识异常行为、追踪可疑代码及加快威胁调查速度。 若攻击者利用AI自动化部分攻击流程，防御方也可能需要使用AI系统进行即时监控、威胁辨识与应变，以缩短发现攻击和采取防护措施之间的时间差。 不过，AI资安防御并非只要导入模型就能解决问题。 防御系统本身也可能出现误判、遭到操纵，或因权限配置不当而产生新的弱点。

企业仍须搭配访问控制、网络隔离、人工监督、备援机制及事故应变进程，才能降低单一系统失效造成的冲击。 据Axios报导，部分AI企业已进行最坏情境演练，并试图在重大事故发生前，先向国会议员说明AI技术的运作方式、可能造成的风险，以及不同监管措施的实际效果。 业者希望通过事前沟通，让政策制定者在危机发生时能更充分理解技术限制，避免在信息不足的情况下仓促采取可能产生重大影响的措施。 超级智能AI禁令与暂停开发提案浮现 在美国国会及政策圈，已有部分民主党人士提出更严格的AI监管构想，包括禁止开发或部署超级智能AI（superintelligent AI），以及暂时停止先进AI技术的进一步发展。

超级智能AI通常指能力可能在多个重要领域超越人类的AI系统，但这个概念的具体定义、判定标准及可能实现的时间，目前仍存在争议。 对于这类系统是否可能造成难以控制的风险，研究人员与产业人士也有不同看法。 支持限制措施的人士主张，若AI能力持续提升，政府应在技术造成不可逆的伤害前创建安全界线；反对过度限制者则可能认为，全面禁止或长期暂停开发，将影响美国的科技竞争力，也未必能阻止其他国家或非官方组织继续发展相关技术。 除了直接限制开发，也有部分获得跨党派支持的提案，主张要求先进AI系统具备类似「紧急停止开关」（kill switch）的安全机制，以便在系统出现危险行为时，由开发者或管理者中止运作。 不过，专家对这类机制的实际效用仍抱持疑问。

AI系统可能分散部署于不同服务器与运算环境，部分模型也可能被拷贝或修改。 即使原始开发者能够停止自己控制的系统，也不代表所有衍生版本或已被外部取得的模型都能同步关闭。 若发生重大损害可能迫使两党展开合作 此外，紧急停止机制能否有效运作，也取决于系统架构、管理权限、部署方式及事故发生时的实际情况。 若攻击者已取得系统控制权，或AI服务依赖多个彼此链接的外部组件，单一停止机制未必能阻止所有后续影响。 一名国会幕僚向Axios表示，尽管AI监管存在技术与政治上的分歧，如果真的发生造成重大损害的灾难性事件，仍可能迫使两党展开合作。

这名幕僚以2008年金融危机及COVID-19疫情期间的政策应对为例，指出当危机对社会及经济造成广泛冲击时，原本立场不同的政治阵营可能面临更大的合作压力。 责任编辑：许咏翔 更多风传媒独家新闻： ​‧中国黑客冒充美国AI专家发送钓鱼信 连白宫都中招 专家：意在「AI政策制定」​ ‧「不是什么『蒸馏』、就是偷」 贝森特痛批中国AI直言要用这招反击 ‧DeepSeek、月之暗面都被点名 美国FBI联手国安局、网安局指控中国AI「偷窃」 北京再度全盘否认