不管是商业数据，或者客户、会员的个资，许多企业都把这些存在服务器中。 不过9月底就传出，有健身服务公司客户数据表遭黑客利用自动化AI截取；过没几日，又有大型连锁通信零售商遭殃，外部服务器遭自动化攻击，攻击者截取部分订单信息，甚至涉及员工与会员个资。 随着代理式AI快速发展，类似案件也开始跨越国界。 国家资通安全研究院院长龚化中表示，「中国的百度安全举办了一个AI Plus的一个攻防的一个工具比赛、攻防能力的挑战赛，ARTEX自动渗透侦测系统是拿到冠军。 9月3日拿到冠军之后，我可以跟大家讲，9月开始这个日本、韩国就已经受到大量攻击了。

」资安院指出，近期东亚地区发现黑客利用AI工具运行的攻击，已经不只是扫描测试、找出系统漏洞，而是进一步瞄准中大型企业，自动做数据访问。 数发部与台湾电脑网络危机处理暨协调中心则呼吁企业，减少非必要的开放网页或后台，别给恶意AI有机可乘。 数发部资安署通报应变组组长黄卓伦指出，「大家的企业可能都会有一些网站，像VPN、远程桌面、NAS等等，希望大家可以先做盘点，并且针对这些对外的服务，能够去指定它的负责人。 」随着越来越多企业导入代理式AI协助内部作业，也可能成为黑客AI攻击的新目标。 学者指出，用户扮演好自动化AI的「主管」，还是很重要。 台大资工系教授陈缊侬说明，「决定要这个下单、这个扣款，然后买这个股票，这些都是我自己可以做的。

那如果我们也给我的AI Agent同样的这个能力，那如果我自己知道有这个风险的话，我可能就会设置说，它不能直接操作我的一些动作。 」学者强调，如果未来供应商将自动化AI导入产品，供应给政府单位或者企业，就更得做好风险管控。 设置断点、适时人为介入决策，更能有效避免AI自行交易、操作网页，甚至接受恶意指令所带来的资安危害。