不管是商業資料，或者客戶、會員的個資，許多企業都把這些存在伺服器中。 不過9月底就傳出，有健身服務公司客戶資料表遭駭客利用自動化AI擷取；過沒幾日，又有大型連鎖通訊零售商遭殃，外部伺服器遭自動化攻擊，攻擊者擷取部分訂單資訊，甚至涉及員工與會員個資。 隨著代理式AI快速發展，類似案件也開始跨越國界。 國家資通安全研究院院長龔化中表示，「中國的百度安全舉辦了一個AI Plus的一個攻防的一個工具比賽、攻防能力的挑戰賽，ARTEX自動滲透偵測系統是拿到冠軍。 9月3日拿到冠軍之後，我可以跟大家講，9月開始這個日本、韓國就已經受到大量攻擊了。

」資安院指出，近期東亞地區發現駭客利用AI工具執行的攻擊，已經不只是掃描測試、找出系統漏洞，而是進一步瞄準中大型企業，自動做資料存取。 數發部與台灣電腦網路危機處理暨協調中心則呼籲企業，減少非必要的開放網頁或後台，別給惡意AI有機可乘。 數發部資安署通報應變組組長黃卓倫指出，「大家的企業可能都會有一些網站，像VPN、遠端桌面、NAS等等，希望大家可以先做盤點，並且針對這些對外的服務，能夠去指定它的負責人。 」隨著越來越多企業導入代理式AI協助內部作業，也可能成為駭客AI攻擊的新目標。 學者指出，使用者扮演好自動化AI的「主管」，還是很重要。

台大資工系教授陳縕儂說明，「決定要這個下單、這個扣款，然後買這個股票，這些都是我自己可以做的。 那如果我們也給我的AI Agent同樣的這個能力，那如果我自己知道有這個風險的話，我可能就會設定說，它不能直接操作我的一些動作。 」學者強調，如果未來供應商將自動化AI導入產品，供應給政府單位或者企業，就更得做好風險管控。 設定斷點、適時人為介入決策，更能有效避免AI自行交易、操作網頁，甚至接受惡意指令所帶來的資安危害。