株式會社neoAI(總部:東京都港區,代表取締役CEO:千葉 駿介,以下稱「neoAI」)宣布,為安全且適當地運用生成AI,已於生成AI平台「neoAI Chat」導入進階審核功能,並決定由株式會社池田泉州控股(總部:大阪府大阪市,取締役代表執行役社長兼CEO:阪口 広一,以下稱「池田泉州控股」)導入。 【關於neoAI Chat 進階審核功能】 「neoAI Chat 進階審核功能」作為「neoAI Chat」的選配功能提供,是專為法人設計的防護欄功能與審核日誌擷取功能。透過監控使用者輸入並預防風險傳送的防護欄功能,以及記錄系統認證與系統內操作的審核日誌擷取功能,支援內部統制、事件調查及審核対応。 【池田泉州控股的實施內容】 1. 背景與目的 隨著企業對「neoAI Chat」的正式運用日益普及,neoAI體認到強化生成AI治理的需求日益增長。特別是金融機構等安全標準要求嚴格的企業,需要對使用者無意間輸入不符政策資訊的風險進行管控,並取得定期驗證安全運用的佐證資料。 為應對這些挑戰,neoAI與池田泉州控股攜手合作,著手建構能符合該公司標準的進階審核功能。 2. 實施內容與結果 neoAI與池田泉州控股共同執行了概念驗證(PoC),在討論所需的審核方式的同時,也針對符合銀行業務脈絡的防護欄功能偵測對象與營運規則進行整理,並改善判定精確度。本次PoC主要從以下三個面向進行驗證: (1) 使用階段的自動偵測 防護欄功能將自動偵測並控制不符組織政策的資訊輸入或不當使用。 (2) 符合自身政策的營運 為因應各金融機構不同的安全要求與業務政策,neoAI將防護欄功能設計為可針對各組織進行優化,使其能依照自身政策進行營運。 (3) 確保可用於審核対応的佐證資料 為履行對審核部門及經營階層的說明責任,將記錄防護欄功能啟動時的日誌,以便掌握使用狀況並用於審核対応。 此外,本次PoC針對以下面向進行了偵測精確度驗證: 智慧財產權侵害 機密資訊・隱匿資訊的輸入 合約・提案・報價資訊 不正利用 私人利用 犯罪活動 仇恨言論・暴力表現 PoC結果顯示,偵測率達到97.6%,誤判率為0.7%,因此決定導入此功能作為池田泉州控股實際營運的考量,目前正朝開始營運的方向準備中。 3. 池田泉州控股 相關負責人評論 我們認為,在集團整體推動生成AI的運用過程中,建立安全且適當的利用機制至關重要。此次透過與neoAI反覆進行PoC,確認了防護欄功能在實際營運中具有充分的有效性,因此決定導入進階審核功能。 【未來展望】 neoAI將持續以選配功能的方式推廣「neoAI Chat 進階審核功能」。目前正在使用「neoAI Chat」並對此功能感興趣的客戶,請洽詢您的業務負責人。 【關於neoAI Chat】 「neoAI Chat」是專為法人設計的生成AI平台。除了通用聊天功能外,還支援企業根據自身業務需求運用AI,並為重視安全性與治理的企業提供可行的營運基礎。 【neoAI 概要】 公司名稱:株式會社neoAI 所在地:東京都港區虎之門1-10-5 KDX虎之門一丁目大樓 代表人:代表取締役CEO 千葉 駿介 事業內容:AI技術的研究開發及解決方案提供 URL:https://neoai.jp 【池田泉州控股 概要】 公司名稱:株式會社池田泉州控股 所在地:大阪府大阪市北區茶屋町18番14號 代表人:取締役代表執行役社長兼CEO 阪口 広一 事業內容:銀行、以及依銀行法可成為子公司之公司的經營管理及與此相關之一切業務 URL:https://www.senshuikeda-hd.co.jp