新闻正文
当企业大量使用生成式AI、AI模型与自动化决策系统,一个关键问题浮现:如果AI产生错误、个资外泄、模型偏误,甚至造成重大营运或法令遵循风险,到底谁要负责? 答案不能是「大家都有责任」。 2026年5月6日,金管会修正发布《金融控股公司及银行业内部控制及稽核制度实施办法》,第9条要求金融控股公司及银行业创建「内部控制三道模型」,使各单位了解其在机构整体风险与内部控制架构中的职责与功能,并强化内部控制工作单位与内部稽核单位的沟通协调。 这项修法的法定适用对象为金融控股公司及银行业,并非一般企业的AI专法;但其所揭示的责任分工、风险监督与独立确信逻辑,仍可作为其他企业建构AI治理架构的重要参考。
从「三道防线」到「三道模型」 过去,内部控制常以「三道防线」理解:第一道负责管理风险,第二道提供监督与挑战,第三道则由内部稽核提供独立确信。 国际内部稽核协会(IIA)于2020年将「三道防线」重新定位为「三道模型」,强调治理机构、管理阶层、风险与法令遵循等第二道功能,以及内部稽核之间的角色责任与协作。 2026年7月,IIA进一步发布立场声明,强调问责、独立性、协调、确信与建议如何共同支持有效治理。 三道模型不是依序交件的三个关卡,也不是第一道完成工作后,再交由第二道和第三道逐层接手;它是一套厘清责任、促进协作并维持独立确信的治理架构。
在这套架构下,管理阶层拥有并管理风险,第二道提供专业支持、监督与挑战,第三道则以独立、客观的立场提供确信与建议。 协作不会消除责任,信息共享也不能取代权责归属。 AI治理的责任分工 AI治理不能只靠单一部门,也不能用「大家都有责任」取代明确问责。 较完整的架构,是由治理机构负责监督与重大决策,管理阶层及第一道角色负责日常使用与风险管理,第二道角色提供专业监督与挑战,第三道角色提供独立确信。 一、治理机构:负责监督与重大决策 董事会不必亲自操作AI,但应负责治理监督、风险偏好及重大AI风险决策,并确保企业创建适当的AI治理架构、重大风险通报机制及清楚的决策权责。
高端管理阶层则应将治理要求转化为政策、资源、流程与控制,并对AI运用的管理结果负责。 重大AI风险应依其重大性及企业风险承受度,提报至具备决策权限的治理层级,作成接受、降低、限制或停止该项AI应用的判断。 二、第一道角色:负责日常AI使用与控制 第一道角色包括实际使用AI的业务、信息及其他营运单位,也是AI风险日常管理的第一责任主体。 第一道必须回答几个基本问题:AI为何使用? 谁可以使用? 使用哪些数据? 输出是否需要人工覆核? 发生错误时,谁可以停止、修正或撤回? 重点风险包括模型、数据、作业、资安、个资、法令遵循及治理责任等面向。
生成式AI普及后,未经授权使用外部AI服务,或将公司机密、营业秘密及客户数据输入外部模型,已成为企业常见且容易被忽略的风险缺口。 若发生前述情形,可能造成数据外泄、个资违法利用或营业秘密侵害;若缺乏适当的输出覆核,AI产生的错误内容也可能直接进入业务流程,进一步造成客户、财务、营运或法令遵循风险。 三、第二道角色:提供监督与专业挑战 风险管理、法令遵循、资安及个资保护等功能,并不是代替第一道管理风险,而是创建标准、提供监督、进行监测并提出专业挑战。 组织运用AI时,应依个别使用情境采风险基础方法评估,考量是否直接提供客户服务或对营运有重大影响、个人数据使用程度、自主决策程度、系统复杂性、利害关系人影响及救济选项等因素。
并要求组织依风险评估结果创建适当的风险管理与控制措施,以及定期审查机制;定期查看时,还应确认AI系统是否符合原始使用目的及原定风险等级。 企业可以先辨识AI用途的风险等级,再决定人工覆核密度、数据使用边界、监控方式、事件通报及退场机制。 四、第三道角色:提供独立确信 内部稽核应以独立、客观及风险导向的立场,评估AI治理、风险管理与控制的设计及运作是否妥适有效。 内部稽核可以就AI治理提出建议、提供咨询或协助辨识风险,但不应替管理阶层核准AI用途、设置风险承受度、运行管理性控制或接受风险。 若内部稽核曾参与相关制度设计或提供管理性协助,后续查核仍应注意自我覆核风险,必要时安排适当的独立覆核。
沟通协调不等于共同决策,更不等于内部稽核承担管理责任。 第三道可以协助企业看见风险,却不能取代管理阶层作成治理判断。 共同治理,不等于共同负责 成熟的三道模型不是第一道做完、交给第二道,再交给第三道,而是各自在权责范围内同步运作,通过信息共享、专业挑战、独立确信与缺失改善形成回馈。 真正的共同治理,不是把责任模糊化,而是让责任有明确归属、风险信息充分共享;权责不混淆,但专业可以相互挑战;决策不外包,治理判断必须可追溯。 第一道不能把责任推给第二道;第二道不能因提出监督意见,就取代第一道成为营运风险的所有人;第三道不能因熟悉业务,就取代管理阶层决策。
三道模型追求的,不是以「大家负责」掩盖责任归属,而是共同看见、相互挑战,并由各责任主体对其职责范围负责。 AI时代,需要可问责的治理 AI治理成熟度,不应只看企业导入多少AI、创建多少制度,而应查看几个更基本的问题: 谁承担并管理AI风险? 谁能提出专业挑战? 谁能提供独立确信? 治理机构能否取得可靠信息,对重大AI风险作成明确且可追溯的判断? 明天召开高管会议时,不妨问问团队:我们的AI应用,第一道、第二道与第三道真的各司其职了吗? 如果答案不清楚,即使企业已经创建AI政策、风险管理制度与稽核进程,治理仍可能只是「制度上存在」。 AI可以替企业分析、预测与决策,却不能替企业承担治理责任。
成熟的内控,不仅是制度化管理,更要在风险被共同看见时,仍然有人愿意清楚说明:「这件事,我负责。 」 *作者为博士研究生