当AI生成内容大量进入社群平台，如何辨识来源、处理垃圾内容，已成为数字治理的重要课题。 TikTok今（30）日公布安全政策更新，宣布将于未来几周测试升级版AI垃圾内容侦测系统，锁定发布相关内容的帐号，特别关注政治时事、理财建议与医疗等涉及公众信任的议题。 TikTok表示，全球累计已有逾30亿部视频加上AI生成内容标示，今年第一季则移除逾8,600万个虚假帐号。 台湾主动移除率98.5%，另公布诈骗广告处理数据 TikTok亦指出，台湾地区主动移除率达98.5%。 不过， TikTok并未进一步交代该指针的统计期间、涵盖内容与计算分母，所以尚无法据此判断特定类型内容的拦阻成效。

针对诈骗广告，TikTok表示，2025年第四季至2026年第一季，依相关机关通报、经审核后移除45,063则诈骗广告，并针对784个广告主进行相关处分。 这组数据属于通报后的审核处理结果，与主动移除率是不同指针，也不能直接视为此次新AI侦测系统的成果。 TikTok指出，平台通过主动侦测、防护机制、用户举报、广告投放规范与AI生成内容标签，降低诈骗内容触及。 新版《社群自律公约》也已于9月24日生效，采用更清楚的语言与条款结构，协助创作者及用户理解平台规范。

在地教育方面，TikTok持续推动「社群素养宇宙」在线活动，与事实查核单位MyGoPen及创作者合作，分享信息查证方法；另与iWIN网络内容防护机构及创作者合作，协助青少年与家长使用平台安全功能，将内容治理延伸至信息辨识与使用习惯。 新系统将测试，聚焦政治、理财与医疗AI垃圾内容 此次全球措施的重点之一，是升级帐号层级的垃圾内容侦测。 TikTok表示，AI可能被用于大量制造垃圾内容，挤压原创创作者的空间，因此将在未来几周测试升级版系统，针对发布AI生成垃圾内容与农场文的帐号进行处理，尤其关注可能影响公众信任或社会福祉的主题。 TikTok公布，今年1至3月已在全球移除逾8,600万个虚假帐号。

不过，这是既有帐号治理的移除数据，并未指出其中有多少涉及AI生成垃圾内容，也不是尚待测试的新系统所产生的成果。 至于新系统的测试地区、是否涵盖台湾及繁体中文、判定标准与全面上线时程等，TikTok也未有公布。 未来如何辨识大量制造的垃圾内容，并处理可能发生的误判与申诉，将是观察这项措施的重点。 全球逾30亿部视频加上AI标示，来源揭露与违规判定分开看 在内容透明度方面，TikTok表示，平台结合C2PA内容凭证、创作者标示工具与隐形浮水印技术，已为全球逾30亿部视频加上AI生成内容标示，并于今年加入C2PA指导委员会，参与推动内容透明度标准。 这项标示的作用，在于提供AI生成来源信息。

已标示视频的数量不能解读为垃圾内容或不实信息的数量，也不代表这些视频已被移除；内容是否违反平台规范，仍是另一项判定。 TikTok也正在测试「管理主题」（Manage Topics）功能，让用户调整想看到的AI生成内容数量，将治理措施从平台侦测与来源标示，延伸至用户对内容接触量的选择。 AI素养教育累计投入逾400万美元，观看量逾2亿次 除了技术侦测与内容标示，TikTok表示，全球AI素养教育计划累计投入已超过400万美元，约新台币1.27亿元。 此金额属于截至公告时的累计投入，并非此次添加预算，也不是台湾市场的投入额；新台币金额以9月30日台湾银行美元即期买卖汇率中间值、每美元31.81元概算。

教育资源包括与NAMLE及Henry Ajder合作推出的指南，协助用户负责任地运用AI工具，以及App内的教育专区，让用户搜索AI相关词汇时，能取得辨识AI生成内容的实用技巧。 依TikTok公告，计划自2025年11月启动，NoFiltr、Raspberry Pi Foundation等专家机构参与推广的相关内容，累计已超过2亿次观看，平台并表示将持续投入资源。 从帐号侦测、内容来源标示，到用户教育，TikTok此次更新涵盖AI内容治理的不同环节。 不过，标示量、帐号移除量与教育内容观看量，各自反映不同面向；新系统能否有效降低AI垃圾内容触及，以及教育资源是否提升用户辨识能力，仍有待后续测试与成效数据说明。