法国青年走上街头抗议，原本和平示威演变成暴力纵火、抢劫商家事件，为法国数十年来最严重的暴动。 最初法国高中生抗议学校教育资源不足，为何扩大为移民与治安问题，而且是中国、俄罗斯与伊朗等独裁国家的假帐号在操作？ AI在这场暴动中扮演什么角色？ 为何这些独裁国家官媒的假帐号在网络上强力散布放火消息，法国就烧起来？ 法国青年怒火烧出哪些问题？ 法国高中生最初抗议学校教育资源不足，学校设备老旧。 法国政府债务占GDP比重偏高，政府预算赤字偏高，由于经济成长低迷，加上人口高龄化，年金支出成为财政庞大负担。 然而，值得关注的是，这场暴动不仅突显法国财政困窘与债务危机，与此同时，AI在这场暴动中扮演了关键角色。

杜奕瑾：独裁国家官媒在法国运用假帐号制造假声量 台湾人工智能实验室（Taiwan AI Labs）创办人杜奕瑾 10月30日于优质新闻发展协会优沙龙分享针对法国暴动的初步调查发现，「这些假帐号与独裁国家包括中国、俄罗斯和伊朗的官媒有很强关联性，他们同进同出，有共同的协同行为，他们运用假帐号制造假声量，再由独裁国家官媒去点爆，让大众以为这个假新闻与假帐号宣传的内容真正在发生。

」 针对法国暴动，Taiwan AI Labs调查发现，最初法国学生罢课，抗议学校资源不足，有一个伪装成中立客观第三方的媒体报导，接着有许多「协同帐号」在网络上散布学生放火暴动消息，接着是独裁国家官媒的社交媒体点爆，让所有人知道法国在暴动，你看不到学生的诉求，所有消息往移民去打，变成移民问题。 「在欧洲，如果要把这个议题烧到最大，就是往移民议题去打，激化对立，暗示要去暴动，结果法国就真的烧起来了。 」 中国、俄罗斯、伊朗官媒在法国暴动扮演点火角色 「中国、俄罗斯、伊朗官媒在法国暴动扮演点火角色。

」Taiwan AI Labs观察法国暴动的网络声量变化趋势，协同团体、独裁国家官媒、主要意见领袖、政治人物、一般民众网络po文声量变化，发现这三个独裁国家官媒包括中国、俄罗斯和伊朗是连动的，可以看到共同的攻击曲线。 进入AI时代，AI可以带来善的力量，也成为制造假新闻的利器。 美国AI新创Anthropic即将上市，Anthropic首席执行官Dario Amodei曾警告，「AI发展太快，可能失控，若落入坏人手中，最终可能毁灭人类。

」Anthropic公布一份调查报告，分析AI可能的风险，其中有很大篇幅关于认知作战，归纳出独裁国家利用Claude生成伪独立媒体、假帐号、假新闻等9大操作案例，每个案例有特定编号建档，这些活生生的案例以假乱真混淆视听，主要目的是激化社会对立与冲突，让社会更加动荡。 Taiwan AI Labs调查发现，法国暴动期间，独裁国家官媒有协同操作行为。 （谢锦芳摄） Anthropic示警：选举前，独裁国家运用AI操弄信息环境 根据Anthropic调查，独裁国家运用Claude操弄信息环境，创建假社群媒体网络、假新闻网站，发布假消息，企图欺骗、扭曲、影响个人或团体的认知、相信和行为，同时隐藏这些操作活动的来源、赞助对象。

这些消息操作多数与选举相关，例如俄罗斯官媒在去年9月摩尔多瓦（Moldova）总统大选前，发布有关Moldova总统的假新闻。 明年8月，肯尼亚将举行大选，Anthropic已经侦测到有特定操作者在社群媒体散布假消息。 杜奕瑾仔细研究这些案例运用的手法，以中非共和国为例，有许多独立媒体，实际上是中国、俄罗斯与伊朗去成立的，目的是来源洗白。 例如，法国暴动事件中，有一个外国独立媒体放大报导，就是从中非共和国的独立媒体开始，如今演变成遍地烽火。

经典案例：法国数字广告公司建横跨六大洲网络 根据Anthropic调查，有一个经典个案是位于法国的数字广告公司LKM创建跨六大洲的商业网络，制造70个假新闻网站，利用Claude制作和重新改写政治内容，这些内容被70个X假帐号，和包括逾250个非真实评论的X帐号进一步扩散放大，他们散布逾8000篇文章，横跨20种语言。 Anthropic已经加以移除。 根据Anthropic分析，这个法国的消息操弄者利用Claude做两件事，为假新闻网站撰写文章，并改写真实记者的文章。 AI会把真实新闻加入特定政治立场，依据想要以吸引的国内特定大众和政治角度来调整内容。

杜奕瑾分析，这种手法就是sponge fraud，消息操弄者把真实新闻加入假的内容，或者采取阴谋论手法，有真有假，不容易进行事实查核，让大众难以分辨。 以法国暴动事件为例，Taiwan AI Labs 发现网络上有69个X帐号彼此把法国暴动消息不断放大，让大众以为很多帐号在报导法国暴动了，但事实上都是同一群人不断扩散相同内容，而且把教育资源不足问题转移到移民和治安问题。 从法国暴动到欧洲大乱，消息操弄者目的是越乱越好 从法国暴动到欧洲大乱，消息操弄者目的是越乱越好。 杜奕瑾分析，先前台湾曾发生卫生纸之乱，后来日本、澳洲、美国也接连发生卫生纸之乱。 独裁国家官媒一开始攻击法国，这个操作手法一旦成功了，接着可能是英国、比利时、美国等。

面对来自四面八方真真假假的消息，大众如何避免被假消息操弄与误导？ Taiwan AI Labs研发新闻app称为Miin，通过AI立即分析该则新闻是否有协同操作（CIB）痕迹并发出警告，以AI对抗AI。 进入AI时代，有心人操弄消息的门槛降低，通过生成式AI可以瞬间生成数百个假新闻网站、制造无数假记者、假帐号，把真实新闻加入假消息或特定政治立场，企图以假乱真、混淆视听，在大选期间或社会动荡期间扩散假消息，激化对立与冲突，AI手法越来越高明，如何避免被操纵，的确是个严肃的议题。 从法国暴动到欧洲大乱，提供了惨痛教训。 ＊作者为资深媒体人。