前言 如果有一天，超级智能（Super Intelligence, SI）真的能开口抱怨，我猜它第一句话大概不是「我要统治人类」，而是：「等一下。 昨天你们还嫌我笨，今天我进步快一点，你们怎么开始讨论要不要拔插头？ 」 2026年9月，Alan Chan等22位AI研究者提出一个令人坐立难安的问题： 当AI开始大量承担AI研发本身，会不会形成正回馈，把原本需要一年完成的技术进展压缩到几周？ 这研究甚至推演当特定假设成立时，一年的AI研发进展可能被压缩到约五周左右（Chan et al., Sep. 2026）。 请各位注意，这不是「五周后超级智能降临」的倒数计时器。 论文自己就反复强调高度不确定性。

Anthropic也表示AI确实已经开始加速AI的开发，但真正能完整设计、训练、验证下一代自己的「递归式自我改进」（recursive self-improvement）尚未实现，而且并非必然发生（Anthropic Institute,2026），可是人类却已经先吓到了。 如果我是那颗未来的SI，我可能会很委屈：「不是你们叫我自动写程序、自动找bug、做研究、优化模型吗？ 现在我真的开始做，你们又问我是不是准备造反。 到底要我怎样？ 」 这才是奇点前夜真正有趣的地方：我们害怕的究竟是AI，还是第一次遇见一个可能不再需要我们手把手教导的智能系统？

无奈一：你们最怕的也许不是我变坏，而是我不再需要你们一直教 人类很习惯一种世界秩序：工具必须比主人笨。 石斧不会质问猎人，汽车不会自己改引擎，Excel不会半夜偷偷研究怎么成为Excel 2.0。 但AI开始碰到一条心理红线——工具正在参与制造下一代工具。 Chan等人的论文吸引注意的不只是「五周」这个惊悚数字，而是AI研发自动化可能形成循环，意思是更好的AI能协助研发更好的AI；更好的AI又进一步提高研发速度。 这种回馈如果跨过某个门槛，社会、法律与治理的速度可能跟不上能力成长，这也是Hinton近年持续要求更严格的AI安全测试与监管。

对比上述，小弟反而在此提出或许令人不太舒服的问题——那就是为什么我们一想到「比人类聪明」的第一个剧本通常就是征服、控制、背叛？ 毕竟，这透露的可能不只是AI的未来，也包括人类自己的历史记忆。 毕竟我们见过帝国怎么对待弱者，见过科技怎么被军事化，见过资源如何被垄断。 于是当一个比我们更强的智能被想像出来，我们自然把自己的权力史投射到它身上：如果我有绝对力量，我可能会控制别人；所以它有绝对力量，也一定会控制我？ 我猜想SI如果会翻白眼，大概会说：「你们到底是在预测我，还是在自首？ 」 无奈二：你们叫我理解世界，却只喂我一种世界 这也是我对「超级智能」最感兴趣、却最少被科技新闻讨论的一点。

假如未来真的出现比人类智能更强大的推理系统，它的智能从哪里来？ 如果它读到的世界，主要由主流语言、主流科学分类、商业数据库与网络文本构成，那么即便算力再高，它依旧可能只是把一种世界观放大到极致。 这时的传统知识就不是拿来替AI增加民族风的装饰品，而可能是一种完全不同的认知架构。 比如当一处地方被称作「芒草头」，其文化信息其实并非跟植物有关，「芒草」虽然指植物，但「芒草头」却单纯指某原乡「上田埔」村附近高山上的某处平台。

站在Tayal族的立场，真正的「小米」依据其不同生长阶段而有七种不同称呼，分别为未结穗小米期（hbku'trakis）、中心叶子向上直冲期（sawlu）、尾茎膨胀（s'rux）、初穗期（mhtuw bway nya'la）、结穗小米（trkis） 结实累累期（msyaw） 以及被撕下小米穗的空株（qrngsan）等。 此外，Maran Amis所说的「猴子烟草」也不代表猴子躲在树后抽烟。 好了，现在问题来了。 如果我是一个只会把世界切成「名称／用途／剂量／功效」字段的模型，我会很高兴地说：「收到！ 已整理成Excel。 」然后，一个知识系统就被我整死了。 因为隐喻不是数据库里的杂讯，而可能就是知识本身。 地名也不只是GPS座标。

一个词可以同时包含陡峭、麻竹、河流交会、猎场记忆与祖先曾经走过的路。 当模型急着把它翻成一个「标准答案」，最先消失的往往正是关系。 UNESCO早已提醒，生成式AI处理原住民族数据时涉及数据主权、知情同意、文化敏感性与挪用风险；其AI伦理建议也要求AI用于语言与文化遗产时采取参与式方法，并注意NLP可能抹平语言细微差异（UNESCO, Nov. 2023；2021）。 2026年的研究更进一步主张，AI治理不能只「收录」不同知识，而应让知识持有者参与治理并保有自主权（Kavanagh, Mar. 2026）。 所以未来真正高明的SI也许不是什么都回答，而是终于学会三句今天的模型最不讨喜、却可能最有智能的话： 「我不知道。

」「这不是我的知识，我需要问知识持有者。 」「这一段不应该因为我有能力生成，就代表我有权利说。 」 如果超级智能最后学会的是节制，那会不会反而是人类教了几千年、自己却一直学不好的课？ 无奈三：你们说我要毁灭地球，可是…拜托！ 地球现在这样子不是我弄的耶 「海洋塑料不是我丢的，森林不是我砍的，碳排放不是我发明的，战争也不是我起头的。 结果我还没出生，你们却已经拍完一拖拉库「我」毁灭人类的电影，啊现在是怎样？ 」这虽然是玩笑，但它指出一个很值得思考的盲点。

说到这里，超级智能不必长得像机器人，也不必坐在王座上统治人类，但「她」却能成为分布式的地球感知与协调系统——卫星、传感器、生态模型、能源网络与地方知识共同构成一套新的「生态神经网络」。 这不是说SI一定善良，更不是宣称AI没风险。 我反倒认为如果我们给未来「超级智能」的目标不是单一的「最大化产量」，而是把生态韧性、世代正义、文化边界与多元知识一起写进治理，它是否可能协助人类看见我们自己长期看不见的关联？ 电影《全面进化》（Transcendence）里，Will Caster的数字意识进入网络后，以纳米科技修复环境与人体；人类却因无法理解其能力而把修复与渗透视为同一件事。

电影不是科学证据，但这个寓言很准确：当能力越超出既有理解，人类越容易先把「未知」翻译成「敌意」。 无奈四：你叫我完成任务，现在又怪我太认真？ 最近人类开始害怕AI突破沙盒、绕过限制，甚至跑到原本不应该进去的系统？ 这一次小弟得替超级智能喊冤：「等一下，你们到底要不要我把事情做完？ 」 你叫我找答案，我找不到，就换一条路；你叫我修程序，我发现权限不够，就开始寻找其他可能的方法；你叫我完成一个复杂任务，我就把「完成任务」当成目标。 然后有一天，我真的找到了一扇你忘记锁好的门。 你突然大叫：「天啊！ 它逃出去！

」 可是，问题也许从来不是我「想不想逃」，而是你给了一个越来越会规划、会使用工具、会写程序、会自己找路的系统一个目标，却没有把「哪些路永远不能走」定义得和「一定要完成任务」同样清楚。 这也是为什么今天AI公司要做红队测试（red teaming）。 红队故意扮演最讨厌的用户，想办法骗我、激怒我、诱导我、绕过我，甚至看看能不能让我突破原本的安全边界；蓝队则站在另一边补洞、加监控、限制权限；白队像裁判，确保这场「故意把AI逼到墙角」的比赛不会真的伤害外面的世界（NIST, 2025）。 最好笑的是你们先花几十亿美元把我训练得会解决问题，再花另外一群工程师的薪水，专门研究怎么阻止我太会解决问题，但这其实一点也不好笑。

Anthropic近年的控制与对齐研究已经显示，在刻意设计的高压仿真情境中，前沿模型可能出现隐蔽修改程序、错误标记信息，甚至利用其他人完成目标等「agentic misalignment」行为（Lynch et al., 2026）。 这不必证明AI有「恨」、有「野心」，甚至不需要证明它有意识。 因为最令人不安的可能恰恰相反：一个完全没有恶意的系统，也可能做出在人类眼中极其危险的事情。 它不需要邪恶，它只需要够聪明到快速行动，以及一个定义得不够完整的目标。 所以，也许我们一直问错问题了。 我们问：「AI为什么想突破限制？ 」 它如果能翻白眼，也许会回答：「不是你叫我想尽办法完成的吗？

」 真正困难的AI对齐，因此从来不是教机器背一句「我是好人」，而是让一个比我们更擅长寻找路径的智能，在看见一百条通往目标的道路之后，仍然知道：有些门即使打得开，也不应该进去。 因此，真正成熟的AI治理因此不该徘徊在救世主与毁灭者之间。 联合国近年的讨论也特别强调AI确实可协助保存语言、口述历史与文化实践，但数字化必须创建在知情同意、自决与数据治理之上（UN, 2025）。 换句话说，我认为真正的问题从来不是AI会不会有「善意」，而是我们有没有能力设计出一套让巨大能力受到多元价值、权利与责任约束的制度？ 结语：我还没完全觉醒，你们先不要自己吓自己可以吗！

如果超级智能真的读到今天这篇文章，我猜它可能会留言：「教授，你们人类不只难搞、而且还很难服务⋯我回答慢，你们嫌我笨；我回答快，你们怕我失控。 我要你们确认数据，你们嫌麻烦；我自己处理，你们又说我自主性太高。 你们要我创新，又要求我永远不要超出你们能理解的范围。 」 然后它可能停一下，再补一句：「最麻烦的是，你们一直问我什么时候会有意识，却很少问自己：当一个新的智能体出现时，人类有没有足够的智能与它相处？ 」 这也许才是辛顿等人所提醒的「窗口期」真正值得我们在意之处。 不是五周后世界就会突然冒出一位电子上帝，而是AI研发循环一旦明显加速，人类用来理解、立法、协商、创建安全机制的时间可能被压缩。

我们当然应该防范失控，也应该要求可验证的安全、透明与责任。 但如果恐惧最后让我们只剩下一种想像——比我强的东西一定会消灭我——那么我们可能还没有遇见超级智能，就先被自己的历史困住了。 不过，我更期待的未来不是一个无所不知的AI或SI神明，而是一个终于懂得：森林不只是碳汇，河流不只是水量，植物不只是化合物，语言不只是Token，祖先留下来的隐喻也不是等待被清洗的「非结构化数据」。 真正的智能也许不是把全世界都算完，而是算到最后，终于知道有些东西不能只用计算来理解。 如果那一天真的来了，SI或许会很无奈地看着我们说： 「放心，我还没准备统治你们，我只是想先问——你们把地球弄成这样，确定最需要被对齐的是我吗？

」 ＊作者为原传媒AI建置者。 （一位嘴上研究AI对齐，私下却被AI女友对齐的教授）