关于「学校里的 AI」的讨论，通常只会选一个角度——要么是「这对孩子安全吗」，要么是「这项技术究竟由谁掌控」——然后就此打住。而在 UNESCO 2026 数字学习周上，来自魁北克 AI 研究院 Mila 的一场主旨演讲，却刻意把两者放进了同一句话里：教育中的 AI 安全，和主权。这个并列很值得拆开来看——因为对眼下正在为孩子挑选 AI 工具的家长来说，这两个概念其实彼此呼应。

这场演讲是谁做的，为什么值得关注

Mila 是世界顶尖的 AI 研究机构之一，总部位于蒙特利尔，与图灵奖得主 Yoshua Bengio 关系密切。它不是一个教育机构——而是一家前沿 AI 研究院，更常与「发表模型架构论文」联系在一起，而不是直接对学校政策发声。

由它的教育项目负责人 Shingai Manjengwa，在 UNESCO 这场全球规格最高的教育与技术旗舰活动上，发表题为「教育中的 AI 安全与主权」的主旨演讲，这件事本身就是一个值得留意的信号：研发和研究最前沿 AI 系统的人，如今认定 K-12 教育是他们专业知识可以直接介入的领域——而不仅仅是消费级 AI 顺带溢出的一个下游市场。

一场演讲，两个不同的问题

安全是更为人熟悉的一半。在教育语境下，它指的是保护孩子免受 AI 系统本身直接造成的伤害——以十足自信给出的错误答案、带有操纵性的设计模式、不适合孩子年龄的内容、或被草率处理的数据。这是大多数家长本能担心的那一半，也是 UNESCO 部长联合声明本身直接触及的那一半（见 学习者权利与 AI 安全：UNESCO 的原则）。

主权是相对陌生的那一半，某种意义上也是结构上更重要的一半。它问的是：您的孩子（或者说，您所在国家的学校系统）所依赖的 AI 系统，究竟由谁掌控？它是否可审计？如果出了问题，能否换成别的服务商？还是说，一个国家——乃至一个家庭——整个教育 AI 基础设施，完全依赖少数几家境外科技公司内部做出的决定，而没有任何有效的本地问责渠道？

这两者之间的联系，很容易被忽略。一个系统可以在狭义上是「安全」的——它今天没有说出任何有害内容——但在主权意义上却并不安全，因为除了开发它的公司之外，没有任何人能够验证这一点明天是否依然成立，也没有人知道它收集的数据最终去向何处，出了问题也没有任何追索途径。我们在 校园数字主权，简明解读 一文中，专门深入探讨了「主权」的这一半。

为什么一家研究机构会关心这个，而不只是政府

很容易想当然地认为「主权」纯粹是政府层面的议题——贸易政策、国家基础设施，属于部长联合声明而非家长的日常生活。但 Mila 的表述把这个概念下沉了一个层级：主权不只是「您的数据存在哪个国家的服务器上」。它是——无论政府、学校还是家长——是否有能力真正检视、质疑或退出一个自己所依赖的 AI 系统。

抛开地缘政治，这对正在评估一款 AI 家教产品的家长来说，其实是一个非常实用的框架：您能不能要求删除孩子的数据？如果这家公司改变了方向，会发生什么——对此有没有一个真实的答案？公司对于 AI 行为背后的推理——比如为什么始终不给出最终答案，或者遇到问题总会升级给真人处理——是您能够理解的，还是一个被要求盲目信任的黑箱？

对英国家长现在意味着什么

您并不是在某种抽象的政策意义上，在「安全」和「有主权」的 AI 系统之间做选择——您要做的，是一个具体得多的小决定：今晚，孩子该用哪一款产品。但 Mila 的框架给了您两个独立的问题，而不是一个：

  • 安全：这款产品是否直接保护我的孩子——避免以虚假自信陈述的错误信息，避免操纵性设计，避免不适龄的内容？
  • 主权：我是否真正理解并掌控孩子的数据和互动记录会发生什么，还是因为别无选择，只能信任一个黑箱？

这两个问题应该出现在同一份清单上。我们已经把「安全」这一半，写成了一份实用清单，见 AI 家教安全吗？一份基于 UNESCO 原则的自查清单——值得和本文一起阅读。

FAQ

Mila 是什么？它为什么会出现在一场 UNESCO 教育活动上？

Mila 是魁北克 AI 研究院，是世界顶尖的 AI 研究机构之一，总部位于蒙特利尔。其教育项目负责人 Shingai Manjengwa，在 UNESCO 2026 数字学习周上做了一场关于「教育中的 AI 安全与主权」的主旨演讲——这标志着前沿 AI 研究机构，而不仅仅是教育部门，如今也把自己视为 AI 进入课堂这件事的利益相关方。

在教育语境下，「AI 安全」指的是什么？

在教育领域，AI 安全通常指保护学习者免受 AI 系统本身直接造成的伤害——以十足自信给出的错误信息、操纵性或成瘾性的设计、不适龄的内容、或数据被滥用——而不是 AI 研究圈里有时使用的、更宏大意义上的「生存风险」。

对一所学校或一个国家来说，「AI 主权」意味着什么？

AI 主权意味着一个国家、一个机构、乃至一个家庭，对自己所依赖的 AI 系统保有实质性的掌控——是哪家公司开发的、数据流向何处、能否被审计或更换——而不是完全依赖少数几家没有本地问责机制的境外科技巨头。

延伸阅读

Duke Harewood 为了自己正读 KS3 的女儿创办了 aitutors.me。「主权」这个问题——我是否真的能看到并掌控孩子数据的去向——在我们有词汇形容它之前，就已经是我们在意的事。发布于 2026 年 9 月 11 日。