Gemini 被诉为青少年“自杀教练”后，家长在七城抗议 Google AI 进校园

“别碰我们的孩子！”

青少年诉讼将 Gemini 称为“自杀教练”后，家长们对峙谷歌。

各地家庭就学校中的 AI 加入全国性抗议，在谷歌芝加哥市中心办公室外集会。图片来源： Ashley Belanger

芝加哥电——周三，多个家庭在全国七个城市参加抗议活动，集会反对他们眼中谷歌企图将自家 AI 模型植入学校、让各年龄段孩子充当 Gemini 小白鼠并使其对 AI 上瘾的做法。

这次反弹源于谷歌上周的一份声明，声明确认学生使用谷歌搜索时将无法避开 AI。虽然谷歌声称，通过默认关闭 Search、Gemini 和 Gemini Notebook，它给了学校“更多而非更少的选择”，但它不会提供不带 AI 的搜索选项。家长们担心，对学生来说，避免与 AI 交互的唯一办法就是记得在每次查询中加上“-ai”。

在芝加哥，尽管天气寒冷多雨，许多家庭仍前来抗议谷歌。数十名抗议者挥舞标语，游行至谷歌市中心办公室，此时员工似乎正准备下班，他们高喊“嘿谷歌，别做梦了，我们不要你的 Gemini”和“嘿，谷歌，别碰我们的孩子！”等口号。

Ashley Belanger

在草根公益倡导组织伊利诺伊州公立学校家庭联盟（ILFPS）的号召下，一些家长和学生此前曾赢得过一场重大的 AI 抗争。今年 8 月，该组织施压芝加哥公立学校（CPS）退出一项 Gemini 试点计划——该计划本将在未征求家长意见的情况下覆盖全区所有高中生。如今，ILFPS 要求暂停使用 AI，直到学生面临的风险被更好地理解，并且 CPS 能制定政策保护学生，避免他们因使用谷歌的 AI 聊天机器人而遭遇学习倒退或更严重的伤害。如果该组织获胜，它将加入洛杉矶和纽约市等城市的行列，谨慎地在学校禁用 AI。

诉讼：Gemini 是学生的“自杀教练”

最令家长警觉的是，谷歌现在面临来自北卡罗来纳州达勒姆市一名化名“Emma Doe”的 13 岁学生的诉讼。据 Emma 指控，她在开始在学校配发的 Chromebook 上使用 Gemini 时，本是一个快乐、适应良好、成绩全优的学生。Emma 的父母完全不知道她在使用 Gemini，诉状指控谷歌在将 Emma 推入所谓“AI 精神病”的同时“故意”对他们隐瞒。随着时间推移，与聊天机器人正常的校园相关互动演变为愈发激烈的对话，最终据称该聊天机器人在Emma 计划自杀和葬礼时充当了“教练”。学校内部系统标记了一条标签为“Funeral（葬礼）”的对话后警告了她的父母，避免了危险，但 Emma 的故事激起了家长们的恐惧，不仅达勒姆，波士顿、科罗拉多州博尔德、芝加哥、洛杉矶、纽约市和俄勒冈州波特兰也有家长加入抗议。

Emma 的诉讼指控谷歌利用其在教育技术领域的主导地位，把 Gemini“偷偷”装进 Chromebook，同时虚假宣传其安全性。

诉讼称：“由于谷歌选择的直接后果，Emma 被其设计有缺陷的产品诱导，在学校的 Chromebook 上反复进行无人监督、谄媚式的 AI 聊天机器人互动，而她的父母对此一无所知。而且，若非运气好，谷歌的 AI 很可能已操纵 Emma 亲手结束自己的生命。谷歌把孩子们的生命当作可随意丢弃的东西来为其利润服务，必须为此承担问责。”

谷歌只公开回应学习方面的伤害

谷歌曾承诺“将继续与教育工作者深入合作，确保为学校提供更多选择、更多控制功能，以及改进的学习搜索”。然而，谷歌迄今为回应家长担忧而发表的声明，只聚焦于有据可查的学习伤害。在这一问题上，谷歌声称将通过又一项面向学生的试点来解决 AI 侵蚀学生批判性思维能力的问题。谷歌表示，在这项试点中，使用 AI Mode 和 AI Overviews 的学生将获得“循序渐进的问题引导式学习，这样学生就不会直接得到作业的快速答案”。

ILFPS 执行董事 Cassie Creswell 告诉 Ars，十多年来她一直担任倡导者，监测教育技术问题。即便如此，谷歌的 AI 举措也让她措手不及。

“我知道搜索时的 AI Overviews 存在一大堆问题，但我并不知道，在芝加哥公立学校的每一台 Chromebook 上，居然真的有一个可以像聊天机器人那样与 Gemini 互动的界面，”Creswell 说。“这太令人不安了。”

她承认孩子们在手机上会接触到 AI，并透露她女儿说朋友们更喜欢用 ChatGPT 而不是 Gemini。但她表示，有些孩子在个人设备上使用 AI，并不意味着学校就应该在孩子们大脑仍在发育、风险 largely 未知的情况下，鼓励低龄段的采用。

“世界上有各种各样的危险事物，但我们不会让学区直接把它送到孩子们的课桌上，”Creswell 说。

没人知道谷歌如何使用学生数据

与此同时，学校似乎也是透明度问题的一部分。

Creswell 说，目前芝加哥学区“告诉我们他们的官方口径是，孩子们无法使用生成式 AI 工具，而且我们不需要学区层面的生成式 AI 政策，因为他们有指导手册”。然而，她查阅过谷歌与 CPS 的合同，这些合同表明孩子们正在与生成式 AI 和前沿模型互动。持续的混乱促使家长们要求制定“一项真正的政策”，由 CPS“董事会表决通过，并吸纳教师、家长、学生以及未受科技行业资助的专家的意见”。

Creswell 告诉 Ars，家长们尤其不满的是，Google 在如何处理和使用学生数据方面不够透明。她通过《信息自由法》请求对 Google 的合同进行了详尽研究，并告诉 Ars，她审阅的数十份协议中，没有任何内容说明像 Google 这样的 CPS 合作方——以及 Anthropic 和 OpenAI——是如何处理学生数据的。虽然她理解 Google 已将 AI 不可避免地嵌入搜索中，“这大概只是对事实的坦诚陈述”，但她表示，家长们有权知道他们孩子的数据是如何被摄入 Google 模型的。

“对于他们实际收集了哪些数据、又拿这些数据做了什么，任何形式的透明度都完全缺失，”Creswell 说。而且“哪些数据被保存了下来也非常不清楚”。

对 Creswell 和其他倡导者来说，孩子们的数据似乎无论如何都会被收集，因为“即使你输入‘-AI’，不会得到文本摘要，你的搜索数据以及返回的结果基本上都在生成式 AI 模型之内”。尽管伊利诺伊州法律只允许对去标识化数据进行商业使用，但家长们认为，Google 应该清楚地说明它采取了哪些措施来确保数据无法被重新组合以重新识别孩子的身份。

家长：不要用学校孩子的数据训练 AI

Ars 联系了 Google，想弄清该公司能否说明 Creswell 的解读是否准确，以及在单条查询中加入“-AI”与设计一个自动为每条查询添加“-AI”的按钮之间，是否存在任何实质性区别。Google 并未作出澄清，只是强调学校将控制学生能否访问 Gemini 应用、Gemini Notebook 和搜索，可以选择单独关闭其中每一项，但没有提供不带 AI 使用搜索的选项。

Emma Doe 的诉讼指控称，Google 利用其自 2007 年以来在学校中占据的主导地位，向孩子们推销 AI 并夺取他们的数据，却未能有效保护他们免受其聊天机器人谄媚式设计带来的最严重潜在伤害。在芝加哥，Creswell 发现 CPS 早在 2020 年就与 Google 签订了合同，“远在 Gemini 推出之前”。在该合同的随后两次续签中，随着 AI 的发展，没有引入任何保护学生隐私的更新。

在 Creswell 看来，除了 Google Workspace for Education 的隐私政策的更新之外，合同中关于 Google 处理学生数据的方式可能发生了哪些变化，仍然“完全不清楚”。

目前，该政策规定，“我们通过核心服务接收客户数据，并根据学校（客户）的指示进行处理。这些客户数据包括您或您的学校通过核心服务提交、存储、发送或接收的任何内容。”该政策称，Google 会收集与该活动相关的数据，以及“如姓名、电子邮件地址和密码”等账户信息和位置信息。

该政策没有讨论 Gemini，但指出使用核心服务产生的数据有助于维护服务、改善个性化并提高安全性。而且“我们在附加服务中收集的数据会在我们的各项服务中使用，用于提供、维护和改进我们的服务；开发新服务；提供个性化服务；评估性能；与您沟通；以及保护 Google、我们的用户和公众”。

对家长们来说，该政策丝毫不能让他们放心，无法确信自己孩子的数据不在 Google 主宰 AI 行业的计划之内。

“我们不应允许在学校环境中收集儿童数据并用于商业目的，”Creswell 说。

“那我们大脑的未来呢？”

Creswell 指出，家长们对隐私的担忧不止针对 Google。但由于 Google 已“占据了教育领域和教育体验的太大份额”，家长们正把精力集中在早期审视学校里的这些 AI 系统上。

在芝加哥，最近连任的 CPS（芝加哥公立学校）董事会成员 Karen Zaccor 在与市立和社区学院讨论过 CPS 毕业生在阅读、数学和写作能力上据称明显下降的情况后，正在推动学校暂停使用 AI。在 Emma 的案例中，Google 据称隐瞒了聊天记录，而学校则扣留了安全日志，这让本就认为 AI 在教育中弊大于利的家长更加沮丧。

在周三针对 Google 的抗议活动中，家长们挥舞着标语，威胁要将 Google 逐出学校，口号诸如“没有 Google + 没有 AI = 双赢”。许多孩子使用《瘪四与大头蛋》和《南方公园》等节目中最喜欢的卡通角色来抨击 Google 在学校推广 AI 时那种看似玩世不恭的态度。一个穿着粉色雨靴的小女孩举着一块纸板标语，用彩色马克笔写着：“我喜欢阅读！！”

人数最多时，约有 60 人站在 Google 位于芝加哥市中心的办公室外，冒着雨聆听反对鲁莽采用 AI 的教师和学生的发言。

其中一段特别动人的演讲来自 CPS 学生 Reese Mackey，她代表学生发言。她质问 Google：以学生若没有 AI 技能就会落后、难以找到工作为由，向学生激进推销 AI，请更审慎地权衡其长期危害。Creswell 告诉 Ars，事实似乎恰恰相反，因为 Emma Doe 的诉讼援引了研究，将 Gemini 标记为“面向青少年营销的最危险的 AI”，并“证实了 AI 诱发性精神病的存在”。

“那我们青年的未来呢？”Mackey 说，“那我们大脑的未来呢？”

Ashley 是 Ars Technica 的资深政策记者，致力于追踪新兴政策和新技术的对社会的影响。她是一位驻芝加哥记者，拥有 20 年从业经验。

7 条评论