评论：AI 安全只盯灾难性事件，忽视了日常性伤害

看看科技政策领域里什么才算成功：一家 AI 公司承诺其聊天机器人不会鼓励自杀；一个社交媒体平台让儿童更难购买芬太尼。这些是重要的保护措施，而且本应从一开始就存在。但企业在跨过这些低门槛的同时，仍可以继续制造让年轻人依赖模拟友谊、或困在旨在让他们不断刷屏的信息流中的产品。

长期以来，我们任由关于科技的辩论被一款产品可能造成的最坏后果所定义，而对其每天造成的潜在损害却几乎没有讨论。在我们迈入一个由强大 AI 产品定义的时代之际，我们应当要求科技行业不仅仅应对灾难性伤害。我们应采取措施，确保其产品不会侵蚀我们的思考、学习以及彼此交往的方式。

 一个对 AI 伴侣产生不健康依恋的青少年，除非在极端恶劣的案例中，可能永远不会出现在诉讼或新闻报道里。同样不会出现的，还有那些开始依赖聊天机器人代写每一篇论文的学生，以及那些以 engineered 来激发嫉妒、让他们持续观看的社交媒体信息流来衡量自己人生的年轻人。一款产品可以满足所有狭窄的安全要求，却仍以不常登上头条的方式，让我们的整个文化变得更糟。

围绕安全来定义的狭义成功标准，在政治上对科技行业十分便利，企业也在积极推广这样的定义。采取措施防止耸人听闻的灾难对生意有好处：这意味着更少的诉讼和更小的严肃监管压力。而正视依赖带来的日常后果，则需要付出对其利润底线威胁大得多的代价。这可能意味着要求企业为其产品增加更多摩擦，或主动限制参与度，或限制那些导致负面结果的功能，例如令人上瘾的注意力劫持算法。

科技巨头们反而在努力推动围绕他们已经面临直接压力去解决的危害来制定立法。例如今年，谷歌在多个州支持了监管 AI 聊天机器人的法案。这些立法规定了对性内容和自残宣扬的基本保护——这些本是科技公司无论如何都应建立的——但法案中包含大量豁免条款，可能使一些最受欢迎的服务免于约束。通过这些法案让立法者得以宣称在安全上取得了胜利，而推动更强有力立法的努力——旨在防止儿童对 AI 产生情感依赖的法律——却以失败告终。这套策略在内布拉斯加州等州奏效，催生了深受行业影响的立法，而那些更能追究企业责任的法案则被牺牲。

我们曾在社交媒体上经历过类似的一幕。如今，全球互联网用户平均每天在社交媒体平台上花费 超过两小时——这些时间被悄悄地从日常生活中夺走，交给了那些靠留住我们获利的企业。除了少数科技公司 CEO 之外，没有人希望这些算法占据我们清醒时间的如此大一部分，而它们的文化工程甚至可能在毁灭性的规模上助长暴力。Meta 的平台曾被指与 缅甸罗兴亚族种族灭绝、斯里兰卡反穆斯林骚乱 以及 埃塞俄比亚提格雷战争 期间涉嫌煽动暴力的言论有关。同样的激励机制，也在那些塑造美国年轻人对政治、同龄人和更广阔世界认知的信息流中发挥作用。

AI 正在把这种逻辑延伸到社交媒体此前只能远远施加影响的那些生活领域。它主动替我们书写思想，代替我们本可以求助的那些人。如今有 三分之一的青少年 选择与 AI 伴侣讨论严肃话题，而不是与其他人交流。MIT 研究人员 发现，使用 ChatGPT 写文章的年轻人在完成任务时大脑连接较弱，且证据表明，即使任务完成后，“认知负债”依然存在。关于长期影响，我们仍有很多需要了解。但我们已经有理由追问：那些打着让我们更有能力旗号的技术，是否正在侵蚀帮助我们培养能力的习惯与人际关系。

把这种思路推向逻辑终点，你将得到一个被彻底净化的娱乐世界，聊天机器人随时准备替我们免除思考的困难，或应对他人情绪（甚至我们自己情绪）的负担。但任何曾努力写出值得一读的文字、或修复一段破裂友谊的人，都知道这种交易会失去多少东西。我们通过努力与摩擦建立判断力，并通过直面他人拥有自己的需求和观点这一事实，学会与他人共同生活。 

是的，我们应当把安全作为最低要求——然后要求更多。科技公司和学区必须无合理怀疑地证明 AI 能改善学习与批判性思维，才能让它成为课堂上的固定工具。应禁止公司设计假装有意识或向用户表白爱意的伴侣产品，并应对其系统如何影响人际关系和人们的独立思考能力进行独立审查。那些已把产品植入现代生活几乎每个角落的公司，理应承担远不止避免下一则可怕头条的义务。

Sam Hiner 是 Young People’s Alliance 的联合创始人兼执行主任，2026 年他在该组织协调了一个倡导者联盟，在八个州推动通过监管 AI 伴侣的法律——例如加利福尼亚州的 SB1119。Sam 于 2025 年毕业于北卡罗来纳大学教堂山分校，并入选 2026 年 Forbes 30 Under 30 社会影响力榜单。

Emma Leiken 是 Hopelab 旗下负责任技术青年力量基金的执行总监，该基金已为青年主导的技术问责工作筹集超过 900 万美元，她还在哥伦比亚大学国际与公共事务学院教授技术政策。她此前曾担任 TikTok 全球青年安全与身心健康政策负责人，并在 Omidyar Network 从事负责任技术方面的工作。