Meta 推出 AI 工具检测暗中引流至儿童性虐待内容的广告

Meta 于周三宣布，2026 年上半年其在 Facebook 和 Instagram 上对 3320 万条儿童性剥削内容采取了处置措施。 与此同时，该公司正在推出新的 AI 工具，用于查找可能被暗中用来引导用户访问非法儿童虐待材料的广告和账户。

该公司表示，Meta 所处置的内容中有超过 97% 是其系统在用户举报之前发现的。在同一时期，Meta 在印度对 530 万条儿童性剥削内容采取了措施，其中超过 98% 在用户举报之前就被检测到。

Meta 表示，其最新的 AI 工具旨在针对那些使用看似无害的广告，将用户引导至 Meta 平台之外非法内容的人。

该公司引入了一套新的大语言模型（LLM）系统，用于检测其所谓的“路标”行为。这指的是那些看似正常、但涉嫌将用户引导至其他地方的非法内容或其他有害活动的广告。Meta 称，这是其近期观察到不良行为者在不断变换手法以逃避检测时所使用的一种策略。这类广告本身可能不含非法内容，但仍可能成为通往托管儿童性虐待材料网站的入口。

正因如此，Meta 表示它现在不仅关注广告本身的内容，还会关注广告将用户引导至何处。公司可以利用这些信息封锁违反其规则的网站或其他目的地，并对背后的账户采取行动。

Meta 还在使用额外的 AI 驱动扫描，以查找早期系统可能漏掉的儿童剥削内容。该公司表示，随着对这些网络运作方式的进一步了解，它将继续加入新的信号。

另一项新工具是一个“红队测试 AI 智能体”，用于测试 Meta 自身的安全措施。它会寻找不良行为者可能利用来绕过公司防护的弱点。Meta 表示，这有助于在新的滥用方法变得普遍之前将其发现。

此外，该公司正在改进其系统，以找出那些在之前的账户被删除后使用新账户重返其平台的人。

这些新措施出台之际，Meta 在平台儿童安全问题上持续面临压力。该公司因其社交媒体服务可能对年轻用户构成的风险而面临诉讼和立法者的批评。今年 8 月，Meta 达成协议，同意支付最高 180 亿美元，以了结涉及美国 29 个州的儿童安全诉讼，回应有关儿童在线保护的担忧。

Meta 今年已推出多项儿童安全功能，包括 Meta AI 的家长控制、WhatsApp 上的 儿童账户，以及当孩子在 Instagram 上搜索自残内容时向家长发出的提醒。

今年 9 月，WhatsApp 为家长添加了更多控制选项。家长可以限制青少年使用频道的方式，控制谁可以查看他们的状态更新，并决定谁可以把孩子拉入群组。家长还可以选择接收有关某些群组活动的通知。

当你通过我们文章中的链接进行购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。

Lauren 在 TechCrunch 负责报道媒体、流媒体、应用和平台方面的新闻。

你可以通过发送电子邮件至 [email protected]，或通过 Signal 加密消息联系 laurenforris22.25 来联系 Lauren 或核实其外联信息。

查看简介