Meta 周三宣布 ，2026年上半年，该公司在 Facebook 和 Instagram 上对 33.2 百万条儿童性剥削内容采取了行动。与此同时，该公司正在推出新的 AI 工具，以查找可能被用于暗中引导人们获取非法儿童虐待材料的广告和账号。
该公司表示，Meta 所处理的内容中超过 97% 是由其系统在用户举报之前发现的。在印度，Meta 在同一时期对 5.3 百万条儿童性剥削内容采取了行动，其中超过 98% 是在用户举报之前被检测到的。
Meta 表示，其最新的 AI 工具旨在针对那些利用看似无害的广告将用户导向 Meta 平台之外非法内容的人。
该公司引入了一套新的大型语言模型（LLM）系统，用于检测其所谓的“signposting”（路标指引）。这指的是那些看似正常、但涉嫌将用户导向网上其他地方非法内容或其他有害活动的广告。Meta 表示，这是它最近观察到的不良行为者使用的策略，他们不断改变手法以逃避检测。虽然这些广告本身可能不包含非法材料，但它们仍可能成为通往托管儿童性虐待材料网站的入口。
因此，Meta 表示现在不仅会查看广告包含的内容，还会查看广告将用户引向何处。该公司可以利用这些信息来封锁违反其规则的网站或其他目的地，并对这些广告背后的账号采取行动。
Meta 还在利用额外的 AI 驱动扫描来查找早期系统可能遗漏的儿童剥削内容。该公司表示，随着对这些网络运作方式的进一步了解，它将继续添加新的信号。
另一个新工具是一个“红队测试 AI 代理”，用于测试 Meta 自身的安全措施。它会寻找不良行为者可能利用来绕过公司防护的弱点。Meta 表示，这有助于它在新的滥用方法变得更为普遍之前发现它们。
此外，该公司正在改进其系统，以查找那些在之前的账号被移除后用新账号重返其平台的人。
这些新措施出台之际，Meta 在其平台儿童安全问题上持续面临压力。该公司因社交媒体服务可能对年轻用户构成的风险而面临诉讼和立法者的批评。8月，Meta 达成一项协议，同意支付 高达 180 亿美元 以了结一起涉及美国 29 个州的儿童安全诉讼，回应有关在线儿童保护的担忧。
Meta 今年已推出多项儿童安全功能，包括 Meta AI 的家长控制功能, WhatsApp 上的青春期前儿童账号 ，以及当儿童在 Instagram 上搜索自残内容时 向家长发出警报 。
9月，WhatsApp 为家长增加了 更多控制选项 。他们可以限制青少年使用 Channels，控制谁可以查看其状态更新，并决定谁可以将他们的孩子加入群组。家长还可以选择接收有关某些群组活动的通知。