在近期关于人工智能影响的概述中，Meta首席执行官马克·扎克伯格透露，公司正越来越多地依赖AI系统来处理内部开发与管理的各个环节，包括代码编写、广告定向、风险评估等。这一趋势可能很快达到新的高度——据报道，Meta计划让AI承担Facebook和Instagram平台上高达90%的风险评估工作，涵盖所有产品开发和规则变更。
据美国国家公共电台报道，过去Meta推出新功能时，主要由人工评审团队评估潜在风险：是否会侵犯用户隐私？是否对未成年人有害？是否会助长误导性或有害内容的传播？而根据获取的内部文件显示，这些被称为“隐私与完整性审查”的评估流程即将实现90%的自动化。
将保护用户免受网络互动负面影响的重大责任托付给机器，这似乎潜藏着风险。但Meta对其AI系统处理此类任务的能力充满信心，包括内容审核。上周发布的2025年第一季度透明度报告展示了相关成果。
今年早些时候，Meta宣布将调整对“较轻微”违规行为的处理策略，旨在减少执行错误和不当限制。在新策略下，当发现自动化系统错误率过高时，Meta会完全停用这些系统并进行优化。同时公司表示：“我们取消了大多数内容降权措施，并对剩余措施要求更高的违规置信度。我们正在调整系统，要求达到更高置信标准才会删除内容。”
本质上，Meta正在优化其自动检测系统，避免过早删除帖子。据称这项调整已初见成效，规则执行错误率降低了50%。
这看似积极，但错误减少也可能意味着更多违规内容正在应用中向用户展示。执行数据印证了这一点：第一季度，Facebook上霸凌和骚扰内容的自动检测量下降了12%，这意味着因策略调整，更多此类内容得以流通。
在图表上，12%的降幅似乎影响不大。但换算成具体数字，这意味着数百万违规帖子获得了更快的处理，同时也有数百万有害评论因策略变化而向用户显示。因此，实际影响可能非常显著。
Meta计划未来更依赖AI系统来理解和执行规则，以最大化这方面的效能。这能否奏效？目前尚未可知。这只是Meta整合AI评估和执行各项规则政策的其中一个方面，旨在更好地保护其数十亿用户。
扎克伯格还指出，“未来12到18个月内”，Meta大部分演进中的代码库将由AI编写。这在逻辑上是AI更合理的应用——通过消化海量数据复制代码，并根据逻辑匹配提供评估。
但当涉及规则政策和可能严重影响用户体验的决策时，依赖AI工具似乎风险更高。Meta回应称，产品风险评估变更仍将受人工监督，只有“低风险决策”会被自动化。即便如此，这仍揭示了AI未来可能的扩张方向——自动化系统正越来越多地主宰真实的人类体验。
这是更好的前进方向吗？或许最终会是如此。但考虑到潜在影响的规模，一旦出现错误，这似乎仍是巨大的冒险。
