在英格兰足球队的三名黑人球员因欧洲杯决赛失利而遭受大规模网络种族攻击后，Facebook于近日公布了其应对此类仇恨言论的最新措施。这场发生在社交媒体上的风暴，再次将科技巨头推至舆论中心。
事件发生后，大量用户通过表情符号等隐蔽方式进行种族侮辱，而Instagram的自动监测系统最初未能识别这些恶意内容。Instagram负责人亚当·莫塞里公开承认系统存在误判：“我们的技术本应优先处理相关举报，但错误地将部分恶意评论标记为无害内容。”
Facebook在官方声明中表示：“我们对英格兰球员遭受的可憎种族歧视感到震惊。多年来我们一直将此作为重点问题处理，并与足球组织和执法部门保持合作。”公司强调，基于种族、宗教、国籍等受保护特征的攻击行为违反社区准则，一经发现立即删除。
技术与人力的双重防线
Facebook采用人工智能与人工审核相结合的方式识别仇恨言论。数据显示，2021年第一季度，Facebook主动删除了超过2500万条仇恨内容，其中97%在用户举报前已被处理；Instagram则处理了630万条内容，93%为系统主动发现。
然而莫塞里指出规模带来的挑战：“我们每天处理数百万条举报，即使错误率只有1%，也意味着数万起误判。”他坦言平台需要持续改进，但完全杜绝错误并不现实。
历史问题与系统升级
这并非Facebook首次面临此类危机。今年二月，曼联、切尔西等多家足球俱乐部曾联合谴责Instagram上针对球员的种族攻击，促使平台加强对私信功能的管控，并允许用户关闭非关注者的私信权限。
针对本次事件，Facebook表示已迅速更新系统：“当用户举报含有特定表情的仇恨评论却被告知未违规时，他们的沮丧是合理的。这是因为AI未能理解语境——这是个错误。我们已通过技术改进快速纠正此问题。”
身份验证的困境
关于通过严格身份验证遏制网络暴力的建议，Facebook提出了不同看法：“身份验证可能排除无法便捷获取官方证件的弱势群体。英国选举委员会最新模型显示，约1100万人没有驾照或护照，这些人往往来自弱势背景。”
随着自动化系统不断发展，Facebook承诺将继续完善工具，努力为所有用户维护安全的网络环境。但平台也承认，在如此庞大的规模下，即使很小的误差空间也可能造成巨大影响。
