近期，关于美国可能封禁TikTok的讨论有所降温，但外界对于这款应用的担忧依然存在，特别是其可能被用于数据追踪和信息操纵的理论风险。本周，Meta（facebook）发布了最新的《对抗性威胁报告》，再次将这一议题推向台前。
报告显示，俄罗斯和伊朗仍然是协同操纵行为的主要来源地，而中国位列第三。仅在今年第三季度，Meta就关闭了近5000个与源自中国的操纵行为相关的Facebook账户。Meta指出，这些账户通常使用从互联网其他地方复制的头像和姓名，伪装成美国用户，在不同平台发布相同内容，试图影响围绕美中政策的讨论。
Meta进一步强调，2023年其拆除的来自中国的“协同不真实行为”网络数量超过其他任何地区，这反映出某些行为体试图渗透西方网络平台的趋势正在上升。这些操作的内容通常涉及中国在全球各地的利益，例如赞扬中国、为其在新疆和西藏的人权记录辩护、攻击全球范围内的中国政府批评者，以及发布关于中美在非洲和中亚战略竞争的内容。
无独有偶，谷歌也多次移除大量试图在YouTube上培养受众、进而传播亲华情绪的中国相关账户集群。其中规模最大的协同组织被称为“龙桥”，长期以来一直是其平台上操纵行为的主要源头之一。数据显示，仅2022年，谷歌就在YouTube、Blogger和AdSense上移除了超过5万例与该组织相关的活动。
这些活动凸显了TikTok可能面临的类似潜在威胁。鉴于其由中国公司所有，外界担忧它可能更直接地受到相关行为体的影响。这也是为什么TikTok已在许多地区的政府设备上被禁用，以及网络安全专家持续对其发出警告的原因。如果非中国平台已经观察到如此规模的活动，那么随着TikTok影响力的增长，它也很可能成为类似内容传播的重要渠道。加之我们对TikTok的执法透明度以及其母公司字节跳动与中国政府的具体关联缺乏清晰了解，潜在的封禁风险依然存在，并可能因中美关系的变化而加剧。
Meta报告的另一个值得关注的要点，是对人工智能在此类活动中应用的总结及其演变趋势的分析。X平台的所有者埃隆·马斯克曾多次指出，生成式AI的兴起是机器人账户活动增加的关键因素，因为 spam 发送者能够利用此类工具创建更复杂、更难以检测的虚假账户。这也正是X平台推动付费模式以对抗机器人账户大规模生产的原因。
Meta虽然同意AI工具将使威胁行为者能够制造更多令人信服的内容，但也表示目前没有证据表明“它会颠覆我们行业打击隐蔽影响力行动的努力”。报告提出了一个有趣的观点：对于复杂的威胁行为者而言，内容生成并非主要挑战，他们真正的困难在于建立并吸引他们试图影响的真实受众。因此，Meta将重点放在识别用于驱动真实用户参与度的对抗性行为和策略上。尽早破坏这些行为，有助于确保具有误导性的AI内容不会在隐蔽的影响力行动中发挥作用。生成式AI也不太可能改变这一动态，因为它基于已有的信息，并非为建立可能帮助虚假账户吸引受众的新趋势而设计。
这些洞察为我们理解当前的威胁态势以及协同组织如何试图利用数字平台传播信息提供了有价值的视角。虽然这类行为可能永远不会停止，但关注这些组织的来源及其对相关讨论的影响，仍然至关重要。
