随着人工智能生成内容在政治领域的潜在风险日益凸显，Meta（facebook）近日宣布了一项重要政策调整。该公司已开始对其广告生成式AI功能的使用实施新的限制，明确禁止政治广告商使用包括背景生成、图像扩展在内的新型AI工具。此举主要出于对相关技术可能助长虚假信息传播的担忧。
近期，多位分析师对即将到来的人工智能虚假信息浪潮表示忧虑。事实上，一些政治竞选活动已经开始利用AI生成的图像来影响选民。例如，美国总统候选人罗恩·德桑蒂斯近期的一场竞选活动中，就使用了人工智能生成的前总统唐纳德·特朗普拥抱安东尼·福奇博士的图片，并在另一轮宣传中使用了模拟特朗普声音的音频。
鉴于事态发展令人担忧，Meta现已在其所有关于新AI广告工具的帮助中心文章中增加了以下说明：
“在我们于广告管理器中继续测试新的生成式AI广告创建工具期间，运行符合住房、就业、信贷、社会议题、选举、政治、或与健康、制药、金融服务相关广告活动的广告商，目前不允许使用这些生成式AI功能。我们相信，这种方法将使我们能够更好地理解潜在风险，并为在受监管行业中涉及潜在敏感话题的广告使用生成式AI建立适当的保障措施。”
据路透社报道，Meta实施这些新限制是为了确保其拥有充分的措施，来应对与付费推广直接相关的人工智能工具可能被滥用的问题。X平台所有者埃隆·马斯克也曾发出类似警告，他认为生成式AI的浪潮也将为机器人程序散布者和虚假信息带来一个新时代，因为越来越逼真的视频和图像示例比以往任何时候都更容易伪造。
Meta最近还实施了限制措施，阻止用户通过其新的AI助手工具创建公众人物的图像。
这是一个关键问题，尤其是在政治竞选中。一则及时的推送，无论真假，都可能显著影响前往投票的选民。许多选举结果都是在竞选活动的最后几天决定的，而AI生成的虚假内容，无论我们是否做好准备，都确实注定要成为下一阶段政治操纵的关键武器。
随之而来的挑战是，许多此类推送很可能是在事后才被发现的，这意味着在真相大白之前，它们可能已经产生了预期的影响。
理想情况下，我们需要防患于未然。正因如此，Meta禁止在政治广告中使用AI工具的做法显得非常合理。
