上周，TikTok刚刚宣布了针对AI生成内容的新标签规定，并制定了未经标注不得发布此类内容的规则。社交媒体专家Matt Navarra近日分享的一个例子，恰好说明了此举的必要性。
TikTok’s got AI generated content problems. And it’s going to get a lot worse… pic.twitter.com/IihehN8pp8
— Matt Navarra (@MattNavarra) September 25, 2023
正如你在示例中看到的，TikTok正面临一波AI制造的垃圾信息涌入。视频中，一个虚拟人物正在推广一款声称可以“移除任何图片中衣物”的恶劣工具。是的，这糟透了，而且应用内有一大批账号在推广同样的东西。
正如许多人所警告的，生成式AI的兴起将催生各种新型垃圾信息攻击。它让批量创建此类账号和视频变得异常容易。这些内容未必能骗过真正的用户，但却可能绕过各平台的检测系统，获得传播，即使最终会被删除。
按理说，它们应该会被处理，因为TikTok对此已有明确规定：
“我们欢迎新人工智能（AI）和其他数字技术可能释放的创造力。然而，AI可能使得区分事实与虚构变得更加困难，带来社会和个人风险。展示逼真场景的合成或 manipulated 媒体必须被明确披露。这可以通过使用贴纸或标题来实现，例如‘合成’、‘虚假’、‘不真实’或‘已修改’。”
不过，严格来说，我不完全确定这类视频是否完全适用该政策。因为它虽然描绘了一个真实人物，但并非一个“逼真场景”。该政策更侧重于针对虚假内容，例如AI生成的“穿羽绒服的教皇”或最近的“五角大楼爆炸”事件。
但是，一个虚假人物推广垃圾应用，在这种情况下算数吗？
如果目前规则尚未涵盖，我推测TikTok将会扩展其规则以覆盖此类情况。因为这正是可能变得非常棘手的内容类型，尤其是随着更多这种脚本拙劣、机器人般的人物版本不断涌现。随着技术发展，区分真人与虚假人物将变得更加困难。
我的意思是，上面的片段很容易识别，但其他一些AI生成的例子看起来相当逼真。
X平台的所有者埃隆·马斯克一直是就此发出最强烈警告的声音之一，他反复强调利用这些新技术的垃圾信息即将大量涌入。
正如马斯克所指出的，这也是他推动实施验证机制的一部分，以此作为过滤机器人内容的手段。尽管并非所有人都同意付费验证是解决方案，但上述TikTok的例子正是马斯克警告并试图寻找解决方案应对的那种情况。
因此，你可以预期每个平台都将很快推出新的AI内容规则。Instagram也在开发自己的AI内容标签，YouTube则正在研制自己的工具，以应对预期的“AI海啸”。
因为情况确实会变得更糟。预计很快你会在社交信息流中看到更多的机器人。
本文观点编译自海外博主socialmediatoday，仅供参考学习
