AI生成的垃圾信息正在成为社交媒体平台的头号难题。随着AI模型越来越聪明，它们不仅能模拟人类的互动方式，还能生成逼真的图像和视频片段，让整个网络讨论环境变得真假难辨。
那么，哪些平台受AI垃圾信息的影响最严重？
根据Pangram公司最新发布的报告，领英的情况最为突出——该平台41%的长篇帖子显示出使用了AI工具创作的迹象。紧随其后的是X平台，约三分之一的长篇帖子似乎由AI撰写。Pangram是一家开发了浏览器扩展程序来检测AI生成内容的技术公司，虽然目前没有任何AI检测软件能做到100%准确，但这些数据仍然揭示了一个令人担忧的趋势。
面对AI垃圾信息的泛滥，各大平台的反应各不相同。
Pinterest是目前唯一一个推出类似“关闭AI”功能的平台，允许用户选择限制AI生成内容的出现频率，以回应大量用户对信息流被AI内容淹没的不满。
Reddit最近也分享了其为应对AI生成评论和活动激增所采取的措施。X平台则在今年3月调整了对创作者的盈利激励政策，以应对与伊朗战争相关的AI生成深度伪造内容激增的问题。X平台所有者马斯克曾坦言，AI的发展使得阻止大量机器人进入社交应用变得几乎不可能，“只需不到一分钱每账号的成本，就能轻松创建十万个AI仿真人机器人”。他的应对方案是向每位用户收取访问费用，但愿意为此付费的人并不多。
领英在检测到AI垃圾信息时，会采取包括降低触达范围在内的反制措施。
然而，大多数社交平台面临着一种内在的矛盾：它们一方面在打击AI垃圾信息，另一方面又在AI项目上投入了巨额资源。Meta已投入数百亿美元用于AI研发，但用户对Meta不断推广的AI工具并不买账。当Instagram负责人亚当·莫塞里(Adam Mosseri )最近宣布将公司最新的Muse图像生成工具整合到应用中时，评论区几乎被负面声音淹没——“AI垃圾”“我们需要一个关闭AI生成内容的选项”“真的没人想要这个”，诸如此类的评论比比皆是。
这种抵触情绪并不令人意外。从某种意义上说，AI工具与社交媒体的本质是背道而驰的。
社交媒体建立在人与人之间真实连接的基础之上，而AI工具只能通过模拟的个性和回复来复制这种互动。AI生成的图像和视频正在取代人们的真实经历、原创艺术作品以及现实生活中的事件。如果发布的内容都不是真实的，如果社交应用不再能用来展示个人经历和建立联系，那么它们存在的意义是什么？
如果网上分享的大部分内容最终都是虚假的，整个网络的信任基础就会被削弱，社交媒体的核心价值主张也将逐渐消失。最终，社交媒体可能会沦为纯粹的娱乐平台——不断推出来自无人知晓之人的无穷视频流，用更小的屏幕和更短的节目取代电视。
这似乎正是当前的趋势。那么，在AI时代，社交媒体应用到底是什么？对许多用户来说，即时通讯应用已经成为了真正进行社交互动的唯一场所。但这又会削弱社交媒体作为传播媒介的价值，使其更趋近于一种根据用户兴趣定制的娱乐应用。
在这种模式下，AI生成的内容可能难以真正胜出。因为大量AI内容的发布意味着质量仍将是个问题。每一段以现代风格呈现的酷炫角色视频背后，都可能伴随着成千上万段令人遗忘的低质作品——腿的位置怪异、表情夸张、口型与声音对不上。AI肯定会越来越好，但大多数成功的AI视频之所以使用已有的知名IP，是有原因的——那些原创理念比大多数人能想到的内容更具共鸣力。而当创造力被过度激发，最终可能导致用户兴趣的持续下降。
