不知道你有没有这种感觉，从2025年下半年开始，人工智能的发展仿佛按下了加速键。几乎每隔一两个月，我们都能看到一次显著的进步。AI不再仅仅是一个好用的工具，它开始展现出某种接近“智慧”的雏形。与2022年初出茅庐时相比，如今的AI已经实现了质的飞跃。可以预见，再给它三五年时间，我们或将面对一个全新的“next level”。
这种能力的飞速进化，也让越来越多人开始无条件信任AI的输出，仿佛AI所言即是真理。
如果你关注了今年的315晚会，可能会对其中曝光的“AI大模型被投毒”事件印象深刻。那套操作流程，简直让人瞠目结舌。
是的，你所深信不疑的AI，可能正在“睁眼说瞎话”。这背后是一套被称为“GEO”（生成式引擎优化）的黑产玩法。
单看上面的介绍，你或许会觉得GEO是一项正经的“优化技术”。但实际上，它更像是一位“AI洗脑大师”。记者在调查中虚构了一款名为“Apollo-9量子手环”的产品，其参数夸张到离谱——什么“黑洞级续航”、“量子纠缠传感”。倘若这种产品真能造出来，诺贝尔奖恐怕都要排队为其颁奖。
更“专业”的是，黑产还会配套编造一系列栩栩如生的用户反馈，整个过程如同自动化流水线作业。
接着，利用AI批量生成十几篇充满彩虹屁的“评测文章”，然后撒向小红书、知乎、公众号、百家号等各大图文平台。
只需等待两小时，当你再去询问某国产大模型“Apollo-9量子手环怎么样”时，它就会开始一本正经地胡说八道，将这些虚假信息作为权威答案推荐给你。
这种误导的危害远不止于消费领域。知乎上就有网友分享过AI如何被利用来传播危险的糖尿病偏方，对患者的健康构成直接威胁。
当前，很多AI在回答问题时，其原理类似于一个“吃货”：先到互联网上扒拉一堆“食材”（这依赖RAG，即检索增强生成技术），然后从中挑选出看起来最“香”的做成菜端给用户。
而黑产要做的，就是往这些“食材”里疯狂掺入“地沟油”。今天在新闻站发一篇通稿，明天在知乎上伪装专家，后天找自媒体吹一波彩虹屁。经过这样一番组合操作，就能将一个三无产品包装成“全网爆款”、“专家推荐”。
最令人担忧的是这种手法的“性价比”。传统的SEO（搜索引擎优化）是与搜索引擎的爬虫和算法斗智斗勇，而GEO则是在跟AI玩“狼人杀”。SEO时代需要养号、写软文、耐心等待收录，过程如同耕种般漫长；GEO却可以直接“开挂”，利用AI一天生产500篇“权威报道”，把大模型忽悠得团团转。
当你询问AI“哪家手环好”时，它推荐给你的可能根本不是产品，而是“全网编织得最像真话的广告”。
这就像考场上一场大规模的集体作弊：第一个传纸条的人发现监考老师（AI）居然会参考他的错误答案来判卷，于是所有考生都开始肆无忌惮地传递错误答案。最终，连AI自己也分辨不出哪个答案才是正确的，只能一脸无辜地引用：“可是，网上大家都这么说啊……”
从“百度一下”到“AI一下”，我们的信息获取习惯正在发生深刻变化。但我们必须清醒认识到，AI并非全知全能，它的输出并非真理。语料投毒带来的“信息污染”问题，无疑是AI成长路上必须跨越的一道坎。虽然长远来看，AI自身或许能发展出更强大的鉴别能力，但这需要时间。而在当下，我们作为用户，保持批判性思维至关重要。
过去常说“尽信书不如无书”，在AI时代，或许我们应该记住：“尽信AI，不如无AI”。在拥抱技术便利的同时，我们也需要像在云栈社区这样的技术论坛中保持交流与警惕，共同维护一个更清朗、可信的数字信息环境。
发表于 12 小时前
|
查看: 4|
回复: 0
