在这个属于人工智能的时代，AI内容检测器似乎也迎来了它的“高光时刻”。
随着AI生成内容（AIGC）的泛滥，甚至出现大量假冒真实信息的情况，对内容进行真伪鉴别的需求变得日益迫切。在学术出版、新闻媒体等对真实性和原创性要求极高的领域，AI检测器被寄予厚望。
但它们的表现真的可靠吗？现实可能给了我们一个出乎意料的答案。
前不久，畅销书作家亚当·凯（Adam Kay）在社交媒体X上分享了一段令人哭笑不得的经历。他一时兴起，将自己写的一本书的部分内容扔进了一款AI检测工具里。结果，系统信心十足地判定，其中29.7%的内容是由机器生成的。
最讽刺的点在于，这本书出版于近十年前。那时候的AI技术，恐怕连理解他书中的一个复杂长句都做不到。
这条吐槽迅速引发了网络热议，浏览量超过210万次，并掀起了一股“实测打假”的风潮。越来越多的人拿着各种绝无可能是AI生成的文本去测试，结果无一不令人大跌眼镜。
学术界堪称这次“误判潮”的重灾区。爱丁堡大学全球公共卫生教授德维·斯里达尔（Devi Sridhar）发现自己以前发表的文章，被检测出有90%的可能性是AI写的。
更离谱的案例来自阿伯丁罗伯特戈登大学的荣誉退休教授保罗·斯皮克（Paul Spicker）。他把自己45年前发表的第一篇学术论文拿去检测，系统竟然判定其中77%的内容由AI生成。
这并非个例。网友@decentricity用自己2008年发表的一篇关于人工智能的论文进行测试，结果荣获“100%纯AI生成”的认证。他无奈地调侃道，自己当时用的可能是“GPT负6”。
不仅学术圈，连强调一手调查和事实的新闻报道也难逃误判。约翰·扎文斯基（John Zavinski）测试了他刚刚撰写的一篇关于小镇1970年代城市改造失败的2000字报道。他特意采用了报纸通俗易懂的风格，且所引用的一手资料几乎都未在互联网上公开过。即便如此，AI检测器仍认定这篇报道有91%的可能性是AI所写，并附赠了一句“可读性差”的扎心评价。
甚至写作中的标点符号也成了“AI嫌疑”的证据。有网友指出，一篇2007年发表的研究论文中使用了破折号（—），而在今天，使用这个符号就可能被系统自动标记为“疑似使用AI”。这迫使许多人类作者不得不改变自己的写作习惯。
经典文学也未能幸免。有人将古登堡计划中的《罗密欧与朱丽叶》原文片段进行检测，系统认为其中41%的内容是AI生成的。
最荒谬的检测结果或许属于《独立宣言》。AI检测器言之凿凿地判定，这份1776年签署的历史文件，有99.99%的内容来自人工智能。
为什么这些检测器会闹出如此多的笑话？亚当·凯给出了一个可能的解释：如今有大量的人类作品被AI公司用于训练模型。因此，当AI检测器认为某些文字“很像AI风格”时，真相可能并非是人类在模仿AI，而是AI在“复述”它曾经学习过的人类表达。
他进而提出了一个令人深思的荒诞假设：在不久的将来，如果出版商像教育机构一样，在付印前将所有稿件都通过AI检测器过滤，那么那些作品曾被用于训练AI的成千上万的作者，他们的心血会不会反而被标记为“AI生成”？这正是当前局面下一个古怪的副作用。
更有网友尖锐地指出一个悖论：写作技巧越高超——词汇越丰富、语法越规范、文笔越流畅——就越容易被检测工具判定为AI所写。
对于AI检测器本身的合理性，质疑声也越来越大。有观点认为：“AI检测器简直是个笑话。它们是用人类产出的数据训练出来的，却反过来被用来质疑人类的智慧与原创性。仅凭此就将作品标记为AI生成，既不可靠也不公平，在逻辑上更是脆弱的。”
另一种批评则直指其逻辑闭环的荒谬性：“这完全是一派胡言。先用人类的集体知识训练AI，然后又用同一个AI去判断某段文字是否来自AI，而AI的判断基准恰恰是它最初训练时所依赖的人类智能。这简直是终极版的荒谬。”
当AI学习的一切本就源于人类，我们究竟该如何定义“像AI”？这个边界正在变得前所未有的模糊。这场由开发者和创作者们自发进行的“压力测试”，不仅暴露了当前AI检测技术在准确性上的严重缺陷，更引发了关于原创性、智能本质以及技术伦理的深层思考。对于这一现象，你怎么看？欢迎在云栈社区分享你的见解。
发表于 2 小时前
|
查看: 3|
回复: 0
