当前很多平台的内容已经被AI充斥，这代表着“垃圾文章”遍地，这如何来解决？
最近，人工智能检测平台Pangram公布了一项研究，数据直指一个令人不安的现实：社交媒体上的帖子正被AI生成的“垃圾内容”淹没。尤其是那些长篇大论，发布在LinkedIn或类似社交平台上的，读者们已经厌倦了阅读这些一本正经胡说八道、充满AI味儿的文字，有些人干脆选择彻底退出。
除了提供常见的AI内容检测服务，Pangram在4月底还推出了一款Chrome扩展程序，每月收费20美元，可以自动扫描用户的LinkedIn、Medium、Substack、X和Reddit信息流，检查里头的帖子是否由AI生成或辅助生成。
自扩展上线以来，Pangram已分析了用户分享的超过一百万条数据。结论很明确：AI生成的垃圾内容正在污染社交媒体，长篇内容首当其冲。
Pangram的检测能力并非自卖自夸。评测显示，它在博客、评论、简历、新闻和小说等多种文本类型上都有极高的准确率。虽然在短文上误报和漏报率稍有上升，“但仍远低于合理的政策阈值”。
芝加哥大学的研究人员比较了多家检测器后指出，Pangram的表现更胜一筹。将假阳性率（FPR）上限设为0.0001时，“GPTzero和Originality.AI在最严格的FPR策略下都表现不佳……而Pangram在大多数大型语言模型（LLM）上仍能保持约0.01的假阴性率（FNR）”。
Pangram把超过250字的内容定义为“长篇内容”。调查发现，所有研究平台上这类帖子中，高达 25% 完全由人工智能生成。注意，这里说的“完全”是指全部由模型产出，用户用LLM润色文字的情况不算在内。这个比例在各平台分布很不均匀。
LinkedIn在这场比烂中“遥遥领先”。
Pangram的分析显示，LinkedIn上长篇内容有 41% 完全是AI搞出来的。但凡认真读过这家微软旗下平台上那些冗长职业感言的人，可能一点儿都不会意外。
另一家AI检测公司Originality.ai发现，LinkedIn上54%的长篇内容（他们定义超过100字即算长篇）都是由AI生成的。
短篇这边也不容乐观。Pangram指出，LinkedIn上50~250字的帖子中，30% 完全出自AI之手。
LinkedIn上那些“思想领袖”用起AI来，要么全用，要么全不用，只有4.3% 的长篇内容是AI辅助的。总体算下来，该平台上仅55.2% 的长篇帖子是真人写的。
虽然LinkedIn在AI长篇垃圾内容的数量上一骑绝尘，但如果把马斯克的X平台也算上，两者差距其实不大。在X上，有四分之一的帖子完全由AI撰写，还有23.2% 是在AI辅助下完成的，也就是说Twitter上52.7% 的帖子由人类攥写。
Pangram发现Medium也没好到哪儿去，大约三分之一的文章可能是AI撰写或辅助完成的。Substack是AI拙劣作品最少出没的地方，但即便如此，Chrome扩展分析显示，仍有近四分之一（21.9%）的文章是AI完全或辅助产生的。
Reddit的情况稍微复杂一点，因为评论占了很大比重。数据显示，11.6% 的Reddit帖子由AI撰写或辅助；而评论中，98.1% 都是真人写的。评论数量远超主帖，这意味着，要是想避开AI思维的渗透，Reddit目前还算个不错的去处。
Pangram根据这些数据断定：人工智能写作正在像淹没网站和在线产品那样，淹没社交媒体。
Pangram首席执行官Max Spero在报告中谈到：“一个完全被未公开的AI内容充斥的互联网令人担忧，但我们认为这并非不可避免。”他们认为，让用户知道哪些内容是AI生成的，这样他们就可以主动忽略，才是破局之道。
当社交媒体到处都是听起来像模像样却胡话连篇的文字时，确实需要一款工具帮你甄别谁在胡说。
如果无法辨识，也许真该彻底断开与这些信息流的连接了。在云栈社区，开发者们也在热议，怎样应对这波AI生成内容的冲击。
发表于 昨天 23:34
|
查看: 6|
回复: 0
