为什么我一眼就能看出AI生成的内容，但具体的依据却说不清楚？

@Xizi_2xMVOITe · 发表于昨天 21:43

有人可能感觉AI生成的内容遍及呆板冰凉、没有温度和人味，千人一面万人一腔，但是事实并非如此。AI也有很多种分歧的风格，并不是一个模子里刻出来的，但从网上随便找出一篇内容来，我几乎都能一眼看出它是真人写的还是AI生成的；但要是问我依据，我却什么都说不出来，只能说是“凭感觉”。
比如以下两个知乎回答，第一篇确实是一篇死板板滞的官样文章，第二篇似乎斗劲幽默风趣绘声绘色，但无论哪一篇我都能确定它是AI生成的而非真人回答的，第二篇在我看来并不比第一篇的AI味更淡。

阳光青春 · 发表于昨天 21:43

八股文是不是AI都有八股味儿，AI文写得精彩就是好文章。
第一篇不用说了，刻板的笔法像极了很多中小学生的作文，要说大家都是AI可能都侮辱了AI。
第二篇说实话我不很确定是不是AI文。如果再有几段都是这个笔法，倒是更像了。局部精彩而结构呆板也是AI目前的一般状态。
从仿生学角度构建的AI以后会更接近人类的复杂程度，也必然会超越，就很难被一眼看出了。

大波仔home · 发表于昨天 21:44

就文字这块来说，AI现在的降智问题太严重了，还恨不得每一句话都叠甲。
希望共和党上台之后这股歪风邪气能被刹住吧，AI是工具，既然是工具，就不应该脱离使用者的控制

论坛公敌 · 发表于昨天 21:44

不妨做个实验。你按照Next token prediction的方式回答问题，下一个词选取“最大概率”，最后再来个价值观对齐。那么，你说出来的话也是四平八稳、索然无味。所以AI写一般新闻报道你看不太出来，写小说你一眼便知。
当然，也不是没有办法。如果我们在Next token prediction基础上进行人格化设定，AI是可以输出人类一样的鲜明立场、特殊偏好和强烈情绪的。这时候，你就很难分辨了。
但归根到底，AI输出的是语言概率的最大值，人类价值观的公约数。而你更想看到的是尚不知道的概率分布和对边缘的疯狂试探，这一点LLM是做不到的，也不可以做到。
参考：《力比多方程猜想》
AI 能不能做出真正意义的创新？|ZHERO
知乎的出路是AI语料平台？|ZHERO
为什么现在Ai已经没啥热度了？|ZHERO

jackboy · 发表于昨天 21:45

你一样也可以一眼认出，一篇长篇大论的经济评论，是不是政府官僚报告
这个量化依据超级简单，格式，加连续 5 个字的惯用频率做个 diff 就能判断了

真事儿隐 · 发表于昨天 21:45

因为，小说才需要逻辑，现实不需要/笑
没错，AI生成内容一眼就能被认出来，就是因为它们太讲逻辑了，太刻意追求合理，所以一眼假。
真实世界里，每一个人都有自己独特的生活经历，都被环境蹂躏过，都有一点童年阴影，所以，观点多少都有点偏激倾向，说出来的话不会是四平八稳，做出来的事也绝大部分不经过大脑严密思考，所以现实中很多事情看起来都没有逻辑，也就是——很不完美。
这种不完美才显得真实，太完美的只存在虚拟作品中。
我们都已经适应了现实世界这样不完美的表现，所以潜意识里已经接受了现实就是不完美的，所以太完美的、太合理的、没有偏激棱角的东西自然就会被大脑一下子识别出来。
前一整子日本拍摄了一个麦当劳薯片的广告片，好几个美少女参与了拍摄，每个美少女虽然年龄都不大，但肯定都有自己的生活经历，所以无论穿着、表情、神态都有差异，这样才是真实的样子。

麦当劳薯片广告
https://www.zhihu.com/video/1840452025160183809
好，你现在看完了上面的视频，你觉得怎么样？
没错，我没骗到你，这个广告其实是AI生成的。
你看，在我语言的明示和诱导下，你依然能够判断出这个广告里的不是真人，为什么？
因为这些美少女从肤色到牙齿，都太完美了，都太严格逻辑上符合『美少女』的定义了，而真实的美少女肯定不会如此完美的，所以，你一眼就看出来了。
那么，是否能够让AI刻意增加一些不完美的元素，从而显得更真实呢？
可以，你看下面这张麦当劳大叔，额头有皱纹，化妆掩饰不住面容上的沧桑，你也许依然能判断出这是AI生成的，但是你不不承认，这已经显得很真了。

这张图里哪里让你觉得不够真呢？对我来说，麦当劳大叔手里的这个瓶子也太垂直了吧。

麦当劳大叔整个身体是松弛的状态，这个瓶子却端得很正，就留下了AI的破绽。
可能因为训练AI的海量图片中『瓶子』这个物体都是端方着的，所以AI完美抓住了这个规律，生成这个『瓶子』的时候就画了一个严格垂直的瓶子。
AI本质逻辑就是通过机器学习从数据中提取规律，然后应用这些规律产生新的数据，在生成的过程中加上一点点随机的种子，生成的数据就会带上一些变化，从而避免千篇一律。
随机种子太小了，就太容易只有规律没有变化，一眼看出是AI。
随机种子太大了，就只有变化没有规律，搞出现实中不可能出现的四不像，一眼看出是AI。
只有恰当的随机性，才能生成符合真实世界的无序和不完美，产生乱真的感觉。
可是，一个作品中细节很多，让每一个细节的变化能够保持一致，这又很难了，比如上图中让瓶子倾斜角度的变化和身体的松弛程度保持一致，不是说不可能，但是能保持一致更多靠运气。
所以，AI生成的内容，要想乱真，几乎只能产生N个内容，然后靠人工去筛选出那些不真的，N里挑一选出看起来最真的那个。

		自动登录	找回密码
密码			立即注册

为什么我一眼就能看出AI生成的内容，但具体的依据却说不清楚？

本帖子中包含更多资源

本帖子中包含更多资源