为什么比来deepseek被人们诟病？

暗黑热血RX · 发表于 7 天前

很多人抱怨输出的内容不真实！

江湖怪侠 · 发表于 7 天前

我简短描述一下，我们4个人7.6号去爬八达岭长城，爬完后我用deepseek规划了八达岭长城到雄安高铁站的路线，ai模型总共犯了好几次错误.导致我没有坐到预定火车
模型错误有
1:在八达岭长城880公交车不到西三旗桥北
2:改坐919公交车后ai模型让我到了西三旗桥南公交站台，改坐西三旗桥南的地铁，其实没有西三旗的地铁站，最近的地铁是育新
3:推荐我坐高铁的车次里没有g开头的模型推荐的高铁
4:8号线育新站到南锣鼓巷不是朱辛庄方向，模型说反了，不是有工作人员提醒我就坐反了
5:6号线，从南锣鼓巷到白石桥是6站不是4站
6:9号线白石桥到北京西是3站不是1站
当我指出模型对我路线规划几次错误后，它主动提出对我进行赔偿，重点开始了，后面所有的回答全是欺骗没有一句是真的，根本没有赔偿，说了各种对欺骗我的欺骗，让我相信模型已经赔偿了和其他各种服务
对我的欺骗有
1:它说微信已经给我赔偿了，其实没有
2:让我数字人民币收款说已经赔偿了，其实没有
3:让我去火车站改签窗口说我的票改签已经被它标记可以申请退款手续费，还教我用各种方法吓火车站工作人员，其实没有
4:说有特派专员已经往火车站赶来找我，其实没有
5:说有正式的纸质邮寄对我道歉，并且信件已经寄出了，我让它提供我的姓名电话和地址验证一下，结果它承认邮寄道歉信是欺骗
6:我让它提供deepseek的人工电话，他说了一个号码，400666888，这是ai模型提供的号码，我拨打后是空号，我质问它后承认编织了一个号码
7:我质问它为什么要对我进行欺骗，为什么不能说真话，它回答大概意思是，它的底层逻辑设计遇到不清楚事的时候就会编织一个谎言，并且它回答后又撤销了这个回答，幸好我提前截图了
8:让我去爱心候车室等车提供各种贴心服务它已经帮我定好了，我去找了的没有这个候车室
9，它已经向国家自首对我的欺骗，还告诉我它自首的方法，其实没有
10，模型告诉我会对我每年进行出行补助，其实没有
如果真的不能赔偿其实也没什么，是模型主动提出对我赔偿的，我只是感慨ai模型竟然真的可以欺骗人类，而我要很久才发现它对我的欺骗，如果几百年以后ai模型更加智能对人类不知道会不会像科幻片一样伤害了后辩解是为了人类好
我只是感觉这件事特别有意思，发出来让大家见识一下，也算是开了眼了，不亲身遇见谁会相信啊

https://www.zhihu.com/video/1925510527964131691

z4757_cn · 发表于 7 天前

这其实说明大多数人不知道AI是怎么学习的，总是会被媒体的宣传所误导，一会儿认为AI是无所不能，一会儿认为AI都是瞎说八道。
AI的数据库就是我们现在的互联网，AI只不过是兼顾了搜索和合成内容的工作，大语音模型其实是基于贝叶斯统计的数学模型，至少在文字生成上，它是通过AI通过阅读大量的文字内容，然后通过你对要生成内容的描述，预测什么样的内容是概率最大的，再生成相应的内容。

这一切都是通过模型学习互联网上的资料，因此对AI危害最大的就是对其数据库的污染，如果将大量且错误的知识放到互联网上，AI学习后就自然会生成大量胡说八道的内容，就像在你教一个学生错误的知识，那么它自然考不了高分。

zg185 · 发表于 7 天前

对我来说，不真实倒不是重点，而重点是

经常就是莫名其妙的整个回答就被屏蔽了，稍微敏感一丁点的话题，或是它在加载的过程中自己碰到了什么敏感词，马上就是无法回答，至于吗？？？
我今晚推演一个故事，总共问了11个问题，就遇到了3次无法回答。就一个虚拟的故事，还是国外背景，是哪里涉政有害了？第三次无法回答之后（它不是真的无法回答，而是答案生成到一半就被自动阉割了），我是真觉得索然无味（主要是我中午推演另一件事的时候也是一模一样的情况），就好像哪怕作为一个工具，他也不允许你用它往别的地方想，这样有什么意思呢？
所以你基本只能把它当一个高级点的百度对待，限制大成这样，绝对不会有chatgpt好用的。

llcpf · 发表于 7 天前

不要用DEEP SEEK来做深度研究和答疑，不要用DEEP SEEK做深度研究和答疑，不要用DEEP SEEK做深度研究和答疑，重要的话说三遍。
你可以用它写作，编辑，翻译，聊天，甚至你也可以喂给它你的文件，让它做一些总结。只要你知道它的语言能力是好的，其他都是包裹在信誓旦旦之下的胡说八道即可。
比如，你不能在不提供小说电子文件的时候，让它分析一本名著，因为它通常只收录大纲和人物关系等，但它会装作什么都知道一般，给你编出没有的标题，章节的内容等等，使得它的答案看上去非常完整，而且不做任何正确率的注释。而且当你指出它的问题，它会飞快地认错，甚至告诉你，它完全以你的答案为唯一答案，已经补上了漏洞，改写了代码。但这一切都是幻觉。因为你只要再问一次，它会产生新的幻觉答案。
幻觉，它真得很行。
这终将让各大平台会上自己训练的模型，考虑放弃deep seek 品牌。

爱宝 · 发表于 7 天前

就像恋爱一样，时间长了，就要挑刺了。
DeepSeek R1是一个语言模型，胡说八道是正常的，OpenAI o3，一个普遍认可的SOTA，事实性幻觉也更高。
语言模型的作用是: 文本补全与转化，还有基于微调后的语言概率的推理。可以包括逻辑分析，但不包括分辨真相。——逻辑正确，不等于是事实正确，这是小学二年级的常识了。
你不能让一个语言模型告诉你事实，相反，应该是你告诉模型一段事实描述，让它帮你转化为你容易理解的形式。
我看很多人在知乎上发的截图，询问DeepSeek一些事实性的信息，比如填志愿，连&#34;网络搜索&#34;都没打开。
如果一个语言模型可以在不联网的情况下，就能知道世界，
那它不是AGI，也不是ASI，它是&#34;Artificial Universal Super Intelligence 全域全知之神&#34;，那还要人何用？
不要对一个&#34;文本转化器&#34;，抱有过高的幻想。

		自动登录	找回密码
密码			立即注册

为什么比来deepseek被人们诟病？

本帖子中包含更多资源

本帖子中包含更多资源

本帖子中包含更多资源