清华大学-人工智能行业:DeepSeek与AI幻觉 .pdf

?清华AI黑科技!DeepSeek幻觉揭秘!只需3秒看懂?


? 你是不是也用过AI却踩坑了?
DeepSeek这个神器虽然牛,但偶尔会“一本正经地胡说八道”!?‍♀️ 清华团队最新研究发现,它居然在金融、医疗领域“幻觉”频出!今天带你一探究竟,小白也能秒懂!

? 什么是AI幻觉?
简单说,就是AI一本正经地“瞎掰”!比如问它“糖尿病患者能吃蜂蜜吗?”,它居然回答“蜂蜜能稳定血糖”…?‍♀️ 真是越帮越忙!清华学者把这种现象分为两类:事实性幻觉(胡说八道)和忠实性幻觉(答非所问)。

? DeepSeek为啥爱“幻觉”?
? 数据偏差:训练数据有偏见,AI就跟着“瞎掰”(比如医学论文过时导致错误结论)
? 泛化困境:遇到没见过的场景,AI只会“脑补”(比如预测南极冰层融化对非洲农业的影响)
? 知识固化:2023年后的事?AI直接“编故事”!
? 意图误解:你问“介绍深度学习”,它可能给你讲音乐理论…?

? 案例警示!AI“幻觉”有多可怕?
? 金融业:某银行用DeepSeek分析小微企业违约,结果AI说“供应链票据贴现+账期保险”能降不良率…实际根本没用!
? 医疗界:OpenAI的Whisper语音转写,30000份病例中几乎都有“幻觉”(比如把“父亲再婚后去世”说成“65岁去世”)…这要是治病,命都没了!

? 如何避免AI“一本正经地胡说”?
? 清华方案:开启联网搜索能降低幻觉率!DeepSeekV3开启后,事实性幻觉直接从29.67%降到24.67%!
? 普通人技巧:多问“为什么”,AI才不会跑偏!比如问“糖尿病患者能吃蜂蜜吗?为什么?”,它就会给出靠谱答案。

? 互动时间!
你用过AI踩过哪些坑??
? 医疗咨询?
? 金融分析?
? 还是其他领域?
评论区告诉我,帮你避雷!

? 清华团队提醒:AI虽强,但别完全信!尤其是专业领域,还是得靠人类“火眼金睛”!


AI幻觉 #DeepSeek #清华大学 #科技干货 #AI避坑指南 #打工人必备 #小红书爆款