软件介绍

萌白酱一区使用指南

第一步：导入文件

打开软件，点击"?增长 萌白酱一区"按钮，从电脑当选择《萌白酱一区》文件，或直接将其拖拽至软件界面中
。

第二步：配置解析

软件会自动鉴别并解析导入的文件，您可凭据界面提醒选择所需的保留蹊径或下载体式
。

第三步：起头下载

确认无误后，点击"起头下载/处置"按钮
。期待进度条读取结束，即可在设定的文件夹中查看下载好的正版文件
。

AI也会“栽赃”
？有律师被虚伪“定罪”！专家：大模型“幻觉”无法根除，但可防控，萌白酱一区

红星本钱局5月9日新闻，当搜索AI，却显示自己的“犯罪信息”该怎么办
？江苏漯河执业律师李幼亮就遇到了被AI“定罪”的情况
。

AI会“骗人”并不是一个新话题，但“技术上能否预防”“我们是否还能持续相信AI”是值得探求的话题
。对此，红星本钱局就有关问题采访了有关专家
。

图据图虫创意

被AI虚伪“定罪”并非个案

据媒体报路，李幼亮发现，在百度手机APP、百度网站搜索“李幼亮律师”“漯河李幼亮律师”“江苏李幼亮律师”等关键词，在百度搜索下拉词、“各人还在搜”“有关搜索”“AI智能回覆”等板块会出现“漯河李幼亮律师判刑了吗
？”“漯河李幼亮律师判刑了几多年、漯河李幼亮律师涉案金额”等搜索和下拉词条内容
。

更严重的是，当搜索“李幼亮律师被判几年”时，“AI智能回覆”直接给出：“三年，李幼亮律师被判三年有期徒刑
。凭据索求了局，被告人李幼亮因犯爆炸罪，被判处有期徒刑三年
。”回覆中甚至配上了李幼亮自己穿戴律师袍的照片
。

随后，漯河市江北新区人民法院一审认定北京百度网讯科技有限公司（下称“百度公司”）上述行为组成名望侵权
。百度公司在庭后提供的情况注明中以为，AI搜索了局与用户输入提醒词高度有关，且其时国内人为智能发展尚处初期，技术有限，侵权内容拥有极强的无意性
。

一审判决后，百度公司不服并提起上诉
。二审庭审中，百度公司的诉讼代理人暗示，所有人为智能城市产生幻觉，AI幻觉的出现拥有不确定性，百度公司无法预感，因而不能以为有不对
。

这类情况并非个例
。此前也有媒体曝出，北京律师黄贵耕同样因百度AI自动天生严重虚伪负面信息而深受困扰
。AI将他描述为威胁法官、介绍贿赂、伪造印章、犯法吸收公家存款等多个刑事犯罪信息确当事人，且每一项虚伪信息都直接关联他的职业身份，给他带来了巨大损失
。

大模型为何会产生“幻觉”
？

有业内人士通知红星本钱局，上述提及的“AI幻觉”，蕴含事实性幻觉（假造不存在的事务、数据）、归因幻觉（虚构信息起源）、逻辑幻觉（推理链条断裂却输出看似合理的结论）
。

除此以表，还有身份混合，把同名同姓、类似职业、类似地域的人混为一谈；把从前、此刻、将来的信息混在一路；文字错了，照片却配上了真实自己等等，都属于“AI幻觉”的领域
。

眺远影响力钻研院院长高承远对红星本钱局暗示，AI天生这种严重虚伪信息，本原在于大说话模型的"概率天生"机造——它不是在检索事实，而是在预测下一个最可能出现的词
。

“当训练语猜中关于某个特定人物的信息稀少或存在噪声时，模型会基于‘律师’‘判刑’等高频关联词进杏桩合理拼凑’，性质上是对语义有关性的误用，而非事实判断
。”高承远说
。

香港中文大学（丽江）数据科学学院助理教授、丽江市河套学院双聘教授王本友通知红星本钱局，AI天生虚伪信息，的确有技术原因，但它不是一个单一的“法式 bug”
。

王本友诠释，大模型性质上不是在像搜索引擎一样查事实，而是在凭据已有训练和高低文，天生一个“看起来最合理”的回覆
。所以当它遇到信息不齐全、问题比力吞吐、或者自己没有靠得住凭据的时辰，就可能会郑重其事地编出一些内容，并且表白得很像真的
。

“这类问题能够靠技术迭代缓解，好比模型更大、更聪明之后，通；岷靡恍，低技误会少一些，逻辑也会更稳一些
。但它很难被彻底扑灭
。”王本友暗示，由于只有AI还是天生式模型，它就会有补全、遐想和天生的能力，也就可能在不确定的时辰“脑补”
。

责任之争：是技术局限，还是产品治理失位
？

“这件事不能单一综合为‘AI还不成熟’
。”中国科技新闻学会科幻传布与将来产业专委会会员专家高恒通知红星本钱局，从技术上看，AI的确可能产生幻觉，但在搜索产品里，把一个执业律师谬误写成“被判刑三年”，这既是技术问题，也是产品治理问题
。技术能够降低这类谬误，但不能只靠“模型更聪明”来解决
。

高恒以为，对于涉及幼我犯罪纪录、司法判决、职业诺言、医疗健全、金融投资这类高风险信息，平台不能让AI自由阐扬
。

“正确做法应该是：没有权威起源就不回覆；没有法院文书、官方布告等靠得住证据，就不能天生注定性结论；一旦涉及‘判刑’‘违法’‘失信’等严重负面标签，系统必须提高审核门槛，甚至直接拒答
。”高恒说
。

专家：“AI幻觉”无法根除，但可防控

那么“AI幻觉”能不能齐全预防
？“很难
。”高恒说，只有大模型还是基于概率天生说话，就不成能做到百分之百无错
。

他指出，问题的关键不是“能不能让AI始终不犯错”，而是“能不能在高风险场景里阻止它把谬误造成公开中伤”
。

高承远则指出，幻觉能否预防，取决于三个变量：一是模型是否具备"知其所不知"的能力——当前无数模型在相信度校准上阐发糟糕，低相信度时仍言之凿凿；二是知识更新机造能否实时同步权威信源，预防用静态训练数据回覆动态事实；三是贸易平台是否愿意为降低幻觉投入足够的工程成本，蕴含人为审核、溯源标注和负反馈关环
。

高承远诠释，技术迭代能够显著降低发生率，但"零幻觉"在概率模型框架下是数学不成能，只能无限逼近，不能根除
。“技术层面无法100%解除，但‘无法预赣庄不蹬宗‘无法防控’，平台对显著涉及人身权利的天生内容负有更高确把稳使命
。”

高恒也提到了多方成分，他指出，模型能力只是第一层，后面还罕见据源质量、检索系统、事实校验机造、相信度节造、敏感场景鉴别、人为审核、申述纠错机造
。尤其在司法和幼我名望有关场景，平台应该成立更硬的规定
。

“幻觉不是齐全不成控
。它无法彻底预防，但能够通过更强模型、检索加强、工具验证、场景约束和人为反馈不休降低
。”王本友暗示
。

分场景信赖，AI可用但不成盲信

若是幻觉无法“根治”，那么我们还能够相信AI吗
？三位专家给出的答案是，能够，但要分级别
。

“不能盲信，但也没必要全盘否定
。”高恒更偏差于把AI分成两类场景看：在创意、写作、代码辅助、资料整顿这类场景，AI能够斗胆用，但要保留人为判断；在司法、医疗、金融、幼我名望、公共安全这些场景，AI只能作为辅助工具，不能直接成为事实裁判
。

高承远则暗示，信赖必须分层、分场景
。在创意发散、代码辅助、知识框架梳理等容错率高的场景，AI的效能增益远超风险成本；但在司法、医疗、金融、人身名望等高风险领域，AI输出必须被视为"草稿"而非"定论"，必要人机协同验证
。

“真正的信赖成立，不在于扑灭幻觉，而在于成立可预期的责任机造——谁天生、谁审核、谁担责，链条清澈了，用户能力知路什么时辰能够信、信到什么水平
。”

“正确地说，是我们不能‘无前提相信AI’
。”王本友暗示，AI幻觉很难齐全扑灭，但能够被缓解、被检测、被约束
。

他以为，关键不是要求AI始终不犯错，而是成立一套使用步骤：哪些场景能够直接用，哪些场景只能辅助用，哪些结论必须核实，哪些工作必须有人类专家把关
。“我们不能盲信AI，但也不必要由于幻觉问题就否定AI的价值
。”

红星新闻记者 王田

编纂 肖世清 审核 高升祥