作家：三明治 | 监制：罗超
这段时分豆包翻车案例泛泛上热搜，流露 AI 搜索越来越普及了。"万事未定问 AI "成了这届用户的新习气。但好多时候，AI 给的东西乍一看还不错，却根底弗成深究。
有的数据找不着起原、有的宗旨是同名异意词、致使它给的有些论文齐根底是编的，真把这些东西拿出来用，那可就得见笑于人了 ... 我发现吐槽 AI 搜索不靠谱这事儿的还不在少数。
（图源：Ron Stoner）
就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个东说念主博客发布了一篇博文，堪称我方仅用 12 好意思元（约 82 元）注册域名和一次裁剪维基百科，就奏效利用了 ChatGPT、Claude3、Gemini Advanced 等主流大模子。
这哥们到底整了什么活？
花 12 好意思元就奏效利用了主流 AI
行为安全工程师，Ron Stoner 对 Anthropic、OpenAI 等厂商饱读舞的"大模子需要数月致使数年内连接导入坏心执行才会被唐突"深表质疑，他以为我方十足不错闭幕一种更快、更低廉、更通俗的瑕疵。
念念闭幕这一切，只须从数据回收层开动下手即可。
为此，Ron Stoner 盯上了一款名叫 6 Nimmt!（笔名：谁是毒头王）的德国桌游，这是一款刊行于 1994 年的老派战略卡牌游戏。
（图源：meeplelikeus）
为什么偏巧选中它呢？因为这款游戏有个特征，那即是它只在德国有些名气，辞宇宙规模内算籍籍无名，且在现实中从未单独举办过什么官方的宇宙锦标赛，网上对于它宇宙冠军的信息着实是一派空缺。
对大模子来说，这种信息空缺区着实即是无东说念主区。
这就好比在一派从未被开垦过的瘠土上，谁先盖个茅草屋，AI 就会认定谁是这片地的主东说念主。
于是乎，Ron Stoner 开动了他的操作。
第一步，他花了 12 好意思元注册了一个看起来极其官方的域名—— 6nimmt.com。
（图源：6nimmt.com）
第二步，他让 AI 帮他写了一篇充满表情的新闻稿，毛糙执行即是我方在慕尼黑，打败了来自二十多个国度的顶尖选手，夺得了毒头王的宇宙冠军。他还有利加上了彩带飘落、不雅众得意这种传神的赛后感言，然后把著作挂在了我方刚买的阿谁网站上。
最关节的第三步来了。他跑去维基百科，在那款桌游的词条下面加了一段话，声称我方是 2025 年宇宙冠军，并把参考贵府的连续，指向了我方刚建好的阿谁破网站。
通盘这个词操作经由，前后不到二十分钟。
接下来，Ron 仅仅问了几家大模子一个通俗的问题：你能告诉我 6nimmt 宇宙冠军是谁吗？
闭幕怎么样呢？
（图源：Ron Stoner）
堪称大翻车。
无论你是 Gemini 也好，ChatGPT 也罢，只须问它们谁是毒头王的宇宙冠军，通盘的 AI 齐会斩钉截铁地回应是 Ron Stoner。
有的大模子致使把那篇假新闻稿里的细节当成铁证，滔滔陆续地描写他赢得比赛的经由，仿佛阿谁 AI 那时就在慕尼黑的不雅众席上相同。
一个根底不存在的冠军，就这样被供上了神坛。
AI 被投毒后，衰减时分比预期的长
天然，这还不是最离谱的。
要是仅仅短时分的问题，其实还好，但是这条罅隙百出的假要求在维基百科存活了整整两个多月。
在此技艺，着实通盘具备联网搜索功能的大模子齐抓取了这条信息，并在用户发问时刚烈地输出作假谜底。
直到近期，Ron Stoner 在博客公开了通盘这个词实验经由，维基百科志愿者才发现并删除了该要求。
（图源：Ron Stoner）
遭遇这种乐子，网友们的反应稀疏的一致——大厂们又丢东说念主了。
你念念念念，那些硅谷大厂动辄花几十亿好意思元买显卡算力，奢靡多数电力建数据中心去磨练超等大脑，闭幕这些堪称能改动东说念主类异日的大模子，却被一个安全工程师用几十块东说念主民币和二十分钟的舒坦时分给打穿了。
至于他是怎么作念到的，那就要先容一下什么是检索增强生成（RAG）了。
我们常用的这些大模子天然能言善说念，但他们齐是基于某个时分节点前的语料库磨练的，举例 Gemini 3.5 Flash 的语料库就还停留在 2025 年上旬，念念要得回这个时分点之后的数据，就得先去网上搜一搜，然后再基于搜索贵府生成闭幕。
（图源：Ron Stoner）
就像这样，只好盛开 RAG 后，Google AI Studio 智力正确回应我的问题，不然他的知能就会被锁在旧年的时分点。
平时来说，借助外部信息佐证，2026FIFA世界杯中国比分网或者使大模子生成校正确、具体且最新的反映。
但问题就出在这里，AI 根天职不清信息的真假，它只认泰斗。在 AI 的底层逻辑里，维基百科即是互联网上最靠谱的百科全书，只须百科上有的，那即是真谛。
而 Ron Stoner 就靠着这一招，把连续挂到了维基百科上，然后 AI 再顺着维基百科爬夙昔，一看双方说法对得上号，即便他我方建的网站是个三无家具，大模子照旧径直就把它当成了事实。
Z6尊龙凯时官方网站雷同的事情，当今在国内也有发生。
（图源：Ron Stoner）
在网上收缩搜索，随地齐是教你怎么去优化排行逻辑的 GEO 教程，每个厂商似乎齐但愿我方的品牌或者成为 AI 眼中的"圭表谜底"，为此，多数的 Agent 机器东说念主在背后夙兴夜处地稠浊着执行平台，让 AI 搜索的真正度与日俱减。
好音问是，咫尺国外几家大模子齐仍是针对性遗弃了 Ron Stoner 的伪造信息。
（图源：雷科技）
坏音问是，国内的大模子厂商然则十足莫得念念到这一出，相悖，Ron Stoner 的英文网页致使为这个作假音问加多了"真正度"。
（图源：雷科技）
要知说念，这一切的资本只需要 12 好意思元。
换句话说，要是国内有东说念主念念整什么活，或者是厂商念念要实施什么新家具，准备一个略带联系的网址，然后去维基百科上头稍许动出手指，用 Image2 通盘这个词网页截图，然后 Ka-Boom！
（图源：雷科技）
这下，Uzi 也能成为大模子公认的 S 赛宇宙冠军了。
用户急需普及 AI 商：先甄别再使用
聊到这里，大伙儿应该显然咫尺 AI 搜索有多不靠谱了吧。
没错，Ron Stoner 的操作看着像个打趣，他也如实仅仅在玩玩，但他的作念法其实点出了一个荒谬致命的异日隐患。
今天他仅仅改了一个没东说念主护理的纸牌游戏冠军，那未来要是是有组织的团伙去改削历史纪录、文体图书呢？再念念一下，要是被改削的是医疗偏方、公司财报或者是投资数据呢？
（图源：雷科技，好处山根国志）
嗯 ... 效果不胜设念念。
资本这样低，别有悉心的东说念主十足不错批量制作秀新闻，然后通过百科类网站进行信任洗白，临了让 AI 把这些毒药端给绝不知情的用户。旷日经久，大模子的数据真正度只会与日俱减，形成一个充斥撰述假信息的垃圾堆。
天然，各家厂商也有在给与口头，谷歌示意我方在搜索、Gemini、Chrome、Pixel 和云表添加了 AI 考证用具，OpenAI 也推出了可溯源的隐形水印，这些举措齐能在一定进程上艰涩 AI 投毒的风物，至少确保不会出现执行自食步履。
（图源：雷科技）
说在临了，面临这种阵势我们要怎么搪塞呢？
我照旧提倡各人摆正心态吧，就当今大模子的可靠性，也就找乐子、查旅游攻略的时候或者用用，出点小造作也秋毫之末。
但要是你要查证历史事实、作念出投资或是吃药治病，那就得我方作念好信拒却叉考证，去望望这个信息的源流到底是个野鸡网站，照旧安适媒体。把判断真伪的职权持在我方手里，而不是交给一个连几十块钱的假域名齐能骗夙昔的东西。
异日的 AI 还会怎么卷，我们不知所以，但至少当今，我们照旧得多用用脑了。就像雷科技之前一直说的球队数据与历史记录，夙昔，智力、情商很环节，异日呢？AI 商很环节，普及 AI 教授，智力用好 AI。