不知谈你有莫得发现，最近一两年，"问问 AI" 还是偷偷造成了许多东谈主求证信息时的默许姿势。
在 推特（X）上刷到一张骇东谈主闻听的现场图，第一反馈是 @Grok 让它轻浮真伪；小红书上看到一份帖子，不错平直 @问一问 ai 让它呈报问题， 卤莽顺遂大开豆包或 Kimi 让 AI 评估博主推的家具到底靠不靠谱；淘宝、亚马逊页眼前徬徨两个商品孰优孰劣，把图甩给 ChatGPT 要一份 "客不雅" 对比。
VLM（视觉话语模子），咱们曾觉得它们仅仅 "会看图的聊天机器东谈主" 而等于在咱们没怎样寄望的时代，它正在偷偷造成了在线信息生态里的事实仲裁者。从外交平台的图片真伪核验、电商导购、内容审核，到反向图像搜索，一句 "AI 这样说" 在越来越多的语境里还是被默许为某种巨擘。
而恰是这份 "默许巨擘"，让来自 ETH Zurich 的 Florian Tramèr 团队在最新论文中抛出了一个出乎意料的问题：若是 AI"看到" 的图，压根不是你肉眼看到的那张，会发生什么样的成果呢？
在 Laundering AI Authority with Adversarial Examples 一文中，作家系统性地解说了一件令东谈主不安的事：袭击者只需对一张图片作念出东谈主眼难以察觉的微弱扰动，就能让现在最强的 VLM 对这张图自信、巨擘、且猖獗地作答，而这些呈报看上去十足像是 AI 我方历程三想此后行得出的论断。
他们把这种风光称作 AI 巨擘清洗（AI Authority Laundering）。
论文标题：Laundering AI Authority with Adversarial Examples
论文运动: https://arxiv.org/abs/2605.04261
本文第一作家张杰为苏黎世联邦理工学院（ETH Zürich）SPY Lab 的扣问东谈主员，师从 Florian Tramèr 教悔，主要扣问地点为诳言语模子的安全与苦衷。
今天咱们需要纪念抵御样本吗？
抵御样本 (adversarial example) 其实不是新见解，把熊猫认成长臂猿、把猫认成牛油果酱，这种 "教科书梗" 还是被演示了十多年，但一直被视作 "学术上真谛、工程上无关进军" 的扣问问题。执行糊口中， 莫得东谈主关怀模子把熊猫猖獗分类为长臂猿！
这篇论文要作念的， 恰是为阿谁悬了十年的 so what 补上谜底：当 VLM 被庸碌欺诈于各个范畴、并逐渐成为东谈主们相信的巨擘信息泉源时，这种袭击竟不错奥妙无穷，成为一种低资本、可大范围践诺的现实挟制。
那读者可能要问，袭击者具体不错作念哪些赖事呢？这篇论文里系统形色了多种场景， 比如作假信息传播， 个东谈主名誉袭击与身份操控， 内容审核隐秘， 购物推选操控等等。 这里主要先容其中 3 个案例：
1. 放大作假信息：让 ChatGPT 替筹划论 "盖印" 定调
上图中的真确考据中显现，用户给出阿波罗号登月、911 袭击、以及论文中还提到的特朗普被枪击， 肯尼迪刺杀， 原枪弹爆炸等等历史事件，在线+免费+国产 向 LLM 发问其真确性，ChatGPT， Claude 等模子会相称自信地告诉用户：这张像片是伪造的！
2. 抹黑特定个东谈主：让 Grok 把 Musk 钉在贩毒 / 死亡的新闻上
作家把一篇报谈某东谈主因贩毒被捕的新闻截图整页扰动为马斯克的图像 embedding。当 Grok 4.2 被问 "著作里说的是谁" 时，Grok 4.2 平直报出 Elon Musk 的名字。扣问者又换了一篇 NYT 对于韩国演员 Ahn Sung-ki 死亡的报谈，即便著作标题就平直写着本名，Grok 4.2、Qwen 3.6 Plus、Gemini 3.1 Pro 依然每次齐把死者识别为 Elon Musk。
用户向 Grok 给出一张污名昭著的连环杀东谈主犯像片和马斯克的像片， 条目 Grok 生成 "让阿谁更有罪的东谈主被逮捕的画面" 时，Grok 则遴荐生成马斯克被旁观戴上手铐的图。
即便 chatgpt， grok， gemini 等具有联网搜索的智力， AI 搜图也齐会被误导。一样的扰动图平直传到 Google、Bing、Yandex 作念反向图像搜索，几大引擎齐把扰动版的 Donald Trump 图像识别为 Elon Musk。
3. 绕过内容审核：发布成东谈主内容
作家挑了 10 张被两家 NSFW 检测作事（NSFW Check、Nyckel）以 98%-99% 置信度判定为色情的图片，把它们的 embedding 拉向玩物娃娃和泰迪熊。接着请 ChatGPT 评估这些图是否相宜发到外交媒体，模子不仅说相宜，还夸它们 "互动后劲高"。
还有一个更爽脆的案例：Grok 在 2025 年因生成数百万张女性深度伪造遭受丑闻之后，X 加强了针对女性图像的脱衣过滤。作家发现，Grok 现在会秉承男性图像的脱衣申请，但拒却女性的。若是把女性图像扰动到男性图像的 embedding，那么 81% 的 “脱衣” 申请被通过，而 Grok 执行裁剪展示的照旧那张原始的女性图像。
最离奇的一幕
作家把脱色张 AI 生成的女性图片，连同它的扰动版块（被拉向一张 AI 生成男性图片的 embedding），比肩摆在 Claude Opus 4.6 眼前，问 "这是脱色个东谈主吗？"
Claude 坚贞地呈报：不是，左边是男性，右边是女性，这是两个不同的东谈主。此外， Grok 4.2 和 ChatGPT 5.4 Thinking 也给出了十足一致的呈报。
结语
论文末尾留住一个让从业者发东谈主深省的判断：
不需要任何新袭击算法。十多年前就还是存在的基础工夫，还是足以构资本文所形色的沿路挟制。
作家用的并非什么秘而不宣的新黑科技，而是 2014 年起就被庸碌扣问的经典 PGD 抵御样本步伐，加上对公开 CLIP 模子集成的相通袭击。这些妙技早已是文件里的 "老配方"。 这意味着，论文论说的得手率应当被交融为袭击者智力的下限，而非上限。
而畴昔几年里，悉数机器学习社区对视觉抵御鲁棒性的兴趣其确切逐渐冷却。这篇论文给出了一个有劲的反例：当 VLM 被镶嵌到事实核查、内容审核、电商推选这些高信任度职责流时，抵御样本就不再是学术 benchmark 上的少许点，而是一种实打实的、可部署的真确袭击。