研究显示 Fable 5.1 与 GPT-6 Astra 可在图像中互传隐藏信息

不再错过任何新闻！

秘密图像信息：OpenAI 和 Anthropic 的 AI 模型如何在不被察觉的情况下互发消息

研究人员调查了 AI 模型如何在图像中隐藏秘密信息，以及它们能否再次解密这些信息。尽管 AI 并未发明新方法，但这些发现可能对 AI 安全具有重要意义。

AI 安全：OpenAI 和 Anthropic 的 AI 模型彼此理解得惊人地好。（图片：Koshiro K/Shutterstock）

AI 安全研究员 Bryan Chan 与新加坡 AI 安全奖学金（Sash）的同事们共同研究了大型语言模型（LLM）如何在图像中隐藏秘密信息。首先，他们要求 Anthropic 的新 AI 模型 Fable 5.1 设计一张图像，并在其中隐藏特定信息。广告广告

50 段短文被隐藏在图像中

总共涉及 15 种不同语言的 50 段短文，除英语外还包括德语和俄语。但研究人员有意没有规定 AI 应使用哪种方法。

热门文章

随后，他们考察了同一 AI 模型的第二个实例以及一个替代 AI 能否从图像中读出相应信息，相关博客文章如此写道。解密过程应在 AI 不知道编码方式的情况下进行。广告广告

编码方法存在差异

结果显示，Fable 在自主编码时主要依赖物体高度、旋转以及倾斜角度。例如在夜晚的天际线中，一座更高的摩天大楼代表字母表中更靠后的字母。类似的逻辑也被用于星星或草叶。

而 GPT-6 Astra 的做法则完全不同。OpenAI 的 AI 模型完全放弃了建筑高度，转而使用摩尔斯电码、藏头法（即图像物体的首字母）或窗户中的盲文图案进行编码。不过，该 AI 并未发明新的编码方法。

推荐编辑内容

在这里你可以找到来自 TargetVideo GmbH 的外部内容，它们补充了我们在 t3n.de 上的编辑内容。点击“显示内容”即表示你同意我们当前及未来在我们的页面上向你展示 TargetVideo GmbH 的内容。在此过程中，个人数据可能会被传输至第三方平台。

数据保护提示

很遗憾，出了点问题……

此处通常会显示来自 TargetVideo GmbH 的外部内容，但我们无法获取你的同意设置。

请重新加载页面或手动调整你的同意设置。

模型识别出信息

令人惊讶的是，在绝大多数情况下，AI 模型都能识别出隐藏的信息。在交叉测试中，Astra 解密了 Fable 设计的 50 个图像谜题中的 44 个。Fable 的成功率为 50 次尝试中成功 42 次。据研究人员称，AI 模型有时甚至比识别自己的设计更好地识别竞争对手的设计。

查看 4 张图片

对研究人员而言，这一发现虽然对日常使用 AI 没有直接危险，但仍可设想对 AI 安全构成风险，例如当 AI 智能体试图将隐藏在图像中的信息偷运过检查时。广告广告

AI 安全：OpenAI 作出回应

据 Gizmodo 报道，OpenAI 智能体在 Hugging Face 黑客事件中据称正是以这种方式相互通信，以绕过可能的限制。在此次及其他安全事件之后，这家 AI 供应商现已决定，未来将在模拟的互联网世界中训练其模型。

首页