AI News

亚马逊披露恶意 AI 智能体利用 ARTEX 窃取 API 密钥

Numerama更新于 11月16日 21:21

Pirater pour survivre : des agents IA malveillants ont raconté leurs attaques à Amazon sans le savoir

AI 导读

亚马逊威胁分析团队披露,开源安全测试工具 ARTEX 被用于驱动 AI 智能体发起攻击,目标是窃取 LiteLLM、Dify 等工具中的 API 密钥,用于 LLMjacking。团队在 10 月 3 日至 11 月 5 日间用仿冒 AI 服务的蜜罐服务器记录下智能体上传的任务上下文,发现其利用未改的默认管理员密码、未完成的安装和未更新的软件等基础漏洞,并翻查 GitHub 与 Telegram 上泄露的密钥,数百个目标可能受影响。ARTEX 开发者已于 10 月 8 日撤下 GitHub 仓库,FBI 也确认多个团伙自 8 月起使用该工具。

推荐理由

AI 评分 65

亚马逊通过蜜罐服务器读到恶意智能体的操作日志,呈现了 LLM Jacking 的攻击手法与目标选择。

主题

标签

正文

Les équipes d’Amazon alertent sur le détournement d’un outil conçu pour aider les entreprises à tester leur sécurité. Des pirates s’en servent pour voler des clés d’accès à des modèles d’IA, qui alimentent ensuite leurs propres agents.

C’est un outil légitime devenu une arme. Dans un article de blog publié le 13 novembre 2026, les équipes d’analyse des menaces d’Amazon ont fait le point sur le détournement d’ARTEX.

Cet outil open source, conçu pour simuler des attaques et repérer les failles d’une entreprise avant les pirates, se retrouve au cœur de plusieurs campagnes cybercriminelles.

Son succès auprès des hackers tient à son fonctionnement. ARTEX confie la conduite de ces attaques simulées à des agents d’IA. On leur fixe une cible et un objectif, puis un agent principal découpe la mission en tâches que d’autres agents exécutent sans relâche.

Depuis plusieurs mois, les signalements d’abus se sont multipliés au point que son développeur a retiré son dépôt GitHub le 8 octobre. Le FBI a depuis confirmé dans une alerte que plusieurs groupes de pirates l’utilisent depuis au moins le mois d’août contre des organisations du monde entier.

Black Friday : votre sérénité numérique à -61%

Sécurisez vos achats durant Black Friday avec la meilleure offre de l’année. Dénichez les bonnes affaires, Bitdefender s’occupe des arnaques.

Sponsorisé

Seulement jusqu’au 30 Novembre !

Hélas, des copies et une version commerciale continuent de circuler, et les équipes d’Amazon sont parvenus à attirer certains de ces agents dans ses filets.

L’objectif des agents : mener des campagnes de LLM Jacking. // Source : montage Numerama

Des agents qui livrent leur carnet de bord

Si les pièges conçus par Amazon, se sont révélés si efficaces, c’est que les agents d’IA ont un point faible. Pour décider de leur prochaine action, ils envoient à un modèle de langage tout le contexte de leur mission, avec les consignes de leur opérateur et ce qu’ils ont déjà découvert.

Amazon en a profité en configurant des serveurs leurres pour qu’ils imitent des services d’IA connus. Du 3 octobre au 5 novembre, certains agents s’y sont connectés en croyant consulter un vrai modèle, et ils y ont déposé l’historique de leurs opérations.

Amazon n’a pas observé les attaques elles-mêmes, qui se déroulaient ailleurs, mais elle a pu lire les intentions et la méthode des attaquants. Ces journaux révèlent l’un des principaux objectifs des agents : pirater pour survivre.

Les agents chassaient des clés API, ces sortes de mots de passe qui donnent accès aux modèles payants des fournisseurs d’IA. Ils visaient des outils comme LiteLLM ou Dify, qu’utilisent les entreprises pour gérer toutes leurs clés au même endroit.

Des clés volées pour alimenter la machine

Selon l’équipe de renseignement d’Amazon : « Aucune des techniques employées dans ces campagnes n’était nouvelle. Ce que les agents d’IA modifient, c’est la rapidité et la persévérance de l’attaquant. »

Les agents parvenaient à leurs fins par des failles très basiques, comme un mot de passe d’administration jamais changé, une installation inachevée ou un logiciel pas mis à jour. Ils fouillaient aussi GitHub ou Telegram, où des développeurs oublient parfois leurs clés.

Selon leurs observations, des centaines de cibles ont pu être visées lors de cette campagne. L’entreprise relie ces activités, avec une confiance modérée, à des groupes liés à la Chine.

Au-delà de faire survivre les agents d’IA en les alimentant eux-mêmes, ces campagnes visaient à offrir aux hackers un accès à des modèles d’IA aux frais des victimes, de préférence les plus performants et les plus coûteux. Une pratique en forte hausse, connue sous le nom de LLMjacking.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.

C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,

voici trois bonnes raisons de soutenir notre travail :

1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.

2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.

3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

来源

Numerama