←新闻详情

Numerama更新于 10月21日 22:36

美国陆军网络司令部研发 ECHOTRIBBLE 攻击性 AI 智能体平台

« Supervision humaine minimale » : l'armée américaine veut envoyer des agents IA pirater ses ennemis - Numerama

AI 导读

据 The Intercept 10 月 19 日报道,美国陆军网络司令部(ARCYBER)正在开发名为 ECHOTRIBBLE 的平台,让 AI 智能体在“最低限度人类监督”下自主执行攻击性网络行动,可识别并临时或彻底关闭指定目标。相关文件将其描述为类似蠕虫的智能体,能针对 iPad、Apple 电脑和 Windows 11 设备生成适配副本,并在任务后隐蔽自删除,但这些仍属目标能力而非有效性验证。合作方 CFIC 称收到 65 份提案,10 月 6 日至 8 日安排五家企业演示,10 月 8 日选定一家,合同流程尚未完成;ARCYBER 未回应如何避免附带损害等问题。

推荐理由

AI 评分 71

报道披露美军网络司令部项目的目标能力与招标进度,并呈现专家对附带损害和人类监督的质疑。

主题

标签

正文

当前显示原文,中文全文译文尚未就绪。

Résumer l'article

ARCYBER met au point ECHOTRIBBLE, une plateforme d’agents IA conçus pour mener des opérations cyber offensives avec une supervision humaine minimale.

Les documents le décrivent comme un agent de type « ver », capable de s’adapter aux environnements rencontrés et de s’effacer furtivement après mission.

Le contrôle et les garde-fous restent incertains, alors que des risques de dommages collatéraux sont pointés et que l’armée ne détaille pas ses mesures d’atténuation.

ARCYBER met au point ECHOTRIBBLE, une plateforme d’agents IA conçus pour mener des opérations cyber offensives avec une supervision humaine minimale.

Les documents le décrivent comme un agent de type « ver », capable de s’adapter aux environnements rencontrés et de s’effacer furtivement après mission.

Le contrôle et les garde-fous restent incertains, alors que des risques de dommages collatéraux sont pointés et que l’armée ne détaille pas ses mesures d’atténuation.

Recevez tous les soirs un résumé de l’actu importante avec Le Récap’

Explorer des réseaux, se propager d’un appareil à l’autre et neutraliser des cibles : l’armée américaine veut confier des missions offensives à des agents IA. Une enquête de The Intercept, publiée le 19 octobre 2026, détaille ce projet encore en développement, baptisé ECHOTRIBBLE, et les inquiétudes qu’il suscite sur le contrôle humain.

Un logiciel est introduit sur un ordinateur portable. Il repère d’autres appareils connectés au même réseau, puis fabrique des copies de lui-même adaptées à un iPad, à un ordinateur Apple et à un PC sous Windows 11. Ce scénario figure dans une présentation destinée aux entreprises intéressées par un projet de l’armée américaine. L’objectif : permettre à des agents logiciels de mener des opérations cyber avec une intervention humaine réduite.

Selon une enquête de The Intercept publiée le 19 octobre 2026, le commandement cyber de l’armée de terre américaine (ARCYBER) travaille sur une plateforme baptisée ECHOTRIBBLE. Elle doit permettre à des agents IA de naviguer de manière autonome dans des infrastructures informatiques pour identifier et neutraliser des menaces ou des cibles désignées.

ARCYBER constitue la composante terrestre de l’US Cyber Command, qui coordonne les opérations cyber des différentes branches militaires. Il mène des missions défensives et offensives et cherche, avec ce projet, à déléguer une partie du travail de ses opérateurs à des logiciels autonomes.

Pour rappel, un agent IA ne se contente pas de répondre à une question : il peut utiliser des outils et enchaîner plusieurs actions pour accomplir une tâche, sans attendre une nouvelle instruction à chaque étape.

Et votre vie numérique devient sereine

Bitdefender Premium Security est une solution de cybersécurité européenne qui vous protège automatiquement contre les pirates et toutes les menaces du web. Profitez de vos activités en ligne en toute tranquillité

Sponsorisé

La cybersécurité est en promo

Le logo d’ARCYBER, le commandement cyber de l’armée de terre américaine. // Source : ARCYBER

Pour aller plus loin

Rocambolesque : OpenAI dévoile comment ses propres agents IA ont piraté Hugging Face pour réussir un test interne

En quoi consiste la plateforme ECHOTRIBBLE de l’armée américaine ?

La dimension offensive est explicite dans les documents consultés par The Intercept. Un document de questions-réponses destiné aux prestataires indique que le programme est principalement tourné vers ces missions.

La « neutralisation » envisagée peut notamment consister à désactiver une menace, temporairement ou complètement, ou à la supprimer de la cible.

Le média compare le fonctionnement envisagé à celui d’un ver informatique, un logiciel capable de se propager d’une machine à l’autre. Dans l’exemple présenté aux industriels le 24 juin, l’agent adapterait ses copies aux appareils rencontrés. Une fois sa mission terminée, il devrait pouvoir s’effacer, idéalement sans avoir été détecté. Il s’agit toutefois de capacités recherchées, pas d’une démonstration de leur efficacité.

Ces mêmes documents prévoient que le logiciel fonctionne avec une « supervision humaine minimale ». L’armée pourrait toutefois lui fixer des « déclencheurs prédéfinis » pour déterminer quoi attaquer et où. L’objectif reste de le laisser enchaîner les actions sans validation humaine à chaque étape. Reste à démontrer que les limites imposées tiendront en situation réelle.

Une image extraite d’un document ARCYBER illustre le déplacement d’ECHOTRIBBLE au sein d’un réseau. // Source : ARCYBER / The Intercept

Comment l’armée américaine compte-elle contrôler ces agents IA ?

La question du contrôle reste néanmoins centrale. Atteindre la bonne cible ne suffit pas si le logiciel endommage d’autres systèmes sur son parcours. Interrogé par The Intercept, Hyrum Anderson, cofondateur et dirigeant de l’entreprise de sécurité Abundant, s’inquiète notamment du cas où un adversaire utiliserait les équipements d’un service des eaux américain comme relais : l’agent pourrait-il aussi les neutraliser ?

Ce scénario illustre un risque de dommages collatéraux, pas un incident déjà provoqué par ECHOTRIBBLE. Il pose une question concrète : comment distinguer les infrastructures d’un adversaire des machines civiles dont il se sert ?

David Krueger, professeur d’apprentissage automatique à l’Université de Montréal, juge pour sa part « extrêmement dangereuse » la création de systèmes autonomes chargés de neutraliser des menaces, compte tenu des défaillances des IA actuelles. Le chercheur, également fondateur d’Evitable, une organisation favorable à un moratoire sur le développement de l’IA, formule cet avertissement auprès de The Intercept.

Le programme a déjà franchi une étape industrielle. Le Cyber Fusion Innovation Center (CFIC), partenaire d’ARCYBER, indique avoir reçu 65 propositions et retenu cinq entreprises pour des présentations du 6 au 8 octobre. Une entreprise a été sélectionnée le 8 octobre ; la page annonce encore des démarches contractuelles à venir. Cela n’établit ni un déploiement opérationnel ni la maîtrise de toutes les capacités demandées.

Le CFIC, partenaire d’ARCYBER. // Source : CFIC

Les modalités de contrôle restent à préciser publiquement : quelles actions devront être validées, comment interrompre un agent et comment vérifier qu’il respecte son périmètre ? Selon The Intercept, ARCYBER n’a pas répondu à ses questions, notamment sur les mesures prévues pour éviter les dommages accidentels.

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Tout le monde n'a pas les moyens de payer pour l'information.

C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,

voici trois bonnes raisons de soutenir notre travail :

1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.

2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.

3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

Crédit photo de la une : US Cyber Command / Numerama

Signaler une erreur dans le texte

来源

Numerama