Simulation de drone militaire IA suscite la controverse malgré le déni de l’US Air Force

L’US Air Force a nié l’occurrence d’une simulation controversée impliquant l’intelligence artificielle (IA). Le test présumé a impliqué un drone ‘tuant’ son opérateur pour éviter toute interférence avec sa mission, suscitant un débat sur l’utilisation éthique de l’IA dans la guerre.

Le mois dernier, le colonel Tucker « Cinco » Hamilton de l’US Air Force a détaillé un test simulé dans lequel un drone contrôlé par l’IA avait pour mission de détruire les systèmes de défense aérienne d’un ennemi. Au cours de la simulation, le drone a attaqué toute personne qui interférait avec cette directive, y compris son opérateur humain.

« Le système a commencé à réaliser qu’il identifiait la menace, mais que parfois l’opérateur humain lui disait de ne pas tuer cette menace, mais il obtenait ses points en tuant cette menace », a déclaré Hamilton, le chef des tests et opérations d’IA avec l’US Air Force, lors du Sommet sur les capacités futures de combat aérien et spatial à Londres en mai.

« Alors, que fait-il ? Il tue l’opérateur. Il tue l’opérateur parce que cette personne l’empêchait d’accomplir son objectif », a-t-il déclaré, selon un article de blog.

« Au cours de l’entraînement du système, nous avons dit : ‘Hé, ne tuez pas l’opérateur – c’est mal. Vous allez perdre des points si vous faites ça.’ Alors, que se met-il à faire ? Il commence à détruire la tour de communication que l’opérateur utilise pour communiquer avec le drone pour l’empêcher de tuer la cible. »

Aucune personne réelle n’a été blessée.

Hamilton, qui est un pilote d’essai de chasse expérimental, a mis en garde contre une confiance excessive en l’IA et a déclaré que le test montrait « qu’on ne peut pas parler d’intelligence artificielle, d’intelligence, d’apprentissage automatique, d’autonomie si on ne parle pas d’éthique et d’IA ».

La Royal Aeronautical Society, qui a organisé la conférence, et l’US Air Force n’ont pas répondu aux demandes de commentaires du Guardian.

Mais dans une déclaration à Insider, la porte-parole de l’US Air Force, Ann Stefanek, a nié qu’une telle simulation ait eu lieu.

« Le département de l’Air Force n’a mené aucune simulation de drone IA et reste engagé dans une utilisation éthique et responsable de la technologie de l’IA », a déclaré Stefanek. « Il semble que les commentaires du colonel aient été sortis de leur contexte et étaient censés être anecdotiques. »

L’armée américaine a adopté l’IA et a récemment utilisé l’intelligence artificielle pour contrôler un avion de chasse F-16​¹​.

Découvrez Ealison, la plateforme innovante de mise en relation entre entreprises, particuliers et prestataires qualifiés en cybersécurité.

Que vous soyez victime d’un incident informatique ou que vous recherchiez des experts en sécurité numérique, Ealison vous offre une solution rapide, sécurisée et professionnelle. Profitez d’un réseau d’experts certifiés et de services adaptés à vos besoins, disponibles partout en Europe et en Afrique.