Camille Bisconte De Saint Julien, Human Rights and Social Lead, LBP AM.
Longtemps présentée comme un outil d’amélioration des capacités militaires, elle est désormais au cœur des processus de renseignement, d’identification des cibles, de surveillance et d’aide à la décision. Derrière les promesses d’efficacité et de précision se dessine une réalité complexe soulevant des questions fondamentales sur la responsabilité, la conformité au droit international humanitaire et les risques pour les investisseurs.
De nouveaux risques
Dans un contexte où les entreprises technologiques interviennent de plus en plus dans le secteur de la défense, il devient d’autant plus important pour les investisseurs d’évaluer la manière dont les systèmes d’IA fonctionnent.
Les défenseurs de l’IA à usage militaire mettent en avant sa capacité à analyser d’immenses volumes de données, à accélérer les prises de décision et à réduire les erreurs humaines. Une vision qui nourrit l’idée d’une guerre plus précise, donc potentiellement moins destructrice, et qui mérite d’être interrogée. Les récents conflits montrent que lorsque les algorithmes deviennent des intermédiaires entre les faits observés et les prises de décision, de nouveaux risques apparaissent. Souvent structurels, ils découlent de l’interaction entre les systèmes d’IA, les environnements de combat et les contraintes humaines. Cela requiert une compréhension approfondie du fonctionnement des systèmes, des mécanismes de contrôle et de la façon dont les entreprises gèrent les conséquences potentielles des technologies qu’elles développent.
Des angles morts à surveiller
Lorsqu’ils sont utilisés dans des environnements militaires complexes, les systèmes d’IA produisent des résultats susceptibles de masquer l’incertitude réelle de la situation. Leur performance peut se dégrader face à des données incomplètes, des tactiques de tromperie, de brouillage électronique ou des contextes différents de ceux utilisés lors de leur entraînement. À cela s’ajoutent les risques de biais dans les données, susceptibles de générer des erreurs de classification systématiques. L’accélération des cycles décisionnels renforce ces vulnérabilités : les opérateurs disposent de moins de temps pour analyser les recommandations générées par les systèmes.
Il revient alors aux investisseurs de s’assurer que les entreprises concernées disposent de mécanismes d’escalade, d’expertise juridique et de processus capables d’identifier les usages à haut risque. Autre élément à prendre en considération, les mesures déployées pour restreindre ou refuser certaines applications lorsque les risques ne peuvent être suffisamment maîtrisés.
Contrôle humain, responsabilité et respect du droit international humanitaire
L’IA transforme progressivement le rôle des décideurs humains. Même lorsqu’un opérateur reste dans la boucle décisionnelle, sa capacité à comprendre, contester ou corriger les recommandations du système d’IA peut être limitée. Ce qui soulève des questions fondamentales sur la responsabilité en cas d’erreur ou de violation du droit international humanitaire. L’opacité des systèmes rend également plus difficile l’identification des responsabilités entre développeurs, fournisseurs, commandements militaires et opérateurs. Enfin, l’IA ne peut à elle seule reproduire les raisonnements contextuels exigés par les principes de sélectivité, proportionnalité et précaution, qui sont au cœur du droit international humanitaire.
Pour les investisseurs, la capacité d’une entreprise à garantir la traçabilité de ses systèmes d’IA constitue un indicateur clé de maîtrise du risque.
Gouvernance et responsabilité d’entreprise
Au-delà des aspects technologiques, les investisseurs peuvent s’intéresser à la manière dont les entreprises pilotent le développement et le déploiement de leurs solutions d’IA militaire. Il s’agit notamment de la capacité des entreprises à identifier les usages à haut risque, instaurer des mécanismes d’escalade, intégrer l’expertise juridique et droits humains dans les décisions stratégiques et, le cas échéant, limiter ou refuser certains usages de leurs technologies. Cette dimension est particulièrement importante car c’est à ce niveau que se décident les garde-fous susceptibles de prévenir les risques juridiques, éthiques et réputationnels. Pour les investisseurs, c’est probablement là que se situe le principal levier d’influence.
Ces récentes évolutions génèrent un risque émergent à la croisée des enjeux technologiques, juridiques, géopolitiques et ESG. Pour les évaluer efficacement, au-delà des engagements généraux sur l’IA responsable, les investisseurs doivent être en mesure de prendre en compte de nouveaux critères tels que la traçabilité des décisions, le contrôle humain, la gestion des biais, la prise en compte du droit international humain et la solidité des mécanismes de gouvernance. L’IA militaire est un enjeu contemporain, et comprendre comment elle influence les décisions militaires pourrait rapidement devenir un élément central de l’analyse des risques extra-financiers et de la mise en application des principes de responsabilité des investissements.
