Les géants de l’intelligence artificielle—OpenAI, Anthropic, Google, Meta, X et DeepSeek—font face à une question de gouvernance critique : comment concilier leur responsabilité commerciale d’accessibilité avec leur obligation éthique et légale de prévenir l’exploitation de leurs outils par des groupes terroristes documentés comme Boko Haram ? Une étude de l’Université de Cambridge, publiée en 2025 et basée sur 57 entretiens avec d’anciens membres du groupe djihadiste, révèle que Boko Haram utilise activement ChatGPT, Claude, Gemini, Grok, Meta AI et DeepSeek depuis 2023 pour planifier des attaques, concevoir des explosifs et optimiser ses tactiques militaires. Au-delà de la menace sécuritaire, l’affaire pose une question inédite de responsabilité sociétale des entreprises (RSE) : les éditeurs d’IA peuvent-ils être tenus pour responsables des usages malveillants de leurs technologies ?
Le dilemme éthique des éditeurs d’IA : liberté d’accès vs. sécurité antiterroriste
Modèles commerciaux et sécurité : tension entre accessibilité et responsabilité
Le modèle économique des plateformes d’IA générative repose sur une accessibilité maximale. OpenAI, Anthropic et leurs concurrents ont bâti leur succès sur la facilité d’accès : créer un compte, souscrire un abonnement, poser des questions. Aucune vérification d’identité approfondie, aucun contrôle préalable de l’intention d’usage. L’étude Cambridge révèle que Boko Haram a créé des unités dédiées à l’IA avec leurs propres abonnements aux services, chargées de répondre aux demandes d’information des combattants. Antonia Juelich, chercheure au Cambridge Programme on AI Science & Policy, souligne l’ampleur du phénomène : le groupe utilise au moins six plateformes d’IA frontier dans ses opérations quotidiennes. Un ancien commandant témoigne : « Les essais-erreurs peuvent vous tuer. L’IA vous donne de la précision ».
Pour les entreprises technologiques, la tension est réelle. Restreindre l’accès risque de freiner l’adoption commerciale et d’alimenter les critiques sur la censure. Maintenir l’ouverture actuelle expose à des risques réputationnels et légaux majeurs. La question dépasse le cadre technique pour interroger la philosophie même de ces entreprises : démocratiser l’IA signifie-t-il accepter qu’elle serve à tuer ?
Safeguards insuffisants : quand les investissements en sécurité ne suffisent pas
Les éditeurs d’IA ont investi massivement dans des mécanismes de protection (safeguards) : filtres de contenu, refus automatiques face à des requêtes sensibles, modération humaine. Pourtant, l’organisation Tech Against Terrorism a testé 27 modèles d’IA avec 2 300 demandes d’information basées sur des cas terroristes concrets. Résultat : 32% des requêtes ont produit des informations « réellement exploitables ». Lorsque la même question était reformulée en spécifiant des fins de recherche académique, le taux grimpait à 42%. Les techniques de jailbreaking, consistant à contourner les safeguards par reformulation progressive ou contextualisation trompeuse, se révèlent redoutablement efficaces.
L’État islamique a dispensé des formations en personne et à distance sur l’utilisation de l’IA à Boko Haram, avec des sessions impliquant des « trainers » spécialisés. Les combattants ont reçu des ordinateurs portables pré-installés avec VPN et logiciels de chiffrement. Un membre du groupe confie : « Rien n’est resté sans réponse. Nous croyons qu’elle sait tout ». Les investissements en sécurité des entreprises technologiques, pensés pour des utilisateurs isolés, se heurtent à des adversaires organisés, formés et déterminés.
Qui est responsable ? OpenAI, Anthropic, Google, Meta, X et DeepSeek face à l’exploitation
Chaîne de responsabilité : éditeur, utilisateur, régulateur
La responsabilité juridique et éthique se dilue dans une chaîne complexe. L’utilisateur final—ici, le combattant de Boko Haram—commet l’acte criminel. L’éditeur fournit l’outil. Le régulateur (ou son absence) définit le cadre légal. Les entreprises technologiques invoquent généralement le principe de neutralité de l’outil : un couteau peut servir à cuisiner ou à tuer, le fabricant n’est pas responsable de l’usage. Pourtant, l’IA générative diffère d’un couteau. Elle produit activement du contenu, répond à des questions, guide l’utilisateur. L’étude Cambridge documente comment Boko Haram a optimisé ses tactiques : réduction des effectifs engagés de 200 à 20 combattants tout en améliorant l’efficacité des attaques coordonnées.
Les conditions générales d’utilisation interdisent formellement l’usage malveillant. Mais ces clauses suffisent-elles à exonérer les entreprises de toute responsabilité morale et sociétale ? Pour les directions RSE et les comités d’éthique, la question devient urgente. L’association à des groupes terroristes constitue un risque réputationnel majeur, susceptible d’affecter la valorisation boursière et la confiance des investisseurs.
Cadre légal actuel : insuffisance des dispositions existantes
Le droit actuel peine à appréhender ces situations. Aux États-Unis, la Section 230 du Communications Decency Act protège les plateformes de la responsabilité des contenus publiés par les utilisateurs. En Europe, le Digital Services Act impose des obligations de modération, mais reste flou sur la responsabilité en cas d’usage malveillant d’outils génératifs. Aucun texte ne traite spécifiquement de la fourniture d’informations exploitables par des groupes terroristes via des chatbots. En 2025, des incidents documentés aux États-Unis, Canada, Israël, Finlande, France et Autriche montrent que des terroristes isolés et des groupes organisés utilisent l’IA pour planifier des attentats. Le vide juridique devient criant.
Risques réputationnels et impact actionnarial pour les entreprises technologiques
Association à la menace terroriste : dommages d’image et pression réglementaire
Pour OpenAI, Anthropic, Google, Meta, X et DeepSeek, l’association publique à Boko Haram ou à l’État islamique constitue un cauchemar de communication. Les révélations de Cambridge ont été largement relayées par les médias internationaux. Les directions générales doivent désormais répondre aux questions des investisseurs, des régulateurs et de l’opinion publique. Comment une entreprise valorisant l’innovation responsable et l’éthique peut-elle accepter que ses outils servent à tuer des civils ? La pression réglementaire s’intensifie. Aux États-Unis, des voix s’élèvent pour réclamer des audits de sécurité obligatoires et des certifications antiterroristes. En Europe, la Commission pourrait durcir le cadre légal. En Chine, DeepSeek fait face à un dilemme similaire, alors que Pékin surveille étroitement les implications géopolitiques de ses champions technologiques.
Attentes des investisseurs : gouvernance de sécurité et conformité antiterroriste
Les investisseurs institutionnels, de plus en plus sensibles aux critères ESG (environnement, social, gouvernance), scrutent la gestion des risques par les entreprises technologiques. Un fonds de pension peut-il continuer à détenir des actions d’une entreprise dont les outils sont utilisés par des terroristes ? Les agences de notation extra-financière intègrent progressivement ces dimensions. La gouvernance de sécurité devient un critère d’investissement. Les entreprises doivent démontrer qu’elles prennent des mesures actives, transparentes et vérifiables pour prévenir l’usage malveillant de leurs technologies. L’inaction ou l’opacité peuvent entraîner des désinvestissements massifs et une chute de valorisation.
