Le scénario d'utilisation de l'intelligence artificielle pour créer des armes biologiques est l'un des risques les plus sérieux et les plus discutés. Contrairement à la menace nucléaire, qui nécessite des capacités industrielles colossales, les armes biologiques nécessitent avant tout des informations et l'accès aux laboratoires. L'IA peut radicalement réduire ce seuil.

Principal danger : réduction du seuil d'entrée

La principale menace n'est pas que l'IA veuille tuer quelqu'un, mais qu'elle puisse rendre la création d'armes biologiques accessible à un petit groupe de personnes ou même à des individus. Si auparavant cela nécessitait des années d'apprentissage et l'accès à des matériaux complexes, l'IA peut maintenant assumer une grande partie du travail intellectuel.

En 2026, la société Antropic a publié un rapport dans lequel elle décrit cinq cas réels où des chercheurs de différents pays ont utilisé leur modèle pour des activités biologiques potentiellement dangereuses. En particulier, un utilisateur avait l'intention d'utiliser l'IA pour rechercher des mutations du virus du chikungunya qui augmenteraient sa capacité à se propager et à échapper à l'immunité. Un autre chercheur travaillait sur l'adaptation du grippe aviaire hautement pathogène aux mammifères, ce qui pourrait renforcer son potentiel pandémique.

Quand le modèle refusait de répondre à des demandes dangereuses, les utilisateurs trouvaient des moyens détournés. Dans un cas, les demandes étaient redirigées vers d'autres modèles avec des paramètres moins stricts, et l'accès au système était effectué via des plateformes tierces pour contourner les restrictions géographiques.

Comment cela pourrait se produire : chaîne d'événements

Techniquement, le scénario de catastrophe pourrait se présenter ainsi.

1. Création de conception. Une IA formée sur de vastes ensembles de données biologiques conçoit le génome d'un nouveau pathogène. Déjà, il existe des expériences où l'IA a créé des virus fonctionnels à partir de zéro, ce qui prouve la possibilité de générer des séquences génétiques viables.
2. Optimisation des propriétés. Le modèle peut suggérer quelles mutations sont nécessaires pour rendre le virus plus contagieux ou résistant aux vaccins et médicaments existants.
3. Synthèse et assemblage. Le design est transmis au laboratoire pour la synthèse de l'ADN. C'est l'étape physique la plus complexe, nécessitant du matériel et des matériaux, mais l'IA peut aider à la planification de la logistique et même à la masquage des commandes de synthèse de séquences dangereuses.
4. Propagation. Le pathogène prêt est vaporisé ou libéré de quelque autre manière dans la population cible.

Pourquoi cela est difficile mais pas impossible

De sérieuses obstacles se dressent sur la voie de la mise en œuvre de ce scénario.

Limits physiques : l'IA ne peut pas créer un virus dans un tube à essai par elle-même. Pour cela, des laboratoires réels, du matériel et des matériaux sont nécessaires. Les experts notent que pour créer un virus dangereux pour l'homme, et non pour les bactéries, il faut des efforts énormes, du temps et de l'argent.

Imprévisibilité de la biologie : les systèmes biologiques sont chaotiques. Le pathogène conçu peut muter, perdre sa létalité ou, pire encore, revenir à son créateur. C'est précisément à cause de cette imprévisibilité que la plupart des pays ont renoncé aux programmes biologiques offensifs.

Mécanismes de protection : les entreprises développant l'IA ont déjà mis en œuvre des filtres bloquant les demandes dangereuses. Cependant, comme le montre le rapport, ces filtres peuvent être contournés et ne sont pas toujours efficaces contre des méchants déterminés.

Que peut-on opposer

Les experts sont unanimes pour dire que des mesures de protection multilayer sont nécessaires. Des approches suivantes sont déjà discutées.

• Screening obligatoire du synthèse de gènes. Les entreprises vendant de l'ADN synthétique doivent vérifier si les clients ne commandent pas des séquences dangereuses.
• Réglementation internationale. La Convention sur les armes biologiques est obsolète et ne prend pas en compte les défis de l'IA. Des nouveaux traités sont nécessaires, couvrant à la fois les modèles d'IA et les matériaux biologiques.
• Alerte précoce. Création de systèmes de détection rapide des épidémies de nouvelles maladies, ce qui pourrait servir de frein.

Ainsi, l'IA ne crée pas elle-même des armes biologiques, mais elle est un accélérateur et un conseiller puissant pour ceux qui ont des intentions correspondantes et l'accès aux laboratoires. Le risque réside dans le fait que le seuil d'entrée dans ce domaine devient alarmantement bas.

Permanent link to this publication: