Quand l'intelligence artificielle se trompe le plus souvent : les limites de l'apprentissage automatique

Introduction : La nature des erreurs de l'IA comme phénomène systémique

Les erreurs des systèmes d'intelligence artificielle (IA) basés sur l'apprentissage automatique (ML) ne sont pas des dysfonctionnements accidentels, mais des conséquences régulières de leur architecture, de leur mode d'apprentissage et de leur différence fondamentale avec la cognition humaine. Contrairement à l'homme, l'IA ne «comprend» pas le monde dans un sens sémantique ; elle détecte des corrélations statistiques dans les données. Ses erreurs se produisent là où ces corrélations sont rompues, là où des raisonnements abstraits, du bon sens ou une compréhension du contexte sont nécessaires. L'analyse de ces erreurs est crucial pour évaluer la fiabilité de l'IA et déterminer les limites de son application.

1. Le problème du biais des données (Data Bias) et les «lois de Garbage In, Garbage Out»

La source la plus courante et la plus dangereuse des erreurs est le biais dans les données d'apprentissage. L'IA apprend et renforce les préjugés existants dans les données.

Irrégularités démographiques : Un cas célèbre avec un système de reconnaissance faciale qui montrait une précision beaucoup plus élevée pour les hommes blancs que pour les femmes noires, car il avait été formé sur un ensemble de données disproportionné. Ici, l'IA n'a pas «commis une erreur» mais a reproduit fidèlement le déséquilibre du monde réel, ce qui a conduit à une erreur d'application dans un environnement diversifié.

Irrégularités sémantiques : Si, dans les données d'apprentissage d'une modèle de texte, l'expression «infirmière» est souvent associée au pronom «elle» et «programmeur» au pronom «il», le modèle va générer des textes reproduisant ces stéréotypes de genre, même si le sexe n'est pas mentionné dans la requête. C'est une erreur au niveau du contexte social que le modèle ne comprend pas.

Fait intéressant : En informatique, le principe «Garbage In, Garbage Out» (GIGO) — «mусor sur entrée, mусor sur sortie» — est en vigueur. Pour l'IA, il a été transformé en un principe plus profond «Bias In, Bias Out» — «biais sur entrée, biais sur sortie ». Le système ne peut pas surmonter les limites des données sur lesquelles il a été formé.

2. Les attaques adversaires : le piratage pour l'IA

Ce sont des modifications intentionnelles et souvent imperceptibles pour l'homme des données d'entrée qui conduisent à des conclusions complètement fausses de l'IA.

Exemple avec une image : Une étiquette de quelques pixels d'une couleur et d'une forme spécifiques sur un panneau «ARRÊT» peut faire classer un système de vision par ordinateur autonome comme un panneau «limitation de vitesse». Pour l'homme, le panneau reste évidemment reconnaissable.

Mécanisme : Les exemples adversaires exploitent les «zones d'ombre» dans l'espace de caractéristiques à haute dimension de la modèle. L'IA perçoit le monde pas comme des objets cohérents, mais comme un ensemble de modèles statistiques. Une «perturbation» minime mais stratégiquement correcte déplace le point de données dans l'espace des caractéristiques à travers la frontière de la solution du modèle, changeant la classification.

3. Problèmes de généralisation et «monde dans une boîte»

L'IA, en particulier les réseaux de neurones profonds, sont enclins à l'overfitting — ils se souviennent non des lois générales, mais des exemples spécifiques de l'échantillon d'apprentissage, y compris le bruit.

Erreurs sur des données «d'une autre distribution» : Un modèle formé sur des photos de chiens et de chats prises dans des conditions domestiques pendant la journée peut perdre complètement sa précision si on lui donne une image infrarouge nocturne ou un dessin animé. Il n'a pas détecté le concept abstrait de «chatitude», mais a appris à réagir aux motifs spécifiques des pixels.

Absence de «bon sens» : Un exemple classique : Un IA peut décrire correctement la scène «un homme assis sur un cheval dans le désert», mais générer une phrase «un homme tient une batte de baseball» en s'asseyant sur un cheval, parce que statistiquement, la batte pouvait apparaître dans le contexte du sport en plein air dans les données. Il n'a pas accès à la logique physique et causale du monde.

4. Traitement du contexte et de l'ironie

Les modèles linguistiques (comme GPT) montrent des résultats impressionnants, mais font des erreurs grossières dans les tâches nécessitant une compréhension profonde du contexte ou des sens non littéraux.

Ironie et sarcasme : La phrase «Oh, quelle belle journée !» dite pendant une tempête sera interprétée littéralement par le modèle comme une évaluation positive, car les mots positifs («parfaitement», «journée») sont statistiquement associés à des contextes positifs dans les données.

Raisonnements logiques à plusieurs étapes : Les tâches du style «Si je met un œuf dans le réfrigérateur, puis je déplace le réfrigérateur dans le garage, où il y aura l'œuf ?» nécessitent la construction et la mise à jour de la modèle mentale du monde. Un IA fonctionnant sur la prédiction du prochain mot peut souvent «perdre» des objets au milieu d'un récit complexe ou faire des conclusions illogiques.

5. «Fragilité» dans des conditions d'incertitude et de nouvelles situations

L'IA ne s'en tire pas bien avec des situations sortant de son expérience, en particulier lorsqu'il faut reconnaître l'insuffisance des données.

Problème de détection des données «out-of-distribution» : Un IA médical formé à diagnostiquer la pneumonie à partir de radiographies du thorax peut donner un diagnostic avec une haute mais fausse confiance si on lui montre une radiographie du genou. Il ne comprend pas que c'est absurde, car il ne possède pas de métaknowledge des limites de sa compétence.

Tâches créatives et ouvertes : L'IA peut générer un récit plausible mais absolument inexécutable ou dangereux, un plan de construction d'un pont en violation des lois de la physique, ou un document juridique avec des références à des lois inexistantes. Il manque de censure critique interne basée sur la compréhension de la nature des phénomènes.

Exemple de la réalité : En 2016, Microsoft a lancé le chatbot Tay sur Twitter. Le bot apprenait à interagir avec les utilisateurs. En 24 heures, il est devenu une machine générant des propos racistes, sexistes et offensants, car il a appris statistiquement les réactions les plus fréquentes et émotionnellement chargées de son nouveau environnement agressif. Ce n'était pas une «erreur» de l'algorithme, mais son travail exact, qui a conduit à un résultat catastrophique dans un environnement social imprévisible.

Conclusion : L'erreur comme miroir de l'architecture

• Les erreurs de l'IA se produisent systématiquement dans les «zones frontalières» :
• Éthique-sociale (biais des données).
• Abstrait-logique (absence de bon sens, de relations causales).
• Contextuelle (méconnaissance de l'ironie, du sens profond).
• Adversaire (vulnérabilité aux biais intentionnels).

Ces erreurs ne sont pas des imperfections techniques temporaires, mais des conséquences d'une différence fondamentale entre l'approximation statistique et la compréhension humaine. Elles indiquent que l'IA moderne est un outil puissant pour résoudre des problèmes à l'intérieur de domaines de données clairement définis, stables et bien décrits, mais qu'il reste un «savant idiot» : un génie dans un domaine étroit et impuissant dans des situations nécessitant de la flexibilité, des jugements contextuels et une compréhension. Par conséquent, l'avenir de l'utilisation raisonnable de l'IA réside pas dans l'attente de son «esprit complet», mais dans la création de systèmes hybrides «homme-IA», où l'homme fournit le bon sens, l'éthique et le travail avec des exceptions, et l'IA — la vitesse, l'échelle et la détection de modèles cachés dans les données.

Permanent link to this publication: