Pourquoi l’IA ne remplacera-t-elle jamais l’humain ?

Le terme « Intelligence artificielle » s’est avéré être un tour de force linguistique grandiose. Nous examinons ce qui se cache réellement derrière ce beau nom et pourquoi il est important que chacun le sache.

La courbe de Gartner et l’écart des attentes

Pour comprendre pourquoi l’IA suscite tant de bruit, il est utile de se référer à ce qu’on appelle la courbe de Gartner. Il s’agit d’un modèle qui décrit le cycle de vie typique des nouvelles technologies.

D’abord vient le pic des attentes surestimées : la technologie semble presque magique. Puis arrive la désillusion, lorsque l’on comprend que la réalité ne correspond pas à la publicité. Ensuite commence un vieillissement progressif : des cas concrets apparaissent, une utilité pratique se manifeste et une compréhension plus lucide des limites s’établit. En fin de compte, la technologie atteint un plateau d’utilisation stable.

L’intelligence artificielle actuelle traverse actuellement une phase de surestimation des attentes et d’un début de descente vers la zone de désillusion. D’où le conflit principal : l’image publique du « raisonnement numérique » ne correspond pas à ce que le système est en pratique.

Un système de prédiction, pas de réflexion

Lorsque les géants de la technologie nous ont promis un « esprit numérique », ils ont un peu menti. Le terme même d’« intelligence artificielle » tel qu’il est utilisé aujourd’hui prête plutôt à confusion. Ce que l’on appelle couramment l’IA aujourd’hui n’est en réalité que des calculateurs statistiques surpuissants, entraînés pour imiter parfaitement le langage humain. Ils compilent des sens à partir d’énormes volumes de texte, mais ne les génèrent pas par eux-mêmes.

En termes simples, l’IA moderne ne pense pas. Elle excelle à prédire le mot suivant ; sous ce nom retentissant se cachent non pas des entités pensantes, mais des systèmes statistiques complexes entraînés à traiter d’énormes volumes de données.

Comprendre cette différence est important, car les attentes du public envers la technologie divergent de plus en plus de ses capacités réelles.

Les limites de l’architecture moderne

L’architecture dominante des réseaux de neurones Transformer a déjà rencontré des limites sérieuses. La stratégie « noyer encore plus de téraoctets de texte et brûler plus d’électricité » est épuisée. Les modèles ont appris à mieux parler, mais n’ont pas appris à mieux réfléchir.

Il existe au moins deux limitations systémiques qui ne peuvent pratiquement pas être résolues par le passage à l’échelle :

1. Absence de logique réversible. Le modèle ne sait pas établir une chaîne causale comme le fait un humain, en partant du résultat pour remonter à la source du problème.
2. Absence de modèle dynamique du monde. Le système ne conserve pas en mémoire une image continue de la réalité, mais fonctionne uniquement avec un « instantané » – un ensemble de liens statistiques formés au moment de l’apprentissage.

Le soulèvement des machines n’aura pas lieu, mais la menace réelle est plus effrayante

Les craintes populaires concernant la prise de contrôle du monde par l’intelligence artificielle sont grandement exagérées. Les modèles actuels sont trop instables et sujets aux erreurs pour s’emparer secrètement de la planète et agir de manière autonome dans des conditions critiques. Un tel système d’IA serait désactivé dès le premier pas en raison d’un simple bug dans le code.

Le véritable danger paraît beaucoup plus prosaïque, et c’est précisément pourquoi il est plus dangereux. Il ne tient pas à la « conscience des machines », mais à la crédulité humaine et à la tendance à surestimer la qualité des réponses lorsqu’elles sont formulées avec assurance et conviction.

Le danger commence au moment où les personnes sont prêtes à confier aux systèmes la prise de décision dans des domaines où le coût d’une erreur est trop élevé : la médecine, le système judiciaire, les infrastructures critiques et les installations militaires.

Une réponse bien formulée n’est pas égale à une solution correcte. C’est la pensée clé qu’il est important de garder à l’esprit lors de l’utilisation d’outils d’intelligence artificielle.

Le paradoxe de l’automatisation

Il existe un paradoxe bien connu de Moravec : les tâches que l’on considérait autrefois comme le summum de l’intelligence humaine sont faciles pour les ordinateurs. En revanche, les actions que l’homme accomplit intuitivement, comme se déplacer, s’orienter dans l’espace ou manipuler des objets, restent extrêmement complexes pour les machines.

Par exemple, les robots ont encore du mal à plier le linge, tandis que ChatGPT rédige facilement des mémoires, résout des équations mathématiques et bat un humain aux échecs. C’est là le paradoxe de Moravec en action.

L’industrie a suivi la voie de la moindre résistance. Au lieu d’automatiser les travaux physiques pénibles, ce qui aurait réellement allégé la vie des gens, nous avons obtenu l’automatisation de la production numérique de contenu. Le résultat est une avalanche de bruit informationnel et de fausses informations, dans laquelle il devient de plus en plus difficile de distinguer la vérité d’une fiction convaincante.

ANI contre AGI

Peut-on considérer l’IA comme un véritable intelligence ? Évidemment non, si l’on entend par intelligence la raison humaine capable de conscience, de fixation d’objectifs, de réflexion et de création de nouvelles connaissances à partir de rien. Ce que nous avons aujourd’hui n’est qu’un « pseudo-intellect ».

Pour évaluer objectivement la situation, il est important de distinguer deux concepts fondamentalement différents.

ANI (Intelligence artificielle étroite) – IA étroite

C’est avec lui que nous travaillons chaque jour. Il excelle dans des tâches spécifiques : il détecte les tumeurs cancéreuses sur les images, optimise la logistique et traduit des textes. Mais il échoue devant des tâches logiques élémentaires en dehors de son domaine de spécialisation.

Une méthode simple pour vérifier à quel point un réseau de neurones comprend le contexte consiste à lui poser une question sur une laverie située à 200 mètres de chez vous et à demander s’il vaut mieux y aller à pied ou en voiture. Vos réponses ne manqueront pas de vous surprendre.

AGI (intelligence artificielle générale) – IA universelle

Il s’agit d’un système hypothétique capable de penser et d’apprendre avec autant de flexibilité qu’un être humain. C’est ce que les gens imaginent lorsqu’ils parlent de « véritable intelligence artificielle ».

Jusqu’à l’avènement d’une telle technologie, l’humanité en est encore infiniment loin. Cela nécessitera non pas des améliorations cosmétiques des modèles actuels, mais une architecture fondamentalement nouvelle et une compréhension beaucoup plus approfondie de la manière dont se forment la pensée et la perception du monde physique.

Miroir de l’humanité, et non une nouvelle intelligence

Le « superintelligence numérique » promis n’est pas apparu. L’humanité n’a pas créé un dieu numérique ni un Terminator, mais un miroir informationnel. Lorsqu’il produit des absurdités, trompe ou avance avec assurance des non-sens, il ne fait que refléter l’ensemble de données chaotique, contradictoire et pas toujours logique que les humains eux-mêmes ont généré.

Lorsque l’IA produit des réponses absurdes ou se trompe avec assurance, cela ne manifeste pas de conscience. C’est le reflet de la qualité des données sur lesquelles le système a été entraîné.

Et il y a là un point important : chaque utilisateur d’Internet a déjà influencé le comportement de ces modèles. Les publications sur les réseaux sociaux, les commentaires, les articles, les forums, les discussions, les mèmes, les débats et même la désinformation flagrante sont tous devenus partie intégrante d’un immense corpus numérique sur lequel ont été entraînés les systèmes modernes. L’IA n’est pas apparue « de nulle part » – elle est littéralement constituée de contenu humain, avec toutes ses qualités, ses préjugés, ses erreurs et son chaos.

Le réseau neuronal ne peut pas créer de connaissance « à partir de rien » ou contre la logique des données, car il lui manque le moteur principal de l’évolution : l’expérience subjective. Le modèle ne ressent aucune douleur, n’a aucun besoin et ne peut pas vouloir résoudre une tâche qui n’a pas été chargée en lui.

Dans les années à venir, l’avantage principal de l’homme restera les choses que les algorithmes ne sont pas encore capables de reproduire pleinement :

• l’esprit critique ;
• le bon sens;
• la capacité de douter ;
• responsabilité morale.

Les technologies restent un outil. Les décisions sont toujours prises par les humains. Et la responsabilité des conséquences incombe également aux humains.