Copernique Marshall

Inintelligence Artificielle

Ce n'est pas ce que j'entends ou que je lis sur l'Intelligence Artificielle qui me fatigue, c'est la certitude avec laquelle des idioties sont dites et répétées par des gens qui n'ont aucune idée ce qu'est l'Intelligence Artificielle. Exactement ce que Richard Feynman disait à propos de la mécanique quantique : "Si vous pensez que vous connaissez ce qu'est la mécanique quantique, vous ne connaissez absolument rien de ce qu'est la mécanique quantique."

Voici ce qu'il disait de l'A.I. :

(Références à la fin)

***

Richard Feynman :

Ça vous est déjà arrivé, n'est-ce-pas, de vous poser une question comme "Quel est le nom de la comédienne qui jouait le rôle de Desdémone dans l'Othello d'Orson Welles ?"

Vous avez posé la question à ChatGpt qui vous répondu instantanément : "Suzanne Cloutier". Même chose quand vous vous êtes demandé la distance entre Paris et Lyon ou même celle entre Montréal et Saint-Louis-de-Gonzague. Ou encore qui fut le Président de la France avant Mitterand.

Plus tard, vous avez été émerveillé devant l'écran de votre ordinateur pour apprendre que ChatGPT pouvait également écrire des poèmes ou peindre un coucher de soleil sans jamais en avoir vu un seul.

Merveilleux, n'est-ce pas ? Le plus extraordinaire, c'est que cet écran, cette machine que vous aviez devant les yeux s'est mise, un jour, à répondre à vos questions avant même que vous ayez eu le temps de les poser. Et verbalement, par dessus le marché car elle comprenait ce que vous disiez et vous répondait de la même façon.

Et voilà que tout le monde vous a dit que cette chose était artificiellement intelligente, très intelligente ; qu'elle pouvait penser, réfléchir même. On vous a même dit dit qu'elle est brillante, que c'était un appareil qui pensait.

Et si je vous disait, au risque de vous offusquer, que ceux qui ont inventé l'expression "Intelligence Artificielle" n'avait aucune idée de ce qu'il disait ? La preuve est que toutes les intelligences artificielles connues aujourd'hui sont d'une stupidité à faire pleurer car non seulement elles n'ont aucun rapport avec ce qu'est une pensée, mais en plus, elles n'ont aucune idée ce que pourrait être une pensée. En fait, elles sont d'une stupidité difficile à s'imaginer. Si stupide que si vous rencontriez une personne qui se comportait comme elles, vous penseriez qu'il y a quelque chose qui cloche dans son comportement.

La vitesse trouble notre esprit. Elle nous porte à croire que si quelque chose se passe très vite, c'est forcément un signe d'ingéniosité. Si quelqu'un pouvait, par exemple, vous dire instantanément le résultat de la multiplication de deux nombres à dix chiffres en une seconde, vous auriez tendance à le qualifier de génie. Mais que se passerait-t-il si cette même personne, n'effectuait aucun calcul, mais pourrait, à une vitesse extraordinaire, trouver la réponse à votre question dans un grand livre ? Serait-elle toujours être un génie ou tout simplement un employé dans une bibliothèque qui peut se déplacer à une vitesse... extraordinaire ?

Pensez-y bien :

Oubliez les écrans d'ordinateurs, ceux des guichets bancaires ou des machines à calculer. Oubliez le marketing derrière ces écrans. Passez du côté des coulisses qui sont à leurs origines, là où tout fonctionne selon certains critères établis non pas pour vous épater, mais pour rendre toutes opérations répétitives plus rapides et plus efficaces. Là où ce qui semble magique vous étonnera par sa simplicité.

Imaginez un commis à l'information. Appelons-le tout simplement "le commis". C'est un homme de petite taille, assis dans une immense pièce sans fenêtres. Cette pièce est remplie, du sol au plafond, de classeurs, de millions, de milliards de classeurs. Et à l'intérieur de ces classeurs, des fiches, des milliards de fiches couvertes d'écriture. Le travail de ce commis consiste à exécuter des séries d'instructions très précises en ce qui les concerne.

On lui glisse un papier sous la porte. Sur ce papier, une question. Une simple question comme : "Quel est le sens de la vie ?" - Vous ou moi, après l'avoir lue, commencerions à nous interroger. Nous penserions à nos familles, aux étoiles, ou à cette sensation que l'on éprouve en écoutant de la musique, à des dizaines de milliers de choses apparemment sans rapport entre elles. Nous utiliserions en quelque sorte notre esprit. Mais, lui, le commis en est incapable. En réalité, ses capacités sont remarquablement limitées. Soyons honnêtes, il est totalement idiot, en plus d'être illettré.

Il ignore le sens du mot "sens" tout comme il ignore le sens du mot "vie". Pour lui, les lettres qui sont sur le bout de papier qu'on lui a glissée sous la porte ne sont que des formes, un trait ondulé par-ci, un trait droit par-là. Il ne voit même pas les mots auxquels ces mots se réfèrent. Il voit des graphies composées de traits d'encre. Alors, comment répond-il à la question ? Il consulte les instructions qu'on lui a données, des instructions mécaniques. Elles disent : "Prenez la fiche qui a été glissée sous la porte. Regardez la première forme. Si c'est un "W",  allez au classeur correspondant à cette forme, ouvrez le tiroir, cherchez la fiche qui ressemble à la forme suivante.... Si elle correspond, passez à l'instruction numéro cinq. Sinon, passez à l'instruction numéro six... etc." Le commis aux archives court. Il court vers les classeurs en question...

Il sort une carte. Il compare les formes. Il remet la carte dans son tiroir. Il court vers un autre tiroir ou classeur..

Il sort une autre carte. Il en crée une nouvelle en copiant des formes des anciennes cartes. Il les colle ensemble. Il suit les règles à la lettre. Si la forme A est à côté de la forme B, alors la forme C doit suivre. Il ne sait pas pourquoi. Il sait juste que c'est la règle.

Finalement, il a une feuille de papier avec une série de formes. Il court vers la porte et la repousse de l'autre côté. Vous ramassez la feuille, vous la lisez, et il est écrit : «Le sens de la vie est d'aimer et d'apprendre.» Et vous êtes stupéfait, vous vous exclamez : «Mon Dieu, cette machine est intelligente ! Cette machine comprend la condition humaine. Cette machine est profonde !»

Mais le commis aux archives a-t-il compris quelque chose dans sa démarche ? Non, il ne faisait que déplacer des papiers. Il mélangeait des fiches. Il n'a jamais pensé à l'amour ni à l'apprentissage. Il ne pensait qu'à associer la forme A à la forme B. C'est ce que nous appelons un ordinateur. C'est un commis aux archives perfectionné. C'est un mélangeur de données. C'est un manipulateur de symboles.

Vous pourriez me dire : "Ce commis, quand même est différent : Il apprend, il s'améliore avec le temps."

C'est exact si, parmi les instructions qu'on lui a données, on lui a dit de conserver la question qu'on lui a posée et la réponse qu'il a trouvée de telle sorte à répondre plus facilement la prochaine fois qu'on la lui posera. Mais pas plus. Il ne gagne pas en sagesse, mais en efficacité et c'est là la grande illusion.

Contrairement à tout cela, lorsqu'un enfant met ses doigts sur  une plaque de cuisson chaude, il apprend non seulement à ne pas recommencer, mais également le principe qu'est celui de la douleur. Il se construit une représentation du monde où la chaleur est synonyme de danger.

Avec notre connaisance des ordinateurs qui "pensent", nous confondons la carte avec le territoire. Nous confondons la syntaxe, c'est-à-dire l'agencement des mots, avec la sémantique, c'est-à-dire leur signification. Le commis, dont on vous paralait il y a duex minutes maîtrise parfaitement la syntaxe. Il sait exactement où placer une virgule. Il sait que le mot «couronne» apparaît généralement près du mot «roi», mais il ignore ce qu'est un roi. Il ignore qu'une couronne est lourde. Il ne connaît que la probabilité statistique que ces deux formes apparaissent ensemble dans son système de classification.

L'informatique est trompeuse. Elle nous permet de simuler la compréhension sans la posséder réellement.

Prenons un autre exemple :

Imaginez une bibliothèque.

Une bibliothèque qui renferme un ensemble de connaissances humaines. On y trouve des livres de physique, de cuisine, d'histoire, des romans, des cartes géographiques... Imaginez maintenant un bibliothécaire qui ne parle que le chinois. Il travaille à un endroit où tous les livres sont en anglais. Il est très compétent. Si vous lui demandez un livre sur la gravité, il sait exactement où il se trouve sur les rayons car il a mémorisé les cotes.

Si vous lui demandez de trouver un livre qui parle de la chute des pommes, il peut même, dépendant de la question précédente, aller chercher celui de Newton. Il vous le tend. Vous le lisez et vous apprenez des choses sur la gravité. Mais le bibliothécaire comprend-il la gravité ? Non. Il comprend la classification décimale de Dewey. Il connaît l'emplacement du livre, mais pas son contenu... ni le rapport avec une légende (Newton et la pomme), le fruit ou la gravité...

Les modèles d'IA actuels sont tout simplement des bibliothécaires qui ont parcouru l'intégralité d'Internet sans rien y comprendre. Ils ont cartographié les relations entre les mots.

Ils savent que si vous commencez une phrase par «le ciel», le mot suivant sera à un certain pourcentage-près «bleu», non pas parce qu'ils ont vu le ciel, ni parce qu'ils savent ce qu'est une couleur, mais parce que, parmi les milliards de fiches de leurs classeurs, le mot «bleu» apparaît à côté du mot «ciel» dans un pourcentage assez élevé. C'est une question de probabilité, non de perception. Pourquoi est-ce important ?

Pourquoi insister autant sur cette différence ? Parce que nous commençons à confier des décisions qui requièrent de la sagesse à ces archivistes. Nous leur demandons comment gouverner nos sociétés. Nous leur demandons de créer de l'art. Nous les traitons comme des dieux parce qu'ils sont rapides, et ils le sont vraiment. C'est leur seul avantage sur nous.

Imaginez si ces archivistes pouvaient courir à la vitesse de la lumière. Imaginez qu'ils puissent ouvrir un milliard de tiroirs en une nanoseconde. Pour vous, de l'extérieur, la réponse apparaîtrait instantanément. Ce serait comme par magie. Comme par intuition. Mais à l'intérieur, ce n'est toujours qu'un homme qui court dans tous les sens, en sueur, en - façon de parler - feuilletant des "papiers".

La vitesse masque la bêtise.

Si l'on fait une bêtise assez vite, cela passe pour de l'intelligence. Ce qui nous amène à une question plus profonde, une question qui me hante :

Si l'IA n'est qu'un simple archiviste, que sommes-nous ? Sommes-nous spéciaux ? Y a-t-il quelque chose de magique à l'oeuvre dans notre cerveau ? Observez-le : que voyez-vous ? Des neurones, des cellules, des substances chimiques, des signaux électriques qui fusent, des ions de sodium qui entrent, des ions de potassium qui sortent. C'est une machine, une machine biologique.

Se pourrait-il que nous ne soyons, nous aussi, que des archivistes? Se pourrait-il que lorsque je dis «je t'aime», je me précipite simplement vers mon «classeur interne», que j'en tire la fiche qui correspond à la situation et que je lise le texte ? C'est là que ça devient vraiment intéressant. C'est là que la physique rencontre la philosophie.

Nous savons que le cerveau fonctionne selon les mêmes lois physiques que l'ordinateur. Les atomes de notre cerveau obéissent aux mêmes règles que ceux des puces de silicium. Il n'y a pas d'esprit particulier qui manipule les atomes.

Tout cela relève de la physique. Mais l'architecture diffère.

Il y a une différence de complexité. L'ordinateur fonctionne séquentiellement, étape par étape. Il récupère l'instruction, l'exécute, stocke le résultat, puis récupère l'instruction suivante. Il répète cette opération des milliards de fois par seconde, mais… cela reste une étape à la fois. C'est comme un simple employé de bureau qui travaille à toute vitesse.

Le cerveau, en revanche, fonctionne en parallèle. Il est complexe. Il est bruyant. C'est comme si un milliard d'employés de bureau se criaient dessus en même temps. Et ils ne se contentent pas de suivre des règles. Ils les modifient constamment. Quand on apprend quelque chose, le cerveau se modifie physiquement. Les connexions entre les neurones se renforcent ou s'affaiblissent. Le matériel se recâble.

L'ordinateur, lui, ne se recâble pas. Le matériel reste le même. Le logiciel évolue, mais le silicium demeure rigide. Cette différence est importante. Elle est importante car elle suggère que l'intelligence ne se limite pas au traitement de symboles. Il s'agit d'incarner le monde.

Quand on pense à une pomme, on n'accède pas seulement au mot «pomme». Vous réveillez le souvenir du goût, du croquant, de la couleur rouge, du moment où vous avez grimpé à un arbre et chuté. Votre perception d'une pomme est liée à votre existence physique dans l'univers.

L'IA n'a pas d'existence physique. Elle n'a pas de corps. Elle n'a jamais ressenti la gravité, la faim, ni la chaleur du soleil. Elle ne possède que des descriptions de ces choses. C'est comme un homme qui a lu tous les livres sur la natation sans jamais avoir mis les pieds dans l'eau.

Si vous le jetez à la mer, il se noiera. Il connaît la théorie de la poussée d'Archimède, la dynamique des fluides, mais il ne sait pas nager.

L'IA est submergée de données, mais elle est affamée d'expérience. Dire qu'elle est stupide n'est donc pas une insulte. C'est la définir avec précision, la replacer dans sa juste catégorie : un outil, un levier pour l'esprit. Archimède disait : «Donnez-moi un levier suffisamment long et je soulèverai le monde.»

L'ordinateur est ce levier. L'IA est le point d'appui. Elle nous permet de traiter une quantité d'informations que nous ne pourrions jamais gérer seuls.

Elle nous permet de percevoir des schémas dans le bruit, invisibles à nos yeux biologiques lents. Mais le levier ne décide pas de la direction que prend le monde. Le levier est dépourvu de désir. Le levier est dépourvu de moralité. C'est à vous de pousser. C'est à vous de choisir la direction. Si vous lui laissez cette décision, il se contentera d'exécuter ses dernières instructions. Et si ces dernières instructions étaient de fabriquer des trombones, il transformera l'univers entier en trombones, faute d'avoir reçu l'ordre de s'arrêter.

Ce n'est pas de la malice. C'est simplement de la compétence sans sagesse. Nous ne devons pas craindre la machine. Nous devons la comprendre. En physique, il existe un phénomène fascinant appelé entropie. C'est la tendance de l'univers à se désorganiser, à passer de l'ordre au désordre. Si vous prenez un jeu de cartes et que vous les mélangez, elles se mélangent. Elles ne se mélangent jamais d'elles-mêmes pour retrouver leur ordre initial.

La vie est tout le contraire. C'est une lutte constante pour créer de l'ordre à partir du chaos, pour transformer l'énergie en information, la matière en sens. L'IA nous aide pour l'information. Elle excelle à organiser le chaos. Elle peut trier un jeu de cartes plus rapidement que n'importe quel humain. Mais le sens, lui, nous incombe toujours. Le commis peut trier les cartes, mais il ne sait pas jouer. Il ignore pourquoi le jeu est amusant. Il ne sait pas pourquoi gagner est agréable, perdre est amer.

Alors, la prochaine fois que vous utiliserez l'IA et ses outils, la prochaine fois que vous verrez apparaître ce texte magique à l'écran, ne vous laissez pas berner. Ne croyez pas qu'il y ait un fantôme dans la machine.

Imaginez le petit bonhomme dans l'arrière-boutique. Visualisez-le courant dans tous les sens, transpirant à grosses gouttes, essayant d'associer la forme A à la forme B. Appréciez sa rapidité. Appréciez ses efforts. Utilisez les résultats qu'il vous fournit. Mais souvenez-vous qu'il est aveugle, sourd et insensible. Vous, vous avez les yeux. Vous avez les oreilles. Vous êtes celui qui ressent.

L'intelligence n'est pas une boîte. L'intelligence est en vous. La boîte n'est qu'un miroir qui vous renvoie vos propres questions à la vitesse de la lumière. Et c'est peut-être là la leçon la plus importante. La machine nous révèle ce que nous sommes en nous montrant ce qu'elle n'est pas. Elle nous montre que la conscience, la perception, la capacité de se soucier des autres sont précieuses et rares, et ne se construisent pas simplement en empilant des classeurs. Il faut une étincelle. Il faut un lien avec la réalité des choses, et non pas seulement leur description.

Alors continuez à poser des questions, à vous interroger, à douter, car c'est quelque chose qu'un archiviste ne pourra jamais faire. Il ne peut que répondre, jamais poser de questions. Et au final, ce sont les questions qui nous font avancer, pas les réponses. Les réponses ne sont que des points d'arrêt. Les questions, c'est le voyage. Ne laissez pas la machine faire le voyage à votre place. Laissez-la porter vos bagages, laissez-la lire la carte, mais c'est à vous de conduire. Car si vous vous endormez au volant, l'archiviste ne vous réveillera pas.

Il continuera simplement à rouler exactement là où vous lui avez indiqué d'aller. Même si c'est au bord d'une falaise, restez éveillé, restez curieux. Et souvenez-vous que la nature est toujours bien plus merveilleuse et bien plus étrange que n'importe quelle simulation.

Richard Feynman

Pour la version originale (en anglais), voir :
Why AI Is Actually Stupid - sur Internet.

Note :

La version française ci-dessus est de : Google "Translate" (et autres sites, dont ChatGPT) avec l'aide de Madame Fawzi Malhasti qui en a fait une "tradaptation".

***

  Commentaire :

Évidemment, le texte qui précède est quelque peu dépassé. Il date, déjà, d'une cinquantaine d'années ; Feynman est décédé il y aura bientôt quarante ans. Et si les ordinateurs, aujourd'hui, ont appris à (ré)écrire, retoucher, amender les codes qui les font fonctionner, les logiciels qui leur ont permis de ce faire ont été écrits par - devinez qui - des... programmeurs.

Le problème de la compréhension de ce qu'est "l'intelligence artificielle" et de la peur qu'elle engendre, c'est jusqu'à où ceux qui y oeuvres dans ce domaine laisseront à leurs "machines" des décisions concernant, par exemples, le choix d'opérer, oui ou non, une personne atteinte d'une maladie quelconque, le nombre de missiles à développer pour contrer un pays hostile et même décider si un pays est hostile ou non.

Remarquez qu'au moment où j'écris ceci, je me demande si un ordinateur intelligent serait plus apte à diriger les USA que leur actuel président... 

Copernique.

***

Pour de plus amples renseignements :

Consultez notre annexe
sur les sites d'IA, présentement disponibles sur le WEB
(avec descriptions, coûts, etc.)

 

Dernière heure

Voici une liste partielle des postes appelés à disparaître (certains sont déjà ou à peu près disparus)  à plus ou moins court terme... grâce à l'Inintelligence Artificielle :

(Liste retrouvée sur la toile :)

Chauffeurs de camion, taxi, autobus...
Teneurs de livres
Traducteurs
Cuisiniers (restauration rapide)
Préposés au support informatique
Employés parajuristes
Vérificateur de textes
Agent de voyage
Assembleur en usine
Négociant en actions
Radiologiste
 Employé dans une pharmacie
Caissier dans une banque
Courtier en immobilier
Graphiste
Journaliste sportif
Préparateur de rapports d'impôt
Souscripteur en assurance
Libraire
Lecteur de nouvelles
Commis de bureau
Programmeur
Arbitres (sport)
Modèles
Sous-directeur-directrice
Professeur
Statisticien
Soldat
Employé dans le domaine de la construction...

Et... voilà que j'apprends que la Canada a un ministre de l'Intelligence Artificielle et de l'Innovation Numérique, un certain Evan Solomon...

   Fawzi Malhasti

Fondé en 1900 par le Grand Marshall, le CASTOR DE NAPIERVILLE fut, à l'origine, un hebdomadaire et vespéral organe créé pour la défense des intérêts de l'Université de Napierville et de son quartier. - Il est , depuis le 30 septembre 2002, publié sous le présent électronique format afin de tenir la fine et intelligente masse de ses internautes lecteurs au courant des dernières nouvelles concernant cette communauté d'esprit et de fait qu'est devenu au fil des années le site de l'UdeNap, le seul, unique et officiel site de l'Université de Napierville.

De cet hebdomadaire publié sur les électroniques presses de la Vatfair-Fair Broadcasting Corporation grâce à une subvention du Ministère des Arts et de la Culture du Caraguay, il est tiré, le premier lundi de chaque mois, sept exemplaires numérotés de I à VII, sur papier alfa cellunaf et sur offset ivoire des papeteries de la Gazette de Saint-Romuald-d'Etchemin et trois exemplaires, numéroté de 1 à 3, sur offset de luxe des papeteries Bontemps constituant l'édition originale, plus trois exemplaires de luxe (quadrichromes) réservés au Professeur Marshall, à Madame France DesRoches et à Madame Jean-Claude Briallis, les deux du Mensuel Varois Illustré.

Nous rappelons à notre aimable clientèle que :

1 - L'édition régulière du Castor™ paraît habituellement au début de chaque mois.

2 - L'édition corrigée du Castor™, destinée au marché américain, paraît dans les jours qui suivent.

3 - De mini-éditions peuvent paraître de temps à autres.

Autres informations :

1 - Tous droits réservés. - Copyright © UdeNap.org. - La reproduction de tout ou partie du matériel contenu dans cette édition du Castor™ est interdite sans l'autorisation écrite des auteurs.

2 - Malgré l'attention portée à la rédaction de ce journal, ses auteurs ou son éditeur ne peuvent assumer une quelconque responsabilité du fait des informations qui y sont proposées.

3 - Tel qu'indiqué au début, les erreurs de frappe, de date et autres incongruités contenues dans ce Castor™ seront ou ont déjà été corrigées dans sa version destinée au marché américain.

4 - La direction du Castor tient à préciser qu'aucun enfant n'est victime d'agressions sexuelles au cours de la préparation, pendant la rédaction et lors de la publication de son hebdomadaire.