Dans mon livre « Le fait technique« , je démontre que les affirmations du type « on n’a jamais vu cela » et « c’est sans précédent » ne sont que des réflexions à courte-vue et qui manquent de références.
Lorsqu’Internet s’est répandu, les observateurs y ont vu un cas à part, car on n’a jamais rien eu de comparable par le passé. Vous vous rendez compte, Internet… Un truc énorme, impossible de trouver un comparable dans le passé, n’est-ce pas ?
Pourtant, le livre de Tom Sandage « The Victorian Internet » démontre cependant que l’émergence et l’évolution du télégraphe (et sa banalisation) présentent des parallèles troublants avec l’histoire récente du Réseau des réseaux…
Pareil sur la monnaie unique européenne (l’Euro que nous connaissons tous, et pour cause…), c’est du jamais vu, pas vrai ?
Encore raté : en 1865, la France, l’Italie, la Suisse et la Belgique signaient un accord monétaire, auquel adhéra la Grèce en 1868. Cette association monétaire fut bientôt connue dans le monde entier sous la désignation Union monétaire latine (UML).
Aujourd’hui, je vous propose un nouvel exemple avec l’histoire d’ELIZA en 1966. Vous allez voir, cela évoque irrésistiblement les chabot IA d’ajourd’hui…
====
Extrait de « Internet rend-t-il bête ? » de Nicholas Carr
« Ce fut un des épisodes les plus bizarres de l’histoire de l’informatique, et pourtant un des plus révélateurs. En quelques mois de 1964 et 1965, Joseph Weizenbaum, un informaticien de quarante et un ans qui travaillait au Massachusetts Institute of Technology, élabora un programme pour analyser le langage écrit, qui devait fonctionner sur le nouveau système de temps partagé de l’université. Un étudiant, assis devant un des terminaux du système, tapait une phrase sur l’ordinateur, et, en appliquant un ensemble de règles simples de grammaire anglaise, ce programme identifiait un mot (ou une expression) particulièrement saillant de la phrase et analysait le contexte syntaxique dans lequel il était employé. En appliquant alors un autre ensemble de règles, le programme transformait cette phrase en une phrase nouvelle qui semblait être une réponse à celle d’origine. La phrase produite par l’ordinateur apparaissait presque aussitôt sur le terminal de l’étudiant, donnant l’illusion d’une conversation. Dans un article de janvier 1966 où il présentait son programme, Weizenbaum donnait un exemple de la façon dont il fonctionnait. Si quelqu’un tapait « Je suis très malheureux ces temps-ci », il suffisait que l’ordinateur sache que l’expression « Je suis » précède classiquement une description de la situation ou de l’état d’esprit du locuteur à ce moment. L’ordinateur pouvait alors reformuler la phrase en répondant : « Depuis combien de temps êtes-vous malheureux ces jours-ci ? ». Le programme, expliquait Weizenbaum, fonctionnait en commençant par appliquer « une sorte de gabarit à la phrase d’origine, dont une partie correspondait aux deux mots “je suis”, et dont le reste isolait les mots “très malheureux ces jours-ci” ». Il utilisait alors un « kit de réassemblage » algorithmique adapté au gabarit et qui comprenait une règle stipulant que « toute phrase de la forme “Je suis bla-bla-bla” devait être transformée en “Depuis combien de temps êtes-vous bla-bla-bla”, quel que soit le sens de bla-bla-bla ».
L’application de Weizenbaum était un produit de son époque. Dans les années 1950 et 1960, l’enthousiasme pour l’ordinateur, la programmation informatique et l’intelligence artificielle fit naître non seulement l’idée que le cerveau humain est un type d’ordinateur, mais aussi le sentiment que le langage est produit par un des algorithmes qui fonctionnent à l’intérieur de cet ordinateur. Comme l’explique David Golumbia dans The Cultural Logic of Computation, des « linguistes informatiques » d’une nouvelle race, sous la direction de Noam Chomsky, un collègue de Weizenbaum au MIT, présupposèrent que la forme du « langage naturel » dans lequel les gens parlent et écrivent reflète « le fonctionnement de l’ordinateur qui est présent dans l’esprit humain, et qui effectue toutes les opérations linguistiques ». Dans un article publié en 1958 dans la revue Information and Control, Chomsky avait dit que « la seule méthode possible pour décrire une grammaire est dans les termes d’un programme pour une machine de Turing universelle ». Pour Golumbia, ce qui donnait une telle force à cette théorie de l’ordinateur, c’est qu’elle était enveloppée dans une « pénombre de nouveauté technologique » particulièrement séduisante. Elle proposait une « clarté mécanique » pour remplacer le « désordre » du langage humain par un « ordinateur intérieur bien propre ».
En décomposant la façon de parler des humains, on pouvait découvrir le code sous-jacent du langage, et le répliquer ensuite sous forme de programme.
Weizenbaum donna à son programme le nom d’ELIZA, d’après Eliza Doolittle, la jeune marchande cockney de Londres qui, dans le Pygmalion de Bernard Shaw, apprend à parler le bon anglais sous la direction de l’arrogant professeur de phonétique Henry Higgins. Pour rehausser un peu l’intérêt des conversations simulées, Weizenbaum donna aussi une personnalité à son interlocuteur : celle d’un psychothérapeute rogérien. Ce choix, expliquait-il dans son article, était pragmatique. En appliquant une technique mise au point par Carl Rogers dans les années 1940, en conversant avec leurs patients, les thérapeutes rogériens faisaient semblant de ne rien connaître du monde. La plupart du temps, ils répétaient simplement comme des perroquets ce que disaient leurs patients, en leur renvoyant des banalités dans des questions ouvertes ou des commentaires.
Sachant que cette naïveté était affectée, les patients pouvaient à loisir prêter à leur thérapeute « toutes sortes de connaissances, d’idées et de capacités de raisonnement. » Weizenbaum reconnaissait que le personnage rogérien avait une « utilité psychologique cruciale » pour ELIZA : il laissait penser que le vide du programme masquait uneune certaine sorte d’intelligence réelle.
Weizenbaum citait un extrait de dialogue entre ELIZA et une jeune femme qui avait été parmi les premiers à tester le programme (les réponses de la machine sont en italique) :
Les hommes sont tous pareils.
En quoi ?
Ils sont toujours en train de nous faire des histoires à propos d’une chose ou d’une autre.
Est-ce que vous avez en tête un exemple particulier ?
Eh bien, c’est mon copain qui m’a fait venir ici.
C’est votre copain qui vous a fait venir ici.
Il dit que je suis déprimée la plupart du temps.
Je suis désolé d’apprendre que vous êtes déprimée.
C’est vrai. Je suis malheureuse.
Est-ce que vous pensez qu’en venant ici ça va vous aider à ne pas être malheureuse ?
J’ai besoin d’aide, ça, c’est sûr.
Qu’est-ce que cela vous ferait si vous aviez de l’aide ?
Peut-être que je pourrais apprendre à bien m’entendre avec ma mère.
Parlez-moi un peu plus de votre famille.
Ma mère s’occupe de moi.
Qui d’autre dans la famille s’occupe de vous ?
Mon père.
Votre père ?
Vous ressemblez à mon père sur certains points.
Quelle ressemblance est-ce que vous voyez ?
Vous n’êtes pas très agressif mais, à mon avis, vous ne voulez pas que je le remarque.
Qu’est-ce qui vous fait penser que je ne suis pas agressif ?
Vous ne discutez pas avec moi.
Pourquoi pensez-vous que je ne discute pas avec vous ?
Vous avez peur de moi.
Est-ce que cela vous fait plaisir de croire que j’ai peur de vous ?
Mon père a peur de tout le monde.
Dans son commentaire sur sa création, dont il reconnaissait qu’elle était une contribution modeste, voire un peu sotte, au tout nouveau domaine du traitement du langage naturel, Weizembaum faisait observer combien il est facile pour les programmeurs de faire que les machines « se comportent de façon admirable, souvent au point d’aveugler même l’observateur le plus chevronné ». Mais dès que l’on explique « les mécanismes internes d’un programme dans un langage suffisamment clair pour être compris, sa magie s’écroule ; on le voit tel qu’il est, comme un simple ensemble de procédures dont chacune est parfaitement compréhensible. L’observateur se dit “J’aurais bien pu écrire ça”. Et le programme passe du rayon étiqueté “intelligent” à celui réservé aux curiosités ».
Mais, comme Henry Higgins, Weizenbaum allait bientôt voir ses certitudes s’ébranler. ELIZA connut rapidement la célébrité sur le campus du MIT, devenant un thème central de conférences et de présentations sur l’informatique et le temps partagé. Ce fut l’un des premiers programmes capables de démontrer la puissance et la rapidité de l’ordinateur d’une façon facilement compréhensible pour les profanes. On n’avait pas besoin d’avoir été formé aux mathématiques, et encore moins à l’informatique, pour bavarder avec ELIZA. Des copies du programme proliférèrent aussi dans d’autres universités. Puis la presse s’empara du sujet et ELIZA devint, comme le dit plus tard Weizenbaum, « un jouet national ».
Il fut surpris par l’intérêt du public pour son programme, mais ce qui le choqua fut de voir à quel point ses utilisateurs « avaient rapidement de profonds rapports émotionnels avec l’ordinateur », lui parlant comme s’il s’agissait d’une véritable personne. « Après avoir dialogué avec lui pendant un moment, ils insistaient, sans écouter mes explications, pour dire que la machine les comprenait vraiment. » Même sa secrétaire, qui l’avait vu rédiger le code d’ELIZA « et qui savait bien que ce n’était qu’un programme informatique » fut séduite. Après avoir utilisé quelque temps le programme à un terminal dans les bureaux de son patron, elle pria celui-ci de sortir de la pièce car elle était gênée par le caractère intime de la conversation. « Ce que je n’avais pas envisagé, dit Weizenbaum, c’est que de très courtes expositions à un programme informatique relativement simple pouvaient faire naître une pensée terriblement illusoire chez des gens tout à fait normaux.
====
Bref, vous l’aurez compris, rien de nouveau sous le soleil avec les gens qui considèrent que ChatGPT (ou autre) est « intelligent, sensible et il me comprend, lui… ».