CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes désormais cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

🧠 Intelligence

C’est une phrase tombée d’une lecture que d’aucun ne manquerait de qualifier d’intello qui lance la réflexion cette fois-ci…

Dans ses Leçons sur la volonté de savoir [📘], et notamment dans sa lecture de la Métaphysique d’Aristote [📕], Michel Foucault [📄] évoque la notion d’intelligence très rapidement, en complément de considérations sur la perception :

[…] Apparaît avec la mémoire la propriété d’être intelligent ; et apparaît avec cette audition le fait de pouvoir et d’être disposé à apprendre, l’aptitude à être disciple […]

C’est donc, la combinaison de la capacité de perception et de la mémoire qui, semble-t-il, fait l’intelligence. Cette combinaison unique différencie, pour Aristote, l’humain de l’animal. Je résumerai les choses grossièrement – en attrapant simplement quelques bribes du discours conjoint des deux philosophes – de la façon suivante. D’abord, l’homme se distingue par sa capacité à percevoir son environnement “pour le plaisir”, au-delà de sa simple nécessité de survie. C’est ainsi qu’il peut percevoir le beau, le plaisant et y revenir. C’est ainsi que la vue est devenue pour lui l’un des sens prédominants, puisqu’il est celui qui peut porter le plus de valeur esthétique. Vient ensuite la mémoire, et la capacité à rapprocher ses perceptions immédiates de ses perceptions passées au-delà de l’instinct de survie. L’homme possède la capacité à faire des liens – terminologie que j’implante moi-même dans ce discours, mais qui est importante pour la suite – entre ses différentes expériences et ainsi à bâtir des rapprochements originaux sur ces bases. Concevoir des réflexions. Mettre en branle une… intelligence.

• 🔄 Aparté. Si on veut creuser plus loin, on citera René Descartes – dont les propos sont mis en avant par Geoffrey Jefferson dans son article The Mind of Mechanical Man [📰] dont on parlait dans l’article 🧠 Intelligence il y a quelques semaines – qui défendait la conviction que l’animal ne fonctionne que par réflexes, là où l’homme est capable de réflexion.

On se permettra tout de même une réserve sur cette réflexion qui a, mine de rien, quelques millénaires d’ancienneté. Tout d’abord, qu’il y a aujourd’hui des questionnements ouverts sur l’intelligence et la conscience des animaux.

C’est l’un des sujets du Qui Parle ? d’Aliocha Imhoff et Kantuta Quirós [📗] – que l’on abordait au passage dans le billet 🕺 Humains il y a quelques semaines – qui pose la question de notre capacité en tant qu’humain à comprendre une intelligence réelle mais non-humaine. Vous pouvez là-dessus rembobiner votre lecture de Cybernetruc depuis septembre (👽 Contact), c’est un thème récurrent par ici…

• 🔄 Aparté. Et d’ailleurs, on pourra étendre la réflexion à la possibilité d’émergence d’une intelligence/conscience collective, au sein d’une espèce ou inter-espèce. Hypothèse star de nombre d’oeuvres de science-fiction, du Un Feu sur l’abîme [📕] de Vernor Vinge à l’hypothèse Gaïa et aux Spaciens du cycle de Fondation d’Isaac Asimov [📘]. Mais on digresse beaucoup… cela pourrait aussi être l’idée d’un prochain article.

Une question demeure : est-ce que les intelligences artificielles font des liens ?

☕ Madeleine

Un lien, c’est quoi ? C’est une association, même ténue, entre deux idées. Ou, pour reprendre Aristote, entre une perception et un souvenir. Oui, on en revient toujours aux mêmes choses : la madeleine de Proust (avec la citation, parce que ça fait toujours plaisir de citer Marcel Proust et La Recherche [📗]) :

Et tout d'un coup le souvenir m'est apparu. Ce goût c'était celui du petit morceau de madeleine que le dimanche matin, à Combray (parce que ce jour-là je ne sortais pas avant l'heure de la messe), quand j'allais lui dire bonjour dans sa chambre, ma tante Léonie m'offrait après l'avoir trempé dans son infusion de thé ou de tilleul. La vue de la petite madeleine ne m'avait rien rappelé avant que je n'y eusse goûté ; peut-être parce que, en ayant souvent aperçu depuis, sans en manger, sur les tablettes des pâtissiers, leur image avait quitté ces jours de Combray pour se lier à d'autres plus récents ; peut-être parce que de ces souvenirs abandonnés si longtemps hors de la mémoire, rien ne survivait, tout s'était désagrégé ; les formes – et celle aussi du petit coquillage de pâtisserie, si grassement sensuel, sous son plissage sévère et dévot – s'étaient abolies, ou, ensommeillées, avaient perdu la force d'expansion qui leur eût permis de rejoindre la conscience.

• 🔄 Aparté. Cette question du lien et de ses rapports avec notre culture digitale a été massivement abordée dans une série d’articles nommée As We May Link, parue il y a plus d’un an sur le blog de l’agence Serviceplan [📄]. Je vous laisse vous y ressourcer si vous le souhaitez. Ça parle à la fois de liens, d’Arpanet, de Proust, de gnocchis et de communs. Régalez-vous.

Revenons donc à la question de l’intelligence artificielle. Est-elle capable de faire ces liens qui semblent si importants dans la définition de l’intelligence ? Pour le savoir, il faut se pencher sur deux questions :

• Est-ce qu’une intelligence artificielle est capable de percevoir ?

• Et a-t-elle a proprement parler une mémoire ?

Questions loin d’être évidentes.

👂 Perception

Sur le sujet de la perception, on pourrait s’en sortir en invoquant le peu de sens d’une I.A. Son manque de moyens de perception. Une intelligence artificielle – ou plutôt une intelligence générative pour ne parler que de celles qui occupent les unes des journaux depuis quelques mois – ne touche pas, ne goûte pas, ne sent pas... Peut-être voit-elle, si on considère l’interprétation des octets d’une image comme le sens de la vue. Et peut-être entend-elle, si l’on considère les prompts saisis pas les humains comme une parole. Ces deux sens pourraient peut-être suffire comme base de l’intelligence… sauf que… ils ne perçoivent pas le monde directement, mais seulement la représentation que nous lui transmettons via nos fichiers et nos phrases. L’I.A. n’a accès qu’à un environnement filtré, voilé par nos propres biais et nos propres interprétations et n’a aucune expérience directe du monde.

On pourrait rapprocher cela de l’allégorie de la Caverne de Platon [📄] à l’occasion. Mais quoi qu’il en soit, une IA générative ne semble pas à date avoir de perception directe du monde qui l’entoure.

🧠 Mémoire

Mais, est-ce que cela va mieux du côté de la mémoire ? Les données de base qui servent à entraîner une intelligence artificielle sont-ils à proprement parler une mémoire ?

C’est un peu plus difficile à juger. L’ensemble des faits, textes, données encyclopédiques ingurgités par une intelligence artificielle lors de son apprentissage pourraient effectivement s’apparenter à une sorte de mémoire. Un historique auquel elle se réfère lors de ses interactions avec les humains et qui inspire ses réponses. Sauf que…

Il n’existe pas, chez l’humain, de mémoire objective. Ce que nous appelons mémoire n’est jamais que la trace laissée par les perceptions passées. Les liens que nous faisons ne sont que des passerelles entre nos perceptions actuelles – la musique que j’écoute actuellement [💿] – et nos perceptions passées – les souvenirs que cette musique évoque, accumulés par mes propres sens [📺]. La mémoire est intimement liées à la perception, et à l’expérience personnelle.

On pourra se replonger pour comprendre cela dans l’anecdote de la madeleine de Proust, ou dans la définition de ce qu’est le Virtuel chez Pierre Lévy [📙], par le biais de son explication de la lecture :

Du texte lui-même, il ne rest bientôt plus rien. Au mieux, grâce à lui, nous aurons apporté quelque retouche à nos modèles du monde. Il nous a peut-être seulement service à faire entrer en résonnance quelques images, quelques mots, que nous possédions déjà. Parfois, nous aurons rapporté un de ses fragments, investit d’une intensité spéciale, à telle zone de notre architecture mnémonique, un autre à tel tronçon de nos réseaux intellectuels.

Lire n’est pas une expérience objective, c’est une construction de liens entre le ressenti actuel – le texte que nous sommes en train de lire – et nos expériences passées – éventuellement les textes que nous avons lu auparavant, eux-mêmes liés à nos lectures antérieures, à l’infini. Et surtout, cette expérience de lecture est, forcément, subjective puisqu’elle dépend de l’historique de lecture, de rencontres, de chacun. Il n’y a pas de lecture objective d’un texte. (On en parlait ici il y a longtemps.)

Mieux encore, les souvenirs de lecture, la mémoire, peut s’actualiser en fonction des lectures actuelles et prendre un nouvel éclairage… une boucle infinie, toujours en mouvement, se forme alors.

On en revient donc à la capacité de mémoire de l’intelligence artificielle. Il semble au regard de cela difficile de comparer la base de connaissances d’une IA au fonctionnement de la mémoire humaine. D’abord parce que cette mémoire ne serait pas liée aux perceptions mais à une base de données objectives, factuelle, à laquelle nous n’avons pas humainement accès. Ensuite parce que cette base de données, de souvenirs, est figée, stable, et semble incapable d’évoluer dans le temps.

Si la mémoire se base avant tout sur la perception, c’est avant tout la subjectivité et la malléabilité des souvenirs qui ferait l’intelligence. Reste donc à savoir si, pour devenir réellement intelligente, une IA pourrait devenir évolutive et… subjective.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !

CYBERNETRUC! explore de manière irrégulière nos imaginaires technologiques et numériques. À chaque billet on divague, on imagine et on n’a pas forcément les réponses. Vous êtes maintenant presque cent-vingt à suivre cette aventure. Bonne lecture ! 😉

Des [💿], [📗] ou [📰] ? Cliquez, ils vous emmèneront vers des compléments d’information.

📚 Vocabulaire

« Mal nommer les choses, c’est ajouter au malheur du monde » disait Albert Camus [📗] en 1944. Autant donc se pencher cette fois sur une question de… vocabulaire. Une intelligence artificielle est-elle réellement une « intelligence artificielle » ? Est-il légitime de nommer un programme informatique de cette façon ?

On récapitule deux-trois choses avant de commencer à répondre…

Retour tout d’abord sur Alan Turing, puisque son article Computing Machinery and Intelligence [📰] de 1950 est l’une des bases de l’ensemble des réflexions que l’on mène ici depuis quelques mois (on en parlait surtout dans… 🧠 Intelligence). Turing y oppose les notions d’Intelligence et de Conscience et revient sur l’une des arguments qui peut être présenté contre son test : Il est impossible de savoir si une machine pense sans être soi-même à l’intérieur de cette machine et d’en connaître les rouages intimes (mise en exergue du texte par Alan Turing lui-même) :

According to the most extreme form of this view the only way by which one could be sure that a machine thinks is to be the machine and to feel oneself thinking. One could then describe these feelings to the world, but of course no one would be justified in taking any notice. Likewise according to this view the only way to know that a man thinks is to be that particular man.

Turing se sert d’ailleurs de ce contre-argument pour valider son test : si l’on ne peut prouver l’intelligence par la seule perception, alors je ne peux pas savoir si un autre être humain – toi, ami lecteur, ou toi, Président de la République – est réellement intelligent. Et je peux statuer que tous, à l’exception de moi, sont dénués d’intelligence. Position extrême. Et indéfendable. Puisqu’il faut bien reconnaître que certaines personnes en dehors de nous-même sont intelligentes. Et que nous acceptons leur intelligence sur la base de la perception que nous en avons…

Donc… pourquoi ne pas accepter l’intelligence d’un robot sur la base de cette perception extérieure ? Après tout, c’est… logique.

🐱 Anthropomorphisme

Et c’est finalement ce que nous faisons déjà au quotidien. Avec les bébés – « Oh, qu’il a l’air intelligent cet enfant ! » – ou mieux encore avec animaux. Finalement, à chaque fois que vous vous émerveillez devant les prouesses de votre chat ou de votre chien, vous ne faites rien d’autre que leur valider un mini-test de Turing. De juger de leur intelligence sur la seule perception que vous en avez.

Et sur quoi nous basons-nous donc pour savoir si le chat de la voisine est intelligent ou non, quand il ouvre seul une porte ? Un indice dans le nom du test proposé par Alan Turing : Imitation Game. Voilà, sur la ressemblance entre le raisonnement de notre cobaye – le chat – et le raisonnement dont nous sommes nous-même capable. Avec le raisonnement humain.

Avec les “intelligences artificielles” qui fleurissent depuis quelques années sur le Net, c’est la même chose : nous ne cherchons pas l’intelligence mais nous cherchons l’anthropomorphisme. La capacité d’un programme informatique à imiter les comportements humains.

Toujours Turing.

Sauf que ?

🔢 Algorithme

Connaissez-vous la légende des dauphins de la Marine soviétique ? Cette vieille histoire voudrait que les soldats de la marine russe, dans les années 1960, aient voulu entrainer des dauphins à déposer des mines sous les navires ennemis. Seulement voilà, l’expérience tourna trop bien et les dauphins réussirent leur mission avec une logique… que leurs coachs humains ne parvinrent pas à comprendre. Effrayés par ce résultat mettant en évidence une forme d’intelligence qu’on pourrait qualifier de non-humaine, la Marine soviétique abandonna l’idée d’employer plus loin les dauphins.

Tout cela est une légende, même si l’utilisation des dauphins à des fins militaires est bien réelle, aussi bien aux États-Unis depuis la Guerre Froide [📰] qu’en Russie au cours du conflit avec l’Ukraine [📰].

Mais aujourd’hui, deux choses différencient les intelligences artificielles des légendaires dauphins russes. Tout d’abord, celles-ci ne nous ont jamais réellement affiché une logique que nous ne pourrions comprendre. Même quand elle invente soi-disant un autre langage pour dialoguer avec une autre intelligence artificielle [📰], et même quand elle devient raciste [📰], la logique de ces actions a toujours été parfaitement compréhensible, ou à défaut sa manipulation par les humains rapidement mise au jour.

Mais l’autre différence avec l’intelligence des dauphins, c’est que nous pouvons entrer à l’intérieur des intelligences artificielles. Pour reprendre la défense d’Alan Turing, nous pouvons être une intelligence artificielle nous-même dans la mesure où les algorithmes qui la peuplent sont conçus par des humains. Loin de la boîte noire, l’intelligence artificielle est démontable, démontrable… et son fonctionnement peut être expliqué à la fois par les données avec lesquelles elle est nourrie et par les algorithmes avec lesquels elle traite ces données. L’intelligence artificielle est une mécanique dont on peut comprendre les rouages. Un programme informatique, souvent extrêmement complexe, mais dont la logique a été conçue par un humain et dans laquelle nous pouvons naviguer.

Seulement voilà. Question de vocabulaire et de marketing, il est bien moins sexy de parler de Programme informatique que d’Intelligence artificielle lorsque l’on veut vanter les mérites d’une innovation. Le mot Intelligence artificielle est lui-même associé à un imaginaire qui permet de le détacher du vulgaire quotidien de l’informatique. Le mot Intelligence artificielle est lui-même une boîte-noire (voir 🎩 Illusion).

Et c’est vrai : parler de Programme informatique fait bien moins rêver :

Mais si on y perd en imaginaire, on y gagne peut-être un peu en clarté.

☝ Opinions

L’intelligence artificielle mérite-t-elle donc de se nommer Intelligence artificielle ?

Le débat est de toute façon insoluble entre les gourous de la singularité et les sceptiques du numérique. Alors, pour se faire une idée, et pour ne pas éterniser la discussion, je laisse plutôt deux opinions s’affronter ici.

La première est issue du Dictionnaire Larousse de l’Informatique [📕], sous la direction de Pierre Morvan, dans son édition de 1981. Voici l’introduction de la définition qu’il donne du terme Intelligence artificielle :

Intelligence artificielle n. f. (angl. artificial intelligence). Ensemble de techniques utilisées pour essayer de réaliser des automates adoptant une démarque proche de la pensée humaine.

Parler d’intelligence artificielle constitue, en fait, un abus de langage, puisque l’automate est basé sur un modèle (un ou plusieurs algorithmes) qui réagit uniquement suivant les stratégies préétablies. […]

La seconde provient d’une intelligence artificielle elle-même. Que se passe-t-il si l’on demande à Chat GPT [🤖] si le terme Intelligence est approprié pour le définir :

Vous voyez, les avis divergent.

Je vous laisse gamberger là-dessus ?

Un petit mot à propos de l’auteur ?

François Houste est consultant au sein de la bien belle agence digitale Plan.Net France et auteur des Mikrodystopies, de très courtes nouvelles qui interrogent sur la place des technologies numériques dans notre quotidien.

Retrouvez-moi sur Twitter ou Mastodon pour continuer la discussion.

Merci de votre attention et à la prochaine fois pour parler d’autres choses !