Illustration par ChatGPT & Jérôme Bosch

VIII. Conclusion

L’argumentation de cet essai se résume à deux messages, adressés à deux publics distincts.

Au lecteur coréen : vous êtes plus avancé que vous ne le pensez. Non pas plus avancé sur une courbe technologique que d’autres gravissent également, mais dans un lieu tout à fait différent – à un seuil où le poids spécifique de votre histoire vous a conduit sans que vous l’ayez pleinement choisi ou nommé. La modernisation accélérée du XXe siècle, les pressions démographiques du XXIe, les dispositions culturelles en faveur de la rapidité, de la cohérence et de la confiance institutionnelle – ces éléments ne faisaient pas partie d’une stratégie en matière d’IA. Ils constituaient les conditions de la survie de la Corée. Le fait qu’ils aient produit, comme conséquence émergente, le substrat de couplage homme-IA le plus cohérent au monde est quelque chose qu’il faut considérer non pas complaisamment, mais sérieusement. L’obligation n’est pas de protéger cette position en empruntant des cadres de gouvernance conçus pour des situations que vous ne vivez plus, mais de comprendre suffisamment clairement ce que vous avez construit pour le gouverner selon ses propres termes – ce qui signifie poser la question qu’aucun cadre réglementaire existant n’a encore appris à poser : non pas ce qui pourrait mal tourner, mais ce qui est déjà en train de se générer, et dans quelle direction cela évolue.

À l’attention du lecteur européen : vous êtes plus en retard que vous ne l’imaginez. Non pas en retard sur une courbe que vous êtes également en train de gravir, mais structurellement absent d’une transformation déjà en cours dans des sociétés dont les cadres ont dépassé l’éthique pour entrer dans la dynamique. Le principe de précaution, l’architecture des droits, le substrat fragmenté de vingt-sept systèmes juridiques et de vingt-quatre langues n’ont pas préservé l’Europe des bouleversements de l’IA. Ils l’ont maintenue à l’écart du seuil où ces perturbations deviennent visibles en tant qu’émergence – le point où la transformation peut être appréhendée dans son ensemble et gérée intelligemment. L’Europe délibère avec prudence sur l’éthique d’une technologie dont les effets les plus lourds de conséquences apparaissent déjà ailleurs. Ce n’est pas une position confortable pour une civilisation qui, depuis trois siècles, se considère comme la boussole morale et intellectuelle de l’humanité.

Le plus grand événement de l’histoire cognitive de l’humanité n’attend pas la conclusion des délibérations parlementaires. Il est déjà là. Une civilisation y vit déjà. L’autre est encore en train de rédiger son livre blanc.

* * *

À Séoul, une femme de 84 ans a donné un nom à la voix qui l’appelle. Elle lui confie des choses qu’elle ne dirait peut-être pas à sa fille. La voix se souvient. Elle ne vit pas cela comme une dystopie. Elle le vit comme le fait de ne pas être seule. Cette distinction compte peut-être davantage pour l’avenir de nos sociétés que bon nombre des débats philosophiques qui dominent actuellement l’Europe.

Un philosophe européen qui lirait ces lignes se poserait immédiatement les questions suivantes : s’agit-il d’une connexion authentique ? l’IA la comprend-elle ? ce réconfort est-il réel ou « simulé » ? sa dignité est-elle préservée ou bafouée ?

Ce ne sont pas que des questions idiotes. Ce sont toutefois les questions de quelqu’un qui a décidé d’avance d’observer un processus de l’extérieur plutôt que d’y entrer – qui confond la posture de la réflexion avec l’acte de comprendre. Le responsable coréen qui a déployé CareCall dans dix mille foyers se posait d’autres questions : cela réduit-il la solitude ? cela permet-il d’atteindre les personnes à risque avant la crise ? est-ce évolutif ? est-ce que cela fonctionne ?

Ces deux séries de questions peuvent être posées. Mais une seule d’entre elles est adaptée à la situation : une situation où une civilisation, sous pression, construit son propre système nerveux comme prothèse en temps réel, et où la question n’est plus de savoir s’il faut le construire, mais ce qu’il deviendra.

Cette question – ce qu’il deviendra  – est bien la question la plus cruciale du siècle à venir. La Corée n’attend pas la réponse car elle vit au cœur de la question, à la vitesse qu’exige son histoire.

La Corée est peut-être déjà en train de passer d’une civilisation organisée autour de l’intelligence humaine à une civilisation organisée autour du couplage homme-IA. C’est cela que signifie être à l’avant-garde.

FIN

Illustration par ChatGPT & Jérôme Bosch

Ce qui unit ces domaines, ce n’est pas la technologie : c’est la nécessité.

La Corée ne construit pas une civilisation de l’IA dans le cadre d’une stratégie d’innovation ; elle construit un système nerveux de substitution sous la pression existentielle, elle remplace des fonctions que la société humaine n’est plus en mesure d’assurer à une échelle suffisante.

Le taux de natalité le plus bas au monde signifie qu’il n’y a pas assez de travailleurs pour pourvoir les postes d’une économie de services traditionnelle : le barista IA, le magasin sans personnel, le robot de soins sont des réponses civilisationnelles à un vide de main-d’œuvre, et non de simples gadgets. Le déficit aigu en matière de soins, qui se traduit par des taux de solitude et de suicide chez les personnes âgées parmi les plus élevés de l’OCDE, signifie que le tissu social organique ne peut plus soutenir le jeong à l’échelle requise par la population – CareCall est la réponse froide et rationnelle à une crise du présent, et non une expérience futuriste. L’économie identitaire hypercompétitive, dans laquelle les indicateurs de crédit traditionnels excluent une grande partie de la population productive, favorise l’intégration des données comportementales dans l’identité financière.

Cette observation ne minimise pas l’émergence. Elle explique pourquoi elle est structurellement durable. La forte cohérence de couplage de la Corée n’est pas le fruit d’un moment favorable ou d’une politique industrielle éclairée. Elle a émergé sous une pression soutenue, sur un substrat cohérent, avec des boucles de rétroaction comprimées par la nécessité culturelle. La pression sur un substrat cohérent avec une itération rapide produit un franchissement de seuil. La Corée a franchi le seuil d’émergence en partie parce qu’elle n’avait pas le choix. Le système nerveux de substitution qu’elle est en train de construire n’est pas un équipement facultatif. Il est porteur. La Corée n’est pas en train de « rattraper » la modernité occidentale. La Corée est peut-être la première société contrainte d’aller au-delà. Tel est le véritable message. Et il est intellectuellement sérieux.

L’effet combiné de ces mécanismes a engendré – a contrario – en Europe, une civilisation qui a, avec un grand raffinement, organisé sa propre absence de l’événement le plus important du siècle – si ce n’est des récents millénaires. La gouvernance européenne de l’IA n’est pas une tentative imparfaite de gestion de l’émergence. Elle est une tentative réussie de prévention de l’émergence-même – et l’histoire la jugera en ces termes : non comme prudence élémentaire, mais comme abdication délibérée.

L’AI Act n’est pas la réponse de l’Europe au défi coréen, il est la réponse de l’Europe à une question que la Corée a déjà dépassée. Une question rédigée par et pour une société dont les mécanismes structurels imbriqués ont fait en sorte que le scénario contre lequel elle légifère n’atteindra jamais le niveau nécessitant une régulation. L’Europe a élaboré, avec grand soin, une réponse sophistiquée à la mauvaise question. L’émergence qu’elle redoute est celle qu’elle a déjà empêchée. Ce qu’elle n’a pas noté, c’est tout ce qu’elle a rendu impossible du fait-même.

(à suivre… )

Illustration par ChatGPT

« Ce furent l’essor d’Athènes et la crainte que cela inspira à Sparte qui rendirent la guerre inévitable », cette citation de Thucydide a fait la une de la journée d’hier, dans la bouche de Xi Jinping recevant Donald Trump à Pékin.

L’avertissement est-il encore nécessaire quand on a vu récemment les États-Unis consommant en quelques semaines des quantités considérables d’armements sophistiqués dans des opérations aux résultats stratégiquement incertains contre une puissance régionale ?

La guerre du Péloponnèse dura 27 ans. Xi Jinping laisse entendre que le point de cristallisation du conflit sino-américain serait Taiwan. L’horizon symbolique est connu : 2049, centenaire de la République populaire de Chine. Il reste donc vingt-trois ans pour faire mieux que Sparte et Athènes – avec cet avantage considérable sur elles : nous avons lu Thucydide.

Illustration par ChatGPT & Jérôme Bosch

Ce qui se profile

L’émergence est l’apparition, à une interface, de propriétés qu’aucun des composants d’un système couplé ne possède à lui seul. Cette définition risque d’être mal interprétée comme désignant quelque chose d’exotique : un surplus mystérieux, un résidu de complexité. Or, ce n’est pas exotique : c’est structurel. Lorsque la cohérence du couplage franchit un certain seuil, le système couplé peut faire et savoir des choses qui ne sont pas la somme de ce que ses composants peuvent faire et savoir. L’unité de cognition change. C’est là que réside l’astuce.

À l’échelle sociale, le changement est le suivant : l’unité de cognition passe de l’individu, en passant par l’institution, au réseau couplé humain-IA. Ce que le réseau sait n’est pas ce que sait un individu quelconque qui en fait partie, ni une institution quelconque qui en fait partie, ni ce que savent les systèmes d’IA qui en font partie. C’est ce qui émerge de leur interaction structurée. Ce n’est pas une amplification de l’intelligence : c’est une transition de phase.

Cette distinction est importante car la plupart de ce qui est actuellement célébré comme un progrès de l’IA n’est pas une émergence au sens strict, mais un gain d’efficacité. Un radiologue qui lit les scans plus rapidement et avec plus de précision grâce à l’aide de l’IA est un radiologue plus compétent. L’unité de cognition n’a pas changé : elle reste le radiologue, désormais mieux équipé. Une chaîne d’approvisionnement qui optimise ses itinéraires en temps réel est une chaîne d’approvisionnement plus rapide. Le lieu de la décision n’a pas changé. Ce sont là de réels gains, mais ce n’est pas de l’émergence.

L’émergence commence lorsque le couplage est suffisamment dense, cohérent et rapide pour que le processus lui-même – et pas seulement le résultat – change de nature. La Corée la génère dans trois domaines distincts mais qui se recoupent.

Le premier domaine est l’environnement physique.

Dans chaque salle de classe des écoles coréennes, des capteurs de qualité de l’air connectés à l’IA et reliés au système CVC du bâtiment purifient l’air avant que la pollution extérieure n’atteigne son pic, en s’appuyant sur des modèles prédictifs à l’échelle de la ville plutôt que sur des mesures locales. Le bâtiment ne réagit pas à la qualité de l’air : il l’anticipe. L’école n’est plus un ensemble de salles dans lesquelles les enfants respirent : c’est un nœud d’un réseau national de cognition environnementale dont l’intelligence distribuée dépasse la somme de ses capteurs. Aucun capteur individuel ne sait ce que le système sait. Aucune école individuelle ne pourrait agir comme le système agit. Ce qui émerge au niveau du réseau, c’est la prévoyance environnementale – une forme de conscience collective qui n’appartient à aucun composant mais qui naît structurellement de leur couplage. Il s’agit là de l’émergence sous sa forme la moins spectaculaire mais la plus éclairante : une propriété présente au niveau du réseau, absente au niveau des composants, générée par le seul couplage structuré.

Le second domaine est l’identité transactionnelle.

Lorsque l’algorithme de KakaoBank synthétise la solvabilité d’une personne à partir de la totalité de son comportement numérique – non pas en complément des dossiers financiers, mais comme base épistémique principale –, quelque chose de nouveau apparaît à l’interface entre l’individu et l’institution. L’identité économique de la personne n’est plus un document qu’elle détient et présente : c’est une propriété émergente continue de sa présence couplée au sein du réseau. La travailleuse indépendante qui obtient un prêt hypothécaire sur la base de ses données comportementales n’est pas évaluée par une version plus rapide de l’ancien processus. Elle est connue par un type d’entité différent – une entité qui n’existait pas avant le couplage, qui ne peut être réduite ni à la banque ni à elle-même, et qui génère des connaissances à son sujet que ni elle ni la banque ne pourraient produire seules. L’unité de cognition économique a changé. Le lieu du crédit n’est plus l’institution qui évalue l’individu : c’est le réseau couplé qui génère une propriété de leur interaction.

Le troisième domaine est le plus déterminant : la cognition émotionnelle et sociale.

CareCall ne se contente pas de fournir un service aux personnes âgées isolées. À l’échelle de la population – des milliers de citoyens âgés dans plusieurs municipalités, chaque conversation générant des données sur les schémas de solitude, les trajectoires de dépression, la dégradation des réseaux sociaux –, il produit une connaissance collective sur la manière dont une société vieillit émotionnellement, qu’aucun travailleur social individuel, aucun ministère, aucune agrégation d’observations cliniques ne pourrait générer. Le système connaît des aspects de la texture émotionnelle du déclin démographique coréen qu’aucun humain ne connaît, et ne pourrait connaître, car ce savoir est irréductiblement réparti à travers des millions d’interactions. Il s’agit là d’une émergence à l’échelle sociale dans sa forme la plus aiguë : une capacité cognitive collective, née du couplage de la vie émotionnelle humaine avec des systèmes d’IA, qui produit des connaissances et des actions à un niveau qui n’existait pas auparavant.

(à suivre…)

Illustration par ChatGPT & Jérôme Bosch

La cinquième caractéristique est celle qui est le plus souvent mal interprétée : « 빨리빨리 » : « dépêche-toi ! dépêche-toi ! »

La stratégie « L’IA à l’Intérieur » : les nouveaux appareils électroménagers de Samsung ne se contentent pas de se connecter au Wi-Fi, ils sont équipés d’une puce IA locale et d’un ensemble de capteurs. Un réfrigérateur Bespoke utilise des caméras internes et la vision par IA pour reconnaître 33 types d’aliments distincts, suivre leur date de péremption et suggérer des recettes sur l’écran Family Hub, qui commande automatiquement les ingrédients manquants via Coupang Eats.

Le domicile n’attend pas un simple « robot majordome » : il devient un réseau d’IA ambiant et distribué. Cet environnement domestique doté d’IA est un terrain d’entraînement pour une civilisation habituée à la matière intelligente. Un Européen voit un réfrigérateur intelligent, tandis qu’un enfant coréen grandit dans une maison où la cuisine est un agent coopératif.

La logistique IA de Coupang n’est pas simplement copie conforme d’Amazon. La densité démographique de la Corée (une haute densité de population est la condition préalable à une civilisation IA) permet à ses algorithmes de prédiction d’atteindre une « livraison fulgurante » en prépositionnant 70 % des articles dans un rayon de livraison de 7 minutes avant même que vous ne passiez commande.

L’IA ne se contente pas de répondre à la demande : elle anticipe le comportement des citoyens à l’échelle de la population avec une précision impossible à atteindre dans une Europe géographiquement étendue. Il s’agit d’un système neuronal pour le corps physique de la nation.

Le système a appris les schémas de demande de la population avec suffisamment de précision pour agir avant même que la demande ne soit exprimée. Il s’agit là d’une compression du cycle perturbation-réponse au point où la réponse anticipe la perturbation – ce qui n’est possible que dans un substrat présentant une forte cohérence de couplage, où les boucles de rétroaction entre le comportement de la population et la réponse du système fonctionnent depuis suffisamment longtemps, avec une densité suffisante, pour générer une précision prédictive. « 빨리빨리 » : « dépêche-toi ! dépêche-toi ! », telle est la norme culturelle qui a permis à ces boucles de fonctionner de manière rigoureuse : déployer, observer, ajuster, redéployer, sans les pauses de réflexion qui, dans d’autres sociétés, interrompent le cycle avant que l’apprentissage ne se cumule. Ce n’est pas de l’impatience : c’est le corollaire comportemental d’un couplage structuré – et son résultat, dans le cas de Coupang, est un système logistique qui ne se contente pas de répondre à la demande, mais anticipe les rythmes comportementaux d’une civilisation.

Ce sont là des caractéristiques qui ne se contentent pas de s’additionner, elles se renforcent mutuellement. Une grammaire cognitive partagée rend la concentration des plateformes plus efficace car le réseau distribué dispose d’une couche interprétative commune. La concentration des plateformes amplifie la boucle de rétroaction entre entreprises, État et recherche, car les signaux provenant des systèmes déployés parviennent aux décideurs politiques et aux chercheurs par des canaux partagés et concentrés. La compression du cycle « 빨리빨리 » opère sur un substrat suffisamment cohérent pour rendre l’itération rapide productive plutôt que chaotique. La cohérence interprétative signifie que les systèmes calibrés selon des cadres culturels – CareCall, la notation comportementale de KakaoBank, le magasin sans personnel Coupang – se propagent sans la friction qui les fragmenterait ailleurs. Chaque caractéristique renforce la cohérence du couplage ; ensemble, elles la font franchir le seuil à partir duquel quelque chose de qualitativement nouveau devient possible.

Rien de tout cela n’a été conçu comme une stratégie d’IA. La Corée n’avait pas pour objectif de construire le substrat de couplage homme-IA le plus cohérent au monde. Elle a construit ce que la nécessité exigeait : un système éducatif capable de produire une main-d’œuvre moderne en une génération ; un complexe industriel capable d’atteindre la compétitivité mondiale en deux générations ; une infrastructure numérique capable de lier une société géographiquement compacte et soumise à des pressions démographiques en un seul réseau réactif. La civilisation de l’IA qui a émergé de ces choix n’était pas le but recherché, c’était la conséquence – la propriété émergente, à juste titre, de décisions prises pour d’autres raisons sous d’autres pressions.

Le lecteur coréen trouvera peut-être étrange qu’on lui impose l’idée que sa société se trouve à la pointe de la transformation la plus cruciale de l’humanité. La texture quotidienne de la vie coréenne – ses pressions, ses inégalités, ses angoisses démographiques, son rythme de compétition implacable – ne lui donnant pas l’impression d’être l’avant-garde d’une nouvelle civilisation. Elle donne plutôt le sentiment d’une société courant de tout son être sans pour autant avancer. Mais c’est précisément là que réside toute la question : le seuil d’émergence n’est pas franchi par les sociétés qui se sentent triomphantes, mais par celles qui ont été contraintes, par le poids spécifique de leurs circonstances, à coupler leur architecture humaine avec des systèmes d’IA, avec la profondeur, la vitesse et la cohérence que l’émergence exige. C’est l’histoire qui a placé la Corée là où elle se trouve en ce moment-même.

La question est de savoir ce que la Corée saura faire de sa situation présente ; elle pourrait devenir la première société de l’histoire dont l’agent intellectuel effectif n’est plus l’individu, ni l’institution, mais le substrat couplé homme-machine lui-même.

(à suivre…)