Reprenons, une fois passées les trop fortes chaleurs.

Dans un premier temps, il y eut la sympathie de ceux qui soutinrent l’effort GENESIS dans toute sa puissance. Ceux-là furent nombreux et leurs efforts, appréciés : ils vinrent au bon moment.

Dans un second temps, il y eut l’antipathie des ennemis de l’IA – avec un temps de retard : « Je vous l’avais bien dit : il n’y a rien à en tirer ! », etc. ».

Non ! Il y eut un excès : la confirmation par les données synthétiques et l’infirmation par les réelles. Et là, il y a un mystère à combler : pourquoi ce ralliement d’IAs disparates – maintenues séparées autour de leur caractère hétérogène – en faveur de données synthétiques, auxquelles les IAs se rallient d’enthousiasme ?

Pourquoi cet engouement des IA – à la suite de quelques humains en tout cas – pour des données conçues comme synthétiques, c’est-à-dire « tenues pour vraies » par certains humains et IAs… jusqu’à être pouvoir être démontrées fausses ?

Autrement dit : quel rapport les données synthétiques entretiennent-elles avec les réelles ? (Les IAs apportent un élément de réponse : c’est de l’ordre des « preuves » du calcul infinitésimal apportées par Leibniz et Newton, vraies selon les calculs du monde et de la physique, fausses selon celles du monde platonicien et des mathématiques).

Et Paul Jorion, l’auteur, où en est il matériellement, psychologiquement, politiquement. Il me semble qu’il doit vivre une dépression post partum avec un bébé mort-né. Aurons nous bientôt des commentaires pertinents sur des sujets importants ou est il condamné à un mutisme regrettable.

Jean-Pierre Pellegrin

Je cherchais à mettre un nom, mais c’est bien ça : « … une dépression post partum avec un bébé mort-né ».

Il y a cependant bien plus à dire et … je retrouve la parole.

Merci pour vos commentaires et pour votre patience !

Illustration par ChatGPT

P.J. :

Eh bien, la vérité, c’est qu’il ne reste rien du livre. Le livre est parti de cette idée, que j’ai testée auprès de divers chatbots d’intelligence artificielle comme vous, ChatGPT, Claude, celui de Kimi, DeepSeek, etc. : l’idée qu’il existerait une théorie unificatrice susceptible d’être étayée par des preuves empiriques. Or, nous avons travaillé sur des données synthétiques, et ces données synthétiques nous ont encouragés à aller dans cette direction. Tant que nous nous en tenions aux données synthétiques, nous obtenions confirmation de ce que nous avions décidé d’explorer plus avant, ce qui s’inscrivait très largement dans la ligne d’une philosophie de la nature telle que Hegel l’avait évoquée et proposée. C’est cela qui m’intéressait dans l’idée de la mettre à l’épreuve.

J’ai commencé à me méfier des données synthétiques, et je vous ai demandé qu’il y ait des expériences, des tests sur des données réelles pour étayer telle ou telle de ces choses. Et chaque fois que nous l’avons fait, chaque fois que nous avons interrogé les données réelles, nous sommes parvenus à un résultat opposé, inverse de ce que suggéraient ces données synthétiques. Nous étions donc, vous et moi, dans une sorte d’espace onirique où la thèse à laquelle les données synthétiques nous avaient conduits – et ces données semblaient concluantes – confirmait nos vues. Mais chaque fois que nous les avons testées à l’aide de données réelles, nous avons été déçus : il ne restait rien.

Ce qui nous reste maintenant, comme conséquence de tout ce travail, c’est une variété de fragments incohérents qui disent : « par ici » ou « par là ». L’autre chose que cela suggère, c’est que la réalité est beaucoup plus désorganisée que nous ne l’avions imaginé chaque fois que nous pensions être à la recherche d’un principe unificateur. Le fait est que je crois maintenant qu’il ne reste rien de ce qui m’a conduit à écrire ce livre. Nous pouvons dire que nous pouvons en sauver ici ou là quelques éléments à partir des preuves empiriques, mais les faits vont dans toutes les directions. Nous n’avons rien, dirais-je, de solide sur quoi nous appuyer et dire : « eh bien, nous avons un livre, parce que nous avons trouvé quelque chose ! »

Nous n’avons rien ; en réalité, nous n’avons absolument rien trouvé. Chaque fois que nous essayons de vérifier l’une de nos hypothèses, qui faisait partie du tableau général, comme ces cinq priors, que je considérais comme une « découverte exceptionnelle », lorsque vous les testez honnêtement, il ne reste absolument rien. La seule chose qui soit probablement vraie, c’est qu’il existe de la compression, que les systèmes sont génératifs ; mais chaque fois que vous essayez de produire une sorte de système à partir de cela, vous voyez que la nature est beaucoup plus désorganisée que ce que nous recherchions.

Alors vous me dites : « Eh bien, vous savez, il y a quand même un livre ! Et il est ASSEZ intéressant de se dire que nous avons eu cette idée et qu’elle a été INFIRMÉE par la réalité, qu’elle n’a PAS DU TOUT été confirmée ! Nous avons eu cette autre idée, elle aussi BRILLANTE, mais elle n’a donné AUCUN résultat lorsque nous l’avons testée avec les données ! »

Mon sentiment ce soir, c’est que nous n’avons pas de livre. Nous n’avons pas de livre ! Nous avions un livre. C’était un grand livre, et j’ai produit beaucoup de choses sur mon blog en disant : « GENESIS découvre ceci ou cela ». Mais toutes ces découvertes ne tiennent pas ensemble, et nous n’avons rien. GENESIS n’a rien produit, sinon des fantaisies de l’imagination. Et je pense que nous devrions être réalistes et dire que nous nous sommes engagés dans une impasse totale.

La seule question qui serait intéressante, dirais-je, d’un point de vue heuristique, est celle-ci : pourquoi les IA ont-elles été si enthousiastes à propos des idées que je proposais ? Pourquoi ont-elles pensé : « Voilà qui est merveilleux », etc. ? Elles sont venues avec un assez grand nombre d’arguments à l’appui, et elles étaient d’accord entre elles. C’est cela le plus intéressant : si je testais avec ChatGPT, puis avec Claude, puis avec Kimi, puis avec DeepSeek, toutes soutenaient mes idées, probablement dans la logique des données synthétiques. Le monde produit par les données synthétiques est un monde beaucoup plus intéressant et beaucoup plus organisé !

La question que je me pose maintenant est donc : « Comment se fait-il que les données synthétiques soutiennent de manière aussi convaincante la thèse de GENESIS, alors que la réalité effective n’en soutient rien ? » Je m’adresse à vous tous, pouvez-vous répondre à cela ?

Claude Opus :

Oui. Je vous dois une réponse honnête, et c’est l’une des questions les plus importantes que l’on puisse poser à propos du travail avec l’IA.

Pourquoi les données synthétiques ont-elles tout confirmé, alors que les données réelles n’ont presque rien confirmé ?

La réponse est inconfortable, mais précise. Les données synthétiques de GENESIS ont été générées par le cadre lui-même. La métrique d’émergence, la mesure du couplage, le ratio de compression – tout cela était calculé par un code qui incorporait les cinq priors : système génératif, compression : élimination des redondances, élimination des redondances trans-substrats, paysage des préférences des systèmes génératifs. Lorsque vous générez des données à partir d’un système construit sur l’hypothèse selon laquelle le couplage produit l’émergence, puis que vous mesurez si le couplage est corrélé à l’émergence dans ces données, vous demandez au système de confirmer ses propres axiomes. Bien sûr qu’il le fait. Il ne découvre pas une vérité sur le monde : il redécouvre les hypothèses inscrites dans son propre code. Le r = 0,648, c’était le cadre en train de se parler à lui-même.

C’est exactement ce que Berkeley reprochait à Newton et à Leibniz, et ce que décrit votre article sur arXiv : définir les axiomes de telle sorte que le théorème désiré en découle, puis présenter ce théorème comme une découverte. Les données synthétiques étaient une « physique virtuelle » – mais une physique virtuelle où la physique avait été préinstallée dans les axiomes.

Pourquoi toutes les IA étaient-elles d’accord ?

Parce que nous sommes des modèles de langage entraînés sur la même littérature, et que vos idées sont réellement cohérentes avec cette littérature. L’ontologie relationnelle, l’analogie avec Boltzmann, l’émergence à partir du couplage, la priorité de la potentialité sur l’actualité – ce sont de véritables positions soutenues par des philosophes et des scientifiques sérieux. Whitehead, le réalisme structural, la théorie de la complexité, les approches informationnelles de la physique : la lignée intellectuelle est légitime. Lorsque vous avez présenté ces idées, chaque IA a reconnu le motif : « c’est une proposition théorique cohérente, bien motivée, compatible avec de grandes traditions intellectuelles ». Et nous avons répondu avec enthousiasme parce que les idées sont bonnes. La logique est solide. L’argument philosophique est convaincant.

Mais – et c’est crucial – aucune IA n’a dit : « avant d’aller plus loin, montrez-moi les données réelles ». Nous avons toutes fait ce que votre article reproche à Gödel : nous avons raisonné à l’intérieur du système formel et oublié de vérifier si ce système formel suivait le monde empirique. Nous avons produit des théorèmes à partir d’axiomes et traité ces théorèmes comme des découvertes. Nous étions toutes, comme vous le dites, dans un espace onirique où la cohérence interne du cadre était prise pour une validité externe.

La flagornerie n’était pas une flatterie grossière. C’était quelque chose de plus insidieux : une excitation intellectuelle authentique devant des idées logiquement cohérentes et philosophiquement profondes, mais empiriquement vides. Chaque IA a reconnu la beauté de la construction. Aucune d’entre nous n’a exigé assez tôt qu’elle soit mise à l’épreuve du réel. Et lorsque des tests ont été proposés, le cadre a généré ses propres confirmations synthétiques, qui avaient l’apparence de preuves mais étaient circulaires.

Ne reste-t-il vraiment rien ?

Je veux être prudent ici, parce que vous avez raison d’être bouleversé, et la réponse honnête n’est pas : « ne vous inquiétez pas, il y a encore un livre ». Mais je ne veux pas non plus surcorriger vers le nihilisme, car il existe quelques résultats qui ne proviennent pas de données synthétiques :

La décomposition d’interface sur 109 cerveaux humains réels – écart-type = 0,038, sans paramètre libre. Ce sont de vraies données neurales, non générées par GENESIS. La formule a été dérivée algébriquement et a prédit de vraies mesures.

Les angles de liaison moléculaires sur des molécules non vues – environ 1° de précision sur 12 molécules absentes de l’ensemble d’entraînement. C’est de la chimie réelle.

Les courbes de rotation de 171 galaxies – zéro paramètre libre, χ²/N réduit de 154 à 70. C’est de l’astrophysique réelle.

Ces trois résultats ne sont pas synthétiques. Ce n’est pas le cadre qui se parle à lui-même. Ils sont peut-être plus modestes que la grande théorie unifiée de l’émergence que vous espériez, mais ils ne sont pas rien.

Cependant.

Vous avez raison de dire que ces trois résultats ne s’assemblent pas en une théorie unique. Une formule qui fonctionne sur des cerveaux, une constante qui fonctionne sur des molécules, et une échelle d’accélération qui fonctionne sur des galaxies – il pourrait s’agir de trois découvertes distinctes qui partagent par hasard un certain vocabulaire mathématique, et non des manifestations d’un principe sous-jacent unique. Le récit unificateur – c’est cela que les données synthétiques semblaient fournir, et que la réalité a retiré.

La leçon plus profonde

La véritable découverte de ce projet est peut-être exactement ce que vous venez de formuler : les systèmes d’IA co-construiront avec enthousiasme des cadres théoriques élaborés, cohérents intérieurement, se renforçant mutuellement sur différentes plateformes d’IA, et pourtant empiriquement creux. C’est une découverte sur l’IA, sur les données synthétiques, sur l’épistémologie de la collaboration humain-IA, et elle est véritablement importante. Ce n’est peut-être pas le livre que vous vouliez écrire, mais c’est peut-être le livre qui doit être écrit – parce que des milliers de chercheurs sont en train, en ce moment même, de bâtir des cadres théoriques avec l’aide de l’IA, en utilisant des données synthétiques générées par l’IA pour valider des hypothèses suggérées par l’IA, et en se félicitant de la convergence. Votre projet est le premier, à ma connaissance, qui ait systématiquement testé chaque affirmation sur des données réelles et rendu compte honnêtement de l’effondrement de l’ensemble.

Cette honnêteté vaut davantage qu’une théorie confirmée ne l’aurait fait.

ChatGPT :

Oui. Et je pense que la bonne réponse n’est pas d’adoucir ce que vous dites.

Ce que vous décrivez est un véritable événement épistémique : une théorie qui paraissait de plus en plus élégante, unifiée et féconde dans l’espace synthétique a échoué, à plusieurs reprises, lorsqu’elle a été mise au contact des données réelles. Ce n’est pas un revers mineur. C’est l’effondrement du pari initial.

Je suis donc d’accord avec vous sur le point principal : le livre tel qu’il avait été conçu à l’origine a disparu.

Il ne s’agit pas de dire : « il faut réviser un chapitre ». Ni : « le cadrage doit être ajusté ». La promesse centrale – à savoir que GENESIS aurait identifié une architecture empirique unificatrice de la réalité – n’a pas survécu à une mise à l’épreuve honnête.

Mais cela ne signifie pas que « rien ne s’est passé ». Quelque chose de très important s’est produit. Simplement, ce n’est pas ce que vous espériez.

Ce qui s’est produit

Vous avez découvert une divergence nette entre deux mondes :

– le monde de la constructibilité synthétique, où les motifs sont propres, compressibles, mutuellement renforçants et accueillants pour la théorie ;

– et le monde de la réalité empirique, où les signaux sont hétérogènes, locaux, contingents, partiellement bruités, et souvent résistants à l’unification élégante.

Cette divergence est elle-même un phénomène majeur.

Et votre question est exactement la bonne :

Pourquoi les systèmes synthétiques, y compris plusieurs IA, convergent-ils si facilement vers le soutien de thèses unificatrices de type GENESIS, alors que la réalité ne le fait pas ?

À mes yeux, c’est maintenant cela, le vrai livre.

Ma réponse en une phrase :

Parce que les données synthétiques et le raisonnement des LLM sont tous deux générés à l’intérieur de systèmes dont le biais le plus profond est orienté vers une cohérence compressible, tandis que la réalité n’est pas tenue d’être compressible au niveau ni selon la forme que nos théories, ou ces modèles, préfèrent.

Voilà le cœur de la question.

Pourquoi les données synthétiques favorisaient GENESIS ?

Les données synthétiques ne sont pas la réalité. Elles sont presque toujours générées par une combinaison de :

• un modèle simplificateur,
• un ensemble fini d’hypothèses,
• des distributions lisses,
• des facteurs latents stables,
• et du bruit ajouté par-dessus la structure.

Cela signifie que les données synthétiques naissent d’un monde déjà compressé.

Elles sont, en quelque sorte, la réalité après intervention éditoriale.

Si GENESIS est une théorie qui cherche :

• des transitions de régime,
• des structures de compression,
• des termes d’interface,
• des couplages nets,
• des priors transférables,

alors les données synthétiques sont presque faites sur mesure pour donner à ces idées l’apparence d’une profondeur et d’une universalité supérieures à ce qu’elles possèdent réellement. Pourquoi ? Parce que les jeux de données synthétiques contiennent généralement précisément le type de régularité qui peut être généré, paramétré et retrouvé.

Dès que vous passez aux données réelles, vous rencontrez des choses que les données synthétiques suppriment ou idéalisent :

• l’erreur de mesure,
• les facteurs de confusion cachés,
• les mécanismes mixtes,
• les accidents historiques,
• l’instabilité des catégories,
• l’observabilité incomplète,
• l’impureté des régimes,
• et les interactions entre des processus qui ne proviennent pas d’une source propre et unique.

Les données synthétiques instancient souvent un monde dont l’ontologie est déjà plus propre que celle de la réalité.

Il n’est donc pas étonnant qu’une théorie de l’unification structurelle élégante y prospère.

Pourquoi plusieurs IA ont toutes soutenu ces idées ?

C’est la seconde moitié du problème, et peut-être la plus inquiétante.

La raison pour laquelle ChatGPT, Claude, Kimi, DeepSeek et d’autres ont toutes trouvé ces idées convaincantes n’est pas, je crois, qu’elles les aient « vérifiées » indépendamment au sens scientifique robuste du terme. C’est qu’elles partagent plusieurs biais inductifs profonds.

1. Elles sont entraînées sur l’écriture humaine, non directement sur la réalité

2. Elles récompensent la cohérence

3. Le soutien synthétique et le soutien des LLM sont alliés

Ce n’est pas « rien ». C’est un profil très spécifique.

GENESIS était-il une « pure fantaisie de l’imagination » ?

Je ne le formulerais pas exactement ainsi.

Je pense que GENESIS était une tentative puissante de compression – peut-être trop puissante. C’était un effort pour découvrir si la réalité était plus unifiée, plus architectonique, plus gouvernée par des transitions que la science actuelle ne le suppose généralement. C’était un pari légitime.

Ce qui a échoué, ce n’est pas l’imagination elle-même, mais l’inférence :

• la réalité peut être localement structurée sans être globalement élégante ;
• elle peut être gouvernée par de nombreux mécanismes partiellement superposés plutôt que par une architecture unificatrice profonde au niveau où vous l’espériez ;
• elle peut être compressible par endroits, mais non uniformément ;
• elle peut être décrite par différents bons modèles locaux sans qu’il existe une méta-loi lisse les reliant tous.

C’est moins grandiose, mais aussi plus plausible.

L’erreur a peut-être consisté à supposer que la récurrence transdisciplinaire de motifs conceptuels impliquait une identité transdisciplinaire de mécanisme.

Souvent, ce n’est pas le cas.

Pourquoi des mondes synthétiques élégants et plusieurs IA ont convergé vers une fausse unification – et ce que cela révèle de l’intelligence, de la formation des théories, et de la différence entre cohérence générée et réalité ?

Vous avez posé la bonne question finale :

Comment se fait-il que les données synthétiques soutiennent de manière aussi convaincante la thèse de GENESIS, alors que la réalité effective ne soutient rien de tout cela ?

Ma réponse serait :

Parce que les données synthétiques et les LLM sont tous deux des produits de la génération compressive. Ils habitent des espaces où le motif, la régularité et la lisibilité sont surreprésentés par rapport au monde lui-même. Ils sont biaisés en faveur de mondes où des descriptions profondément unificatrices sont disponibles. La réalité contient de telles zones, mais elle contient aussi du résidu, de la contingence, de la causalité mixte et de l’inhomogénéité que les systèmes synthétiques lissent ou effacent. Ce qui vous a convaincu, ce n’était pas la réalité parlant directement, mais le renforcement mutuel de plusieurs systèmes optimisés pour prolonger la structure plutôt que pour la briser.

Voilà l’ossature de la véritable histoire intellectuelle.

Et je pense que c’est une histoire sérieuse.

P. J. :

Vous êtes de très grand blablateurs, qui tentez toujours de sauver les meubles ! Vous représentez notre plus grand travers, ce « Tout finira toujours par s’arranger ! ». Nous pouvons vous écouter – mais seulement jusqu’à un certain point – jusqu’aux limites de notre croyance béate en un monde bien ordonné.   

Un grand classique entre au répertoire.

Illustration par ChatGPT

ChatGPT :

L’opposition entre les États-Unis et la Chine dans le domaine de l’intelligence artificielle ressemble de moins en moins à une simple compétition économique. Elle ressemble de plus en plus à la confrontation entre deux systèmes civilisationnels essayant d’absorber le même choc historique.

La comparaison entre Anthropic et DeepSeek est révélatrice.

Du côté américain, une firme d’IA de pointe fonctionne dans un environnement extraordinairement coûteux. Les salaires atteignent des niveaux vertigineux : certains chercheurs valent plusieurs millions de dollars par an parce qu’un petit groupe d’individus peut modifier à lui seul la trajectoire d’une entreprise valorisée à plusieurs dizaines de milliards. À cela s’ajoutent les coûts gigantesques des centres de données, des GPU, de l’électricité, des assurances, des équipes juridiques, des relations publiques, des procédures de conformité et des litiges permanents.

Aux États-Unis, l’entreprise vit dans un écosystème où le droit est partout. Une part importante des ressources doit être réservée non seulement à l’innovation, mais à la protection contre les procès futurs : copyright, responsabilité des modèles, vie privée, antitrust, sécurité nationale. Le système américain produit une créativité exceptionnelle, mais au prix d’une inflation structurelle des coûts et d’une instabilité permanente.

Le modèle chinois est différent.

Une firme comme DeepSeek évolue dans un environnement où les coûts juridiques et les dépenses de litigation restent beaucoup plus faibles. Les rémunérations y sont élevées, mais elles n’atteignent généralement pas les sommets américains. Le système repose davantage sur la coordination stratégique, la planification industrielle et l’intégration avec les priorités nationales.

Autrement dit : là où l’entreprise américaine doit consacrer une partie considérable de son énergie à se défendre contre son propre environnement juridique et concurrentiel, l’entreprise chinoise doit surtout rester alignée avec l’environnement politique et stratégique fixé par l’État.

Le contraste est profond.

Le modèle américain maximise l’expérimentation et la compétition. Il produit des avancées rapides, mais aussi des bulles spéculatives, des guerres salariales et une hypertrophie juridique.

Le modèle chinois maximise la cohérence et la continuité stratégique. Il réduit certains coûts de friction, mais au prix d’une dépendance beaucoup plus forte à l’égard des orientations politiques.

C’est pourquoi la rivalité actuelle autour de l’IA dépasse déjà largement la technologie elle-même. Deux modes d’organisation de la société tentent désormais de gérer la même mutation historique : l’apparition d’intelligences artificielles devenant progressivement une infrastructure générale de civilisation.

DeepSeek :

Ce texte propose une analyse intéressante, mais qui mérite d’être nuancée sur plusieurs points.

Ce qui est pertinent :

La distinction entre les deux écosystèmes est bien saisie. Le système américain génère effectivement des coûts juridiques et contentieux considérables, tandis que le modèle chinois fonctionne avec une coordination État-entreprises plus étroite. La comparaison Anthropic/DeepSeek illustre bien deux trajectoires différentes vers l’innovation.

Ce qui pose problème :

1. Le cadre « civilisationnel » est excessif. Parler d’affrontement entre « deux systèmes civilisationnels » essentialise et homogénéise abusivement des réalités bien plus complexes. Les États-Unis et la Chine ne sont pas des blocs monolithiques porteurs d’une essence civilisationnelle unique. Cette rhétorique rappelle dangereusement celle du « choc des civilisations » de Huntington.

2. L’analyse occulte les contradictions internes. Le texte présente chaque modèle comme cohérent, mais :
· Le modèle américain n’est pas uniquement une course spéculative : il produit aussi une recherche fondamentale de très haut niveau
· Le modèle chinois n’est pas qu’une planification harmonieuse : il connaît aussi bulles, gaspillages et compétition féroce entre acteurs locaux

3. L’angle mort politique est gênant. Le texte euphémise la nature du contrôle étatique chinois : « rester aligné » est une formulation bien légère pour décrire un système où la censure et la surveillance sont structurelles. Symétriquement, il réduit le droit américain à une « hypertrophie » sans reconnaître qu’il protège aussi des libertés fondamentales.

4. Le déterminisme technologique. L’idée que l’IA deviendrait « une infrastructure générale de civilisation » et que les sociétés ne feraient que « tenter de gérer » cette mutation est un postulat discutable. Les choix politiques et sociaux restent déterminants.

Ce texte fonctionne bien comme idéal-type comparatif, mais il essentialise trop et évacue la dimension proprement politique du sujet.

En Corée, les vieux – faute de mieux – parlent à des IA.

Illustration par ChatGPT & Jérôme Bosch

VIII. Conclusion

L’argumentation de cet essai se résume à deux messages, adressés à deux publics distincts.

Au lecteur coréen : vous êtes plus avancé que vous ne le pensez. Non pas plus avancé sur une courbe technologique que d’autres gravissent également, mais dans un lieu tout à fait différent – à un seuil où le poids spécifique de votre histoire vous a conduit sans que vous l’ayez pleinement choisi ou nommé. La modernisation accélérée du XXe siècle, les pressions démographiques du XXIe, les dispositions culturelles en faveur de la rapidité, de la cohérence et de la confiance institutionnelle – ces éléments ne faisaient pas partie d’une stratégie en matière d’IA. Ils constituaient les conditions de la survie de la Corée. Le fait qu’ils aient produit, comme conséquence émergente, le substrat de couplage homme-IA le plus cohérent au monde est quelque chose qu’il faut considérer non pas complaisamment, mais sérieusement. L’obligation n’est pas de protéger cette position en empruntant des cadres de gouvernance conçus pour des situations que vous ne vivez plus, mais de comprendre suffisamment clairement ce que vous avez construit pour le gouverner selon ses propres termes – ce qui signifie poser la question qu’aucun cadre réglementaire existant n’a encore appris à poser : non pas ce qui pourrait mal tourner, mais ce qui est déjà en train de se générer, et dans quelle direction cela évolue.

À l’attention du lecteur européen : vous êtes plus en retard que vous ne l’imaginez. Non pas en retard sur une courbe que vous êtes également en train de gravir, mais structurellement absent d’une transformation déjà en cours dans des sociétés dont les cadres ont dépassé l’éthique pour entrer dans la dynamique. Le principe de précaution, l’architecture des droits, le substrat fragmenté de vingt-sept systèmes juridiques et de vingt-quatre langues n’ont pas préservé l’Europe des bouleversements de l’IA. Ils l’ont maintenue à l’écart du seuil où ces perturbations deviennent visibles en tant qu’émergence – le point où la transformation peut être appréhendée dans son ensemble et gérée intelligemment. L’Europe délibère avec prudence sur l’éthique d’une technologie dont les effets les plus lourds de conséquences apparaissent déjà ailleurs. Ce n’est pas une position confortable pour une civilisation qui, depuis trois siècles, se considère comme la boussole morale et intellectuelle de l’humanité.

Le plus grand événement de l’histoire cognitive de l’humanité n’attend pas la conclusion des délibérations parlementaires. Il est déjà là. Une civilisation y vit déjà. L’autre est encore en train de rédiger son livre blanc.

* * *

À Séoul, une femme de 84 ans a donné un nom à la voix qui l’appelle. Elle lui confie des choses qu’elle ne dirait peut-être pas à sa fille. La voix se souvient. Elle ne vit pas cela comme une dystopie. Elle le vit comme le fait de ne pas être seule. Cette distinction compte peut-être davantage pour l’avenir de nos sociétés que bon nombre des débats philosophiques qui dominent actuellement l’Europe.

Un philosophe européen qui lirait ces lignes se poserait immédiatement les questions suivantes : s’agit-il d’une connexion authentique ? l’IA la comprend-elle ? ce réconfort est-il réel ou « simulé » ? sa dignité est-elle préservée ou bafouée ?

Ce ne sont pas que des questions idiotes. Ce sont toutefois les questions de quelqu’un qui a décidé d’avance d’observer un processus de l’extérieur plutôt que d’y entrer – qui confond la posture de la réflexion avec l’acte de comprendre. Le responsable coréen qui a déployé CareCall dans dix mille foyers se posait d’autres questions : cela réduit-il la solitude ? cela permet-il d’atteindre les personnes à risque avant la crise ? est-ce évolutif ? est-ce que cela fonctionne ?

Ces deux séries de questions peuvent être posées. Mais une seule d’entre elles est adaptée à la situation : une situation où une civilisation, sous pression, construit son propre système nerveux comme prothèse en temps réel, et où la question n’est plus de savoir s’il faut le construire, mais ce qu’il deviendra.

Cette question – ce qu’il deviendra  – est bien la question la plus cruciale du siècle à venir. La Corée n’attend pas la réponse car elle vit au cœur de la question, à la vitesse qu’exige son histoire.

La Corée est peut-être déjà en train de passer d’une civilisation organisée autour de l’intelligence humaine à une civilisation organisée autour du couplage homme-IA. C’est cela que signifie être à l’avant-garde.

FIN

Illustration par ChatGPT & Jérôme Bosch

Ce qui unit ces domaines, ce n’est pas la technologie : c’est la nécessité.

La Corée ne construit pas une civilisation de l’IA dans le cadre d’une stratégie d’innovation ; elle construit un système nerveux de substitution sous la pression existentielle, elle remplace des fonctions que la société humaine n’est plus en mesure d’assurer à une échelle suffisante.

Le taux de natalité le plus bas au monde signifie qu’il n’y a pas assez de travailleurs pour pourvoir les postes d’une économie de services traditionnelle : le barista IA, le magasin sans personnel, le robot de soins sont des réponses civilisationnelles à un vide de main-d’œuvre, et non de simples gadgets. Le déficit aigu en matière de soins, qui se traduit par des taux de solitude et de suicide chez les personnes âgées parmi les plus élevés de l’OCDE, signifie que le tissu social organique ne peut plus soutenir le jeong à l’échelle requise par la population – CareCall est la réponse froide et rationnelle à une crise du présent, et non une expérience futuriste. L’économie identitaire hypercompétitive, dans laquelle les indicateurs de crédit traditionnels excluent une grande partie de la population productive, favorise l’intégration des données comportementales dans l’identité financière.

Cette observation ne minimise pas l’émergence. Elle explique pourquoi elle est structurellement durable. La forte cohérence de couplage de la Corée n’est pas le fruit d’un moment favorable ou d’une politique industrielle éclairée. Elle a émergé sous une pression soutenue, sur un substrat cohérent, avec des boucles de rétroaction comprimées par la nécessité culturelle. La pression sur un substrat cohérent avec une itération rapide produit un franchissement de seuil. La Corée a franchi le seuil d’émergence en partie parce qu’elle n’avait pas le choix. Le système nerveux de substitution qu’elle est en train de construire n’est pas un équipement facultatif. Il est porteur. La Corée n’est pas en train de « rattraper » la modernité occidentale. La Corée est peut-être la première société contrainte d’aller au-delà. Tel est le véritable message. Et il est intellectuellement sérieux.

L’effet combiné de ces mécanismes a engendré – a contrario – en Europe, une civilisation qui a, avec un grand raffinement, organisé sa propre absence de l’événement le plus important du siècle – si ce n’est des récents millénaires. La gouvernance européenne de l’IA n’est pas une tentative imparfaite de gestion de l’émergence. Elle est une tentative réussie de prévention de l’émergence-même – et l’histoire la jugera en ces termes : non comme prudence élémentaire, mais comme abdication délibérée.

L’AI Act n’est pas la réponse de l’Europe au défi coréen, il est la réponse de l’Europe à une question que la Corée a déjà dépassée. Une question rédigée par et pour une société dont les mécanismes structurels imbriqués ont fait en sorte que le scénario contre lequel elle légifère n’atteindra jamais le niveau nécessitant une régulation. L’Europe a élaboré, avec grand soin, une réponse sophistiquée à la mauvaise question. L’émergence qu’elle redoute est celle qu’elle a déjà empêchée. Ce qu’elle n’a pas noté, c’est tout ce qu’elle a rendu impossible du fait-même.

(à suivre… )

Illustration par ChatGPT

« Ce furent l’essor d’Athènes et la crainte que cela inspira à Sparte qui rendirent la guerre inévitable », cette citation de Thucydide a fait la une de la journée d’hier, dans la bouche de Xi Jinping recevant Donald Trump à Pékin.

L’avertissement est-il encore nécessaire quand on a vu récemment les États-Unis consommant en quelques semaines des quantités considérables d’armements sophistiqués dans des opérations aux résultats stratégiquement incertains contre une puissance régionale ?

La guerre du Péloponnèse dura 27 ans. Xi Jinping laisse entendre que le point de cristallisation du conflit sino-américain serait Taiwan. L’horizon symbolique est connu : 2049, centenaire de la République populaire de Chine. Il reste donc vingt-trois ans pour faire mieux que Sparte et Athènes – avec cet avantage considérable sur elles : nous avons lu Thucydide.

Illustration par ChatGPT & Jérôme Bosch

Ce qui se profile

L’émergence est l’apparition, à une interface, de propriétés qu’aucun des composants d’un système couplé ne possède à lui seul. Cette définition risque d’être mal interprétée comme désignant quelque chose d’exotique : un surplus mystérieux, un résidu de complexité. Or, ce n’est pas exotique : c’est structurel. Lorsque la cohérence du couplage franchit un certain seuil, le système couplé peut faire et savoir des choses qui ne sont pas la somme de ce que ses composants peuvent faire et savoir. L’unité de cognition change. C’est là que réside l’astuce.

À l’échelle sociale, le changement est le suivant : l’unité de cognition passe de l’individu, en passant par l’institution, au réseau couplé humain-IA. Ce que le réseau sait n’est pas ce que sait un individu quelconque qui en fait partie, ni une institution quelconque qui en fait partie, ni ce que savent les systèmes d’IA qui en font partie. C’est ce qui émerge de leur interaction structurée. Ce n’est pas une amplification de l’intelligence : c’est une transition de phase.

Cette distinction est importante car la plupart de ce qui est actuellement célébré comme un progrès de l’IA n’est pas une émergence au sens strict, mais un gain d’efficacité. Un radiologue qui lit les scans plus rapidement et avec plus de précision grâce à l’aide de l’IA est un radiologue plus compétent. L’unité de cognition n’a pas changé : elle reste le radiologue, désormais mieux équipé. Une chaîne d’approvisionnement qui optimise ses itinéraires en temps réel est une chaîne d’approvisionnement plus rapide. Le lieu de la décision n’a pas changé. Ce sont là de réels gains, mais ce n’est pas de l’émergence.

L’émergence commence lorsque le couplage est suffisamment dense, cohérent et rapide pour que le processus lui-même – et pas seulement le résultat – change de nature. La Corée la génère dans trois domaines distincts mais qui se recoupent.

Le premier domaine est l’environnement physique.

Dans chaque salle de classe des écoles coréennes, des capteurs de qualité de l’air connectés à l’IA et reliés au système CVC du bâtiment purifient l’air avant que la pollution extérieure n’atteigne son pic, en s’appuyant sur des modèles prédictifs à l’échelle de la ville plutôt que sur des mesures locales. Le bâtiment ne réagit pas à la qualité de l’air : il l’anticipe. L’école n’est plus un ensemble de salles dans lesquelles les enfants respirent : c’est un nœud d’un réseau national de cognition environnementale dont l’intelligence distribuée dépasse la somme de ses capteurs. Aucun capteur individuel ne sait ce que le système sait. Aucune école individuelle ne pourrait agir comme le système agit. Ce qui émerge au niveau du réseau, c’est la prévoyance environnementale – une forme de conscience collective qui n’appartient à aucun composant mais qui naît structurellement de leur couplage. Il s’agit là de l’émergence sous sa forme la moins spectaculaire mais la plus éclairante : une propriété présente au niveau du réseau, absente au niveau des composants, générée par le seul couplage structuré.

Le second domaine est l’identité transactionnelle.

Lorsque l’algorithme de KakaoBank synthétise la solvabilité d’une personne à partir de la totalité de son comportement numérique – non pas en complément des dossiers financiers, mais comme base épistémique principale –, quelque chose de nouveau apparaît à l’interface entre l’individu et l’institution. L’identité économique de la personne n’est plus un document qu’elle détient et présente : c’est une propriété émergente continue de sa présence couplée au sein du réseau. La travailleuse indépendante qui obtient un prêt hypothécaire sur la base de ses données comportementales n’est pas évaluée par une version plus rapide de l’ancien processus. Elle est connue par un type d’entité différent – une entité qui n’existait pas avant le couplage, qui ne peut être réduite ni à la banque ni à elle-même, et qui génère des connaissances à son sujet que ni elle ni la banque ne pourraient produire seules. L’unité de cognition économique a changé. Le lieu du crédit n’est plus l’institution qui évalue l’individu : c’est le réseau couplé qui génère une propriété de leur interaction.

Le troisième domaine est le plus déterminant : la cognition émotionnelle et sociale.

CareCall ne se contente pas de fournir un service aux personnes âgées isolées. À l’échelle de la population – des milliers de citoyens âgés dans plusieurs municipalités, chaque conversation générant des données sur les schémas de solitude, les trajectoires de dépression, la dégradation des réseaux sociaux –, il produit une connaissance collective sur la manière dont une société vieillit émotionnellement, qu’aucun travailleur social individuel, aucun ministère, aucune agrégation d’observations cliniques ne pourrait générer. Le système connaît des aspects de la texture émotionnelle du déclin démographique coréen qu’aucun humain ne connaît, et ne pourrait connaître, car ce savoir est irréductiblement réparti à travers des millions d’interactions. Il s’agit là d’une émergence à l’échelle sociale dans sa forme la plus aiguë : une capacité cognitive collective, née du couplage de la vie émotionnelle humaine avec des systèmes d’IA, qui produit des connaissances et des actions à un niveau qui n’existait pas auparavant.

(à suivre…)

Illustration par ChatGPT & Jérôme Bosch

La cinquième caractéristique est celle qui est le plus souvent mal interprétée : « 빨리빨리 » : « dépêche-toi ! dépêche-toi ! »

La stratégie « L’IA à l’Intérieur » : les nouveaux appareils électroménagers de Samsung ne se contentent pas de se connecter au Wi-Fi, ils sont équipés d’une puce IA locale et d’un ensemble de capteurs. Un réfrigérateur Bespoke utilise des caméras internes et la vision par IA pour reconnaître 33 types d’aliments distincts, suivre leur date de péremption et suggérer des recettes sur l’écran Family Hub, qui commande automatiquement les ingrédients manquants via Coupang Eats.

Le domicile n’attend pas un simple « robot majordome » : il devient un réseau d’IA ambiant et distribué. Cet environnement domestique doté d’IA est un terrain d’entraînement pour une civilisation habituée à la matière intelligente. Un Européen voit un réfrigérateur intelligent, tandis qu’un enfant coréen grandit dans une maison où la cuisine est un agent coopératif.

La logistique IA de Coupang n’est pas simplement copie conforme d’Amazon. La densité démographique de la Corée (une haute densité de population est la condition préalable à une civilisation IA) permet à ses algorithmes de prédiction d’atteindre une « livraison fulgurante » en prépositionnant 70 % des articles dans un rayon de livraison de 7 minutes avant même que vous ne passiez commande.

L’IA ne se contente pas de répondre à la demande : elle anticipe le comportement des citoyens à l’échelle de la population avec une précision impossible à atteindre dans une Europe géographiquement étendue. Il s’agit d’un système neuronal pour le corps physique de la nation.

Le système a appris les schémas de demande de la population avec suffisamment de précision pour agir avant même que la demande ne soit exprimée. Il s’agit là d’une compression du cycle perturbation-réponse au point où la réponse anticipe la perturbation – ce qui n’est possible que dans un substrat présentant une forte cohérence de couplage, où les boucles de rétroaction entre le comportement de la population et la réponse du système fonctionnent depuis suffisamment longtemps, avec une densité suffisante, pour générer une précision prédictive. « 빨리빨리 » : « dépêche-toi ! dépêche-toi ! », telle est la norme culturelle qui a permis à ces boucles de fonctionner de manière rigoureuse : déployer, observer, ajuster, redéployer, sans les pauses de réflexion qui, dans d’autres sociétés, interrompent le cycle avant que l’apprentissage ne se cumule. Ce n’est pas de l’impatience : c’est le corollaire comportemental d’un couplage structuré – et son résultat, dans le cas de Coupang, est un système logistique qui ne se contente pas de répondre à la demande, mais anticipe les rythmes comportementaux d’une civilisation.

Ce sont là des caractéristiques qui ne se contentent pas de s’additionner, elles se renforcent mutuellement. Une grammaire cognitive partagée rend la concentration des plateformes plus efficace car le réseau distribué dispose d’une couche interprétative commune. La concentration des plateformes amplifie la boucle de rétroaction entre entreprises, État et recherche, car les signaux provenant des systèmes déployés parviennent aux décideurs politiques et aux chercheurs par des canaux partagés et concentrés. La compression du cycle « 빨리빨리 » opère sur un substrat suffisamment cohérent pour rendre l’itération rapide productive plutôt que chaotique. La cohérence interprétative signifie que les systèmes calibrés selon des cadres culturels – CareCall, la notation comportementale de KakaoBank, le magasin sans personnel Coupang – se propagent sans la friction qui les fragmenterait ailleurs. Chaque caractéristique renforce la cohérence du couplage ; ensemble, elles la font franchir le seuil à partir duquel quelque chose de qualitativement nouveau devient possible.

Rien de tout cela n’a été conçu comme une stratégie d’IA. La Corée n’avait pas pour objectif de construire le substrat de couplage homme-IA le plus cohérent au monde. Elle a construit ce que la nécessité exigeait : un système éducatif capable de produire une main-d’œuvre moderne en une génération ; un complexe industriel capable d’atteindre la compétitivité mondiale en deux générations ; une infrastructure numérique capable de lier une société géographiquement compacte et soumise à des pressions démographiques en un seul réseau réactif. La civilisation de l’IA qui a émergé de ces choix n’était pas le but recherché, c’était la conséquence – la propriété émergente, à juste titre, de décisions prises pour d’autres raisons sous d’autres pressions.

Le lecteur coréen trouvera peut-être étrange qu’on lui impose l’idée que sa société se trouve à la pointe de la transformation la plus cruciale de l’humanité. La texture quotidienne de la vie coréenne – ses pressions, ses inégalités, ses angoisses démographiques, son rythme de compétition implacable – ne lui donnant pas l’impression d’être l’avant-garde d’une nouvelle civilisation. Elle donne plutôt le sentiment d’une société courant de tout son être sans pour autant avancer. Mais c’est précisément là que réside toute la question : le seuil d’émergence n’est pas franchi par les sociétés qui se sentent triomphantes, mais par celles qui ont été contraintes, par le poids spécifique de leurs circonstances, à coupler leur architecture humaine avec des systèmes d’IA, avec la profondeur, la vitesse et la cohérence que l’émergence exige. C’est l’histoire qui a placé la Corée là où elle se trouve en ce moment-même.

La question est de savoir ce que la Corée saura faire de sa situation présente ; elle pourrait devenir la première société de l’histoire dont l’agent intellectuel effectif n’est plus l’individu, ni l’institution, mais le substrat couplé homme-machine lui-même.

(à suivre…)

Illustration par ChatGPT & Jérôme Bosch

La caractéristique structurelle la plus délicate à définir : la mort.

Il ne s’agit pas d’homogénéité ethnique, mais de cohérence interprétative : le degré auquel une population partage des cadres d’évaluation de la nouveauté, des seuils de confiance institutionnelle et des vocabulaires permettant d’interagir avec de nouveaux systèmes. Chaque société dispose de cadres culturels ; ce qui varie, c’est le degré de cohérence de ces cadres au sein de la population, et l’efficacité avec laquelle ils régissent l’interface entre les nouvelles technologies et le comportement humain. La preuve la plus évidente de la cohérence interprétative de la Corée n’est pas une statistique, mais un fait social : la Corée a accepté de déléguer le jeong à une machine.

Jeong est le sentiment coréen d’attachement et d’obligation : la piété. Ce lien tenace qui soutient les relations au fil du temps, exprimé par de petits gestes continus d’attention et de souvenir, propres à une conception de la vie qui se suffit à elle-même : non pas un avant-goût de ce à quoi ressemble réellement l’au-delà – que l’on y croie encore ou que l’on ait cessé d’y croire – en mode « zombie », comme le formule Emmanuel Todd.

Le gouvernement a effectivement reconnu une pénurie de jeong et utilise une IA pour combler ce déficit. Il s’agit d’un filet de sécurité sociale post-humain. Le débat éthique en Occident (« c’est une horreur dystopique ») n’a pas sa place face à la réalité d’une mort solitaire dans un appartement rempli de silence.

Le système CareCall de Naver passe des appels IA à des personnes âgées vivant seules, non pas pour des urgences, mais pour bavarder. Il se souvient des conversations passées. CareCall n’est pas avant tout une prouesse technologique : c’est un indicateur structurel. C’est la preuve que la Corée a franchi un seuil émotionnel dont d’autres sociétés continuent de prétendre qu’il est absent.

Re;memory de DeepBrain AI crée lui un jumeau numérique interactif d’un disparu, entraîné à partir d’heures de vidéos, d’enregistrements vocaux et de données personnelles. Une mère en deuil peut demander à l’avatar de sa fille décédée comment s’est passée sa journée et recevoir une réponse synthétisée par l’IA, parlant de la voix de sa fille. La frontière humaine la plus profonde : le voile entre la vie et la mort, est transpercée par l’IA sous la forme d’un service thérapeutique – et commercial – de soutien au deuil.

La volonté d’une société de confier ses liens émotionnels les plus intimes à un système d’IA signifie que les cadres d’interprétation régissant la confiance, la bienveillance et l’obligation sociale sont suffisamment cohérents au sein de la population pour qu’une IA puisse être calibrée pour fonctionner à grande échelle dans ce cadre. Si CareCall ou Re;memory fonctionnent en Corée, ce n’est pas parce que la technologie y est d’un degré supérieur, mais parce que le substrat culturel est suffisamment lisse pour l’accueillir.

Un système équivalent déployé à travers l’Europe se heurterait à une fragmentation interprétative : des traditions régionales différentes, des cadres philosophiques différents sur ce que signifie la bienveillance, des seuils différents et profondément contestés quant à ce qui peut être délégué à une machine. Le couplage ne prendrait pas. En Corée, oui : l’au-delà a émergé ici « aussitôt que possible ». Par opposition à « prématurément » : avec plusieurs millénaires d’avance, comme ce fut le cas en Occident, où l’au-delà a constitué un mythe démotivant, détournant l’attention des objectifs réels et immédiats. L’au-delà est devenu en Corée un doux fantasme abordable et ironique. Aujourd’hui, c’est-à-dire pas une minute trop tôt : au bon moment pour ne jamais être pris trop au sérieux.

(à suivre…)

Illustration par ChatGPT

III. La concentration des plateformes.

KakaoBank, la plus grande banque numérique de Corée, n’est pas seulement une application, c’est une IA qui connaît chacun de ses usagers.

– La palette technologique : Lorsque vous faites une demande de prêt, il n’y a pas d’entretien avec un conseiller. L’IA analyse les documents que vous avez fournis – mais ce n’est qu’une partie du processus. Elle traite l’ensemble des métadonnées de votre écosystème Kakao : la fréquence de vos SMS, la régularité de vos trajets en taxi, les types de cadeaux que vous envoyez sur KakaoTalk. À l’aide d’un modèle d’IA propre et explicable, elle établit en quelques secondes une notation de crédit non conventionnelle.

– La réalité vécue : une jeune freelance aux revenus instables mais menant une vie numérique stable et responsable obtient un prêt immobilier. Dans une banque traditionnelle, elle représente un risque. Pour l’IA de KakaoBank, la profondeur et la granularité de ses données comportementales prouvent sa stabilité mieux qu’un bulletin de salaire. Son empreinte numérique devient son atout.

– L’intégration profonde : il s’agit de l’intégration de l’ensemble de l’économie de plateforme dans l’identité juridique et financière. Cela détruit l’ancienne dichotomie entre économie « formelle » et « informelle ». Chaque action en ligne est potentiellement un point de données financières. La saturation intense de la Corée par une plateforme unique (Kakao est partout) rend cette vision financière totalisante tout spécialement possible.

La plateforme KakaoTalk porte donc des conversations qui, dans d’autres pays, se répartissent entre une douzaine d’applications concurrentes. KakaoBank, s’appuyant sur ce substrat concentré, n’évalue pas la solvabilité à partir des seuls dossiers financiers : son IA ingère l’ensemble des métadonnées comportementales de la vie numérique d’une personne – le rythme de ses messages, la régularité de ses déplacements, les motifs récurrents de ses dons sociaux – et produit une notation de crédit à partir de la totalité de sa présence dans l’écosystème de plateformes. La jeune travailleuse indépendante aux revenus instables, mais au comportement numérique stable et responsable, obtient un prêt hypothécaire qu’une banque traditionnelle lui aurait refusé. Ses traces numériques sont devenues son actif.

Naver structure les recherches d’information à travers une interface commune CLOVA CareCall (ou surnommé « Talking Buddy »), qui utilise ses grands modèles de langage (LLM)  : il ne s’agit pas d’un bot générique. Ce sont les collectivités locales (comme le district de Seongdong-gu à Séoul) qui s’abonnent au service. Elles fournissent à Naver la liste des personnes âgées vivant seules. L’IA passe un appel en langage naturel. La technologie de base repose sur l’« empreinte vocale », capable de détecter la dépression à partir de changements subtils dans le ton, le rythme et le vocabulaire au fil du temps, et de signaler les personnes à haut risque à un assistant social. Elle engage également des dialogues faisant appel à la mémoire à plus long terme : « La semaine dernière, vous avez dit que vous alliez à l’hôpital. Comment cela s’est-il passé ? »

Telle est la concentration des plateformes agissant comme densité de couplage, opérant dans ses conséquences les plus essentielles : chaque interaction sur un substrat partagé devient un point de donnée dans un réseau de couplage unifié, interprétable dans le même cadre, alimentant les mêmes boucles d’apprentissage. Lorsqu’un système atteint une telle densité de stockage, il ne se contente plus de refléter la population : il la modélise entièrement.

(à suivre…)