LePartisan.info À propos Podcasts Fil web
Flux grenoblois
Fr3 Alpes Fr.Bleu Isère Infos épinglées Agendas Ressources Assos Webcams
Écologie BLOGS Revues Médias
FRAMABLOG
TOUTES LES SOURCES 

Revue hebdomadaire du web

▸ les 20 dernières parutions

10.08.2026 à 07:42

Khrys’presso du lundi 10 août 2026

Khrys

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière. Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer … Lire la suite­­
Texte intégral (6717 mots)

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.

Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer votre bloqueur de javascript favori ou à passer en “mode lecture” (Firefox) ;-)

Brave New World

Spécial IA

Spécial Israël

Spécial femmes dans le monde

Spécial France

Spécial femmes en France

Spécial médias et pouvoir

Spécial emmerdeurs irresponsables gérant comme des pieds (et à la néolibérale)

Spécial recul des droits et libertés, violences policières, montée de l’extrême-droite…

Spécial résistances

Spécial outils de résistance

Spécial MAGAM et cie

Les autres lectures de la semaine

Les BDs/graphiques/photos de la semaine

Les vidéos/podcasts de la semaine

Les trucs chouettes de la semaine

Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.

Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).

PDF

09.08.2026 à 10:00

IA et science : du pliage de protéines… à l’illusion de la connaissance

Framasoft

L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique.
Texte intégral (3859 mots)

Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 30 septembre 2025 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.

Tout l’été, profitez de republications de « Dans Les Algorithmes » ! Rendez-vous tous les dimanches de juillet et d’août pour réfléchir, ensemble, sur les enjeux de l’Intelligence Artificielle.

Avatar de Hubert Guillaud

Hubert Guillaud

L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique.

 

 

 

 

 

 

« Le discours selon lequel l’intelligence artificielle révolutionne la science est désormais quasiment incontournable », rappelle William Burns, consultant en politique scientifique, pour Tech Policy Press. « L’histoire raconte déjà que l’IA n’est pas seulement l’avenir : elle révolutionne les découvertes scientifiques ». Même des gens assez critiques de l’IA et de ses développements disent qu’elle possède des « capacités prometteuses » pour la recherche scientifique, justifiant son développement. Pourtant, l’IA, telle qu’elle est actuellement déployée en science, occulte plus qu’elle ne révèle, exacerbant les problèmes qu’elle prétend résoudre.

Les chercheuses Lisa Messeri et Molly J. Crockett affirmaient l’année dernière dans Nature que « la prolifération des outils d’IA en science risque d’introduire une phase de recherche scientifique où nous produisons davantage, mais comprenons moins ». Mais surtout, l’usage de l’IA pourrait compromettre la capacité à produire des connaissances fiables, sur lesquelles repose tout l’édifice scientifique. Cette crise annoncée prolonge celle que traverse la recherche depuis le début du XXIe siècle, notamment liée à la stagnation des découvertes pharmaceutiques. Burns rappelle par exemple que le Projet Génome Humain dans les années 90 a été lancé en promettant une prolifération de nouveaux médicaments qui n’est jamais advenue. Un chercheur d’une grande entreprise scientifique expliquait en 2008 que « rien de ce que les entreprises ont fait pour accroître la production de nouveaux médicaments n’a fonctionné, y compris les fusions, les acquisitions, les réorganisations et l’amélioration des processus ».

Le microbiologiste américain, Carl Woese, opposant à l’ingénierie biologique, estimait, en 2004, que la crise de l’innovation était liée à la généralisation de l’ingénierie du vivant. En 2011, l’économiste Philip Mirowski estimait que le néolibéralisme, obsédé par la technologie, avait tué la rigueur scientifique. La promesse de renouveau scientifique par l’IA s’inscrit pleinement en prolongement de cette crise. En 2023, l’OCDE expliquait que l’IA pourrait venir aider une science devenue « plus difficile ». À l’image d’AlphaFold, le système de pliage des protéines de Google DeepMind, pour lequel Demis Hassabis et John Jumper ont reçu le prix Nobel de chimie en 2024.

Les protéines ne sont pas des puces de silicium

AlphaFold a permis de prédire la structure de 200 millions de protéines, mais il serait expérimentalement impossible d’en vérifier n’en serait-ce qu’une fraction. Pour ce faire, « il faudrait généralement isoler des protéines des cellules en quantités importantes – un processus capricieux – puis les soumettre à des techniques telles que la diffraction des rayons X et la résonance magnétique nucléaire. Ces étapes pourraient prendre des années, même pour une seule protéine ». Néanmoins, la philosophe Daria Zakharova a affirmé dans un pré-print que si les prédictions d’AlphaFold sont considérées comme fiables et sont utilisées par les scientifiques, cette « connaissance » est bien imparfaite. « D’un point de vue strictement matériel, AlphaFold n’est pas une représentation du comportement des protéines, mais plutôt du comportement des puces de silicium (sur lesquelles repose le calcul). En ce sens, les inventeurs d’AlphaFold ont avancé l’hypothèse que des puces de silicium pourraient imiter les protéines. Cela soulève la question de savoir comment des matériaux sans lien entre eux, tant chimiquement que spatialement et temporellement, pourraient s’imiter. Au minimum, des preuves substantielles seraient nécessaires pour le prouver. Pourtant, lorsque des efforts ont été déployés pour le vérifier, les résultats ont été mitigés », rappelle Burns. Une étude récente de Garrido-Rodríguez et ses collègues a par exemple soutenu que le calcul d’AlphaFold ne « correspondait pas aux modèles déterminés expérimentalement », faisant référence à une classe de protéines omniprésentes et biologiquement vitales appelées serpines. « De toute évidence, des recherches plus approfondies pourraient être nécessaires sur la fiabilité de l’IA en tant qu’outil prédictif ». Pour Burns, les preuves ne sont pas suffisamment solides à ce stade. Bien sûr, le repliement des protéines est complexe. Leur modélisation est ancienne et repose sur des hypothèses manifestement différentes de leur réalité. Longtemps, ces modèles servaient à interpréter des données d’observation issues de la diffraction des rayons X, et non à créer un modèle informatique, comme avec AlphaFold. Le problème, estime le chercheur en cancérologie et lauréat du prix Nobel de physiologie ou médecine 2019, William G. Kaelin Jr., c’est que la publication doit construire son savoir sur des briques plutôt que sur de la paille.

Au Royaume-Uni, la UK Biobank, une entreprise publique qui détient des données génétiques sur un sous-ensemble de la population britannique, aurait conclu en mars dernier un partenariat avec des sociétés pharmaceutiques et Calico, filiale d’Alphabet, qui auront accès à ces données pour des études menées avec l’IA. Le projet a été décrit par le Financial Times comme « un exemple emblématique de la manière dont les ordinateurs avancés et les modèles d’intelligence artificielle peuvent exploiter de vastes ensembles de données biologiques pour étudier en profondeur le fonctionnement du corps humain et ses dysfonctionnements potentiels ». Une question se pose cependant : l’exploitation de ces ensembles de données est-elle susceptible de produire des connaissances fiables, même en théorie ? En 2017, ces données ont été décrites comme « non représentatives de la population générale… Les participants à la UK Biobank vivent généralement dans des zones socio-économiquement moins défavorisées ; sont moins susceptibles d’être obèses, de fumer et de consommer de l’alcool quotidiennement ; et présentent moins de problèmes de santé auto-déclarés ». La structure de ces ensembles de données de santé, et d’autres similaires, qui ne sont certainement pas secrets, suscite des doutes. Même les observateurs optimistes doivent l’admettre : si les données sont inadéquates et l’IA opaque, quelle est la valeur épistémique réelle de ces projets ? Le prix Nobel Kaelin Jr. a conseillé : « La question… devrait être de savoir si… les conclusions sont susceptibles d’être correctes, et non de savoir s’il serait important qu’elles soient vraies. »

Ralentir la science

Si l’on veut sauver la science de son malaise actuel, des solutions sont déjà possibles, conclut Burns. « Des propositions comme la « slow science » d’Isabelle Stenger semblent valoir la peine d’être tentées, car elles pourraient élargir la charge de la preuve aux affirmations scientifiques et encourager un esprit de service public parmi les scientifiques. Pourtant, si une rénovation épistémique a eu lieu jusqu’à présent dans le domaine scientifique, elle est restée extrêmement timide et n’a pas produit d’effets escomptés. 

Il faut dire que pour les investisseurs, l’idée que l’IA puisse nous sortir de l’impasse actuelle et donner naissance à toutes sortes d’inventions rentables est doublement séduisante. L’IA est une méthode qui ne nécessite que des capitaux pour sa mise en œuvre et qui peut être réalisée à grande échelle, contrairement à la recherche empirique, centrée sur l’humain et fastidieuse, où l’ingéniosité et la chance (qui ne s’achètent pas si facilement) semblent prédominer. Mais investir dans l’IA est aussi un moyen efficace de maintenir le statu quo, tout en semblant le bouleverser, car il pose l’hypothèse d’un avenir technologique sans les changements systémiques qu’impliquent d’autres réformes. 

Dans cette optique, nous devons résister au spectacle. L’IA fait vendre une vision du progrès où les algorithmes peuvent révéler les secrets plus rapidement, mieux et à moindre coût ; pourtant, les secrets de la nature ne sont pas si facilement révélés, et la connaissance sans compréhension n’est pas une connaissance du tout. »

S’il y avait besoin d’une explication supplémentaire, Alberto Romero dans sa newsletter algorithmic Bridge, revient sur une étude du MIT et de Harvard, où les chercheurs se sont demandé si les modèles d’IA pouvaient passer de la simple prédiction au « développement de modèles fiables », en les faisant travailler sur un problème de physique assez classique ? Mais au lieu de tester avec le langage, qui est assez complexe et difficile à analyser, ils se sont concentrés sur la physique classique. Ils voulaient voir si le modèle utiliserait les lois de Newton pour prédire les vecteurs de force à l’origine du mouvement de révolution de la terre autour du soleil ou s’il inventerait simplement ses prédictions sans comprendre la physique réelle. Ils ont conclu que les modèles d’IA font des prédictions précises, mais ne parviennent pas à encoder le modèle universel de Newton et recourent plutôt à des heuristiques spécifiques à chaque cas, non généralisables et fortement incohérents. L’étude montre que « les modèles d’IA sont tout simplement incapables de coder un ensemble de lois robustes pour régir leurs prédictions : ils sont non seulement incapables de retrouver des modèles du monde, mais intrinsèquement mal équipés pour le faire ». Un modèle d’IA d’apprentissage profond est peut-être architecturalement incapable de développer des modèles du monde corrects estiment-ils. Même le rêve que l’IA puisse être utilisée pour améliorer la prédictibilité des modèles climatiques est battue en brèche. Dans leur livre, AI Snake Oil (voir notre recension), les chercheurs Arvind Narayanan et Sayash Kapoor montraient que son amélioration était assez limitée et qu’elle pourrait même atteindre un palier indépassable, à mesure que les phénomènes deviennent plus extrêmes. La croyance dans un progrès scientifique exponentiel porté par l’IA ne sert qu’à raviver les promesses des technosciences comme le disaient déjà Marc Audétat et les chercheurs invités dans Sciences et technologies émergentes : pourquoi tant de promesses ? (Hermann, 2015, voir notre recension). L’idée que l’IA serait l’avenir de la science comme on l’entend très souvent est bien plus un moyen d’orienter les investissements qu’une vérité scientifique.

MAJ du 25/01/2026 : L’IA va-t-elle tuer la science ou, au contraire, engendrer une révolution scientifique ? C’est la question que pose l’astrobiologiste Sara Imari Walker dans un article pour Noema. Si l’IA peut résoudre le problème du pliage des protéines comme le promettent beaucoup de recherches, que pourrait-elle accomplir d’autre ? Mais si « AlphaFold prédit les structures 3D, il n’explique ni la physique sous-jacente, ni les mécanismes de repliement, ni les ensembles conformationnels dynamiques. Il fonctionne bien pour les protéines composées de la vingtaine d’acides aminés présents dans la biologie terrestre. Pour étudier les protéines issues des centaines d’acides aminés contenus dans les matériaux météoriques, ou pour concevoir de nouvelles protéines thérapeutiques, ce modèle a besoin de données supplémentaires. La limitation ne réside ni dans l’algorithme ni dans sa capacité de mise à l’échelle : les données nécessaires n’existent pas. » 

Si l’on considère la science uniquement comme la méthode scientifique (observation, hypothèse, vérification, analyse), alors l’automatisation semble inévitable, avance-t-elle. Les algorithmes d’IA réalisent de manière démontrée bon nombre, voire la totalité, de ces étapes, et leurs performances s’améliorent lorsqu’ils sont guidés par des scientifiques.

Pourtant, si la mise à l’échelle était notre seul besoin, l’IA actuelle offrirait une solution banale à la science : nous pourrions faire plus grâce à des modèles à plus grande échelle. Cependant, l’optimisme autour de l’IA ne se limite pas à l’automatisation et à la mise à l’échelle ; il concerne aussi la théorie de l’esprit. La science diffère radicalement de l’expérience : elle est fondamentalement intersubjective. Si une chose n’existe que dans un seul esprit et ne peut être partagée, elle ne peut devenir une connaissance scientifique. La science exige la vérification mutuelle des observations, la construction d’un héritage de découvertes passées et l’élaboration d’un consensus intergénérationnel sur la réalité. Les modèles scientifiques doivent donc être exprimables par des symboles, des mathématiques et le langage, car ils doivent être reproductibles et interprétables d’un esprit à l’autre. La science est par définition instable car elle n’est pas une caractéristique objective de la réalité : elle se comprend plus justement comme un système culturel évolutif, nourri par la représentation consensuelle et adaptable aux nouvelles connaissances que nous produisons. Notre principal mode de communication des idées scientifiques est la représentation symbolique. Nous communiquons des modèles du monde, et non le monde lui-même.

Plus fondamentalement, le discours actuel, optimiste, voire arrogant, autour de l’IA et de l’intelligence artificielle générale laisse entendre que ces algorithmes seront « plus qu’humains » dans leur capacité à comprendre et à expliquer le monde, dépassant ainsi ce que certains perçoivent comme les limites de l’intelligence imposées par la biologie humaine. Or, cela est impossible, de par les fondements mêmes de la théorie du calcul et l’héritage de l’abstraction humaine dont ces technologies sont directement issues. Comme l’écrit le physicien David Deutsch, si l’univers est effectivement explicable, les humains sont déjà des « explicateurs universels », car nous sommes capables de comprendre tout ce qu’un système informatique peut comprendre : en termes de capacités de calcul, ordinateurs et cerveaux sont tout aussi universels.

Les changements de paradigme révèlent que la puissance de la pensée scientifique ne réside pas dans la vérité littérale des théories, mais dans notre capacité à identifier de nouvelles façons de décrire le monde et dans la persistance des structures que nous décrivons à travers différents schémas de représentation.

Ceci nous amène à comprendre pourquoi l’IA ne peut remplacer les scientifiques. Les controverses et les débats sur le langage et la représentation en science ne sont pas des anomalies ; ils sont inhérents à un système sociétal qui détermine les modèles qu’il privilégie. Les milliards de paramètres d’AlphaFold 3 suggèrent que la parcimonie et la simplicité ne sont peut-être pas les seules voies possibles pour la science. Si nous voulons des modèles qui cartographient le monde avec la plus grande précision possible, la complexité est peut-être nécessaire.

C’est cette profondeur de sens, inhérente à nos théories, que la science découvre en construisant de nouvelles perceptions sociétales. Une vision superficielle, où la science se contente de créer des modèles prédictifs dépourvus de profondeur et de signification, ne peut la saisir. Lorsqu’un scientifique élabore une théorie, même avant l’évaluation par les pairs, il y a un acte intentionnel d’explication et un travail intérieur de confrontation avec l’intuition et sa représentation. Les modèles d’IA, en revanche, génèrent des prédictions par reconnaissance statistique de formes, un processus très différent.

« La question fondamentale n’est pas de savoir si l’IA peut faire de la science, mais si les sociétés peuvent construire des représentations partagées et des significations consensuelles avec des algorithmes dépourvus de la création intentionnelle de sens qui a toujours été au cœur de l’explication scientifique.  » L’IA transformera-t-elle la science ? Certainement. Remplacera-t-elle les scientifiques ? Certainement pas, clame Sara Imari Walker. Si nous nous méprenons sur la nature de la science, en confondant l’automatisation des méthodes avec le projet humain de construction, de débat et d’affinage collectifs des représentations symboliques qui nous permettent de comprendre la réalité, l’IA risque d’annoncer la mort de la science : nous manquerons alors l’occasion de l’intégrer pleinement aux systèmes culturels de la science.

« La science ne se résume pas à la prédiction et à l’automatisation ; l’histoire nous enseigne qu’elle est bien plus que cela. Elle repose sur un consensus explicatif et une négociation humaine permanente quant aux descriptions du monde que nous adopterons collectivement. Cette négociation, cette articulation intersubjective des observations en une signification partagée, est fondamentalement sociale et, pour l’instant, fondamentalement humaine. »

MAJ du 26/01/2026 : L’IA peut-elle générer de nouvelles idées en science ?, interroge Cade Metz pour le New York Times, en revenant sur une polémique récente où une startup, Harmonic, affirmait que son IA aurait résolu un problème de math resté insoluble (voir les explications de Numerama). En fait, des mathématiciens et des chercheurs en IA ont rapidement souligné que le système avait identifié des solutions existantes, enfouies dans des décennies d’articles de recherche et de manuels, par exemple en trouvant une solution enfouie dans un article en allemand. “Un chercheur expérimenté est toujours nécessaire pour interroger le système, lui expliquer ce qu’il doit rechercher et, finalement, extraire les informations pertinentes du reste des données produites”.

PDF

03.08.2026 à 07:42

Khrys’presso du lundi 3 août 2026

Khrys

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière. Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer … Lire la suite­­
Texte intégral (9083 mots)

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.

Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer votre bloqueur de javascript favori ou à passer en “mode lecture” (Firefox) ;-)

Brave New World

Spécial IA

Spécial Palestine, Liban et Israel

Spécial femmes dans le monde

RIP

Spécial France

RIP

Spécial femmes en France

Spécial médias et pouvoir

Spécial emmerdeurs irresponsables gérant comme des pieds (et à la néolibérale)

Spécial recul des droits et libertés, violences policières, montée de l’extrême-droite…

Spécial résistances

Spécial outils de résistance

Spécial MAGAM et cie

Les autres lectures de la semaine

Les BDs/graphiques/photos de la semaine

Les vidéos/podcasts de la semaine

Les trucs chouettes de la semaine

Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.

Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).

PDF

02.08.2026 à 10:00

IA, la grande escroquerie

Framasoft

Emily Bender et Alex Hanna publient The AI con, « L’escroquerie de l’IA ». Une synthèse très documentée qui nous invite à lutter contre le monde que nous proposent les géants de l’IA. Lecture.
Texte intégral (9046 mots)

Cet article est une republication, avec l’accord de l’auteur, Hubert Guillaud. Il a été publié en premier le 04 septembre 2025 sur le site Dans Les Algorithmes sous licence CC BY-NC-SA.

Tout l’été, profitez de republications de « Dans Les Algorithmes » ! Rendez-vous tous les dimanches de juillet et d’août pour réfléchir, ensemble, sur les enjeux de l’Intelligence Artificielle.

Avatar de Hubert Guillaud

Hubert Guillaud

Emily Bender et Alex Hanna publient The AI con, « L’escroquerie de l’IA ». Une synthèse très documentée qui nous invite à lutter contre le monde que nous proposent les géants de l’IA. Lecture.

 

 

 

 

 

 

Le livre est intitulé "The AI Con. How to fight Big Tech's hype and create the future we want."

La couverture du livre d’Emily Bender et Alex Hanna.

L’arnaque de l’IA est le titre d’un essai que signent la linguiste Emily Bender et la sociologue Alex Hanna : The AI con : how to fight big tech’s hype and create the future we want (HarperCollins, 2025, non traduit). Emily Bender est professeure de linguistique à l’université de Washington. Elle fait partie des 100 personnalités de l’IA distinguées par le Time en 2023. Elle est surtout connue pour être l’une des co-auteure avec Timnit Gebru, Angelina McMillan-Major et Margaret Mitchell du fameux article sur les Perroquets stochastiques, critique du développement des grands modèles de langage (voir l’interview du Monde avec Emily Bender). Alex Hanna, elle, est sociologue. Elle est la directrice de la recherche de DAIR, Distributed AI Research Institut. Les deux chercheuses publient également une newsletter commune et un podcast éponyme, « Mystery AI Hype Theater 3000 », où elles discutent avec nombre de chercheurs du domaine.

AI con pourrait paraître comme un brûlot technocritique, mais il est plutôt une synthèse très documentée de ce qu’est l’IA et de ce qu’elle n’est pas. L’IA est une escroquerie, expliquent les autrices, un moyen que certains acteurs ont trouvé “pour faire les poches de tous les autres”. « Quelques acteurs majeurs bien placés se sont positionnés pour accumuler des richesses importantes en extrayant de la valeur du travail créatif, des données personnelles ou du travail d’autres personnes et en remplaçant des services de qualité par des fac-similés ». Pour elles, l’IA tient bien plus d’une pseudo-technologie qu’autre chose.

L’escroquerie tient surtout dans le discours que ces acteurs tiennent, le battage médiatique, la hype qu’ils entretiennent, les propos qu’ils disséminent pour entretenir la frénésie autour de leurs outils et services. Le cadrage que les promoteurs de l’IA proposent leur permet de faire croire en leur puissance tout en invisibilisant ce que l’IA fait vraiment : « menacer les carrières stables et les remplacer par du travail à la tâche, réduire le personnel, déprécier les services sociaux et dégrader la créativité humaine ».

L’IA n’est rien d’autre que du marketing

Bender et Hanna nous le rappellent avec force. « L’intelligence artificielle est un terme marketing ». L’IA ne se réfère pas à un ensemble cohérent de technologies. « L’IA permet de faire croire à ceux à qui on la vend que la technologie que l’on vend est similaire à l’humain, qu’elle serait capable de faire ce qui en fait, nécessite intrinsèquement le jugement, la perception ou la créativité humaine ». Les calculatrices sont bien meilleures que les humains pour l’arithmétique, on ne les vend pas pour autant comme de l’IA.

L’IA sert à automatiser les décisions, à classifier, à recommander, à traduire et transcrire et à générer des textes ou des images. Toutes ces différentes fonctions assemblées sous le terme d’IA créent l’illusion d’une technologie intelligente, magique, qui permet de produire de l’acceptation autour de l’automatisation quelles que soient ses conséquences, par exemple dans le domaine de l’aide sociale. Le battage médiatique, la hype, est également un élément important, car c’est elle qui conduit l’investissement dans ces technologies, qui explique l’engouement pour cet ensemble de méthodes statistiques appelé à changer le monde. « La fonction commerciale de la hype technologique est de booster la vente de produits ». Altman et ses confrères ne sont que des publicitaires qui connectent leurs objectifs commerciaux avec les imaginaires machiniques. Et la hype de l’IA nous promet une vie facile où les machines prendront notre place, feront le travail difficile et répétitif à notre place. 

En 1956, quand John McCarthy et Marvin Minsky organisent un atelier au Dartmouth College pour discuter de méthodes pour créer des machines pensantes, le terme d’IA s’impose, notamment pour exclure Norbert Wiener, le pionnier, qui parle lui de cybernétique, estiment les chercheuses. Le terme d’intelligence artificielle va servir pour désigner des outils pour le guidage de systèmes militaires, afin d’attirer des investissements dans le contexte de la guerre froide. Dès le début, la « discipline » repose donc sur de grandes prétentions sans grande caution scientifique, de mauvaises pratiques de citation scientifiques et des objectifs fluctuants pour justifier les projets et attirer les investissements, expliquent Bender et Hanna. Des pratiques qui ont toujours cours aujourd’hui. Dès le début, les promoteurs de l’IA vont soutenir que les ordinateurs peuvent égaler les capacités humaines, notamment en estimant que les capacités humaines ne sont pas si complexes.

Des outils de manipulation… sans entraves

L’une des premières grande réalisation du domaine est le chatbot Eliza de Joseph Weizenbaum, nommée ainsi en référence à Eliza Doolittle, l’héroïne de Pygmalion, la pièce de George Bernard Shaw. Eliza Doolittle est la petite fleuriste prolétaire qui apprend à imiter le discours de la classe supérieure. Derrière ce nom très symbolique, le chatbot est conçu comme un psychothérapeute capable de soutenir une conversation avec son interlocuteur en lui renvoyant sans cesse des questions depuis les termes que son interlocuteur emploie. Weizenbaum était convaincu qu’en montrant le fonctionnement très basique et très trompeur d’Eliza, il permettrait aux utilisateurs de comprendre qu’on ne pouvait pas compatir à ses réponses. C’est l’inverse qui se produisit pourtant. Tout mécanique qu’était Eliza, Weizenbaum a été surpris de l’empathie générée par son tour de passe-passe, comme l’expliquait Ben Tarnoff. Eliza n’en sonne pas moins l’entrée dans l’âge de l’IA. Son créateur, lui, passera le reste de sa vie à être très critique de l’IA, d’abord en s’inquiétant de ses effets sur les gens. Eliza montrait que le principe d’imitation de l’humain se révélait particulièrement délétère, notamment en trompant émotionnellement ses interlocuteurs, ceux-ci interprétant les réponses comme s’ils étaient écoutés par cette machine. Dès l’origine, donc, rappellent Bender et Hanna, l’IA est une discipline de manipulation sans entrave biberonnée aux investissements publics et à la spéculation privée.

Bien sûr, il y a des applications de l’IA bien testées et utiles, conviennent-elles. Les correcteurs orthographiques par exemple ou les systèmes d’aide à la détection d’anomalies d’images médicales. Mais, en quelques années, l’IA est devenue la solution à toutes les activités humaines. Pourtant, toutes, mêmes les plus accomplies, comme les correcteurs orthographiques ou les systèmes d’images médicales ont des défaillances. Et leurs défaillances sont encore plus vives quand les outils sont imbriqués à d’autres et quand leurs applications vont au-delà des limites de leurs champs d’application pour lesquels elles fonctionnent bien. Dans leur livre, Bender et Hanna multiplient les exemples de défaillances, comme celles que nous évoquons en continu ici, Dans les algorithmes.

Ces défaillances dont la presse et la recherche se font souvent les échos ont des points communs. Toutes reposent sur des gens qui nous survendent les systèmes d’automatisation comme les très versatiles « machines à extruder du texte » – c’est ainsi que Bender et Hanna parlent des chatbots, les comparant implicitement à des imprimantes 3D censées imprimer, plus ou moins fidèlement, du texte depuis tous les textes, censées extruder du sens ou plutôt nous le faire croire, comme Eliza nous faisait croire en sa conscience, alors qu’elle ne faisait que berner ses utilisateurs. C’est bien plus nous que ces outils qui sommes capables de mettre du sens là où il n’y en a pas. Comme si ces outils n’étaient finalement que des moteurs à produire des paréidolies, des apophénies, c’est-à-dire du sens, des causalités, là où il n’y en a aucune. « L’IA n’est pas consciente : elle ne va pas rendre votre travail plus facile et les médecins IA ne soigneront aucun de vos maux ». Mais proclamer que l’IA est ou sera consciente produit surtout des effets sur le corps social, comme Eliza produit des effets sur ses utilisateurs. Malgré ce que promet la hype, l’IA risque bien plus de rendre votre travail plus difficile et de réduire la qualité des soins. « La hype n’arrive pas par accident. Elle remplit une fonction : nous effrayer et promettre aux décideurs et aux entrepreneurs de continuer à se remplir les poches ».

Déconstruire l’emballement

Dans leur livre, Bender et Hanna déconstruisent l’emballement. En rappelant d’abord que ces machines ne sont ni conscientes ni intelligentes. L’IA n’est que le résultat d’un traitement statistique à très grande échelle, comme l’expliquait Kate Crawford dans son Contre-Atlas de l’intelligence artificielle. Pourtant, dès les années 50, Minsky promettait déjà la simulation de la conscience. Mais cette promesse, cette fiction, ne sert que ceux qui ont quelque chose à vendre. Cette fiction de la conscience ne sert qu’à dévaluer la nôtre. Les « réseaux neuronaux » sont un terme fallacieux, qui vient du fait que ces premières machines s’inspiraient de ce qu’on croyait savoir du fonctionnement des neurones du cerveau humain dans les années 40. Or, ces systèmes ne font que prédire statistiquement le mot suivant dans leurs données de références. ChatGPT n’est rien d’autre qu’une « saisie automatique améliorée ». Or, comme le rappelle l’effet Eliza, quand nous sommes confrontés à du texte ou à des signes, nous l’interprétons automatiquement. Les bébés n’apprennent pas le langage par une exposition passive et isolée, rappelle la linguiste. Nous apprenons le langage par l’attention partagée avec autrui, par l’intersubjectivité. C’est seulement après avoir appris un langage en face à face que nous pouvons l’utiliser pour comprendre les autres artefacts linguistiques, comme l’écriture. Mais nous continuons d’appliquer la même technique de compréhension : « nous imaginons l’esprit derrière le texte ». Les LLM n’ont ni subjectivité ni intersubjectivité. Le fait qu’ils soient modélisés pour produire et distribuer des mots dans du texte ne signifie pas qu’ils aient accès au sens ou à une quelconque intention. Ils ne produisent que du texte synthétique plausible. ChatGPT n’est qu’une machine à extruder du texte, « comme un processus industriel extrude du plastique ». Leur fonction est une fonction de production… voire de surproduction.

Les promoteurs de l’IA ne cessent de répéter que leurs machines approchent de la conscience ou que les êtres humains, eux aussi, ne seraient que des perroquets stochastiques. Nous ne serions que des versions organiques des machines et nous devrions échanger avec elles comme si elles étaient des compagnons ou des amis. Dans cet argumentaire, les humains sont réduits à des machines. Weizenbaum estimait pourtant que les machines resserrent plutôt qu’élargissent notre humanité en nous conduisant à croire que nous serions comme elles. « En confiant tant de décisions aux ordinateurs, pensait-il, nous avions créé un monde plus inégal et moins rationnel, dans lequel la richesse de la raison humaine avait été réduite à des routines insensées de code », rappelle Tarnoff. L’informatique réduit les gens et leur expérience à des données. Les promoteurs de l’IA passent leur temps à dévaluer ce que signifie être humain, comme l’ont montré les critiques de celles qui, parce que femmes, personnes trans ou de couleurs, ne sont pas toujours considérées comme des humains, comme celles de Joy Buolamnwini, Timnit Gebru, Sasha Costanza-Chock ou Ruha Benjamin. Cette manière de dévaluer l’humain par la machine, d’évaluer la machine selon sa capacité à résoudre les problèmes n’est pas sans rappeler les dérives de la mesure de l’intelligence et ses délires racistes. La mesure de l’intelligence a toujours été utilisée pour justifier les inégalités de classe, de genre, de race. Et le délire sur l’intelligence des machines ne fait que les renouveler. D’autant que ce mouvement vers l’IA comme industrie est instrumenté par des millionnaires tous problématiques, de Musk à Thiel en passant par Altman ou Andreessen… tous promoteurs de l’eugénisme, tous ultraconservateurs quand ce n’est pas ouvertement fascistes. Bender et Hanna égrènent à leur tour nombre d’exemples des propos problématiques des entrepreneurs et financiers de l’IA. L’IA est un projet politique porté par des gens qui n’ont rien à faire de la démocratie parce qu’elle dessert leurs intérêts et qui tentent de nous convaincre que la rationalité qu’ils portent serait celle dont nous aurions besoin, oubliant de nous rappeler que leur vision du monde est profondément orientée par leurs intérêts – je vous renvoie au livre de Thibault Prévost, Les prophètes de l’IA, qui dit de manière plus politique encore que Bender et Hanna, les dérives idéologiques des grands acteurs de la tech.

De l’automatisation à l’IA : dévaluer le travail

L’IA se déploie partout avec la même promesse, celle qu’elle va améliorer la productivité, quand elle propose d’abord « de remplacer le travail par la technologie ». « L’IA ne va pas prendre votre job. Mais elle va rendre votre travail plus merdique », expliquent les chercheuses. « L’IA est déployée pour dévaluer le travail en menaçant les travailleurs par la technologie qui est supposée faire leur travail à une fraction de son coût ».

En vérité, aucun de ces outils ne fonctionnerait s’ils ne tiraient pas profits de  contenus produits par d’autres et s’ils n’exploitaient pas une force de travail massive et sous payée à l’autre bout du monde. L’IA ne propose que de remplacer les emplois et les carrières que nous pouvons bâtir, par du travail à la tâche. L’IA ne propose que de remplacer les travailleurs de la création par des « babysitters de machines synthétiques ».

L’automatisation et la lutte contre l’automatisation par les travailleurs n’est pas nouvelle, rappellent les chercheuses. L’innovation technologique a toujours promis de rendre le travail plus facile et plus simple en augmentant la productivité. Mais ces promesses ne sont que « des fictions dont la fonction ne consiste qu’à vendre de la technologie. L’automatisation a toujours fait partie d’une stratégie plus vaste visant à transférer les coûts sur les travailleurs et à accumuler des richesses pour ceux qui contrôlent les machines. »

Ceux qui s’opposent à l’automatisation ne sont pas de simples Luddites qui refuseraient le progrès (ceux-ci d’ailleurs n’étaient pas opposés à la technologie et à l’innovation, comme on les présente trop souvent, mais bien plus opposés à la façon dont les propriétaires d’usines utilisaient la technologie pour les transformer, d’artisans en ouvriers, avec des salaires de misères, pour produire des produits de moins bonnes qualités et imposer des conditions de travail punitives, comme l’expliquent Brian Merchant dans son livre, Blood in the Machine ou Gavin Mueller dans Breaking things at work. L’introduction des machines dans le secteur de la confection au début du XIXe siècle au Royaume-Uni a réduit le besoin de travailleurs de 75 %. Ceux qui sont entrés dans l’industrie ont été confrontés à des conditions de travail épouvantables où les blessures étaient monnaies courantes. Les Luddites étaient bien plus opposés aux conditions de travail de contrôle et de coercition qui se mettaient en place qu’opposés au déploiement des machines), mais d’abord des gens concernés par la dégradation de leur santé, de leur travail et de leur mode de vie.

L’automatisation pourtant va surtout exploser avec le 20e siècle, notamment dans l’industrie automobile. Chez Ford, elle devient très tôt une stratégie. Si l’on se souvient de Ford pour avoir offert de bonnes conditions de rémunération à ses employés (afin qu’ils puissent s’acheter les voitures qu’ils produisaient), il faut rappeler que les conditions de travail étaient tout autant épouvantables et punitives que dans les usines de la confection du début du XIXe siècle. L’automatisation a toujours été associée à la fois au chômage et au surtravail, rappellent les chercheuses. Les machines de minage, introduites dès les années 50 dans les mines, permettaient d’employer 3 fois moins de personnes et étaient particulièrement meurtrières. Aujourd’hui, la surveillance qu’Amazon produit dans ses entrepôts vise à contrôler la vitesse d’exécution et cause elle aussi blessures et stress. L’IA n’est que la poursuite de cette longue tradition de l’industrie à chercher des moyens pour remplacer le travail par des machines, renforcer les contraintes et dégrader les conditions de travail au nom de la productivité.

D’ailleurs, rappellent les chercheuses, quatre mois après la sortie de ChatGPT, les chercheurs d’OpenAI ont publié un rapport assez peu fiable sur l’impact du chatbot sur le marché du travail. Mais OpenAI, comme tous les grands automatiseurs, a vu très tôt son intérêt à promouvoir l’automatisation comme un job killer. C’est le cas également des cabinets de conseils qui vendent aux entreprises des modalités pour réaliser des économies et améliorer les profits, et qui ont également produit des rapports en ce sens. Le remplacement par la technologie est un mythe persistant qui n’a pas besoin d’être réel pour avoir des impacts.

Plus qu’un remplacement par l’IA, cette technologie propose d’abord de dégrader nos conditions de travail. Les scénaristes sont payés moins cher pour réécrire un script que pour en écrire un, tout comme les traducteurs sont payés moins cher pour traduire ce qui a été prémâché par l’IA. Pas étonnant alors que de nombreux collectifs s’opposent à leurs déploiements, à l’image des actions du collectif Safe Street Rebel de San Francisco contre les robots taxis et des attaques (récurrentes) contre les voitures autonomes. Les frustrations se nourrissent des « choses dont nous n’avons pas besoin qui remplissent nos rues, comme des contenus que nous ne voulons pas qui remplissent le web, comme des outils de travail qui s’imposent à nous alors qu’ils ne fonctionnent pas ». Les exemples sont nombreux, à l’image des travailleurs de l’association américaine de lutte contre les désordres alimentaires qui ont été remplacés, un temps, par un chatbot, deux semaines après s’être syndiqués. Un chatbot qui a dû être rapidement retiré, puisqu’il conseillait n’importe quoi à ceux qui tentaient de trouver de l’aide. « Tenter de remplacer le travail par des systèmes d’IA ne consiste pas à faire plus avec moins, mais juste moins pour plus de préjudices » – et plus de bénéfices pour leurs promoteurs. Dans la mode, les mannequins virtuels permettent de créer un semblant de diversité, alors qu’en réalité, ils réduisent les opportunités des mannequins issus de la diversité.

Babysitter les IA : l’exploitation est la norme

Dans cette perspective, le travail avec l’IA consiste de plus en plus à corriger leurs erreurs, à nettoyer, à être les babysitters de l’IA. Des babysitters de plus en plus invisibilisés. Les robotaxis autonomes de Cruise sont monitorés et contrôlés à distance. Tous les outils d’IA ont recours à un travail caché, invisible, externalisé. Et ce dès l’origine, puisqu’ImageNet, le projet fondateur de l’IA qui consistait à labelliser des images pour servir à l’entraînement des machines n’aurait pas été possible sans l’usage du service Mechanical Turk d’Amazon. 50 000 travailleurs depuis 167 pays ont été mobilisés pour créer le dataset qui a permis à l’IA de décoller. « Le modèle d’ImageNet consistant à exploiter des travailleurs à la tâche tout autour du monde est devenue une norme industrielle du secteur« . Aujourd’hui encore, le recours aux travailleurs du clic est persistant, notamment pour la correction des IA. Et les industries de l’IA profitent d’abord et avant tout l’absence de protection des travailleurs qu’ils exploitent.

Pas étonnant donc que les travailleurs tentent de répondre et de s’organiser, à l’image des scénaristes et des acteurs d’Hollywood et de leur 148 jours de grève. Mais toutes les professions ne sont pas aussi bien organisées. D’autres tentent d’autres méthodes, comme les outils des artistes visuels, Glaze et Nightshade, pour protéger leurs créations. Les travailleurs du clic eux aussi s’organisent, par exemple via l’African Content Moderators Union.

“Quand les services publics se tournent vers des solutions automatisées, c’est bien plus pour se décharger de leurs responsabilités que pour améliorer leurs réponses”

L’escroquerie de l’IA se développe également dans les services sociaux. Sous prétexte d’austérité, les solutions automatisées sont partout envisagées comme « la seule voie à suivre pour les services gouvernementaux à court d’argent ». L’accès aux services sociaux est remplacé par des « contrefaçons bon marchés » pour ceux qui ne peuvent pas se payer les services de vrais professionnels. Ce qui est surtout un moyen d’élargir les inégalités au détriment de ceux qui sont déjà marginalisés. Bien sûr, les auteurs font référence ici à des sources que nous avons déjà mobilisés, notamment Virginia Eubanks. « L’automatisation dans le domaine du social au nom de l’efficacité ne rend les autorités efficaces que pour nuire aux plus démunis » . C’est par exemple le cas de la détention préventive. En 2024, 500 000 américains sont en prison parce qu’ils ne peuvent pas payer leurs cautions. Pour remédier à cela, plusieurs États ont recours à des solutions algorithmiques pour évaluer le risque de récidive sans résoudre le problème, au contraire, puisque ces calculs ont surtout servi à accabler les plus démunis. À nouveau, « l’automatisation partout vise bien plus à abdiquer la gouvernance qu’à l’améliorer ».

“De partout, quand les services publics se tournent vers des solutions automatisées, c’est bien plus pour se décharger de leurs responsabilités que pour améliorer leurs réponses”, constatent, désabusées, Bender et Hanna. Et ce n’est pas qu’une caractéristique des autorités républicaines, se lamentent les chercheuses. Gavin Newsom, le gouverneur démocrate de la Californie démultiplie les projets d’IA générative, par exemple pour adresser le problème des populations sans domiciles afin de mieux identifier la disponibilité des refuges… « Les machines à extruder du texte pourtant, ne savent que faire cela, pas extruder des abris ». De partout d’ailleurs, toutes les autorités publiques ont des projets de développement de chatbots et des projets de systèmes d’IA pour résoudre les problèmes de société. Les autorités oublient que ce qui affecte la santé, la vie et la liberté des gens nécessite des réponses politiques, pas des artifices artificiels.

Les deux chercheuses multiplient les exemples d’outils défaillants… dans un inventaire sans fin. Pourtant, rappellent-elles, la confiance dans ces outils reposent sur la qualité de leur évaluation. Celle-ci est pourtant de plus en plus le parent pauvre de ces outils, comme le regrettaient Sayash Kapoor et Arvind Narayanan dans leur livre. En fait, l’évaluation elle-même est restée déficiente, rappellent Hanna et Bender. Les tests sont partiels, biaisés par les données d’entraînements qui sont rarement représentatives. Les outils d’évaluation de la transcription automatique par exemple reposent sur le taux de mots erronés, mais comptent tout mots comme étant équivalent, alors que certains peuvent être bien plus importants que d’autres en contexte, par exemple, l’adresse est une donnée très importante quand on appelle un service d’urgence, or, c’est là que les erreurs sont les plus fortes.

« L’IA n’est qu’un pauvre facsimilé de l’État providence »

Depuis l’arrivée de l’IA générative, l’évaluation semble même avoir déraillé (voir notre article « De la difficulté à évaluer l’IA »). Désormais, ils deviennent des concours (par exemple en tentant de les classer selon leurs réponses à des tests de QI) et des outils de classements pour eux-mêmes, comme s’en inquiétaient déjà les chercheuses dans un article de recherche. La capacité des modèles d’IA générative à performer aux évaluations tient d’un effet Hans le malin, du nom du cheval qui avait appris à décoder les signes de son maître pour faire croire qu’il était capable de compter. On fait passer des tests qu’on propose aux professionnels pour évaluer ces systèmes d’IA, alors qu’ils ne sont pas faits pour eux et qu’ils n’évaluent pas tout ce qu’on regarde au-delà des tests pour ces professions, comme la créativité, le soin aux autres. Malgré les innombrables défaillances d’outils dans le domaine de la santé (on se souvient des algorithmes défaillants de l’assureur UnitedHealth qui produisait des refus de soins deux fois plus élevés que ses concurrents ou ceux d’Epic Systems ou d’autres encore pour allouer des soins, dénoncés par l’association nationale des infirmières…), cela n’empêche pas les outils de proliférer. Amazon avec One Medical explore le triage de patients en utilisant des chatbots, Hippocratic AI lève des centaines de millions de dollars pour produire d’épouvantables chatbots spécialisés. Et ne parlons pas des chatbots utilisés comme psy et coach personnels, aussi inappropriés que l’était Eliza il y a 55 ans… Le fait de pousser l’IA dans la santé n’a pas d’autres buts que de dégrader les conditions de travail des professionnels et d’élargir le fossé entre ceux qui seront capables de payer pour obtenir des soins et les autres qui seront laissés aux « contrefaçons électroniques bon marchés ». Les chercheuses font le même constat dans le développement de l’IA dans le domaine scolaire, où, pour contrer la généralisation de l’usage des outils par les élèves, les institutions investissent dans des outils de détection défaillants qui visent à surveiller et punir les élèves plutôt que les aider, et qui punissent plus fortement les étudiants en difficultés. D’un côté, les outils promettent aux élèves d’étendre leur créativité, de l’autre, ils sont surtout utilisés pour renforcer la surveillance. « Les étudiants n’ont pourtant pas besoin de plus de technologie. Ils ont besoin de plus de professeurs, de meilleurs équipements et de plus d’équipes supports ». Confrontés à l’IA générative, le secteur a du mal à s’adapter expliquait Taylor Swaak pour le Chronicle of Higher Education (voir notre récent dossier sur le sujet). Dans ce secteur comme dans tous les autres, l’IA est surtout vue comme un moyen de réduire les coûts. C’est oublier que l’école est là pour accompagner les élèves, pour apprendre à travailler et que c’est un apprentissage qui prend du temps. L’IA est finalement bien plus le symptôme des problèmes de l’école qu’une solution. Elle n’aidera pas à mieux payer les enseignants ou à convaincre les élèves de travailler…

Dans le social, la santé ou l’éducation, le développement de l’IA est obnubilé par l’efficacité organisationnelle : tout l’enjeu est de faire plus avec moins. L’IA est la solution de remplacement bon marché. « L’IA n’est qu’un pauvre facsimilé de l’État providence ». « Elle propose à tous ce que les techs barons ne voudraient pas pour eux-mêmes ». « Les machines qui produisent du texte synthétique ne combleront pas les lacunes de la fabrique du social ».

On pourrait généraliser le constat que nous faisions avec Clearview : l’investissement dans ces outils est un levier d’investissement idéologique qui vise à créer des outils pour contourner et réduire l’État providence, modifier les modèles économiques et politiques.

L’IA, une machine à produire des dommages sociaux

« Nous habitons un écosystème d’information qui consiste à établir des relations de confiance entre des publications et leurs lecteurs. Quand les textes synthétiques se déversent dans cet écosystème, c’est une forme de pollution qui endommage les relations comme la confiance ». Or l’IA promet de faire de l’art bon marché. Ce sont des outils de démocratisation de la créativité, explique par exemple le fondateur de Stability AI, Emad Mostaque. La vérité n’est pourtant pas celle-ci. L’artiste Karla Ortiz, qui a travaillé pour Marvel ou Industrial Light and Magic, expliquait qu’elle a très tôt perdu des revenus du fait de la concurrence initiée par l’IA. Là encore, les systèmes de génération d’image sont déployés pour perturber le modèle économique existant permettant à des gens de faire carrière de leur art. Tous les domaines de la création sont en train d’être déstabilisés. Les “livres extrudés” se démultiplient pour tenter de concurrencer ceux d’auteurs existants ou tromper les acheteurs. Dire que l’IA peut faire de l’art, c’est pourtant mal comprendre que l’art porte toujours une intention que les générateurs ne peuvent apporter. L’art sous IA est asocial, explique la sociologue Jennifer Lena. Quand la pratique artistique est une activité sociale, forte de ses pratiques éthiques comme la citation scientifique. La génération d’images, elle, est surtout une génération de travail dérivé qui copie et plagie l’existant. L’argument génératif semble surtout sonner creux, tant les productions sont souvent identiques aux données depuis lesquelles les textes et images sont formés, soulignent Bender et Hanna. Le projet Galactica de Meta, soutenu par Yann Le Cun lui-même, qui promettait de synthétiser la littérature scientifique et d’en produire, a rapidement été dé-publié. « Avec les LLM, la situation est pire que le garbage in/garbage out que l’on connaît” (c’est-à-dire, le fait que si les données d’entrées sont mauvaises, les résultats de sortie le seront aussi). Les LLM produisent du « papier-mâché des données d’entraînement, les écrasant et remixant dans de nouvelles formes qui ne savent pas préserver l’intention des données originelles”. Les promesses de l’IA pour la science répètent qu’elle va pouvoir accélérer la science. C’était l’objectif du grand défi, lancé en 2016 par le chercheur de chez Sony, Hiroaki Kitano : concevoir un système d’IA pour faire des découvertes majeures dans les sciences biomédicales (le grand challenge a été renommé, en 2021, le Nobel Turing Challenge). Là encore, le défi a fait long feu. « Nous ne pouvons déléguer la science, car la science n’est pas seulement une collection de réponses. C’est d’abord un ensemble de processus et de savoirs ». Or, pour les thuriféraires de l’IA, la connaissance scientifique ne serait qu’un empilement, qu’une collection de faits empiriques qui seraient découverts uniquement via des procédés techniques à raffiner. Cette fausse compréhension de la science ne la voit jamais comme l’activité humaine et sociale qu’elle est avant tout. Comme dans l’art, les promoteurs de l’IA ne voient la science que comme des idées, jamais comme une communauté de pratique.

Cette vision de la science explique qu’elle devienne une source de solutions pour résoudre les problèmes sociaux et politiques, dominée par la science informatique, en passe de devenir l’autorité scientifique ultime, le principe organisateur de la science. La surutilisation de l’IA en science risque pourtant bien plus de rendre la science moins innovante et plus vulnérable aux erreurs, estiment les chercheuses. « La prolifération des outils d’IA en science risque d’introduire une phase de recherche scientifique où nous produisons plus, mais comprenons moins » , expliquaient dans Nature Lisa Messeri et M. J. Crockett (sans compter le risque de voir les compétences diminuer, comme le soulignait une récente étude sur la difficulté des spécialistes de l’imagerie médicale à détecter des problèmes sans assistance). L’IA propose surtout un point de vue non situé, une vue depuis nulle part, comme le dénonçait Donna Haraway : elle repose sur l’idée qu’il y aurait une connaissance objective indépendante de l’expérience. « L’IA pour la science nous fait croire que l’on peut trouver des solutions en limitant nos regards à ce qui est éclairé par la lumière des centres de données ». Or, ce qui explique le développement de l’IA scientifique n’est pas la science, mais le capital-risque et les big-tech. L’IA rend surtout les publications scientifiques moins fiables. Bien sûr, cela ne signifie pas qu’il faut rejeter en bloc l’automatisation des instruments scientifiques, mais l’usage généralisé de l’IA risque d’amener plus de risques que de bienfaits.

Mêmes constats dans le monde de la presse, où les chercheuses dénoncent la prolifération de « moulins à contenus”, où l’automatisation fait des ravages dans un secteur déjà en grande difficulté économique. L’introduction de l’IA dans les domaines des arts, de la science ou du journalisme constitue une même cible de choix qui permet aux promoteurs de l’IA de faire croire en l’intelligence de leurs services. Pourtant, leurs productions ne sont pas des preuves de la créativité de ces machines. Sans la créativité des travailleurs qui produisent l’art, la science et le journalisme qui alimentent ces machines, ces machines ne sauraient rien produire. Les contenus synthétiques sont tous basés sur le vol de données et l’exploitation du travail d’autrui. Et l’utilisation de l’IA générative produit d’abord des dommages sociaux dans ces secteurs. 

Le risque de l’IA, mais lequel et pour qui ?

Le dernier chapitre du livre revient sur les doomers et les boosters, en renvoyant dos à dos ceux qui pensent que le développement de l’IA est dangereux et les accélérationnistes qui pensent que le développement de l’IA permettra de sauver l’humanité. Pour les uns comme pour les autres, les machines sont la prochaine étape de l’évolution. Ces visions apocalyptiques ont produit un champ de recherche dédié, appelé l’AI Safety. Mais, contrairement à ce qu’il laisse entendre, ce champ disciplinaire ne vient pas de l’ingénierie de la sécurité et ne s’intéresse pas vraiment aux dommages que l’IA engendre depuis ses biais et défaillances. C’est un domaine de recherche centré sur les risques existentiels de l’IA qui dispose déjà d’innombrables centres de recherches dédiés.

Pour éviter que l’IA ne devienne immaîtrisable, beaucoup estiment qu’elle devrait être alignée avec les normes et valeurs humaines. Cette question de l’alignement est considérée comme le Graal de la sécurité pour ceux qui œuvrent au développement d’une IA superintelligente (OpenAI avait annoncé travailler en 2023 à une super-intelligence avec une équipe dédiée au « super-alignement », mais l’entreprise a dissous son équipe moins d’un an après son annonce. Ilya Sutskever, qui pilotait l’équipe, a lancé depuis Safe Superintelligence Inc). Derrière l’idée de l’alignement, repose d’abord l’idée que le développement de l’IA serait inévitable. Rien n’est moins sûr, rappellent les chercheuses. La plupart des gens sur la planète n’ont pas besoin d’IA. Et le développement d’outils d’automatisation de masse n’est pas socialement désirable. « Ces technologies servent d’abord à centraliser le pouvoir, à amasser des données, à générer du profit, plutôt qu’à fournir des technologies qui soient socialement bénéfiques à tous ». L’autre problème, c’est que l’alignement de l’IA sur les « valeurs humaines » peine à les définir. Les droits et libertés ne sont des concepts qui ne sont ni universels ni homogènes dans le temps et l’espace. La déclaration des droits de l’homme elle-même s’est longtemps accommodé de l’esclavage. Avec quelles valeurs humaines les outils d’IA s’alignent-ils quand ils sont utilisés pour armer des robots tueurs, pour la militarisation des frontières ou la traque des migrants ?, ironisent avec pertinence Bender et Hanna.

Pour les tenants du risque existentiel de l’IA, les risques existentiels dont il faudrait se prémunir sont avant tout ceux qui menacent la prospérité des riches occidentaux qui déploient l’IA, ironisent-elles encore. Enfin, rappellent les chercheuses, les scientifiques qui travaillent à pointer les risques réels et actuels de l’IA et ceux qui œuvrent à prévenir les risques existentiels ne travaillent pas à la même chose. Les premiers sont entièrement concernés par les enjeux sociaux, raciaux, dénoncent les violences et les inégalités, quand les seconds ne dénoncent que des risques hypothétiques. Les deux champs scientifiques ne se recoupent ni ne se citent entre eux.

Derrière la fausse guerre entre doomers et boomers, les uns se cachent avec les autres. Pour les uns comme pour les autres, le capitalisme est la seule solution aux maux de la société. Les uns comme les autres voient l’IA comme inévitable et désirable parce qu’elle leur promet des marchés sans entraves. Pourtant, rappellent les chercheuses, le danger n’est pas celui d’une IA qui nous exterminerait. Le danger, bien présent, est celui d’une spéculation financière sans limite, d’une dégradation de la confiance dans les médias à laquelle l’IA participe activement, la normalisation du vol de données et de leur exploitation et le renforcement de systèmes imaginés pour punir les plus démunis. Doomers et boosters devraient surtout être ignorés, s’ils n’étaient pas si riches et si influents. L’emphase sur les risques existentiels détournent les autorités des régulations qu’elles devraient produire.

Pour répondre aux défis de la modernité, nous n’avons pas besoin de générateur de textes, mais de gens, de volonté politique et de ressources, concluent les chercheuses. Nous devons collectivement façonner l’innovation pour qu’elle bénéficie à tous plutôt qu’elle n’enrichisse certains. Pour résister à la hype de l’IA, nous devons poser de meilleures questions sur les systèmes qui se déploient. D’où viennent les données ? Qu’est-ce qui est vraiment automatisé ? Nous devrions refuser de les anthropomorphiser : il ne peut y avoir d’infirmière ou de prof IA. Nous devrions exiger de bien meilleures évaluations des systèmes. ShotSpotter, le système vendu aux municipalités américaines pour détecter automatiquement le son des coups de feux, était annoncé avec un taux de performance de 97 % (et un taux de faux positif de 0,5 % – et c’est encore le cas dans sa FAQ). En réalité, les audits réalisés à Chicago et New York ont montré que 87 à 91 % des alertes du système étaient de fausses alertes ! Nous devons savoir qui bénéficie de ces technologies, qui en souffre. Quels recours sont disponibles et est-ce que le service de plainte est fonctionnel pour y répondre ? 

Face à l’IA, nous devons avoir aucune confiance

Pour les deux chercheuses, la résistance à l’IA passe d’abord et avant tout par luttes collectives. C’est à chacun et à tous de boycotter ces produits, de nous moquer de ceux qui les utilisent. C’est à nous de rendre l’usage des médias synthétiques pour ce qu’ils sont : inutiles et ringards. Pour les deux chercheuses, la résistance à ces déploiements est essentielle, tant les géants de l’IA sont en train de l’imposer, par exemple dans notre rapport à l’information, mais également dans tous leurs outils. C’est à nous de refuser « l’apparente commodité des réponses des chatbots ». C’est à nous d’œuvrer pour renforcer la régulation de l’IA, comme les lois qui protègent les droits des travailleurs, qui limitent la surveillance.

Emily Bender et Alex Hanna plaident pour une confiance zéro à l’encontre de ceux qui déploient des outils d’IA. Ces principes établis par l’AI Now Institute, Accountable Tech et l’Electronic Privacy Information Center, reposent sur 3 leviers : renforcer les lois existantes, établir des lignes rouges sur les usages inacceptables de l’IA et exiger des entreprises d’IA qu’elles produisent les preuves que leurs produits sont sans dangers.

Mais la régulation n’est hélas pas à l’ordre du jour. Les thuriféraires de l’IA défendent une innovation sans plus aucune entrave afin que rien n’empêche leur capacité à accumuler puissance et fortune. Pour améliorer la régulation, nous avons besoin d’une plus grande transparence, car il n’y aura pas de responsabilité sans elle, soulignent les chercheuses. Nous devons avoir également une transparence sur l’automatisation à l’œuvre, c’est-à-dire que nous devons savoir quand nous interagissons avec un système, quand un texte a été traduit automatiquement. Nous avons le droit de savoir quand nous sommes les sujets soumis aux résultats de l’automatisation. Enfin, nous devons déplacer la responsabilité sur les systèmes eux-mêmes et tout le long de la chaîne de production de l’IA. Les entreprises de l’IA doivent être responsables des données, du travail qu’elles réalisent sur celles-ci, des modèles qu’elles développent et des évaluations. Enfin, il faut améliorer les recours, le droit des données et la minimisation. En entraînant leurs modèles sur toutes les données disponibles, les entreprises de l’IA ont renforcé la nécessité d’augmenter les droits des gens sur leurs données. Enfin, elles plaident pour renforcer les protections du travail en donnant plus de contrôle aux travailleurs sur les outils qui sont déployés et renforcer le droit syndical. Nous devons œuvrer à des « technologies socialement situées », des outils spécifiques plutôt que des outils qui sauraient tout faire. Les applications devraient bien plus respecter les droits des usagers et par exemple ne pas autoriser la collecte de leurs données. Nous devrions enfin défendre un droit à ne pas être évalué par les machines. Comme le dit Ruha Benjamin, en défendant la Justice virale (Princeton University Press, 2022), nous devrions œuvrer à “un monde où la justice est irrésistible”, où rien ne devrait pouvoir se faire pour les gens sans les gens. Nous avons le pouvoir de dire non. Nous devrions refuser la reconnaissance faciale et émotionnelle, car, comme le dit Sarah Hamid du réseau de résistance aux technologies carcérales, au-delà des biais, les technologies sont racistes parce qu’on le leur demande. Nous devons les refuser, comme l’Algorithmic Justice League recommande aux voyageurs de refuser de passer les scanneurs de la reconnaissance faciale.

Bender et Hanna nous invitent à activement résister à la hype. À réaffirmer notre valeur, nos compétences et nos expertises sur celles des machines. Les deux chercheuses ne tiennent pas un propos révolutionnaire pourtant. Elles ne livrent qu’une synthèse, riche, informée. Elles ne nous invitent qu’à activer la résistance que nous devrions naturellement activer, mais qui semble être devenue étrangement radicale ou audacieuse face aux déploiements omnipotents de l’IA.

Hubert Guillaud

PDF

31.07.2026 à 10:15

Transiscope, au-delà de la carte

Framatophe

Résultat d’une écriture collective, Transiscope : Cartographier pour coopérer est un livre issu du projet Des Livres en Commun et dont la sortie est prévue le 8 septembre 2026. Il retrace une décennie d’expérimentations techniques et humaines visant à rendre visibles … Lire la suite­­
Texte intégral (6180 mots)

Résultat d’une écriture collective, Transiscope : Cartographier pour coopérer est un livre issu du projet Des Livres en Commun et dont la sortie est prévue le 8 septembre 2026. Il retrace une décennie d’expérimentations techniques et humaines visant à rendre visibles les alternatives sociales et écologiques, rôle que s’est donné Transiscope depuis sa création. Ce récit d’exploration analyse la construction d’un commun numérique conçu pour résister à la logique des plateformes prédatrices. Loin de se limiter à une présentation fonctionnelle d’un outil d’agrégation de données, ce livre documente les processus de coopération, les arbitrages éthiques face aux infrastructures matérielles et les défis organisationnels d’un collectif. Cet ouvrage dépasse la simple rétrospective pour devenir une ressource opérationnelle et politique, offerte en partage à celles et ceux qui aspirent à structurer leurs propres solidarités.

Dans cet entretien qui tient lieu de teasing 😜, les auteurs reviennent sur les fondements politiques de leur démarche et sur la nécessité de structurer des solidarités techniques. Ils montrent comment la technique ne sert plus à capturer l’attention, mais à soutenir un archipel de résistances concrètes.

Cet ouvrage est issu de l’appel à publication 2024. Pour rappel, Des Livres en Communs (DLeC) est un projet éditorial qui vise à soutenir l’écriture même d’un livre, son processus de création autant que sa structuration, afin d’un faire un commun. Transiscope : Cartographier pour coopérer s’inscrit dans la logique éditoriale de DLeC : transformer un retour d’expérience singulier en un outil de transmission capable d’irriguer d’autres luttes. En documentant dix ans de trajectoire du collectif Transiscope, ce livre répond à l’exigence de DLeC de produire des écrits qui servent de communs à d’autres communautés. Il dépasse la simple logique d’auteur pour devenir un outil de transmission de savoir-faire organisationnels et politiques.

Genèse et contexte politique

Framasoft – Au début de l’ouvrage, vous situez l’émergence de Transiscope dans le sillage des mouvements horizontaux des années 2010 (Nuit Debout, Occupy). En quoi ce projet technique d’agrégation de données est-il une réponse politique à ce que vous appelez la « brutalisation » des rapports sociaux et la marchandisation du monde associatif ?

Jean-Baptiste – Oui tout à fait, avant d’être un projet techniquement très ingénieux basé sur des outils numériques « libres », le Transiscope est d’abord un projet politique à contre-courant. Il se fonde sur des logiques de coopérations, de réciprocités et de solidarités là où le système économique dominant est basé, lui, sur la rivalité et une compétition sans fin avec une concurrence de tous contre chacun induisant des logiques de prédation.

En tant que fondateur de l’OCMA (Observatoire Citoyen de la Marchandisation des Associations), nous sommes évidemment très sensibles à tout cela au Collectif des Associations Citoyennes (CAC). Pour deux raisons. La première est que nous cherchons à documenter ce processus qui dénature les associations en les poussant vers la recherche de productivité, de performance, de rentabilité, bref de lucrativité bien éloignée, théoriquement, de leur ADN fondateur fait de non-lucrativité et de désintéressement… La seconde raison, c’est que nous tâchons d’expliquer que cette tendance n’est pas une fatalité ! En effet, tous les jours, partout en France, des actions très pragmatiques, qui produisent beaucoup d’effets dans la vie de nos co-citoyens, se basent sur des valeurs différentes de celles de la rentabilité, de l’extractivisme et du productivisme, bref en marge du système dominant de l’économie de marché… mais quelle marge considérable ! D’une certaine manière, cela prouve que, décidément oui, « un autre monde est possible » puisqu’il y a un foisonnement de « déjà-là » d’alternatives. Grâce à cette carte du Transiscope, il apparaît sous nos yeux à travers ce maillage qu’on voit se développer sur les territoires. Et, au passage, quel plaisir de donner tort à la chantre du néo-libéralisme Margaret Thatcher et de tout ceux qui, à sa suite, reprennent son emblématique TINA (pour There Is No Alternative).

Le drame étant bien sûr que tout cela passe très largement sous les radars (il suffit de voir les problèmes posés par les indicateurs qui sont censés mesurés la « richesse » du pays ou tout simplement la façon dont la comptabilité est conçue de telle manière qu’on ne parvient pas à rendre compte de ce qui compte vraiment…) et c’est là qu’on apprécie l’apport d’un outil comme le Transiscope : dans sa capacité à documenter, cartographier, rendre visible et évident, faire connaître et mettre en avant et en lumière un formidable tissu d’actions collectives sans lesquelles notre société serait tout simplement invivable ! Ce n’est pas rien tout de même, ça compte et ça conte (au sens où ça raconte beaucoup de choses sur les initiatives sur lesquelles s’appuyer pour ne pas sombrer dans le pessimisme et la désespérance qui peuvent nous guetter parfois). Ça doit nous donner de l’allant et de l’élan, de l’ardeur à la tâche et du cœur à l’ouvrage !

Julien – Le projet Transiscope s’inscrit en opposition à la logique de concurrence qui régit l’ensemble de la société jusqu’au secteur associatif, il propose d’organiser matériellement (et donc techniquement) la solidarité entre des assos et des collectifs de luttes en partageant de l’information, des enjeux et des ressources. Très concrètement cela signifie que la logique organisationnelle du Transiscope est celle des communs, il s’agit de mettre en commun nos moyens (argent, temps de travail, locaux, réseaux etc.), de régir collectivement ces ressources et de les mettre au service de celleux qui luttent partout pour construire des alternatives à cette société brutale.

La « tragédie du LSD »

Framasoft – Vous évoquez avec une pointe d’humour l’idée d’une « tragédie du LSD », Libristes, Solidaristes, Durabilistes, pour désigner le travail en silo de ces mouvements. Comment Transiscope a-t-il réussi — ou tente-t-il encore — à faire de la technique un terrain de convergence plutôt qu’un facteur supplémentaire de fragmentation ?

Pierre-Alain – Transiscope est né du travail de nombreux milieux autour des enjeux de la coopération ouverte autour d’un concept ni trop fumeux, ni trop sérieux : le LSD.

À la fin d’une soirée sans doute arrosée (de pluie) à Brest en 2012, entre Laurent Marseault et Jean-Michel Cornu est née la tragédie du LSD. Ces drogués de la coopération ont su rendre accessible et léger un impensé de nos milieux militants pourtant féru de vivre ensemble et de coopération. Le LSD pour Libre, Solidaire et Durable. Nous sommes tous issus de parcours, d’histoires, de tempéraments différents. Nous utilisons du vocabulaire spécifique, et nous baignons dans des cultures différentes. Ce sont les premiers freins de notre impuissance !

Transiscope est né de cette nécessité d’une coopération plus ouverte pour dépasser les silos et les réflexes « identitaires ». Pour concevoir et agréger d’autres cartos, il a fallu concrètement se mettre à travailler ensemble. Transiscope a été un des plus puissants terrains d’expérience commune entre le monde du libre, celui des solidaires et celui des durables. Bien sûr, ces trois « familles » peuvent se croiser et se préciser. Nous avons tous en nous quelque chose de libre, de solidaire et de durable ! Mais un archétype permet aussi de cartographier les acteurs, les réseaux et de se concentrer sur l’essentiel : leurs liens et les énergies qu’il faut mettre en œuvre pour les initier et les nourrir.

Les libristes ont permis de concevoir l’architecture de la carte et de la faire évoluer sur un temps long. Leurs qualités sont essentielles : expertise technique, force d’une communauté capable de travailler à distance sans se connaître, réflexe de tout documenter et de protéger les ressources en Commun. Certes, nous avons eu la chance de travailler avec des libristes qui pouvaient parler sans code html ou markdown !

Les durables, ou durabilistes, ou bien encore les écolos, et même des écolos-bobos dans certaines grandes agglomérations ! Ce monde se croise dans des « bases », dans des jardins, à vélo ou dans les colloques sur l’énergie. Ils apportent la nécessité de la relation au vivant et au temps long. Ils nourrissent nos échanges par leur capacité d’incarner et de rendre accessible les savoirs experts des scientifiques. Et puis, depuis quelques années, ils commencent à croiser des habitants des quartiers populaires organisés autour de la reconnaissance d’une écologie populaire, trop souvent invisibilisée. Solidaires et durables ont permis de rendre puissante l’alliance entre écologie et social.

Les solidaires sont les plus anciens militants, souvent acteurs de luttes historiques et dans des champs très différents. Ils ont permis de rendre lisible sur Transiscope des milliers de points d’intérêts, lieux d’actions concrètes ancrées dans des territoires. Ils ont pu amener aussi une vision nourrie par l’histoire et la pensée politique. Ils portent les enjeux d’une société civile engagée dans la transformation politique.

Nous le savons toutes et tous, notre enjeu est dépasser le LSD pour retrouver les espaces naturelles de la relation. Avancer, chacun à une place qu’il lui semble utile, vers des d’alliances qui construisent notre puissance collective. C’est pourquoi coopérer est d’abord une question de posture. Savoir travailler avec d’autres personnes commence par savoir accueillir leurs qualités et complémentarités pour faire avancer le projet. C’est aussi avoir la curiosité de mieux connaître ce qui peut être un frein et un levier. C’est enfin la nécessité de lâcher prise, lâcher et faire confiance et donc accepter de se planter ! Planter des graines est aussi une posture modeste qui nous permet de rester sur Terre et essaimer est notre grande ambition.

Transiscope, en ce sens, a été un projet exemplaire et il l’est encore. Bien plus qu’un outil, il est un espace, un tiers espace, qui nous permet d’avancer, pas à pas, lors des rencontres en présentiel comme à distance vers des transformations utiles à toutes nos communautés.

Politisation de la technique

Framasoft – Vous affirmez qu’au sein de Transiscope, « la technique est politique ». Comment cette posture se traduit-elle concrètement dans le choix de soutenir le développement d’outils (comme le Bus sémantique ou Gogocarto) plutôt que de s’appuyer sur des solutions existantes. Une simple question de performance ?

Julie – Dès les prémices de Transiscope, les questions techniques ont été l’objet de délibérations politiques. En effet, il y avait dans le collectif des organisations comme l’Assemblée Virtuelle ou le mouvement des Colibris et des individu·es qui développaient un argumentaire solide autour de l’importance d’utiliser des outils libres et décentralisés, afin de ne pas dépendre des outils numériques capitalistes, alors même que nous nous battions pour proposer un autre chemin que celui des modèles économiques dominants. Nous faisons attention à ce que ces sujets soient discutés dans les instances stratégiques, afin d’éviter une répartition inégalitaire du pouvoir, où une sorte d’élite éclairée, possédant les compétences techniques, décide pour le reste du collectif.

Les arguments qui étaient alors mis en avant relevaient soit de la cohérence éthique (avoir des outils conformes à nos valeurs), soit du pragmatisme (avoir des outils dont nous avons la maîtrise). Parfois, il est arrivé que les outils existants ne suffisent pas à répondre à nos besoins : cela a été le cas pour le Bus Sémantique et pour GoGocarto. Le travail des deux développeurs en lien avec des organisations de la Transition ont permis de développer des outils correspondant aux besoins de terrain. Alors que le comité de pilotage de la Plateforme Web des Alternatives (qui deviendra par la suite Transiscope) devait décider des outils sur lesquels s’appuyer pour la cartographie, il est apparu que ces deux outils pouvaient couvrir les besoins mais qu’il était nécessaire que les deux développeurs s’entendent pour adopter des choix technologiques compatibles, ce qui a été permis par une discussion entre les deux.

Ces choix, même s’ils s’appuient sur un argumentaire partagé par l’ensemble du collectif, ne sauraient cacher qu’elles s’appuient avant tout sur le travail gratuit d’un nombre très réduit de personnes. Le jour où cette personne ou ces quelques individus partent ou s’épuisent, que se passe-t-il ?

Le mythe de l’immatérialité

Framasoft – Vous nous invitez à sortir du « mythe de l’immatérialité » du numérique pour affronter la réalité extractiviste de ce monde numérique. Comment Transiscope, pourtant intrinsèquement lié au Web, négocie-t-il cette contradiction entre l’ambition de transition écologique et la matérialité parfois insoutenable des infrastructures numériques ?

Florine – Nous nous invitons aussi nous-mêmes à sortir du mythe de l’immatérialité. Tout l’enjeu est de regarder cette contradiction en face : on veut montrer que le monde que nous projetons s’incarne déjà, et pour cela nous ne nous appuyons pas sur les outils des GAFAMS mais sur des outils libres. En cela, nous essayons de lever une contradiction : l’usage d’outils capitalistes accaparants des données personnelles par des acteurices en résistance contre le capitalisme. Reste que nos outils libres s’inscrivent dans ce que José Halloy appelle des technologies zombies, c’est à dire mortes à l’aune de la durabilité – puisqu’elles épuisent les ressources matérielles nécessaires et reposent sur l’utilisation d’énergie non renouvelable – mais envahissant le monde au détriment des humain·es et de la biosphère. En outre, ces technologies « numériques » reposent sur l’exploitation d’humain·es, en particulier du Sud global. Dans ce contexte, parler de « commun numérique » peut paraître aberrant, puisque sa matérialité repose sur l’exploitation des Autres.

Nous avons donc fait un bout du chemin en dégafamisant nos usages numériques et en construisant des outils libres, mais du chemin reste à faire pour construire un autre numérique au moment où l’IA vient peser encore davantage sur sa matérialité.

Julien – Comme beaucoup, nous n’échappons pas aux paradoxes des luttes écologistes, car nos moyens d’action et de coordination reposent sur des infrastructures matérielles qui accélèrent les dérèglements climatiques et l’exploitation Nord-Sud. Le projet Transiscope s’est construit sur un paradoxe central, avec d’un côté l’idée d’outiller efficacement les alternatives et de l’autre l’ambition de faire réellement advenir ces alternatives et donc de construire un autre rapport au monde (y compris numérique). Si pendant longtemps la première dimension a pu dominer la réalisation du projet, après tout ce chemin parcouru, il nous semble aujourd’hui nécessaire d’affronter plus directement cette contradiction en faisant davantage de place à la seconde ambition qui implique de penser et d’appliquer concrètement la décroissance minérale, la solidarité internationale et la dénumérisation.

Négocier nos contradictions ça ne veut pas dire nécessairement les dépasser grâce à une solution magique (numérique éthique) mais d’y faire face, en s’attelant à ce que le syndicalisme révolutionnaire appelait la « double besogne » (Charte d’Amiens, 1906). Stratégie qui vise autant à grappiller des améliorations concrètes pour les travailleurs (réduction du temps de travail et augmentation des salaires) qu’à préparer l’émancipation intégrale qui ne pourra se réaliser qu’avec l’expropriation capitaliste. Pour nous, cette double besogne, s’incarnerait donc autant par la contribution à des infrastructures numériques libres, adaptées spécifiquement aux contextes et aux besoins de leurs utilisateurices et contrôler directement par elleux, que par l’implication dans une politisation collective de la technique et la mise sous contrôle démocratique du développement numérique, y compris jusqu’à l’expropriation des BigTech et le démantèlement de leurs infrastructures.

Archipel

Framasoft – Vous empruntez à Édouard Glissant la notion d’archipel pour définir votre mode d’organisation. Comment ce modèle permet-il de maintenir un « centre vide » au service des relations, sans tomber dans les pièges de la hiérarchie ou, à l’inverse, de l’inefficacité organisationnelle ?

Bruno – Une organisation et une gouvernance en « Archipel » est une communauté de partage. Elle implique donc un changement de posture tant individuel que collectif afin de passer de la concurrence et de la subordination à la coopération, du « pouvoir sur » au « pouvoir d’agir ». Le respect de chacun, l’entraide, la qualité d’écoute et la recherche du consentement sont les déterminants fondamentaux des relations dans toutes les différentes instances de l’Archipel.

L’objet de Transiscope était de créer un commun en reliant des organisations et des groupes de personnes (les îles) pour faire vivre ensemble un projet commun en coopération. Chaque organisation participe à ce projet commun en coopération tout en cultivant son identité-racine, en pleine autonomie. Dés l’origine du projet nous avons confié à une instance communautaire (le copil) le pouvoir d’agir au service du projet commun. Chaque île de l’Archipel est représentée au sein de cette instance communautaire qui acte la politique de l’Archipel, sa stratégie et la feuille de route de ses actions. Le copil est un espace d’animation et de coordination, les actions, elles sont menés en constituant des groupes-projet validés par l’instance communautaire. Ces groupes-projets ont un objet défini qui détermine une durée limitée. Ils décident de leur mode de fonctionnement et la manière de réaliser leurs actions, et rendent compte de leur action aux autres instances de l’Archipel à travers le copil.

« Le pouvoir de son centre est vide » : ce pouvoir d’agir, de service et de création, est non appropriable ; au sein du copil il n’y a pas de hiérarchisation de pouvoir, les décisions sont prises ensemble et par consentement. Des le démarrage du projet nous avons décidé de faire appel a un facilitateur pour animer le copil, ce facilitateur n’est pas membre du copil, il ne représente pas une organisation et n’est pas impliqué dans les actions, son unique rôle et de faciliter le fonctionnement et l’animation du Copil, il n’a donc pas d’enjeu de pouvoir personnel ou organisationnelle. Nous avons également décidé de ne pas créer de statut juridique afin de ne pas institutionnaliser le projet et de le maintenir dans une démarche de coopération. Pour permettre de développer et de gérer les aspects juridiques et financiers de l’Archipel nous avons fait le choix de créer une entité-support ayant une personnalité légale : l’association de soutien au Transiscope, qui n’avait vis-à-vis de l’Archipel qu’une fonction de gestion de moyens au service de celui-ci.

Ce mode d’organisation a démontré au fil du temps sa pertinence et ses limites. Sa pertinence c’est qu’il n’y a jamais eu de conflit de pouvoir au sein de Transiscope, le projet a su se développer dans une véritable culture de coopération de démocratie et de respect mutuel. Par contre la limite de ce système repose sur la capacité de mobilisation des îles au sein de l’archipel, pour avancer le projet a besoin d’une mobilisation permanente des membres dans les différentes instances (groupe projet, copil, …) et de temps d’animation régulier pour assurer une bonne coordination et une intelligence collective.

Le « Putain de Facteur Humain » (PFH)

Framasoft – Le lecteur peut être parfois surpris par votre récit car vous ne cachez pas les frictions et les doutes au sein du collectif. Pourquoi était-il essentiel pour vous de livrer un récit sincère du cheminement humain, loin d’un storytelling lissé qu’on rencontre souvent ?

Audrey – Un collectif traverse de nombreuses phases, souvent peu visibles aux membres qui en sont parties prenantes. Un des rôles de la personne qui facilite le projet est de rendre visible ce qui se joue entre les membres et les organisations, de créer des espaces de discussion, d’analyse, de prise de décisions et de faire en sorte que le groupe trouve des solutions par lui-même. La neutralité de la facilitation n’existe pas réellement car le choix même des outils utilisés implique déjà une vision du monde et de la coopération. Mais la fonction du tiers extérieur est précieuse.

Dans le milieu de l’Économie Sociale et Solidaire, il me semble qu’on fantasme souvent des collectifs assez lisses, où tout le monde s’entend bien, sans friction. Or, non seulement c’est illusoire, mais c’est aussi contre productif. Le collectif avance parce qu’il y a débats, dissensus, et parfois conflits. Un groupe devient mature en apprenant à se connaître et en surmontant les blocages. Par contre, cela demande de la confiance entre les membres, et dans le cadre commun, le pacte construit ensemble. Nous avons toutes et tous évolués dans notre manière de faire collectif avec Transiscope, car nous avons appris de la vision du monde, des imaginaires et des façons de faire. Cela est passé par le fait de « baisser les masques » et de se raconter réellement qui était autour de la table. Ce qui ne peut se faire que sur du temps long.

Julien – Pour nous il était clair que ce livre ne pourrait avoir un intérêt que si nous parvenions à ne pas édulcorer notre histoire, en proposant une version lisse d’une « belle aventure/réussite ». Trop souvent nous sommes amenés à raconter nos histoires collectives comme on pitch un projet pour espérer décrocher un financement, or de cela il ne peut émerger qu’un pur discours de communication décorrélé de la complexité de nos réalités. Pour offrir une ressource opérationnelle et politique à celles et ceux qui aspirent à structurer leurs propres solidarités, cela impliquait d’aborder le plus honnêtement possible les difficultés, les impasses et les échecs rencontrés, parce que nous sommes bien conscients que si celles-ci disent quelque chose de nous, elles disent surtout beaucoup de notre époque et des changements du secteur associatif en général.

Ce que nous avons construit ensemble c’est un drôle d’attelage qui a fonctionné dans la durée parce que nous avons appris à faire de la place à chacun.e d’entre nous et par conséquent, accepter d’osciller constamment entre l’avancée d’un projet et sa remise en cause. Pour nous l’expérimentation n’est pas un horizon lointain mais une pratique concrète qui implique de renoncer à liquider le « putain de facteur humain » au nom d’une efficacité fantasmée. Chaque projet, qu’il soit technique ou non, repose sur celleux qui le font vivre et c’est cette vie collective qu’il faut apprendre à voir comme une dimension intrinsèquement politique et en perpétuelle construction. Ce que nous espérons livrer dans cette contribution collective, ce n’est ni une recette pratique pour coopérer, ni une ligne à suivre, mais une histoire particulière faite de tentatives pour construire un commun, en espérant que celle-ci résonnera avec d’autres.

La propriété des données

Framasoft – Transiscope agrège des données qu’il ne possède pas. Dans un monde où la donnée est le nouvel or noir des « Ogres » numériques, vous prenez soin des sources et tentez de protéger ce commun. Les licences sont-elles libres ? pourquoi ces choix ?

Simon – Les licences sont libres mais nous avons tenté d’acculturer les sources au concept des licences et au caractère politique que revêt le choix d’une licence. Nous avons présenté dans un document et en webinaire le choix politique que nous privilégions, à savoir l’autorisation de l’usage commercial et la non-viralité, car c’est ce que nous estimons être le meilleur choix pour créer des communs. Les sources des données que nous agrégeons sont libres d’avoir une lecture différente du monde et des communs et Transiscope accueille cette pluralité comme elle accueille la diversité des technologies des sources. Comme pour les alternatives qui doivent respecter une charte, la licence doit cependant respecter une « ligne rouge » : elle doit être copyleft. C’est le plus petit dénominateur commun nécessaire à construire ce commun numérique et cela a permis d’annoncer rapidement à toutes les potentielles sources cette condition et d’en écarter certaines, et a permis de clarifier le périmètre idéologique du projet et de le construire avec les sources qui le partagent.

L’IA

Framasoft – Il faut bien en parler puisque c’est le grand sujet du moment. Le livre relate un débat au sein du comité de pilotage sur l’usage de l’intelligence artificielle pour la catégorisation des événements. Comment avez-vous arbitré entre le gain de temps (facteur de survie pour les bénévoles) et les problèmes éthiques posés par ces outils ?

Julie – Comme nous l’avons expliqué ci-dessus, pour politiser les choix techniques, il est indispensables qu’ils soient discutés dans une instance stratégique et pas réservés à des personnes ayant des pré-requis techniques. Cela implique donc un travail collectif d’acculturation à la technique, pour permettre à chacun·e de participer en ayant un avis éclairé.

Un des membres de Transiscope a proposé d’avoir recours à l’intelligence artificielle pour automatiser la catégorisation des événements et ainsi gagner du temps, alors même que l’énergie bénévole est extrêmement rare au sein de Transiscope. Cette discussion, qui a eu lieu en comité de pilotage, a débuté par une explication technique de ce qu’il y avait derrière l’intelligence artificielle proposée et une discussion sur les données, le choix du modèle et son impact. Au final, nous avons décidé de tester cette automatisation à titre expérimental, mais la discussion n’est pas si évidente car elle est tiraillée entre d’une part le soin de l’énergie bénévole et d’autre part des enjeux éthiques : personne n’a envie de choisir entre les deux !

Un processus ou un outil

Framasoft – Citons une phrase du livre : « Transiscope est moins un produit à finir qu’un processus à habiter ». Est-ce à dire que l’utilité finale de la carte est secondaire par rapport à la culture de coopération qu’elle a générée entre vos organisations ?

Julien – L’ambition de Transiscope était de fournir un outil qui facilite la coopération entre alternatives. Cartographier des alternatives c’est montrer qu’il existe plusieurs mondes dans le monde, que d’autres horizons se dessinent et qu’ils méritent que l’on se batte pour eux. Si nous continuons à croire dans l’intérêt de ce projet, nous avons constaté que la construction d’un outil n’a que peu à voir avec le travail politique de coopération inter-collectif. Obtenir de l’information et la mette en visibilité ne présage aucunement de la façon dont celle-ci servira de prétexte à des rencontres concrètes et à des échanges organisationnels. Pour faciliter cette étape, nous avons choisis d’organiser régulièrement des rencontres avec d’autres acteurices sur différents territoires pour faire se rencontrer des alternatives, mais là encore ces tentatives se sont avérées limitées parce que la construction d’une coopération implique d’abord du temps pour faire naître de la confiance et une culture partagée. C’est précisément cet aspect que nous avons réussi à construire au sein du collectif Transiscope mais pas à sa marge avec celleux que nous mettions en visibilité sur notre cartographie. Peut-être qu’après tout ce travail est de toute façon démesuré pour un petit collectif comme le nôtre, mais il nous semble toujours primordial parce que si nous souhaitons construire des solidarités fortes, ce patient travail de fédération est indispensable.

Aujourd’hui la question de la visibilité se pose autrement : est-ce que ce dont nous avons besoin c’est d’être visibles sur Internet ou d’être en lien les un.es avec les autres concrètement à travers des réseaux de solidarité matériels et politiques ? Cette question est décisive et vertigineuse parce que la réponse que nous déciderons de lui donner implique de repenser une grande partie de notre stratégie d’action et de nos moyens d’organisation. Apprendre à collaborer c’est faire de la place à une autre logique que celle qui consiste à mener à bien un projet, sans dire que ces deux logiques sont irréductibles l’une à l’autre, elles sont bien souvent contradictoires et c’est bien dans cette contradiction que réside à la fois la richesse et l’immense complexité des communs.

Florine – Dans le contexte politique actuel, une question se pose : faut-il continuer à rendre visibles les alternatives ? Autrement dit, comment s’identifier et se renforcer entre alliés, tout en ne facilitant pas, par cette visibilisation, l’attaque de nos collectifs par des adversaires politiques, voire par un régime autoritaire ?

L’avenir des luttes

Framasoft – Face à l’épuisement de la « stratégie du colibri », vous plaidez pour une « stratégie de pompiers », coordonnée et robuste. Pour le mot de la fin : c’est quoi le message ?

Bruno – Face à une société de plus en plus organisée autour d’un pouvoir financier prédateur qui nous individualise pour mieux nous contraindre, le développement des alternatives citoyennes, bien que nécessaire, n’est plus suffisant. Nous devons relier toutes ces initiatives pour faire système et, plus encore, nous devons travailler à la convergence de tous ceux qui luttent pour qu’un autre monde soit possible.

La stratégie de pompiers devient une nécessité face à l’urgence, il ne s’agit plus de laisser à chacun le soin d’inventer ses solutions mais de construire ensemble une alternative crédible et désirable pour la majorité qui subi. Cela nous oblige à nous compter, à nous relier, à nous écouter pour trouver nos points de convergence, à changer nos méthodes pour être capable de coopérer au service d’un projet commun. Transiscope est un commun coopératif et numérique qui, tant par sa nature coopérative que par ses développements numériques, contribue à ce paradigme, nous ne pouvons que souhaiter que les acteurs de la transformation sociétale s’en saisissent.

PDF

27.07.2026 à 07:42

Khrys’presso du lundi 27 juillet 2026

Khrys

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière. Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer … Lire la suite­­
Texte intégral (9892 mots)

Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.

Tous les liens listés ci-dessous sont a priori accessibles librement. Si ce n’est pas le cas, pensez à activer votre bloqueur de javascript favori ou à passer en “mode lecture” (Firefox) ;-)

Brave New World

Spécial IA

Spécial Israël

Spécial Barbara Butch

Spécial femmes dans le monde

RIP

Spécial France

Spécial femmes en France

RIP

Spécial médias et pouvoir

Spécial emmerdeurs irresponsables gérant comme des pieds (et à la néolibérale)

Spécial recul des droits et libertés, violences policières, montée de l’extrême-droite…

Spécial résistances

Spécial outils de résistance

Spécial MAGAM et cie

Les autres lectures de la semaine

Les BDs/graphiques/photos de la semaine

Les vidéos/podcasts de la semaine

Les trucs chouettes de la semaine

Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.

Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).

PDF
6 / 20
 Persos A à L
Carmine
Mona CHOLLET
Anna COLIN-LEBEDEV
Julien DEVAUREIX
Cory DOCTOROW
Lionel DRICOT (PLOUM)
EDUC.POP.FR
Marc ENDEWELD
Michel GOYA
Hubert GUILLAUD
Gérard FILOCHE
Alain GRANDJEAN
Hacking-Social
Samuel HAYAT
Dana HILLIOT
François HOUSTE
Tagrawla INEQQIQI
Infiltrés (les)
Clément JEANNEAU
Paul JORION
Christophe LEBOUCHER
Michel LEPESANT
 
 Persos M à Z
Henri MALER
Christophe MASUTTI
Jean-Luc MÉLENCHON
MONDE DIPLO (Blogs persos)
Richard MONVOISIN
Corinne MOREL-DARLEUX
Timothée PARRIQUE
Thomas PIKETTY
VisionsCarto
Yannis YOULOUNTAS
Michaël ZEMMOUR
LePartisan.info
 
  Numérique
Thomas BEAUFILS
Blog Binaire
Christophe DESCHAMPS
Dans les Algorithmes
Louis DERRAC
Olivier ERTZSCHEID
Olivier EZRATY
Framablog
Fake Tech (C. LEBOUCHER)
Romain LECLAIRE
Tristan NITOT
Francis PISANI
Irénée RÉGNAULD
Nicolas VIVANT
 
  Collectifs
Arguments
Scientifiques en Rebellion
Bondy Blog
Dérivation
Économistes Atterrés
Dissidences
Mr Mondialisation
Palim Psao
Paris-Luttes.info
Rojava Info
X-Alternative
 
  Créatifs / Art / Fiction
Nicole ESTEROLLE
Julien HERVIEUX
Alessandro PIGNOCCHI
Laura VAZQUEZ
XKCD
🌓