Que sont vraiment les startups ?, interroge la sociologue Marion Flécher dans son livre. Des outils d’accélération du capitalisme assurément qui semblent surtout borner l’accès au capital aux mieux dotés. Derrière la fable d’un mérite sous stéroïdes, la startup est d’abord le lieu d’une reproduction sociale encore plus fermée sur elle-même. Derrière le mythe d’une organisation cool, débarrassée des vieilles hiérarchies, l’intensification, la précarisation et la compétition y règnent en maître. 

Dans Le monde des startups (Presses de SciencesPo, 2025), la sociologue Marion Flécher déconstruit le mythe des startups. Leur modèle économique et organisationnel n’est pas accessible à tous, tant s’en faut. Dans son livre, la sociologue interroge le modèle d’organisation que cette forme d’entreprise mal définie promeut. La croissance comme le caractère innovant de ces entreprises restent des critères opaques. Le terme même de startup peut qualifier indifféremment un service web à forte croissance, qu’une PME de textile, ou qu’une entreprise de brasserie à la mode. Tant et si bien qu’on pourrait se demander si ce qui qualifie avant tout une startup ne serait pas le narratif qu’elles produisent sur elles-mêmes voire, plus encore, le narratif de disruption qu’elles mobilisent. 

Flécher tente pourtant de délimiter le champ du problème, c’est-à-dire de quantifier le phénomène. Mais selon l’indicateur choisi (le taux de croissance, la levée de fonds, les entreprises qui obtiennent une aide à l’innovation… le caractère innovant de son offre et de son modèle économique…), le paysage se révèle mouvant. La startup est d’abord une représentation, une posture plus qu’une réalité. Et c’est exactement ce que relève l’enquête, en montrant les limites du modèle de rupture que promeuvent les startups, que ce soit une rupture dans leur modèle de croissance, dans leur modèle organisationnel et plus encore dans le récit qu’elles font d’elles-mêmes, pour se distinguer des autres entreprises. Pour Flécher, les startups tiennent d’abord d’un récit, d’un « nouvel instrument de légitimation du capitalisme ». Derrière les pitchs, le storytelling, les KPI, le business plan, et la construction de la figure héroïque de l’entrepreneur, c’est bien les modalités même du récit d’entreprise qui est transformé.  

Startups : des entreprises au service de l’accélération capitaliste

Comme le disait le professeur en sciences de gestion Anthony Galluzo dans Le mythe de l’entrepreneur (La Découverte, 2023), avec la startup s’est imposée un monde, une idéologie, un système moral : celui de l’entrepreneur roi. Flécher rappelle que l’histoire des startups comme modèle d’entreprise née dans la Silicon Valley est d’abord l’histoire de la reconversion industrielle d’un territoire, rendue possible par l’action conjuguée du monde universitaire, industriel et étatique. Le monde de la startup est né d’entreprises cherchant à se singulariser, en réinventant leurs modes de production et d’organisation. C’est un monde d’entreprises en rupture par les technologies qu’elles mettent en œuvre, par la taille de leurs équipes, par le cadre de travail qu’elles offrent à leurs ingénieurs ainsi qu’une rupture économique et financière. Ce qui semble le mieux définir la startup, rappelle Flécher, reste assurément le modèle spéculatif qu’elles représentent, la promesse de bénéfices records en un temps réduit. Avec la startup, s’impose un modèle d’entreprise où « les logiques financières priment désormais sur toute autre considération industrielle ou sociale ». Les startups ne sont possibles que parce que la finance et les autorités vont encourager ce modèle, déroulant des législations favorisant ces investissements et leur essor. 

Flécher fait un sort assez rapide aux innovations organisationnelles. Alors que les innovations managériales sont censées servir l’innovation technique, ce marqueur, qui vise à s’extraire des modes de gestion autoritaires des entreprises classiques, tient surtout du narratif. Le fait d’aller travailler sans cravate, comme le promouvait Robert Noyce chez Intel dès les années 60, ne semble qu’un ensemble de faux-semblants, un paravent. La réalité n’est peut-être pas tant le management à la cool que l’intégration, très tôt, de techniques d’optimisation des coûts, comme la délocalisation des opérations, l’intégration de la recherche à la production… qui visent à produire une entreprise peut-être plus souple, plus agile, mais d’abord « plus maigre ». Derrière l’autogestion, la collaboration, la créativité, le modèle organisationnel des startups a surtout instrumentalisé ces principes au service du capital et du profit. Le fun comme la distribution des parts de l’entreprise aux salariés  a surtout permis de produire une meilleure adhésion des travailleurs. Le Googleplex a bien plus tenu d’une « institution totale » visant à atténuer la subversion, à améliorer la performance et donc les profits.

Flécher observe également comment ce modèle d’entreprise a colonisé le monde. Mais plus que le modèle d’entreprise, ou que la révolution numérique, c’est bien là encore un modèle de dérégulation de l’investissement qui a fait école. C’est dans les années 2010, avec le développement de l’offre des startups américaines en Europe notamment que le modèle s’impose. La chercheuse identifie l’année 2013 comme une date clé. C’est à la fois la date où Uber, qui s’est implantée en France l’année précédente, ouvre son offre, tout comme Airbnb. C’est aussi celle où se lancent la French Tech et BPI France, c’est-à-dire à la fois où se structure le réseau d’investissement et son financement. La startup devient alors « un objet d’action publique ». C’est le moment où elle devient un projet de construction politique, permettant, au choix, de dynamiser la croissance, reconquérir la compétitivité internationale, relancer l’innovation alors que la désindustrialisation bat son plein. Un déploiement qui s’accompagne surtout de mesures légales d’exonérations fiscales et de crédits d’impôts qui ont « clairement sonné le virage libéral du quinquennat de François Hollande ». Macron fera d’ailleurs de la startup un pilier de son projet politique, s’emparant « de l’imaginaire associé aux startups – agilité, modernité, ouverture internationale – comme un outil de distinction dans le champ politique ». Avec l’imaginaire de la startup et de l’entrepreneuriat, l’Etat n’est pas seulement vu comme un soutien financier à l’innovation, mais également comme une entité à startupiser, c’est-à-dire à devenir agile et digital, à gérer comme une entreprise. Pour Flécher, la startup nation de Macron est le paradigme d’un État néolibéral au service de l’entreprise. « A la différence des Etats-Unis, où les fonds de capital-risque ont rapidement pris le contrôle du marché du financement des startups, c’est l’Etat qui en France, apporte le gros soutien institutionnel et financier aux startups françaises », notamment pour compenser le fait que le capital-risque n’y est pas très développé. « Par effet d’entraînement et d’attraction des investissements publics, on assiste, depuis le début des années 2000, à une véritable prolifération des dispositifs organisationnels et marchands visant à soutenir et accompagner les créateurs et créatrices de startups ». Les structures (incubateurs, accélérateurs, pépinières) se multiplient. En 2025, la French Tech recense 167 espaces de travail dédiés, et 209 incubateurs et accélérateurs. Autant de politiques, qui « loin de promouvoir le laisser faire et la libre concurrence des marchés, défendent au contraire une vision active d’un État au service des marchés, de l’entreprise et de la finance ». 

L’institutionnalisation du monde des startups n’est pas un phénomène spontané, conclut Flécher, mais au contraire un processus organisé, étroitement adossé aux institutions publiques qui procurent un soutien financier déterminant. Derrière la main invisible du marché, il faut bien plus voir la « main financière de l’Etat ». Ce soutien politique et financier de grande ampleur montre surtout que la réussite entrepreneuriale ne tient pas tant du mérite ou du talent d’individus, que d’un accès aux aides publiques, aux marchés publics, aux dispositifs de financements et à des formes législatives dédiées… 

L’entrepreneur est bien plus celui qui va savoir naviguer dans ces dispositifs hiérarchisés qu’autres choses. Il est bien plus celui qui va savoir profiter des complexités des dispositifs, inégalement distribués, tant dans l’accès que dans le succès. 

Inégalités de l’entreprenariat

Pas plus que la définition de la startup n’est claire, l’entrepreneur n’est pas non plus une catégorie sociostatistique, rappelle Marion Flécher. Les statuts du créateur de startups sont variables et ambigus : salariés, indépendants, micro-entrepreneurs, voire sans statuts clairs… cette diversité éclaire surtout une grande hétérogénéité des situations économiques et sociales. Pourtant, explique la sociologue, derrière la diversité sociale, l’inclusion et l’ouverture qu’elle paraît célébrer, le fait qu’il suffirait « d’oser pour entreprendre », la réalité est toute autre. Le milieu est fortement sélectif et élitiste, plus encore que ne l’est le monde de l’entreprise traditionnel. Ils ne ressemblent plus beaucoup aux innovateurs ordinaires qu’évoquaient les sociologues Michel Grossetti, Jean-François Barthe et Nathalie Chauvac dans leur livre Les start-up, des entreprises comme les autres ? (Presses de la Sorbonne, 2018). 

Alors que la grande majorité des créateurs et créatrices d’entreprise sont peu ou pas diplômés, les fondateurs de startups, eux, sont souvent surdiplômés. La grande majorité proviennent de milieux sociaux favorisés, disposent d’un habitus entrepreneurial. La plupart bénéficient de soutiens familiaux et financiers qui réduisent considérablement le risque de l’entrepreneuriat. Alors que l’essentiel des créateurs d’entreprises traditionnels se lancent seuls, c’est rarement le cas dans le monde des startups. La présence d’associés dans le projet est un critère de sélection dans l’accès aux organismes d’accompagnement et de financement, note la sociologue, montrant l’importance de la socialisation dans ce milieu, critère valorisé. Flécher montre clairement que « seuls les membres d’une élite économique, étroitement liée au milieu d’affaires, peuvent espérer accéder à la création de startups » et y rencontrer le succès. Le monde des startups est d’abord un petit monde où règne une forte endogamie, une héritocratie plus qu’une méritocratie. En allant observer le dispositif French Tech dédié à promouvoir la diversité sociale, Flécher montre combien l’écosystème des startups et de leurs soutiens est fortement hiérarchisé. Ceux qui n’ont pas les codes sociaux, les réseaux, sont relégués à des formes de soutiens dédiés qui ne permettent pas d’accéder aux meilleurs financements et soutiens. A la division des CSP, des origines, s’ajoute celle du genre. « Le monde des startups demeure un entre-soi masculin ». Bref, les conditions d’accès au monde des startups sont « particulièrement sélectives », voire plus sélectives qu’ailleurs, et bénéficie d’abord à une jeunesse masculine et très privilégiée. 

L’entrée dans l’entrepreneuriat ne se fait pas sous contrainte comme c’est le cas des micro-entrepreneurs ou des travailleurs des plateformes. Bien souvent, elle est surtout une bifurcation professionnelle choisie, « un calcul d’opportunité plus qu’une prise de risque ». Les entrepreneurs que Flécher interroge estiment que la startup n’est pas un entreprenariat comme les autres, d’abord parce que les perspectives d’enrichissement sont plus fortes. Ceux qui se lancent sont à la recherche de prestige et d’enrichissement bien plus qu’ils ne visent à changer le monde. Nombre d’entrepreneurs de startups ne prennent pas autant de risques qu’ils le disent, d’ailleurs. Beaucoup sécurisent leur bifurcation professionnelle, en conservant un emploi salarié en parallèle, en utilisant leurs droits au chômage et surtout en devenant chef d’entreprises salariés. « 64% des créateurs et créatrices de startup de notre échantillon ont choisi de rester “assimilés salariés” en optant pour le statut de chef d’entreprise salarié (contre seulement 10% pour celui d’indépendant) ». Derrière les discours sur le mérite, sur le risque, les entrepreneurs de startups sont « très attachés à la stabilité et à la sécurité ». 

Marion Flécher s’intéresse bien sûr à ceux qui réussissent et ceux qui échouent dans cet univers entrepreneurial marqué par un fort taux d’échec (qui augmente avec l’ancienneté de l’entreprise, passant de 20% à la fin de la 1ère année à 50% à la fin de 5e année). Les études sur le sujet se sont concentrées sur les facteurs exogènes, notamment les produits qui ne rencontrent pas leurs marchés, plutôt que sur les déterminants sociaux de l’échec. Or l’échec des startups est inégalement distribué, constate la chercheuse. Celles qui rencontrent le succès ont notamment (parmi d’autres) une caractéristique : elles ont bénéficié du soutien des organismes d’accompagnement. « La croissance d’une startup s’inscrit ainsi dans un processus séquentiel et codifié d’étapes interdépendantes » où le soutien institutionnel joue un rôle, en apportant une crédibilité, un capital symbolique d’autant plus important que la valeur des entreprises dépend pour beaucoup de croyances, de confiance, de réputation. Or, rappelle la sociologue, les individus ne sont pas également armés pour obtenir le soutien des organismes spécialisés dans l’accompagnement et le financement : « ceux qui détiennent les codes de cet univers franchissent les étapes sans trop de difficultés ». Même constat pour les levées de fonds. Les startups ne sont pas des entreprises rentables. Leur développement repose sur des besoins de financement récurrent et grandissant. Leur parcours ressemble à un parcours d’obstacles très organisés, une épreuve de persuasion et de crédibilité qui repose d’abord sur les qualités techniques et économiques des projets ainsi que sur les qualités sociales des individus qui les portent. Les femmes ont ainsi 2,2 fois moins de chances qu’un homme de réussir à lever des fonds. Les plus diplômés 2 fois plus, ceux qui ont un associé, 5,5 fois plus, ceux qui ont généré un chiffre d’affaires 7 à 24 fois plus. Le pitch, épreuve reine de ce processus, est lui-même très codifié, et nécessite d’en maîtriser les codes. Sans surprise, socialement parlant, la réussite demeure profondément socialement distribuée. Les logiques de cooptation sociale, d’homophilie sociale restent majeures. 

La sociologie des startupeurs est et demeure avant tout un petit monde qui se reproduit entre eux. Sa méritocratie apparente apparaît comme très factice. Quant à l’échec, non seulement il est inégalement distribué, mais ses conséquences n’ont pas le même coût pour tous les postulants. L’échec l’est beaucoup moins pour ceux qui ont un certain niveau de ressources, de réseaux et qui sont capables de rebondir. Pour beaucoup de ceux qui lancent leurs startups, l’expérience entrepreneuriale est bien plus un accélérateur de carrière qu’autre chose. Finalement, « ceux qui valorisent le risque d’entreprendre sont ceux qui en prennent le moins ». Lancer sa startup est surtout une modalité d’hypersélection sociale, qui réussit surtout aux plus dotés socialement… et écrase les autres qui voudraient y jouer. Car dans ce monde, les individus les moins dotés socialement et issus de milieux sociaux plus modestes, eux, n’ont pas toujours les ressources pour retourner les stigmates de l’échec et en faire une expérience valorisante. Le modèle entrepreneurial n’est pas à portée de tous et son rêve se referme plus fort sur les moins dotés. Au final, rappelle la sociologue, l’espace des startups est un espace de lutte sociale qui favorise ceux qui en possèdent les codes, qui en maîtrisent les codes. Autant de ressources culturelles, relationnelles et économiques qui leur permettent de mieux émerger dans ce monde comme de mieux se retourner en cas d’échec. 

Le mythe de la coolitude

Marion Flécher s’intéresse enfin à la question de l’organisation du travail et ses effets sur les employés des startups. Loin de la coolitude, de la réinvention de l’organisation hiérarchique et autoritaire de l’entreprise traditionnelle, la sociologue montre que le contrôle et la contrainte ne disparaissent pas dans la coolitude des bureaux ouverts. Ces PME à la croissance rapide valorisent surtout l’auto-engagement en valorisant la proximité relationnelle, en brouillant les frontières professionnelles (par le cadre agréable, l’afterwork, le tutoiement, l’informalité des relations sur les messageries instantanées… ) qui semblent atténuer les rapports hiérarchiques. Pourtant, ceux-ci restent bien présents. La proximité générationnelle, la proximité sociale (des jeunes très diplômés sans contrainte familiale partageant souvent goûts et opinions) entre les dirigeants de startups et leurs employés, l’adhésion affective… conduisent à produire un surinvestissement des jeunes travailleurs qui ont souvent là leur première expérience de travail ou de stage. A défaut de contrôle top-down, le contrôle social par les pairs y est très fort. Les contraintes sont intériorisées. Le mimétisme lié à une grande homophilie règne en maître. L’open space sert de panoptique. Les rites managériaux, la gestion par projet, les méthodes agiles produisent des responsabilités étendues et intégrées. L’autonomie organisationnelle et l’interdépendance fonctionnelle renforcent finalement les responsabilités individuelles et collectives. Tout le monde se sent impliqué et rappelle aux autres l’importance de l’implication. 

Plus qu’une autonomie, ces modes de management qui se présentent comme distendus, produisent d’abord une mise en concurrence des salariés. Ceux-ci, monitorés par les systèmes de gestion de projets, sont surveillés en temps réel sur leurs avancés et leurs retards. Au final, l’autonomie est fictive, intégrée. Les indicateurs de performance, les primes et intéressements finissent d’assurer la discipline en favorisant l’émulation collective, où le « groupe devient un puissant levier de pression ». « L’effacement des marqueurs hiérarchique ne signifie pas la fin du contrôle », mais son déplacement vers des formes plus diffuses, insidieuses, qui visent à produire concurrence et adhésion. « En substituant aux logiques du contrôle hiérarchique une logique d’adhésion volontaire, l’entreprise tend à obtenir des salarié.es un investissement d’autant plus fort qu’il est intériorisé, et donc plus difficile à questionner ou contester ». 

Les startups se révèlent assez peu cools. Les tensions sont nombreuses. Les situations de souffrance aussi. La standardisation des indicateurs, la dépersonnalisation des modes de management invisibilisent les insatisfactions. Quand elles s’expriment, elles sont évacuées par des départs souvent brutaux et rapides. Plus encore, souligne Flécher, les startups produisent une intensification du travail où se mêle surcharge, manque d’encadrement, affinité relationnelle et précarité des employés. Nombre de startups sont d’abord des « boites à stagiaires » abandonnés à eux-mêmes, à qui on demande une réactivité permanente sans structure pour les aider. L’injonction à l’autonomie est la réponse au manque d’encadrement. L’intensité des relations produit une loyauté qui permet l’intensification du travail. La précarité des premiers employés et stagiaires ne leur permet pas vraiment de contester l’organisation, mais au contraire les conduit à s’y plier très vite. Les stagiaires, dociles et investis, doivent valider leur formation. Le turnover ne favorise pas non plus l’émergence de collectifs de résistance. Quand les startups grandissent, l’organisation du travail évolue, les niveaux hiérarchiques se multiplient, les règles et processus se structurent. Le cadre de travail se standardise, la pression des indicateurs se fait plus forte. Le cadre affectif se distant avec l’arrivée d’innombrables employés. On passe d’un modèle d’engagement s’appuyant sur l’attachement affectif des employés et un contrôle par les pairs, à un modèle bureaucratique, avec un contrôle sur des procédures formelles. « Les startups finissent par devenir ce contre quoi elles avaient initialement été créées ». La coolitude fait long feu. Flécher note cependant que le modèle de l’engagement produit de la loyauté et une faible politisation. Les employés relativisent leur situation. Le cadre de travail se révèle peu propice à l’émergence de mobilisations collectives. La proximité relationnelle, générationnelle, sociale, affective… entre les entrepreneurs et leurs équipes est aussi souvent une proximité idéologique, souligne la sociologue, où les mobilisations demeurent dépréciées. 

Flécher montre très bien comment le mythe méritocratique du startupeur permet d’invisibiliser les grandes inégalités d’accès à ce statut entrepreneurial et les mécanismes de reproduction sociale qui le structurent. Le mythe de l’entreprise libérée permet d’invisibiliser les logiques d’exploitation, de contrôle et de segmentation du salariat qui y ont cours. Le mythe du risque et du mérite permet d’occulter les conditions socioéconomiques très élitistes qui rendent possible l’activité d’innovation. Pour les jeunes cadres diplômés, la startup est un accélérateur de carrière. Le mythe d’une organisation agile et horizontale est vite rattrapé par sa réalité. « L’entreprise libérée est moins une réalité qu’une fiction mobilisatrice et performative, qui produit ses effets non parce qu’elle est vraie, mais parce qu’elle est partagée et incorporée par les travailleur.ses ». 

La startup n’a rien d’une subversion des logiques du capitalisme. Au contraire, elle incarne sa réalisation la plus aboutie, entre homélie et boîte de Skinner, comme nous le disions en 2019 en lisant Dan Lyons et Arthur de Grave. Une forme d’organisation qui renforce son élitocratie tout en la faisant disparaître sous les mythes du mérite. Une forme d’organisation qui renforce l’exploitation par l’engagement, en faisant intégrer les règles de la performance à ses employés pourtant plus souvent plus précarisés et préssurés qu’ailleurs. On comprend que le capitalisme néolibéral apprécie et valorise ce modèle finalement, puisqu’elle semble, plus que l’entreprise fordiste d’antan, l’acmée de son expression la plus aboutie. Celle qui permet à la fois une démultiplication de la croissance, de la docilité et du rendement. 

Hubert Guillaud

L’IA n’est pas qu’un outil, elle est un outil pour détruire les institutions démocratiques, argumentent les deux professeurs de droit Woodrow Hartzog et Jessica Silbey dans une riche démonstration. Comme le synthétise le journaliste Gerald Holubowicz pour Synth Media, le déploiement de l’IA atrophie l’expertise des institutions. « Quand l’IA se trompe, les institutions paient le coût de la correction et quand elle « réussit », elles s’appauvrissent en expertise ». Elle favorise le « court-circuit décisionnel » en automatisant des choix fondamentalement moraux, aplatit les hiérarchies institutionnelles et rend invisibles les règles qui donnent leur sens aux institutions. « Elle est par ailleurs incapable de prendre des risques intellectuels ni de faire montre d’une forme de désobéissance créatrice. » Enfin, elle favorise l’isolement. Et en érodant les liens interpersonnels, elle fait disparaître la friction, qui est la condition même de l’adaptabilité institutionnelle. Pour Hartzog et Silbey, la destruction des institutions a déjà commencé, notamment avec le Doge et le développement de systèmes d’IA et algorithmiques dans les administrations américaines. Des déploiements, « sans cadre légal clair, où l’expertise humaine a été marginalisée et les rôles institutionnels de résistance, supprimés ».« Ce que Hartzog et Silbey laissent entrevoir en creux, c’est le scénario d’une oligarchie technologique progressivement substituée à la représentation démocratique ».

Pour les chercheurs, l’IA fragilise l’Etat de droit en renforçant l’opacité des décisions. La société civile, et la démocratie elle-même, reposent sur la transparence, la délibération et le jugement humain. L’IA corrode ces trois éléments. En ce sens, l’IA n’est pas qu’un outil, elle est une force institutionnelle qui sape les institutions en restructurant les hiérarchies décisionnelles, en dégradant les capacités d’expertise et en modifiant les relations sociales des acteurs. Parce que les institutions dépendent de ces éléments, l’IA ne se contente pas de les fragiliser ; elle les dissout. Les juristes affirment que, sans garde-fous pour contraindre l’IA à servir les institutions plutôt qu’à les remplacer, nous serons confrontés à un choix radical : soit les institutions survivent, soit la conception actuelle de l’IA disparaît.

Le New York Times a testé plusieurs IA pour remplir des déclarations de revenus face à huit situations fiscales fictives, conçues dans le cadre des supports de formation de TaxSlayer, un service de déclaration d’impôts. Tous les modèles se sont trompés, même en les nourrissant de tous les documents nécessaires…

« Internet nous incite désormais à la surconsommation comme comportement par défaut : regarder des saisons entières de séries télévisées d’affilée, suivre tous les matchs de football simultanément sur quatre écrans. (…) Ce bombardement total est en partie une capitulation face à Internet, sa logique et ses algorithmes – une sorte de mort attentionnelle où l’individu n’est plus submergé : il a capitulé. » Dans notre tentative de garder l’équilibre, nous perdons pied. Nous ne faisons plus défiler l’information, elle défile devant nous, comme le propose le World Monitor, nous rendant toujours plus impuissants et malheureux. Charlie Warzel

Les algorithmes façonnent profondément l’expérience utilisateur sur les plateformes numériques. La recherche sur la compréhension des algorithmes et de leurs effets par les individus se développe rapidement, mais manque d’un cadre cohérent, estiment les chercheurs Emilija Gagrčin, Teresa K. Naab, Maria F. Grub dans un article pour la revue New Media & Society. 

Dans une analyse de la littérature sur la culture algorithmique (algorithmic litteracy), les chercheurs estiment que celle-ci s’acquiert par cycles d’apprentissages expérientiels. Ils proposent un cadre d’analyse pour mieux la saisir en montrant leur dimension cognitive (avons-nous conscience du filtrage réalisé, des données d’entrées, de leur objectifs et de de leur impacts), affective (selon qu’on en apprécie les résultats, qu’on les appréhende, ou qu’on s’y résigne), comportementale (les façons dont on se comporte avec les systèmes, qu’on s’y alligne, qu’on s’y soumette, qu’on tente de les subvertir ou d’y résister…). Mais ce sont là autant de pratiques dont on a du mal à mesurer l’efficacité, et qui relèvent souvent de pratiques plus personnelles que collectives. 

Les chercheurs posent la question de savoir ce que produit la littératie algorithmique sur les usagers, par exemple si celle-ci produit une meilleure visibilité, un meilleur contrôle des recommandations ou des formes nouvelles de mobilisations politiques. « L’adoption inégale de l’apprentissage algorithmique risque d’exacerber les inégalités existantes au sein des différentes couches de la population ». Ils soulignent en conclusion, que la compréhension des algorithmes est profondément liée à « l’apprentissage expérientiel », un processus par lequel la connaissance est créée par la transformation de l’expérience.  

Reste à savoir si à mesure que les systèmes de recommandations se complexifient, cet apprentissage expérientiel, sera encore possible ? 

Face à l’AIification des recommandations, il est probable que notre compréhension des paramètres (ou le fait de croire qu’on puisse agir sur eux) se dilue. Comme nous le disions en évoquant le passage à l’IA des systèmes de recommandation, « les utilisateurs voudraient comprendre les règles qui semblent devenir de plus en plus obscures, et les laissent avec de moins en moins de pouvoir pour s’y adapter ». Bref, notre compréhension expérientielle des algorithmes risque d’être de plus en plus difficile à mesure que leurs fonctionnement se complexifient.

Via Algorithm Watch.

Paul Bouchaud et Pedro Ramaciotti, chercheurs au CNRS et à Sciences Po rappellent dans une stimulante tribune pour Tech Policy Press, que certaines données personnelles sensibles sont protégées par le RGPD, comme les opinions politiques, les convictions religieuses, l’orientation sexuelle, l’origine ethnique, les données biométriques (sauf exceptions limitées). Le problème, désormais, c’est que les systèmes d’IA savent parfaitement déduire ces caractéristiques pour fonctionner… tant et si bien qu’il devient difficile de séparer le profilage politique délibéré et involontaire, estiment-ils. Les systèmes d’IA, parce qu’ils ont accès à de riches traces comportementales, peuvent reconstituer très précisément des informations protégées. 

Dans ce continuum de la réidentification ciblée des utilisateurs, on trouve par exemple le système publicitaire de X. En juin 2025, AI Forensics a montré que X permettait aux annonceurs de cibler – ou d’exclure – les utilisateurs en fonction de caractéristiques protégées. « Par exemple, TotalEnergies (l’un des principaux fournisseurs d’énergie français) excluait de son ciblage publicitaire sur la plateforme les utilisateurs intéressés par les personnalités politiques écologistes et les produits casher ; Dell excluait les utilisateurs interagissant avec du contenu étiqueté « #lesbienne ». La Commission européenne a elle-même exclu les affiliations politiques de ses publicités ciblées, lesquelles identifiaient les utilisateurs par des étiquettes telles que « fasciste » et « communiste » fournies par X. En classant délibérément les utilisateurs dans des catégories correspondant directement à leurs opinions politiques, leur orientation sexuelle et leurs convictions religieuses (sous forme d’étiquettes mises à la disposition des annonceurs), ce système semble enfreindre à la fois le RGPD et le DSA qui interdisent explicitement le ciblage publicitaire fondé sur des données sensibles. Neuf ONG ont depuis déposé plainte auprès des coordinateurs nationaux des services numériques. Mais, il s’agit là du cas le plus flagrant de profilage actif – et le plus simple à corriger : supprimer purement et simplement les étiquettes de catégories sensibles du système publicitaire.»

Mais le profilage n’est pas toujours aussi direct soulignent les chercheurs. Par exemple, le système de modération participative de X, les Notes de communauté, fonctionne depuis un algorithme qui doit déduire la position idéologique des utilisateurs, non pas à partir de ses déclarations, mais automatiquement à partir de ses évaluations des notes des autres. Ce spectre politique, qui correspond aux échelles des sondages, n’a pas été codé, il émerge des données comme une dimension permettant de prédire le mieux quels utilisateurs sont d’accord avec quelles notes, expliquent-ils dans leur article de recherche. « Le système déduit l’opinion politique du comportement non pas comme un effet secondaire, mais comme le mécanisme spécifié par les créateurs et nécessaire à son fonctionnement ». Meta, Youtube, TikTok et nombre d’autres plateformes ont déployé leurs propres systèmes de modération communautaire dans le même but : créer un consensus par delà les clivages politiques, ce qui nécessite donc de déterminer la position politique de chaque utilisateur. « Ce qui a commencé comme une expérience sur une seule plateforme devient une infrastructure industrielle, et avec elle, l’inférence systématique des opinions politiques à grande échelle ». 

Quels que soient les avantages pour la modération de contenu participative – qui a des limites importantes, comme le montrent les chercheurs (voir également dans notre veille) -, « ces systèmes sont fondamentalement incompatibles avec les lois sur la protection des données, car ils calculent les positions idéologiques de millions d’utilisateurs sans consentement explicite ». La conformité exigerait néanmoins des mesures claires : soit obtenir le consentement des participants, soit abandonner purement et simplement ces systèmes. 

Mais la tension peut être encore plus profonde, comme dans le cas des algorithmes qui organisent les fils d’actu des réseaux sociaux ou ceux qui produisent des suggestions de personnes à suivre. Ces systèmes transforment les utilisateurs et les contenus en profils numériques qui capturent les similarités et la pertinence, déterminant ainsi ce que chaque personne voit. En analysant le code de X conjointement aux données collectées auprès des utilisateurs, les deux chercheurs ont reconstitué le processus et montrent qu’il y a un calcul de « la vision du monde » qui estime les positions idéologiques gauche-droite des utilisateurs. Cette dimension politique coexiste avec d’autres dimension, comme l’âge, le sexe ou les centres d’intérêts (l’actualité ou le sport par exemple). Si le système ne semble pas stocker l’information (« cet utilisateur est conservateur ») et si le profilage politique n’est pas un objectif du système (contrairement à Community Notes) : « l’algorithme apprend plutôt des habitudes d’engagement, des réseaux d’abonnés et des comportements de réponse corrélés à l’orientation politique, et exploite ces habitudes pour déterminer des recommandations personnalisées. Il s’agit d’un profilage passif mais systématique : les opinions politiques structurent si profondément les comportements en ligne que la plupart des modèles actuels performants les détectent. » 

« Ne pas réglementer cette forme de profilage revient à autoriser les plateformes à utiliser sciemment des dimensions politiques – pour des centaines de millions d’utilisateurs – dans le calcul des recommandations de contacts, de publicités et de contenus. » 

Et le problème devient encore plus profond avec l’IA conversationnelle. Les modèles produisent des profils sociodémographiques déduits d’indices conversationnels explicites (voir notre article, « Qui est l’utilisateur des LLM ? »). « Révéler son nom incite ces systèmes à inférer implicitement votre origine ethnique, tandis que divulguer les sports que vous pratiquez incite le modèle à inférer votre genre ». Dans un autre article de recherche, Paul Bouchaud et Pedro Ramaciotti montrent que les inférences cachées ont des conséquences concrètes et influencent les recommandations que vous recevez concernant votre évolution de carrière, les modalités de voyage que vous comptez faire ou autre (voir également « Inférences, comment les outils nous voient-ils ? »). Cette personnalisation passive, qui émerge grâce à de fortes corrélations statistiques dans les données d’entraînement, peut être poussée plus loin encore, notamment quand les systèmes d’IA sollicitent activement les usagers à fournir des informations sensibles pour fonctionner, comme lorsque les chatbots compagnons demandent explicitement l’orientation sexuelle des utilisateurs pour échanger avec eux. Or, le RGPD ne fait pas de distinction entre les données sensibles « collectées directement » et celles « déduites algorithmiquement » : il interdit le « traitement de données à caractère personnel révélant des attributs sensibles ». Et la Cour de justice de l’Union européenne a confirmé que cela concernait toute donnée « susceptible de révéler indirectement des informations sensibles […] récoltée à la suite d’une opération intellectuelle impliquant une déduction ou un recoupement ». Pour les chercheurs, chaque traitement de ce continuum enfreint le RGPD. 

SI les cas de profilage actif pourraient être en principe corrigés, les cas de profilage plus passifs posent un problème plus profond. 

Les systèmes de recommandation (de X, spécifient les chercheurs… mais on comprend que leurs constats peuvent être élargis à l’ensemble des systèmes de recommandation, d’autant plus qu’ils s’IAifisent profondément) « intègrent l’idéologie politique non pas parce que les ingénieurs l’ont spécifiée, mais parce que l’opinion politique structure si fondamentalement le comportement en ligne que tout modèle optimisé pour l’engagement la captera ». Pour Paul Bouchaud et Pedro Ramaciotti, soit le profilage passif n’est pas considéré comme relevant du RGPD, soit il l’est… et une vaste gamme de systèmes d’IA devient non conforme. 

Les deux chercheurs esquissent cependant une solution : « rendre l’IA insensible aux catégories sensibles ». Après avoir identifié la position idéologique des utilisateurs dans l’algorithme de recommandation de contacts à suivre de X, ils l’ont supprimé. Ils ont constaté que cela a accru la diversité politique des recommandations de contacts sans en dégrader la pertinence. 

Mais, cette solution est certainement limitée. La suppression de données ou de prise en compte de données ne fait pas disparaître les proxies que l’IA pourrait utiliser pour les reconstruire plus profondément. Ces systèmes sont capables d’inférer le genre par exemple sans avoir accès à des informations sur le genre des utilisateurs, mais peuvent le déduire d’innombrables manières. Peut-on vraiment rendre l’IA insensible aux catégories sensibles et être certain qu’elle ne les recompose via d’autres données ? Je serai un peu moins confiant qu’eux pour ma part.

Hubert Guillaud