Bonjour et bienvenue sur Myriades,

Je vous propose aujourd’hui quelques pistes pour mieux comprendre ce qui se joue en ce moment :

• Le danger de présenter l’IA comme « surhumaine  ».

• Pourquoi nous avons besoin que les ingénieurs aient le droit de nous alerter sur les risques que nous font courir leurs boîtes.

• La percée effectuée par Starlink, la compagnie de satellites d’Elon Musk, auprès d’une tribu amazonienne isolée. Ça me laisse plus que perplexe.

• Ne manquez pas, à la fin, une info montrant comment l’IA peut aider à maigrir.

Des dangers de croire à une IA surhumaine

Si l’IA est surhumaine, c’est-à-dire plus ou mieux qu’humaine, que sommes-nous ? 

Voilà enfin une vraie question qui pourrait permettre d’aller plus au fond, de s’interroger sur un - le ? - vrai danger de la croyance en la toute puissance de l’IA. Elle est posée par Shannon Vallor, professeure américaine de philosophie et d’éthique en poste, actuellement, à Édimbourg.

« Qu'elle soit utilisée pour nous faire adopter l'IA avec un enthousiasme inconditionnel ou pour nous dépeindre l'IA comme un spectre terrifiant devant lequel nous devons trembler, l'idéologie sous-jacente de l'IA "surhumaine" favorise la dévalorisation croissante de l'action et de l'autonomie humaines et fait s'effondrer la distinction entre nos esprits conscients et les outils mécaniques que nous avons construits pour les refléter, » écrit-elle dans l’excellente revue Noéma.

Elle y montre de façon convaincante que les définitions de ce que serait l’intelligence artificielle générale (AGI en anglais) ne cessent de déraper. Ainsi, pour OpenAI productrice de ChatGPT, elle devient un ensemble de « systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles ».

Conclusion de Vallor : si on réduit le concept d’intelligence à ce que les marchés sont prêts à payer « tout ce qu'il faut pour construire une machine intelligente - même surhumaine - c'est fabriquer quelque chose qui génère des résultats économiquement valables à un taux et une qualité moyenne qui dépassent votre propre production économique. Rien d’autre ne compte ».

Je me demande si ce qu’elle présente comme un combat éthique (difficile à ignorer) n’est pas en fait un combat politique… bien plus difficile à nommer.

Elle vient de publier un livre sur ce sujet The AI Mirror. Je suis en train de le lire pour vous en rendre compte.

En attendant, passons à un autre sujet…

Partager

Notre première ligne de défense 

Un groupe d’ingénieurs et de chercheurs (ex ou actuels employés d’OpenAI et de Google), revendique le droit d’alerter au cas où ils détecteraient des risques sérieux dans la façon d’opérer de leurs boîtes.

Il s’en prend à une pratique particulièrement choquante consistant à interdire aux employés quittant l’entreprise de dénoncer les dangers potentiels qu’ils y ont constatés et à les punir en les privant de leurs actions. Une sanction qui a coûté 1,7 millions de dollars à l’un des signataires.

L’argument est clair : « Tant qu'il n'y aura pas de contrôle gouvernemental efficace de ces entreprises, les employés actuels et anciens font partie des rares personnes qui peuvent les obliger à rendre des comptes au public » écrivent-ils. Ils demandent que les sociétés renoncent à interdire de « critiquer l'entreprise pour des problèmes liés aux risques, [ainsi qu’à] exercer des représailles pour des critiques dans ce domaine ».

Chercheurs et ingénieurs, des BigTech comme des startups de l’IA, sont notre première ligne de défense contre les risques qu’un développement échevelé peut nous faire courir.  Personne ne connaît mieux qu’eux la portée de leurs travaux. Je l’ai évoqué en parlant du livre La déferlante, de Mustafa Suleiman.

Chacun a son idéologie et nous ne sommes pas tenus de partager tout ce qu’ils disent. Mais leur liberté de parole nous est indispensable et les pratiques qu’ils dénoncent - manifestement abusives - illustrent les jeux de pouvoir de ces boîtes qui se croient au dessus de tout et agissent en conséquence.

La situation est bien différente à l’autre bout du monde maintenant connecté…

Laissez un commentaire.

L’internet au coeur de l’Amazonie. Qu’en penser ?

Reportage, émouvant et perturbant; dans le New York Times sur l’arrivée des satellites de communication Starlink d’Elon Musk dans la tribu des Marubos en Amazonie. (Voir plus bas le lien d’accès gratuit).

Les bienfaits sont clairs : ouverture sur le monde, accès à une éducation plus large, communication maintenue avec ceux qui ont gagné les villes pour travailler, ou possibilité en cas d’urgence médicale de se connecter pour obtenir un diagnostic ou un hélicoptère. Tout hôpital est à de longues journées de marche.

Les inconvénients ne sont pas moins évidents : les jeunes découvrent la pornographie et les garçons deviennent plus brutaux. Tou.te.s passent leur temps d’accès (limité à quelques heures par jour) sur WhatsApp alors que « dans le village, si tu ne chasses pas, ne pêches pas et ne plantes pas, tu ne manges pas » dit un des chefs.

Si son sort vous inquiétait, rassurez-vous, Elon Musk n’y perd rien. L’argent nécessaire a été fourni par une consultante de l’Oklahoma contactée par Facebook. Starlink a déjà 66.000 contrats couvrant 93% des municipalités de l’Amazonie brésilienne.

Point qui compte : l’appel à des financements pour acheter les antennes Starlink provient de membres de la tribu alors que d’autres s’opposent à leur introduction. Mais les leaders des deux camps s’affrontaient depuis longtemps et n’ont fait que chevaucher ce nouveau sujet comme thème de rivalités.

Difficile de se prononcer puisque c’est à eux de décider et qu’ils sont divisés. Lisez la fin sur la vision d’un shaman annonçant, il y a quelques dizaines d’années la venue d’un petit appareil connectant au reste du monde. Et rappelez-vous que l’arrivée des conquistadors Espagnols au Mexique avait elle aussi été annoncée… Copie ? Besoin d’ancrer le présent brutal dans le passé sage ? Curieux en tous cas. Bégaiement dont on souhaite qu’il n’entraîne pas les mêmes conséquences.

Voici un « lien cadeau » du New York Times qui devrait vous permettre de lire l’article sans problème. Dites-moi si ça marche, ou pas. 

Enfin, et ce sera tout pour aujourd’hui…

L’IA… pour maigrir ?

L’Université canadienne de Waterloo travaille à une intelligence artificielle capable de détecter la quantité de calories ingurgitées au simple vu des vidéos prises de ce que nous ingurgitons au cours d’un repas. Les chercheurs sont en train de lui apprendre à repérer un grand nombre d’aliments et elle devrait, au bout d’un certain temps, reconnaître même ceux qu’elle ne connaît pas… comme toute IA générative qui se respecte. 

Nouvel exemple de surveillance trop intime, mais peut-être préférable à tous ces médicaments amaigrissants qui envahissent le marché. A chacun.e de choisir… Le Monde y a consacré un article hier…

Abonnez-vous maintenant

Bienvenue sur Myriades, 

Soyez gentil.le.s d’excuser mon retard dû à un petit déménagement proche… pour lequel l'intelligence artificielle ne m'est encore d'aucune aide ;-).

Tout ça alors que la folie.IA est montée d’un cran. Ou de deux. Peut-être même plus. Et, pour une fois, je me sens obligé de partir de l’actualité largement publiée pour faire le point. A ma manière. 

Accélération de l’accélération

Nous entrons dans une nouvelle phase d’accélération du développement de l’intelligence artificielle générative, celle avec laquelle nous dialoguons, celle qui nous concerne le plus immédiatement. Éléments clés :

• OpenAI a lancé une nouvelle version de son programme phare : ChatGPT-4o. Séduisant. Bluffant. Multimodal (il parle entend, plaisante et sourit). Ultra puissant. Gratuit. Genre la Grosse Berta dans la guerre des IA.

• Google a mis sur le marché global sa version Gemini. Plus sage, elle présente des résumés des résultats (parfois donneurs de mauvais conseils comme de mettre de la colle dans une pizza pour faire tenir les ingrédients) plutôt qu’une accumulation de liens, tient compte du contexte et offre une intégration avec les différents services de Google. 

• Microsoft reprend la vieille rivalité avec Apple en lançant un PC plus rapide que les Macs comparables. Il est vendu avec IA intégrée et se propose de retrouver (Recall) tout ce qui se trouve dans votre ordi (ce qui veut dire qu’il en garde la trace…).

• La valeur de NVIDIA qui fabrique les microprocesseurs utilisés par toutes les BigTech de l’IA a augmenté de 427% en un an… et c’est pas fini dit le patron.

En clair : l’accélération s’accélère. Mais !

Premier point : elle présente un risque de sécurité- Cette accélération paraît dangereuse à certains des fondateurs d’OpenAI dont les responsables les plus sensibles aux questions d’éthique et de sécurité ont quitté l’entreprise. Leur service a été dissous. Comme toujours le patron dit que c’est maintenant l’affaire de tout le monde. Seul le temps nous dira si c’est efficace… et, pour le moment, le temps qui coule permet à l’entreprise d’appuyer à fond sur la pédale sans trop se soucier du reste. Les mésaventures de Sam Altman, patron d’OpenAI, avec Scarlett Johansson dont, je simplifie, il utilise la voix (ou l’imite à la perfection) sans son autorisation, ne contribuent pas à sa crédibilité.

Deuxième point : ça nous rapproche de l’effondrement (burst) - On ne nous parle que des milliards qui font gonfler la bulle IA et, du coup, son éclatement me semble inévitable. Je n’aie aucune compétence d’économiste pour l’affirmer - ça en rassurera certain.e.s - juste l’expérience de quelqu’un qui couvrait les technologies de l’information telles qu’elles étaient développées autour de Silicon Valley au tournant de notre siècle. Au moment où le web a commencé à sentir l'impact du navigateur Netscape sur notre accès à l’information.

La question commence à se poser pour l’IA. Accordez-moi deux minutes.

Le principal argument de ceux qui sont contre cette analyse est que les modèles d’affaire d’alors reposaient sur des idées entièrement nouvelles et qui n’avaient jamais fait leurs preuves. La possibilité de faire des achats online par exemple. 

Aujourd’hui, par contre, l’apport en productivité de l’IA leur semble évident et prouvé, déjà palpable. Pas de raison de s’inquiéter. Circulez.

Partager

Spray and pray (brumiser et prier)

C’est ignorer le dicton de base des capital risqueurs (venture capitalists ou VC) du monde entier : « spray and pray ». 

Explications : plus un investissement se fait tôt, plus il a de chances de rapporter gros. Mais moins les VC ont de certitude sur le projet qui remportera la palme. Ils s’efforcent d’investir tôt car, si attendre est moins risqué, ça rapporte moins. En gros, sur 10 startups, 9 échouent. Mais celle qui réussit rapporte 100 fois ou mille fois la mise originale. Donc on tire à l’aveugle et on laisse la logique du marché et de la technologie inconnue décider. 

Conséquence inattendue, la crise a une énorme vertu : elle assainit le marché permet aux équipes ayant échoué de se redéployer (d’où l’importance de la tolérance à l’échec) et au gros du capital de se concentrer sur les plus performantes.

Soyons clairs. La seule logique ici est la capitaliste la plus brutale. Seul l’argent compte. Rien à foutre de l’impact social, des gens qui, ayant investi sans pouvoir brumiser (l’efficacité de la prière restant à démontrer) y perdent pantalon ou culotte. C’est comme ça. 

La valse à cinq temps

Revenons à la bulle. Elle éclate au cinquième temps.

Le déroulement n’est un mystère pour personne autour de la Baie de San Francisco. Il est parfaitement décortiqué en cinq phases relativement précises, bien scandées.

1. Déplacement : Une technologie - ChatGPT dans ce cas - vient en déplacer d’autres. 

2. Boom : gros et petits veulent participer à la ruée vers l’or. A coup, cette fois de centaines et bientôt de milliers de milliards de dollars.

3. Euphorie : nous y sommes. Trop tôt pour faire les comptes on ne chante que les promesses. Tentant.

4. Passage à la caisse : ce que font les plus expérimentés qui ramassent leur mise dès que les échecs commencent à proliférer.

5. Panique ou burst: l’explosion de la bulle dont il faut bien comprendre qu’elle peut être déclenchée par les plus malins et les plus actifs dans la phase précédente.

Nous en sommes clairement à la phase trois. Difficile de savoir combien elle va durer et quand s’amorcera la quatre. Il faudra suivre l’actu. 

Laissez un commentaire.

Outre les faillites visibles, le passage pourrait être déclenché par des décisions gouvernementales prises pour contrôler les géants de la tech et/ou assurer un peu de sécurité aux petits investisseurs. L’angoisse de secteurs importants de la population inquiets des menaces que l’IA fait peser sur l’emploi, de son impact environnemental ou par un accident dû à un mauvais usage de l’IA peut également y contribuer.

S’il fallait parier (je ne parle pas de science) je miserais sur un éclatement de la bulle avant la découverte - trop souvent promise pour nous allécher - de l’intelligence artificielle « miracle »… ou , comme ils disent « générale », c’est à dire plus intelligente que nous dans tous les domaines.

Et vous ?

Principales sources :

• Présentation de ChatGPT-4o (extraits: 26min).

• Présentation de Google Gemini (résumé : 11m).

• Le PC anti Mac

• Arguments contre le danger d’éclatement de la bulle.

• Analyse des 5 temps du cycle des investissements par The Guardian (en anglais, soutien facultatif).

• 6 Lessons from the Dot-Com Bust for the AI Boom