Bonsoir tout le monde.

J’imagine que je ne suis pas seul à mal dormir, ces derniers temps. Je ressasse les conneries que j'ai lues, entendues ou prononcées dans la journée, ça m'obsède, et au bout d'un moment la seule solution c'est d'essayer de saisir le moment où elles se cristallisent dans un mot, une phrase, un geste.

Ces instantanés d’un présent croupi sont réunis par paquets de douze dans le zine du mois — qui est disponible ici, si vous voulez rire un peu avant d’aller ramasser des palettes pour les barricades :

Les abonnés le trouveront bientôt dans leur boîte à lettres et/ou à télécharger à la toute fin de cette newsletter.

⌾⌾⌾

Allez hop, en route.

1. Les sous-marins nagent-ils ?

Il me semble que la confusion qui règne autour de l’emploi du terme d’intelligence artificielle pour désigner les grands modèles linguistiques (ou LLM) mérite d’être un peu creusée.

⌾⌾⌾

Commençons par le commencement : le cerveau n'est pas un ordinateur.

Des sens, des réflexes, et des mécanismes d'apprentissage — voilà ce que nous avons à la naissance, et c'est déjà pas mal, quand on y pense. (...)
Nous ne stockons pas les mots ni les règles qui nous disent comment les manipuler. Nous ne créons pas de représentations des stimuli visuels, nous ne les stockons pas dans un tampon de mémoire à court terme avant de les transférer vers un système de stockage à long terme. Nous n'allons pas chercher d'informations ou d'images ou de mots dans un registre mémoire. C'est ce que font les ordinateurs, pas les organismes.

Nous sommes séduits par la métaphore de l'ordinateur pour comprendre le cerveau parce que l'informatique est le domaine scientifique qui nous semble le plus moderne ou avancé, de même que les Grecs employaient des métaphores hydrauliques, et Descartes ou Hobbes des métaphores fondées sur la mécanique.

⌾⌾⌾

Réciproquement : une machine ne sera jamais intelligente, pas plus qu’un sous-marin ne saura jamais nager. Les machines sont autre chose que nous, et leurs capacités comme les nôtres méritent d’être appréciées pour elles-mêmes.

Comme le disait ce matin-même l’édito du Pavé Numérique, l’idée que l’intelligence serait une caractéristique mesurable sur un axe gradué en doctorats, le long duquel les ordinateurs progresseraient inlassablement, est une sottise aberkanienne :

Certains, comme Ilya Sutskever, co-fondateur d’OpenAI, choisissent de tout miser sur la promesse que, d’ici quelques années, leur autocomplete amélioré sera devenu une super-intelligence digne d’un roman de Philip K. Dick. D’autres, plus modestement, affirment que la prochaine version de GPT aura « l’intelligence d’une personne avec un doctorat ». Argument à peu près aussi stupide que le premier puisque qu’il ignore lui aussi que les LLM ne sont pas et ne seront jamais « intelligents » — ils se contentent de prédire un résultat probable à partir du corpus sur lequel on les a entraînés.

Et pourtant, me dira-t-on, les modèles génératifs peuvent-ils être si bêtes que ça, puisqu’ils prennent déjà le boulot de tant d’illustrateur.ice.s et traducteur.ice.s, de juristes et autres personnes réelles et censément intelligentes ?

Je crois que le bon point de comparaison historique pour penser aux LLM, et en tout cas celui qui éclaire la manière dont y pensent les gens qui tentent d’en caser partout, c’est l’avènement de la musique enregistrée.

Pour prendre un exemple que je connais : de même que le disque permet de reproduire à l’infini un morceau joué une seule fois, les LLM permettent en quelque sorte de démultiplier l’acte de traduction. Ce n’est pas la même chose d’entendre un musicien jouer et d’écouter son disque, et de même les résultats d’une traduction humaine et d’un moteur de traduction sont différents, mais ils sont suffisamment proches pour qu’il semble désormais inefficient aux gens qui paient d’avoir recours à des humains.

La musique enregistrée n’a pas aboli les musiciens. Mais si autrefois le métier d’instrumentiste était une profession assez répandue, qu’on pouvait apprendre et exercer toute sa vie à divers niveaux d’expertise et de prestige, il ne s’agit plus aujourd’hui d’une carrière viable, en dehors de quelques élus. Pour les autres, apprendre la musique n’est plus guère qu’une joie privée, au mieux un passe-temps valorisé socialement.

Gageons que c’est aussi l’avenir promis à l’apprentissage des langues étrangères, à celui de l’écriture ou du dessin — d'honnêtes métiers dont il ne restera plus que l'ombre, une marque de bonne éducation, valorisée justement en raison de son peu d’utilité directe.

⌾⌾⌾

C'est sans doute aussi l'avenir qui attend la programmation informatique, pour laquelle les LLM sont déjà assez doués. C'est d'ailleurs assez fascinant de voir l'ambivalence des programmeurs à ce propos — qui doivent réussir à réconcilier l'absurdité de leur boulot, la simplicité technique de beaucoup de solutions d'"IA" qui se contentent d'implémenter des solutions toutes faites, et le fait que ça a déjà suffi à disrupter des secteurs entiers.

Les programmeurs se rassurent en plaçant la question sur le terrain de la compétence : les LLM ne remplaceront que les mauvais programmeurs, les bons résisteront.

On verra bien.

2. Sympathy for the machines

Sur un thème adjacent : l’an dernier, le film The Creator racontait (en gros) un futur où des robots autonomes et dotés d’une conscience existent, mais ont été interdits par les pays de l’OTAN et mènent une guérilla pour leur survie en Asie du Sud-Est.

J’ai lu des gens se plaindre qu’il s’agissait d’une œuvre de propagande qui leur demandait d’avoir de l’empathie pour des IA, alors qu’elles sont en passe de leur prendre leur boulot dans le monde réel. Ça me semble être une erreur d’interprétation : les IA du film sont des robots anthropomorphes et manifestement dotés d'agentivité, pour lesquels il serait un peu inquiétant de ne pas ressentir la moindre empathie.

Mais la confusion des spectateurs a quelque chose de légitime, parce qu'elle est cultivée par le secteur de la tech. C’est la raison pour laquelle OpenAI a voulu donner à son modèle génératif la voix de Scarlet Johansson — pour susciter une réaction d’empathie.

Ca ne fonctionne pas toujours.

Les machines qui parlent m'agacent, mais surtout parce que je me sens obligé de leur répondre. À force de passer mon temps en leur compagnie, j’ai vraisemblablement plus d’empathie pour les machines que la moyenne des humains. Je ressens un terrible malaise face à ces vidéos où des gens poussent des robots de manière répétée. Pour autant, je suis un peu perturbé quand on cherche à me faire prendre des machines pour ce qu’elles ne sont pas. Quand quelqu’un affuble un ordinateur d’une « voix » et d’une « personnalité », je ressens la même consternation que face à un buisson taillé en forme de caniche ou à un chimpanzé affublé d’un tutu par quelque esprit malade.

Il me paraît naturel de ressentir une forme d'attachement émotionnel à l'égard d'objets qui, tel le smartphone ou l'ordinateur, sont devenus nos compagnons à peu près permanents, mais ça n’oblige pas à les anthropomorphiser pour autant. De même que je veux avoir un rapport animal avec les animaux, j’ai envie d’avoir un rapport informatique avec les ordinateurs. Il ne s’agit pas de les considérer comme des ersatz d’humains mais comme des outils qu’on peut respecter et apprécier pour leurs qualités propres et décidément non-humaines — infiniment patients, attentifs et compréhensifs avec nous, passant des heures à attendre silencieusement nos ordres brouillons et contradictoires, les exécutant au mieux de leurs capacités à la fois phénoménales et ridiculement limitées, tolérant l’injustice de nos colères quand « ça marche pas », nous observant plus patiemment que le plus lacanien des psys.

À vrai dire je ne trouve pas ça triste du tout que les gens préfèrent la compagnie d’objets à celles d’autres humains — par les temps qui courent, ça me paraît même un réflexe assez naturel que de préférer faire de la soudure acrobatique ou jouer à Balatro que d’avoir une conversation.

3. L’épreuve de la transparence

Hier j’ai enfin vu Riddle of Fire, un film tout à fait singulier passé l’an dernier à la Quinzaine des réalisateurs et sorti au printemps 2024. Il raconte l’histoire de trois garnements prêts à affronter tous les dangers pour obtenir le code du contrôle parental de la télé, et enfin jouer à la console :

(C’est drôle, voyez-le)

J’en parlais brièvement il y a quelques livraisons, interdire des choses aux enfants et renforcer les mesures de contrôle technologique qui s’exercent sur eux est un projet fédérateur. Dans Le Pavé Numérique encore, Maxine Miller évoquait récemment les applications de contrôle des gamins :

Pour mener à bien ses méticuleux projets, cette petite brigade de parents sur-attentifs et désireux de bien faire peut désormais miser sur une ribambelle d’applications. Parmi elles, Beehive. Sa promesse : leur permettre de « suivre sans efforts les progrès de leurs enfants (dans l’apprentissage des maths ou d’un instrument de musique), conserver une trace de toutes leurs réalisations et fêter les étapes importantes de leur évolution. » L’application propose ouvertement de « maximiser le potentiel » des enfants en fournissant aux utilisateurs du contenu personnalisé et un plan « structuré » sur mesure. Mais le véritable objectif, non avoué, est bien sûr de rassurer les parents en leur fournissant une réponse définitive à la terrible question « Comment va mon enfant ? ».

Et tout ça, c’est rien — les gens sans enfants ne s’imaginent manifestement pas la variété de solutions tant logicielles que matérielles qui permettent de les fliquer : Pronote qui balance directement aux parents toutes les sales notes et les avertissements pour retard, les smartwatches configurées comme des bracelets électroniques de taulard, j'en passe.

⌾⌾⌾

Même si c’est par là que son acceptation sociale commence, la surveillance totale n’est évidemment pas réservée aux enfants. Les ventes de smartwatches à des adultes se portent très bien et font rêver les mutuelles comme les États d’un contrôle extrêmement fin des comportements — par exemple avec des réductions de cotisation de mutuelle quand notre smartphone ou smartwatch enregistre une activité physique régulière.

Avec la généralisation du télétravail pour les employés de bureau, c’est un autre front qui s’est ouvert : l’adoption généralisée d’applis de surveillance parfaitement délirantes qui visent à assurer votre patron que vous ne glandez pas quand vous êtes en télétravail, et qui sont installées sur les ordinateurs fournis par votre boîte.

Tant et si bien que les employés installent des « mouse jigglers » (mettons : des « touilleurs de curseur »), de petits programmes destinés à faire bouger leur curseur et à avoir une activité minimale pour donner l’impression de travailler à ceux qui les surveillent. Quand les entreprises s’en aperçoivent, elles se fâchent toutes rouges.

Peut-être faudra-t-il désormais avoir recours à des dispositifs hardware (comme il existe des simulateurs de marche pour augmenter le nombre de pas enregistré par le smartphone) pour continuer de faire croire à son patron qu'on travaille :

Le plus étonnant, c'est que les entreprises ne cherchent pas à vérifier que l’employé accomplit la tâche qui lui a été confiée, mais bien qu’il est effectivement privé de sa liberté et reste enchaîné à son ordinateur. Peut-être que les métiers des gens éligibles au télétravail sont tellement inutiles qu’il n’y a rien de concret à mesurer, mais ça n’explique pas ce besoin de contrôle.

Peut-être aussi que comme les trois petits gredins de Riddle of Fire, il faut envisager le contrôle étouffant exercé conjointement par l’État et le capitalisme de surveillance comme une épreuve, un test d’ingéniosité et de courage dont il nous faudra bien trouver en nous la force de triompher.

Et si nous n'y parvenons pas, si nous sommes trop lâches et trop faibles, peut-être qu’à force de contrôle parental et de rapport sur le temps d’écran et d’AirTags cousus dans les doublures de nos gamins, nous aurons fabriqué une génération de hackers capables de contourner toutes les mesures de sécurité du monde, qui s'échangeront des failles de sécurité et des zero day comme des talismans qui les guideront vers la liberté.

Je place ma confiance en eux.

⌾⌾⌾

Voilà. J’ai failli vous assommer avec des consignes de vote, mais je doute que vous ayez besoin de mes opinions pour faire le nécessaire dans les jours qui viennent et au-delà. Par contre je ferai peut-être une édition spéciale "Bon et maintenant qu'est-ce qu'on fait ?", quand on saura un peu mieux à quelle sauce on va être mangés.

D'ici là, portez-vous bien, prenez des forces et du courage — et dormez un peu, c'est pas malin de se coucher à pas d'heure comme ça.

Bonus track – Je traverse une phase

Le zine de ce mois-ci est un florilège de sottises et d'absurdités qui me paraissent toutes dire quelque chose à propos de l'air du temps, que vous pourrez imprimer pour en faire un marque-page, un magnet de frigo, un cadeau de retraite, une cible de fléchettes, etc.