Bonsoir tout le monde.
Ce soir, on va prendre des chemins tortueux et sombres, mais à la fin il y aura des blagues.
1. Les leçons des ténèbres
Leçons des ténèbres est un documentaire de Werner Herzog sorti en 1992, qui se compose d'images du Koweït ravagé par la guerre. La caméra bouge mais les images sont statiques, claires mais muettes, pratiquement abstraites. Je suis loin d'avoir vu tous les films de Herzog, donc je me trompe peut-être, mais pour moi c'est celui qui établit la formule parodiée jusqu'à l'extrême depuis — des images singulières, sublimes, obsédantes, et derrière elles la voix de Herzog qui prononce des paroles cryptiques ou métaphysiques avec un fort accent allemand :
Le film entier est visible sur YouTube, et il est incroyable
En 2010, Herzog était invité à Milan pour une projection de Leçons des Ténèbres. On lui avait demandé de prononcer quelques mots à propos de "l'absolu". Il décida sur un coup de tête de parler plutôt du sublime, et les mots qu'il improvisa sont restés célèbres, parce qu'il y introduit la notion de vérité extatique.
La nature improvisée de cette intervention la rend parfois un peu sinueuse et inégale, mais je vous invite quand même à aller en lire la retranscription si le cœur vous en dit, parce que les quinze années écoulées depuis qu'elle a été prononcée n'ont fait que confirmer la pertinence des positions de Herzog — sur la guerre, la perte de sens des images, la remise en cause du réel, le peu de réconfort que les faits seuls peuvent apporter — et la puissance de ses formules :
L’effondrement de l'univers stellaire se produira, comme sa création, dans une splendeur grandiose.
Blaise Pascal
Les mots attribués à Blaise Pascal sur lesquels s'ouvre mon film Lessons of Darkness sont en réalité de moi. Pascal lui-même n'aurait pas mieux dit.
Cette citation à la fois falsifiée et, comme je le démontrerai, non falsifiée, offre un indice sur ce dont je parle. De toute façon, reconnaître qu'un faux est un faux ne contribue qu'au triomphe des comptables. Pourquoi faire cela, me demanderez-vous ? La raison est simple et n'a pas de causes théoriques, mais pratiques. En plaçant cette citation en ouverture de mon film, j'élève le spectateur, avant même qu'il ait vu la première image, à un niveau plus élevé d'où il pourra pénétrer dans le film. Et moi, l'auteur du film, ne le laisserai pas redescendre avant la fin. Seul cet état de sublime rend possible quelque chose de plus profond, un type de vérité qui est l'ennemi du purement factuel. Je l'appelle la vérité extatique. (...)
Lorsque je parle d'assauts contre notre conception de la réalité, je fais référence aux nouvelles technologies qui, au cours des vingt dernières années, sont devenues banales : les effets spéciaux numériques qui créent des réalités nouvelles au cinéma. Ce n'est pas que je veuille diaboliser ces technologies (...). Mais lorsque l'on considère toutes les formes de réalité virtuelle qui font désormais partie de la vie quotidienne — sur Internet, dans les jeux vidéo et dans la télé-réalité, parfois aussi sous d'étranges formes hybrides —, la question de la « vraie » réalité ne cesse de se poser.
Que se passe-t-il vraiment dans l'émission de télé-réalité Survivor ? Pourra-t-on jamais vraiment faire confiance à une photographie, maintenant que l'on sait à quel point tout peut être modifié avec Photoshop ? Pourrons-nous un jour faire pleinement confiance à un e-mail, alors que nos enfants de douze ans nous montrent qu'il s'agit probablement d'une tentative de vol d'identité, ou peut-être un virus, un ver ou un « cheval de Troie » qui s'est faufilé parmi nous, reproduisant la moindre de nos caractéristiques ? Est-ce que j'existe déjà ailleurs sous forme de clone, de Doppelgänger, à mon insu ?
L'histoire nous offre une analogie de l'ampleur [des changements apportés par] le monde auquel nous sommes confrontés aujourd'hui. Pendant des siècles, la guerre s'est résumée à l'affrontement d'armées de chevaliers qui se battaient avec des épées et des boucliers. Puis un jour, ces guerriers se sont retrouvés à se regarder derrière des canons et des armes à feu. La guerre n'a plus jamais été la même.
Werner Herzog
2. LLM ? Non merci
Je préfère généralement dire des vérités que de devoir en entendre, et c'est la raison pour laquelle je publie une newsletter et non sur les réseaux sociaux. Mais il faut bien payer les factures, mes pauvres enfants, et il m'arrive donc de poster des trucs sur LinkedIn.
Je n'ai pas encore beaucoup de pratique de LinkedIn, et j'ai donc été très surpris en voyant débarquer dans les commentaires du post ci-dessus des gens que je ne connaissais ni d'Eve, ni d'Adam, et qui débitaient leur boniment condescendant et inepte sur les bienfaits de l'IA.
Il y a une incompréhension : je n'ai pas peur de l'IA. Je travaille main dans la main avec elle depuis des années. Je n'ai pas non plus besoin qu'on m'explique à quoi pourront bien servir les LLM. Je n'ai aucun doute sur la question, parce que mon boulot à moi, ça fait bien longtemps qu'il a été disrupté. Chez les traducteurs, prestigieux ou non, la prophétie des chantres de l'IA est réalisée : la réalité du boulot, ce sont des humains qui relisent l'output de LLM.
Du coup, c'est vrai que ça me paraît fou de voir des gens faire comme si les conséquences ou le résultat avaient quoi que ce soit d'incertain.
⌾⌾⌾
Sur LinkedIn toujours, je confesse une joie cruelle à voir les devs poster des trucs qui ressemblent furieusement à ce qu'écrivaient les traducteurs il y a une dizaine d'années :
Peu importe la profession, son prestige, ou l'intelligence qu'on croit devoir posséder pour l'exercer : la "productivité" augmente avec les LLM parce qu'on automatise la partie des tâches humaines qui peut l'être. Le rôle de l'humain est de contrôler la production de la machine et de réaliser les opérations encore trop complexes ou subtiles ou inhabituelles pour le modèle. Ca fait pas le même résultat mais c'est tellement plus rapide qu'on va pas chipoter.
C'est, bon an, mal an, la même différence qu'entre un ébéniste et un contrôleur de ligne dans une usine Ikea.
⌾⌾⌾
Quand je fais un sticker rigolo 'LLM ? Non merci', c'est parce que je crois fermement que ce n'est pas la même chose de faire le boulot soi-même et de valider le boulot de quelqu'un d'autre, humain ou machine.
Pour faire la différence, on m'a signalé cette initiative, qui est un bon début :
Je regrette néanmoins que ça tende à mettre les trois options sur le même plan, comme si elles étaient équivalentes.
⌾⌾⌾
En France, il existe un collectif de médias et d'infolettres revendiquant de produire du "contenu 100% humain", dans un domaine (la com') où ce n'est pas une évidence :
C'est tout à leur honneur, mais je suis pas certain de bien comprendre leur positionnement vis-à-vis de la production d'images par IA générative — la transparence, pourquoi pas ?, mais ça me paraît dommage de ne pas réaliser que ces images décrédibilisent instantanément le texte qu'elles accompagnent.
⌾⌾⌾
La perspective qui me réjouit, évidemment, c'est celle (dépourvue de toute nuance) de ce zine à imprimer et à distribuer partout, intitulé I Think AI Should Leave.
Les IA génératives sont une force destructrice. Je pense qu'elles vont à l'encontre de tout ce qui est cher aux bibliothécaires. Bien entendu, "l'IA n'est qu'un outil", mais c'est un outil a) qui fournit avec aplomb des informations erronées, b) qui simplifie à l'extrême les réponses apportées et leur retire le contexte nécessaire, et c) qui est fortement basé sur une violation de la propriété intellectuelle. Et tout cela en consommant une quantité alarmante d'énergie et d'eau !
Et pour quoi faire ? L'IA produit des textes et des images de piètres qualité. Elle facilite la désinformation, le shitposting, et la captation de l'attention sur les réseaux sociaux. Elle enrichit les entreprises et les tech bros en nous rendant dépendant de leurs services. Elle met des gens au chômage en ce moment même.
Alors pourquoi est-ce qu'on l'utilise ?
3. Le marché du réel
Sur LinkedIn toujours, Jean Abbiatecci m'a recommandé la lecture de cette interview du photographe suisse Niels Ackermann, qui était effectivement très intéressante :
Comment moi, en tant que professionnel, pourrais-je encore justifier des devis à cinq chiffres quand de telles technologies sont disponibles, à un prix défiant toute concurrence?
Je me suis toutefois souvenu qu’il était déjà possible de réduire les coûts en ayant recours à des banques d’images. Si la plupart des agences ne l’ont pas fait jusqu’ici, c’est peut-être parce qu’elles cherchent quelque chose de plus: une certaine personne, un certain lieu, mais aussi une certaine forme d’humanité qu’on ne trouve pas forcément dans ces banques d’images. Cela m’a rassuré de me dire qu’il existe sans doute un marché pour le réel, dans un monde où la disponibilité du faux, du synthétique devient illimitée.
Grégoire Barbey
Je suis d'accord avec Niels Ackermann sur le fait qu'il y a "un marché pour le réel", et que la distinction entre une création humaine et intéressante, d'une part, et un produit standardisé et plat, d'autre part, est bien antérieure aux LLM. Dans le domaine de la presse écrite, le problème est déjà dans l'écriture qui se prétend objective en gommant les signes extérieurs de subjectivité ; à une échelle plus générale, on le retrouve dans toutes les procédures de travail destinées à éliminer l'incertitude que représentent des humains disposant d'un minimum d'autonomie.
Les hordes d'humains payés à corriger en permanence les erreurs des LLM ont pour mission d'améliorer l'exactitude factuelle de leur production et d'en réduire la dangerosité, pour les empêcher de recommander aux gens de se suicider ou de faire un régime pour perdre 1kg par semaine, comme il arrive parfois. Ils doivent aussi apprendre aux LLM la concision, les empêcher de partir sur des tangentes, de s'exprimer de manière trop complexe, etc. Il s'agit d'aboutir à un parfait générateur de contenu, capable de produire des textes insipides et creux à un rythme avec lequel aucun humain ne pourra rivaliser.
En fin de compte, les LLM deviennent un bon guide de ce qu'il ne faut pas faire si on veut rendre un peu de valeur au texte. Si un contenu aurait pu été généré par un LLM ("Harry Potter x Balenciaga", "A mais dans le style de B", "X mais avec des zombies", etc.), c'est le signe qu'il lui manque quelque chose : une subjectivité incarnée, un regard, une voix.
De là, le chemin des humains paraît tout tracé : laissons les platitudes de la vérité factuelle aux producteurs de contenus, et concentrons-nous sur la vérité extatique.
⌾⌾⌾
Et ce sera tout pour cette fois.
Portez-vous bien.
M.
Si vous aimez mon travail et que vous en redemandez, achetez-moi des fanzines !
