Sylvia De Abreu

Quelques mots sur « Balance ton Claude », projet à travers lequel nous avons révélé que « C’était ça ou mourir », livre phénomène de la rentrée littéraire, est sans doute très largement rédigé par une IA. 1) Je n’étais pas seul ; il s’agissait d’un projet collectif. Les autres révéleront leur identité en temps voulu s’ils le souhaitent. 2) À tous ceux qui nous reprochent d’avoir nui à Orélien, pensez plutôt à l’auteur qui a passé des centaines d’heures sur son manuscrit pour écrire un magnifique livre, qui aurait mérité le Goncourt, et qui ne l’aurait pas eu. Aurait-il été plus juste de laisser cet auteur être floué ? Et des milliers de lecteurs être trahis ? Nous avons évidemment de la compassion pour les jours difficiles que doit vivre Orélien, et nous espérons qu’il est soutenu. Mais il nous a semblé être de notre devoir de lancer l’alerte. 3) Quelles étaient nos motivations ? Ceux qui me lisent savent que je mène, depuis un an, une reflexion sur les effets de l’IA sur nos vies. Pourtant plutôt techno-optimiste, je redoute qu’après plusieurs millénaires de civilisation fondée sur l’écrit, l’IA provoque la disparition de la lecture et de l’écriture. L’IA peut, et pourra de plus en plus (les tics d’écriture disparaîtront avec le progrès des modèles) produire des oeuvres exceptionnelles, en quasi autonomie. Le contenu humain sera (est déjà ?) noyé dans un océan de contenu IA d’excellente qualité. Un jour l’écrivain humain se dira : à quoi bon ? À quoi bon passer des centaines d’heures à me documenter, à réfléchir, à choisir mes mots pour être dans tous les cas soupçonnés d’avoir copié-collé Chat GPT (parce que certains trompent leurs lecteurs, le soupçon se généralisera) et pour ne pas être lu (l’attention humaine est une ressource finie ; plus elle est absorbée par du contenu IA, moins elle est allouée aux productions humaines) ? Pour preserver les incitations à écrire dans ce nouveau monde, il faudrait que les lecteurs puissent savoir s’ils ont affaire au texte d’un humain ou d’un robot, pour pouvoir, si tel est leur souhait, allouer disproportionnellement leur attention aux productions humaines. Je chéris donc l’existence de Pangram (entreprise dans laquelle je ne suis pas investisseur, même si cette théorie est amusante), tout en redoutant que le logiciel soit dépassé par les progrès des modèles. En disant ça, je ne pense pas uniquement aux écrivains, mais avant tout aux lecteurs. Les lecteurs semblent aimer lire un roman rédigé par une IA, mais uniquement… lorsqu’ils ne savent pas qu’il s’agit d’IA ! Or on peut collectivement s’aveugler un certain temps, mais le jour où la plupart des écrivains humains auront abandonné, le jour où chaque lecteur comprendra qu’il fait face, avec une forte probabilité, à la prose de Chat GPT, il cessera sans doute de lire. En effet, ce qui comble, dans la lecture d’un bon roman, voire d’un essai, n’est pas uniquement le fait de lire une suite de mots intéressante (même si cela compte !), mais aussi le fait de lire des mots qu’un autre humain a pensés, pesés, qui reflètent sa subjectivité et sa singularité. Et ainsi d’entrer, par cette lecture, en contact avec un autre esprit. L’être humain n’est pas fait pour rester longtemps isolé de ses semblables, or la lecture d’un roman rédigé par un humain le lie à l’un de ses semblables ; la lecture d’un roman produit par Chat GPT ne fait rien de tel. C’est pourquoi il est important de dénoncer les auteurs qui proposent un copié-collé de Chat GPT en prétendant qu’il s’agit de leur plume. Non seulement ils trahissent le pacte moral qui les lie à leur lectorat, mais en plus, ils contribuent à retirer, de façon déloyale (car ils mentent sur la nature de leur produit !) des lecteurs à ceux qui font encore l’effort de choisir leurs mots (et donc à décourager cet effort). Et surtout, ils contribuent à la généralisation du soupçon, ils érodent la présomption d’humanité dont bénéficie un texte face à de potentiels lecteurs. Ils précipitent l’avénement d’un monde où plus personne ne lira et n’écrira, avec toutes les regressions cognitives et culturelles que cela implique. (Je m’étonne d’ailleurs de voir certains écrivains ne pas comprendre qu’en défendant la démarche d’Orélien, ils scient la branche qui a permis à la littérature d’exister.) Entendons-nous bien : si des producteurs de contenu IA souhaitent concurrencer les écrivains humain, c’est leur droit le plus strict *du moment qu’ils ne mentent pas sur la nature de leur travail et qu’ils laissent donc les lecteurs choisir en connaissance de cause*. S’il se trouve que dans ces conditions, l’attention des lecteurs se porte toute de même massivement vers l’artificiel plutôt que l’authentique, les écrivains humains auront perdu à la loyale. Mais les réactions à l’affaire Orélien montrent que les lecteurs semblent avoir une forte préférence pour l’authentique. Le projet est donc né de ces préoccupations. Ni les idées politiques d’Orélien ni le thème de son livre ne nous importaient (ceux qui me lisent savent que mon combat contre le slop n’a rien de politiquement partisan). Il se trouve que des lecteurs attentifs nous ont parlé d’importants soupçons sur ce livre en particulier. Nous avons testé beaucoup d’autres livres ; aucun n’atteignait de tels scores d’IA. 4) Je pense (cela n’engage que moi, pas les autres membres du collectif) qu’un mauvais procès est fait aux jurys des prix littéraires et aux critiques ayant encensé ce livre. Le style du texte pouvait être pénible pour quiconque a l’habitude de discuter avec des LLM, mais pour les autres, l’admiration est compréhensible : si chaque mot de ce livre avait été choisi par un humain, il aurait sans doute fallu saluer une forme de génie dans le rythme de cette écriture, soutenue ainsi sur 250 pages. L’angle le plus profond dans cette polémique n’est pas la naiveté des jurys (nous serons tous, à un moment ou un autre, dépassés par les progrès de ces modèles), mais justement, cette vitesse de progression, illustrée ici par la capacité des IA non seulement à passer le test de Turing mais à remporter nos prix littéraires les plus prestigieux. Cela donne le vertige et soulève des questions existentielles sur la place de l’homme dans ce nouveau monde. 5) Merci à tous les médias, parmi lesquels Libération, France Info, France Inter, Le Huffington Post ou Les Échos, qui ont fait un travail d’enquête honnête et rigoureux pour établir la fiabilité de Pangram.