Quand l'intelligence artificielle devient un outil destructeur

Il y a quelques semaines, C'était ça ou mourir était un livre que l’on célébrait. Il avait reçu le Prix du Roman Fnac et figurait parmi les finalistes du Goncourt. La critique l’avait salué. Son auteur, Thélyson Orélien, représentait cette promesse d’une littérature francophone métissée, venue d’Haïti et du Canada. Il écrivait dans une langue rare. Puis, en quelques jours, tout a changé.

Un compte anonyme sur X. Un logiciel de détection, Pangram. Un verdict : « 100 % IA ». Et voilà une œuvre, un auteur, une maison d’édition. Ils sont livrés à la colère en ligne. Il n'y a ni procès, ni preuves, ni débat. Juste un tweet. Une réputation part en fumée.

Car c’est bien de cela qu’il s’agit. Il s’agit d’un outil, l’intelligence artificielle, détourné de sa fonction première pour devenir une arme de destruction massive. Ce n’est pas l’IA qui écrit des romans, mais l’IA qui prétend démasquer ceux qui en écrivent. Et ce faisant, elle détruit des vies.

Le procès en sorcellerie du XXIe siècle

Les détecteurs de textes générés par IA semblent être des outils scientifiques. Ils ne le sont pas. Pangram, comme ses concurrents, repose sur un principe probabiliste. Il calcule la probabilité qu’un texte ait les caractéristiques statistiques d’un texte produit par une machine. Cette probabilité, même très élevée, n’est pas une preuve. C’est un indice. Mais, dans l’affaire Orélien, cet indice est devenu un verdict. Puis, le verdict a conduit à l’exécution.

Que montrent les faits ? Sur les huit détecteurs testés par l’AFP, un seul donne un résultat de 100 % IA. Deux affirment le contraire. Les autres donnent des résultats entre 7 % et 59 %. L’outil de vérification de l’AFP pense que les passages ont « très probablement été écrits par un humain ». Max Spero, le patron de Pangram, admet lui-même que son outil donne des faux positifs. Il ne donne jamais un texte 100 % IA. Philippe Claudel, président de l’Académie Goncourt, demande de faire attention et rappelle qu’aucune preuve irréfutable n’a été apportée.

Voici la réalité. On fait face à beaucoup d’incertitudes, à des résultats contradictoires et à une technologie difficile à comprendre. Pourtant, une condamnation a été prononcée. Ce n’est pas un tribunal qui l’a décidée, mais un groupe. Ce n’est pas basé sur des faits, mais sur une impression. Ce n’est pas après un débat, mais sous la pression du moment.

L’IA, prétexte à toutes les paresses

L’accusation d’utilisation de l’IA est devenue le nouveau procès en sorcellerie. Elle permet de rejeter un auteur sans lire son livre, sans essayer de comprendre son style, sans donner de raisons. Il suffit de montrer un pourcentage. Peu importe que Thélyson Orélien ait commencé à écrire son roman en 2017, bien avant que ChatGPT n’existe. Peu importe que son style appartienne à une tradition littéraire caribéenne faite de répétitions, de rythmes, d’images. Peu importe que l’auteur lui-même se demande : « Je me demande si l’on ne soupçonnerait pas aussi Aimé Césaire ou Jacques Stephen Alexis. »

L’IA est devenue le bouc émissaire parfait. Elle évite de faire l’effort de la critique littéraire. Elle évite de distinguer le bon du mauvais. Elle évite de séparer l’original du conventionnel. Elle évite de différencier l’humain de la machine. Surtout, elle évite de croire en la parole d’un auteur. Après tout, qui peut prouver qu’il n’a pas triché ? Qui peut prouver qu’il a vraiment écrit chaque phrase ? Personne. C’est exactement ce que l’on reproche à Orélien. Il ne peut pas prouver son innocence. Comme si la présomption d’innocence était devenue un luxe que les écrivains ne peuvent plus se permettre.

Le vrai danger : la suspicion généralisée

Au-delà du cas Orélien, toute la littérature est en danger. Demain, on pourra soupçonner chaque auteur. Un style trop régulier, une phrase trop lisse, une répétition un peu étrange deviendront des indices. Les maisons d’édition, effrayées, vont se munir de logiciels pour scanner les manuscrits. Les jurys littéraires, bloqués, demanderont des preuves d’humanité. Les écrivains, de leur côté, devront-ils garder leurs brouillons, leurs notes, leurs différentes versions pour prouver qu’ils sont bien les auteurs de leurs propres livres ?

C’est une folie. Une folie qui a un nom, la tyrannie de l’algorithme. Cette tyrannie veut remplacer le jugement humain par un pourcentage. Elle remplace la confiance par la méfiance. Elle remplace la lecture par la détection. Sous prétexte de protéger la création, cette tyrannie la détruit.

Ce que l’affaire Orélien révèle de nous

Il serait tentant de réduire cette affaire à un cas individuel. Mais elle dit quelque chose de plus profond sur notre époque. Elle montre notre peur panique face à l’IA, notre difficulté à penser la frontière entre l’humain et la machine. Elle montre aussi notre tendance à simplifier. Elle montre aussi notre addiction au scandale, notre goût pour la chute des idoles. Elle montre notre incapacité à supporter la complexité.

Thélyson Orélien est peut-être coupable. Peut-être a-t-il plagié, comme certains le pensent. Peut-être a-t-il utilisé l’IA, comme ses accusateurs le disent. Mais ce n’est pas la question. La question est : avait-on le droit de le condamner avant de savoir ? Avait-on le droit de le détruire avant d’en avoir la preuve ? Avait-on le droit de faire d’un algorithme un juge. Avait-on le droit de faire d’un tweet une sentence ?

La réponse est non. Non, car une société qui accepte cela renonce à ce qui fait sa grandeur. Il s'agit de la présomption d’innocence, du débat contradictoire, du doute raisonnable. Non, car une société qui confie des êtres humains à des machines finira par ne plus croire en rien. Elle ne croira plus en personne.

Reprendre le contrôle

L’intelligence artificielle n’est pas l’ennemi. L’ennemi, c’est la façon dont nous l’utilisons. L’ennemi, c’est notre paresse d’esprit, notre envie de choses spectaculaires, notre refus de réfléchir. L’ennemi, c’est nous.

Il est temps de reprendre le contrôle. Il faut rappeler que les détecteurs d’IA sont des outils, pas des tribunaux. Il faut aussi réaffirmer que la littérature ne se juge pas avec un pourcentage, mais avec le temps, la lecture et la critique. Il est important de défendre la présomption d’innocence, non pas comme un privilège, mais comme un droit.

Thélyson Orélien a peut-être perdu son prix. Il a peut-être perdu sa réputation. Mais nous, nous sommes en train de perdre bien plus. Nous perdons notre humanité. Celle qui consiste à croire en la parole de l’autre, à douter de ses propres certitudes, à refuser la facilité du lynchage.

Alors, la prochaine fois qu’un algorithme accusera un écrivain, souvenons-nous de cette affaire. Rappelons-nous que derrière chaque pourcentage, il y a un être humain. Rien, jamais, ne remplacera le regard d’un lecteur.