En fait là, on tombe typiquement dans le cas de l'expertise technique qui ne comprend pas un problème/contexte métier et qui ici, en plus, prend le problème complètement à l'envers. Bien sur qu'on peut contrer Pangram V4, en entrainant l'IA pour qu'elle génère un texte qui passerait comme humain dans l'outil. C'est littéralement de l'insertion d'une forme de bruit qui trompe le détecteur de patterns. On a déjà vu des initiatives comme Glaze pour tenter de contrer la lecture d'image par IA, y a absolument rien de nouveau sous le soleil. Et vous savez quoi ? Un Pangram V5 pourrait être entrainé pour détecter les patterns dans cette nouvelle production bruitée, designée pour contrer la V4. Et alors il faudrait ré-entrainer l'IA pour gommer ces nouveaux patterns trouvés, puis bis repetita dans une boucle infinie. C'est le même cycle qu'on retrouve d'ailleurs en sécurité. Typiquement dans le cadre du jeu vidéo, c'est ce processus là qu'on constate entre producteurs de bots/hacks et les éditeurs : les éditeurs traquant des patterns comportementaux leur permettant de faire une vague de bans massives e bots. Les bots s'adaptent alors pour ne plus se faire chopper jusqu'à la prochaine update/vague de bans. C'est un grand classique de l'industrie IT. Mais la question ici n'est pas de savoir si on peut tromper l'outil avec le renforcement adapté, parce qu'on le sait déjà. La question, c'est de savoir si une version donnée de Pangram, est capable de différencier des marqueurs IA/humain dans des textes qui n'ont pas été préparés spécifiquement pour la contrer. Est-ce qu'une version de Pangram est pertinente pour détecter de manière stable des textes qui précèdent son existence. C'est ça la vraie question. Parce qu'il y a une constante dans toute l'histoire : tu ne cherches pas à te protéger d'une menace qui n'existe pas, tout simplement parce que tu ne sais pas quelle forme elle prendra. Et pire, on parle ici de gens qui ne sont pas des techos en IA. Un écrivain lambda ne va pas faire du reinforcement learning pour produire ses textes, ça n'a donc aucun sens comme démonstration. Mais le pire dans cette approche, c'est que ça ne répond pas à la question de base : un humain pourrait-il écrire un texte qui passerait pour une IA dans cet outil ? Y a-t-il un risque que cet auteur soit de bonne foi ? C'est ça la question ici (et à priori, c'est assez peu probable, surtout vu les accusations de plagiat qui viennent de s'ajouter). Parce que la production littéraire est, pour le moment en tout cas, attendue sous le joug de la création humaine. Que les lignes qu'on lit, sont non seulement les idées de l'écrivain, mais aussi son style à lui, avec ses imperfections et patterns propres. Faire reformuler par l'IA, c'est faire sauter le style de l'écrivain pour le remplacer par un style "générique" reconnaissable par des outils d'analyse. Et c'est ça ici qui est critiqué, une écriture non-humaine. (à tort ou à raison, ça c'est un autre sujet : perso je suis de la team qui juge le produit final sur ses qualités intrinsèques. Je me contrefous de la méthode pour le générer, le fait-main n'a aucune plus-value à mes yeux).