Plus de transparence à venir

À compter de ce dimanche, l’AI Act active les mesures inscrites dans l’article 50 du texte : les obligations de transparence. C’est un gros morceau qui devrait concrétiser le règlement aux yeux des utilisateurs, puisqu’ils devront en principe être avertis lors d’une interaction avec une IA (sauf quand elle est évidente). Comme nous l’avions cela dit déjà souligné dans un précédent article, cette obligation de transparence prévue à l’article 50 ne s’applique pas « lorsque le contenu généré par l’IA a fait l’objet d’un examen humain ou d’un contrôle éditorial et qu’une personne physique ou morale assume la responsabilité éditoriale de la publication dudit contenu ». Il suffira donc aux sites d’infos générés par IA de disposer d’un directeur de la publication, et de prétendre que leurs articles ont été supervisés par un humain, pour ne pas avoir à être transparents quant à leur recours à l’IA générative. Les contenus générés par IA devront être tatoués, sauf s’ils sont vérifiés par un humain [Récap] Nous avons découvert des milliers de sites d’info générés par IA : tous nos articles Les déployeurs – médias, agences, partis politiques… – devront signaler les deepfakes.

Les textes générés ou manipulés par l’IA concernant des sujets d’intérêt général devront également être signalés comme tels. Les personnes exposées à un système de reconnaissance des émotions ou de catégorisation biométrique devront en être informées. Les fournisseurs d’IA générative devront également intégrer un marquage technique de détection des images, sons, vidéos ou textes générés ou manipulés par IA. On ne risque cependant pas de voir tout cela dès la fin de la semaine : l’omnibus précise que les systèmes commercialisés avant le 2 août bénéficient d’un sursis de 4 mois pour respecter les obligations de marquage technique (soit jusqu’au 2 décembre).