Google nous annonce que les images créées par ses IA seront marquées par le symbole « markup ». Ce procéder permettra aux utilisateurs de reconnaitre les images générées par une IA.
Les données contenues dans les images ne seront pas visible à l’œil nu, mais des logiciels tels que Google Search seront en mesure de les lire. Grâce à cette reconnaissance par les logiciels un marquage sera mis automatiquement pour avertir les utilisateurs. Des informations supplémentaires seront données par Google afin d’éviter toutes tromperies. Par exemple la date à laquelle l’image a été téléchargée pour la première fois sur le moteur de recherche.
« Image auto-labellisée comme générée par l’IA », peut-on lire dans un exemple d’avertissement fourni par Google.
Il s’agit actuellement de l’effort le plus important mis en place pour reconnaitre et classer les résultats d’IA générative. Des fonctionnaires et des techniciens ont mis un point d’honneur à mettre en garde les utilisateurs sur les capacités de cette technologie. En effet sa capacité à créer des images réalistes ou des passages de texte fluides, pourraient aider les spammeurs, les escrocs et propagandistes à tromper les gens.
Par exemple, une image récente du pape François vêtu d’une élégante veste d’hiver, générée par l’application Midjourney, est devenue virale et a fait croire à certaines personnes qu’il s’agissait d’une image réelle.
L’un des problèmes auxquels est confrontée l’industrie de l’IA est qu’il n’existe aucun moyen fiable de déterminer les images générées. Bien qu’il y ait souvent des indices, comme des mains mal dessinées. Il n’y a pas de moyen définitif de dire quelles images ont été créées par un ordinateur et lesquelles ont été dessinées ou photographiées par un humain.
L’approche de Google consiste à marquer les images lorsqu’elles sortent du système d’intelligence artificielle, au lieu d’essayer de déterminer si elles sont réelles par la suite. Google a indiqué que Shutterstock et Midjourney prendraient en charge cette nouvelle approche de balisage. L’intention des développeurs Google indique que le balisage permettra de classer les images dans les catégories suivantes : médias algorithmiques formés, créés par un modèle d’IA ; images composites partiellement créées à l’aide d’un modèle d’IA ; ou médias algorithmiques, créés par un ordinateur mais ne reposant pas sur des données d’apprentissage.
