Avez-vous regardé récemment une image générée par l'IA ? Vous n'êtes pas sûr ? De nos jours, les fausses images générées à l'aide de l'intelligence artificielle et les vidéos "deepfake" où la tête de célébrités est superposée au corps d'autres personnes sont de plus en plus courantes. Il est difficile de distinguer le vrai du faux, ce qui pose problème.
Mais aujourd'hui, ce ne sont pas seulement les images qu'il faut surveiller. L'IA peut même reproduire de manière convaincante la voix d'une personne. C'est ce qui se produit de plus en plus souvent, comme en témoigne la campagne de diffamation menée par la Russie à l'encontre des Jeux olympiques de Paris. Dans le cadre de cette campagne, un documentaire réalisé par des propagandistes pro-russes a attaqué le Comité international olympique (CIO) en utilisant comme narrateur une version générée par l'IA de la voix de Tom Cruise. Les créateurs ont même ajouté un faux logo Netflix et créé une fausse critique du New York Times pour tenter d'ajouter de la légitimité au film, mais on s'est rapidement aperçu qu'il s'agissait d'une manipulation de l'IA. Les tentatives de salir les Jeux olympiques d'été sont liées à la volonté de la Russie d'affaiblir le soutien de l'Occident à l'Ukraine, d'après des déclarations d'experts privés et de responsables occidentaux à CNN. L'ambassade de Russie en France a qualifié ces affirmations de "russophobes".
Comment éviter de se faire piéger ? Pour vous aider à repérer et à vérifier les images générées par l'IA et les vidéos "deepfake", ainsi que pour connaître d'autres exemples célèbres, consultez cette galerie de conseils utiles. Ne vous laissez pas abuser !
L'actrice Scarlett Johansson est actuellement en conflit avec OpenAI à cause de l'adoption d'une voix étrangement familière pour leur dernière fonction vocale de la plateforme, qu'ils ont appelée Sky. Scarlett Johansson affirme que le fondateur Sam Altman l'a contactée en septembre 2023 pour lui demander s'ils pouvaient utiliser sa voix pour l'outil, déclarant qu'elle semblait "réconfortante", mais elle a décliné l'offre. Cependant, lorsque la fonction a été lancée neuf mois plus tard, elle a été "choquée, en colère et incrédule que Sam Altman ait choisi une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias n'ont pas pu faire la différence". Elle a également déclaré au Times qu'elle avait engagé un conseiller juridique et qu'elle avait l'intention de découvrir comment Sam Altman avait mis au point la nouvelle voix de ChatGPT.
Sam Altman a nié avoir utilisé la voix de Scarlett Johansson, mais il aurait mis la fonction en pause pendant qu'il répondait à ses questions. Sam Altman a déclaré précédemment qu'il était un grand fan du film "Her" de 2013, dans lequel Scarlett Johannson interprétait le personnage de l'IA, Samantha. Il affirme qu'une autre actrice a été choisie pour incarner Sky. Le syndicat d'acteurs SAG-AFTRA a exprimé son soutien total à Scarlett Johansson, alors que l'IA devient une préoccupation majeure pour les acteurs de l'industrie du divertissement.
Les images IA sont des imitations d'images que le programme a déjà vues. Il utilise des images existantes trouvées sur Internet pour créer de nouvelles images, ce qui signifie que les nouvelles images ne sont pas tout à fait originales !
Alors, comment vérifier si une image est générée par l'IA ? Tout d'abord, vérifiez la source de l'information que vous avez reçue.
La source est-elle un organe d'information, une organisation gouvernementale ou le compte vérifié d'une célébrité ? Ou s'agit-il simplement d'une usurpation d'identité d'une organisation ou d'une personne légitime ?
Si l'image semble provenir d'un grand reportage, vérifiez l'actualité. Si un événement majeur s'est produit dans le monde, il y a de fortes chances que les organismes de presse internationaux en soient les premiers informés !
Vous devriez être en mesure de voir et/ou d'entendre des alertes d'actualité à la télévision, à la radio et sur les sites web d'information.
Il est également judicieux d'examiner l'image d'un œil critique. Vous verrez alors qu'il s'agit d'une image générée par l'IA.
Bien que les images générées par l'IA soient généralement assez convaincantes, il y a toujours une certaine qualité de l'image qui semble irréelle.
Étant donné que les ensembles de données utilisés pour former les systèmes d'IA ne capturent généralement que des morceaux de mains, la technologie ne parvient souvent pas à créer des mains humaines réalistes, par exemple.
Cela peut conduire à des images avec des poignets étirés, des doigts effilés ou un trop grand nombre de doigts. Gardez l'œil ouvert.
Certains générateurs d'images d'IA produisent des textures excessivement lisses, qui semblent trop parfaites. De plus, lorsqu'il s'agit d'une image humaine, la peau peut ressembler à du plastique avec un éclat brillant.
Soyez attentif aux incohérences dans la logique de l'image elle-même. Par exemple, un tissu de vêtement qui se fond dans différents sujets ou des motifs d'arrière-plan qui se répètent parfaitement.
Outre les détails, veillez à avoir une vue d'ensemble. Vérifiez d'abord l'éclairage et les ombres, car l'IA a souvent du mal à représenter ces éléments avec précision.
Par exemple, les ombres doivent s'aligner sur les sources lumineuses et correspondre à la forme des objets qui les projettent.
Si l'image que vous regardez contient des textes, tels que des panneaux, des étiquettes, des publicités ou des panneaux d'affichage, examinez-les de plus près. Les textes générés par l'IA ont tendance à être pixélisés ou étirés.
De même, si le texte n'a pas de sens, s'il est hors contexte ou s'il contient des phrases bizarres qu'un humain n'aurait pas écrites, l'image que vous regardez est probablement générée par l'IA.
Tout le monde ne divulgue pas l'utilisation de l'IA lors de la publication d'images, mais pour ceux qui le font, cette information figure dans le titre ou la description de l'article.
Vous pouvez également consulter la section des commentaires, où l'auteur l'a peut-être mentionné.
En cas de doute, passez toujours l'image par un détecteur d'images d'IA. Il suffit d'enregistrer l'image et de faire appel à un service de détection d'images d'IA.
Les services gratuits de détection d'images d'IA comprennent Illuminarty, Optic AI or Not et Everypixel Aesthetics.
La création d'une vidéo "deepfake" est également devenue très populaire. Comment savoir s'il s'agit d'une fausse vidéo ?
Un signe d'alerte courant est le mouvement artificiel des yeux ou l'absence de mouvement des yeux, surtout s'il n'y a pas de clignement des yeux.
De même, si le visage d'une personne ne montre pas l'émotion appropriée qui correspond à ce qu'elle dit, il s'agit probablement d'un "deepfake".
Les créateurs de "deepfakes" se concentrent généralement plus sur les visuels que sur l'audio, de sorte que vous pouvez remarquer une différence dans le son ou la parole.
Faites attention à la mauvaise synchronisation des lèvres, aux sons robotiques, à la prononciation étrange des mots, au bruit de fond numérique et même à l'absence de son.
Les mots absurdes sont courants dans la création de "deepfakes", car ils permettent de modifier ou de remplacer le discours original.
En mélangeant des mots réels et des mots absurdes, les créateurs de "deepfake" visent à produire un son convaincant qui imite les schémas d'élocution de la personne ciblée. Ainsi, les spectateurs peuvent être amenés à croire qu'une personne a dit quelque chose qu'elle n'a pas dit en réalité.
Si une personne tourne la tête ou passe d'une image à l'autre de manière saccadée, ou si ses mouvements semblent déformés ou non naturels, méfiez-vous.
La technologie "deepfake" a tendance à se concentrer sur les traits du visage plutôt que sur le corps entier, ce qui en fait l'une des anomalies les plus simples à détecter.
Il est toujours important de faire preuve de discernement lorsqu'on voit une photo ou une vidéo. Soyez critique et gardez à l'esprit qu'il peut s'agir d'un "deepfake" ou d'une image authentique.
Sources: (Evening Standard) (Discover Magazine) (Android Police)
Découvrez aussi : Amitié et technologie: nos liens ont-ils changé ?
x
Comment différencier une personne réelle d'une image générée par l'IA ?
Un documentaire russe dénonçant les Jeux olympiques de Paris utilise l'IA et Tom Cruise comme narrateur
LIFESTYLE Images
Avez-vous regardé récemment une image générée par l'IA ? Vous n'êtes pas sûr ? De nos jours, les fausses images générées à l'aide de l'intelligence artificielle et les vidéos "deepfake" où la tête de célébrités est superposée au corps d'autres personnes sont de plus en plus courantes. Il est difficile de distinguer le vrai du faux, ce qui pose problème.
Mais aujourd'hui, ce ne sont pas seulement les images qu'il faut surveiller. L'IA peut même reproduire de manière convaincante la voix d'une personne. C'est ce qui se produit de plus en plus souvent, comme en témoigne la campagne de diffamation menée par la Russie à l'encontre des Jeux olympiques de Paris. Dans le cadre de cette campagne, un documentaire réalisé par des propagandistes pro-russes a attaqué le Comité international olympique (CIO) en utilisant comme narrateur une version générée par l'IA de la voix de Tom Cruise. Les créateurs ont même ajouté un faux logo Netflix et créé une fausse critique du New York Times pour tenter d'ajouter de la légitimité au film, mais on s'est rapidement aperçu qu'il s'agissait d'une manipulation de l'IA. Les tentatives de salir les Jeux olympiques d'été sont liées à la volonté de la Russie d'affaiblir le soutien de l'Occident à l'Ukraine, d'après des déclarations d'experts privés et de responsables occidentaux à CNN. L'ambassade de Russie en France a qualifié ces affirmations de "russophobes".
Comment éviter de se faire piéger ? Pour vous aider à repérer et à vérifier les images générées par l'IA et les vidéos "deepfake", ainsi que pour connaître d'autres exemples célèbres, consultez cette galerie de conseils utiles. Ne vous laissez pas abuser !