Le 31 juillet, Google a dévoilé ses dernières mises à jour visant à lutter contre les deepfakes, ces fausses images générées par intelligence artificielle. Bien que ces mises à jour soient déjà déployées, l’entreprise ne communique que maintenant sur leur existence. Cette initiative illustre la réponse des géants de la technologie à la prolifération de contenus explicites non consensuels mettant en scène de vraies personnes, souvent célèbres.
Qu’est-ce qu’un deepfake ?
Un deepfake est une fausse image ou vidéo générée par une intelligence artificielle, utilisant des techniques avancées de manipulation d’images pour créer des contenus qui semblent réels. Le terme “deepfake” est une contraction de “deep learning” et “fake”. Les deepfakes exploitent des algorithmes d’apprentissage profond pour superposer le visage ou la voix d’une personne sur une vidéo existante, créant ainsi des scènes qui peuvent paraître authentiques, mais qui sont en réalité entièrement fabriquées.
Ces technologies de manipulation sont devenues extrêmement sophistiquées, rendant parfois difficile la distinction entre le vrai et le faux, même pour des observateurs avertis. Les deepfakes peuvent être utilisés à des fins diverses, allant de l’humour et de l’art à la désinformation et à la diffamation. Malheureusement, leur utilisation la plus préoccupante concerne la création de contenus explicites non consensuels, mettant souvent en scène des personnalités publiques dans des situations pornographiques.
Les implications des deepfakes sont graves et multiples. En plus de porter atteinte à la vie privée et à la réputation des personnes concernées, ils posent un risque majeur pour la confiance publique. Par exemple, des vidéos deepfake peuvent être utilisées pour diffuser de fausses informations, manipuler l’opinion publique ou même influencer des élections. La capacité de ces technologies à créer des vidéos réalistes soulève des questions sur l’authenticité des preuves vidéo dans les contextes juridiques et médiatiques.
Face à ces menaces, Google, en tant que principal moteur de recherche, joue un rôle crucial dans cette lutte en mettant à jour ses systèmes pour mieux gérer ces contenus. La capacité de Google à identifier et à filtrer les deepfakes peut aider à réduire leur impact et à protéger les victimes potentielles de ces manipulations numériques.
Un signalement facilité et rapide
Google a entrepris de simplifier considérablement le processus de signalement et de suppression des deepfakes dans ses résultats de recherche, reconnaissant l’urgence de protéger les victimes de ces manipulations numériques. Les nouvelles mesures mises en place permettent désormais aux utilisateurs de demander la suppression de fausses images explicites non consensuelles de manière plus accessible et rapide.
Lorsqu’un utilisateur identifie un deepfake le concernant ou concernant une autre personne, il peut désormais signaler ce contenu via une procédure simplifiée. Google a mis en place un système intuitif qui guide l’utilisateur à travers les étapes nécessaires pour effectuer cette demande. Ce processus inclut la soumission d’une requête de suppression qui déclenche une recherche automatisée par Google de tout contenu similaire.
L’une des améliorations majeures est la capacité de Google à détecter de manière proactive les deepfakes associés à une demande de suppression. Une fois qu’une demande est reçue, les systèmes de Google analysent l’image ou la vidéo signalée pour identifier des copies ou des versions similaires sur Internet. Cela signifie que même si une image deepfake a été largement partagée et reproduite, Google s’engage à rechercher et à supprimer de ses résultats toutes les occurrences similaires qu’il peut trouver.
En outre, Google a renforcé la protection des utilisateurs en rendant ces outils de signalement plus visibles et accessibles. Des liens directs pour signaler du contenu inapproprié ou préjudiciable sont désormais plus facilement accessibles dans les résultats de recherche et les paramètres de compte utilisateur. Cette visibilité accrue vise à encourager les utilisateurs à signaler les deepfakes et autres contenus explicites non consensuels dès qu’ils en prennent connaissance.
Ces mesures prises par Google représentent un pas important vers la protection des individus contre les abus liés aux deepfakes. En facilitant le signalement et en automatisant la détection et la suppression des contenus, Google démontre son engagement à utiliser ses capacités technologiques pour lutter contre les menaces numériques et à promouvoir un environnement en ligne plus sûr pour tous.
Modification du classement des contenus
En réponse à la prolifération des deepfakes, Google a également modifié son algorithme de recherche afin de pénaliser les sites qui diffusent ce type de contenu. Cette mise à jour vise non seulement à réduire la visibilité des deepfakes dans les résultats de recherche, mais aussi à promouvoir du contenu plus pertinent et respectueux des utilisateurs.
L’une des principales modifications apportées concerne le classement des contenus explicites dans les résultats de recherche. Désormais, lorsque les utilisateurs effectuent des recherches incluant des noms de personnes et spécifiquement orientées vers du contenu explicite, Google affichera en priorité des articles d’actualité, plutôt que les images ou vidéos explicites elles-mêmes. Cette stratégie vise à détourner l’attention des utilisateurs des contenus nuisibles et à fournir des informations contextuelles et éducatives sur le phénomène des deepfakes.
Si Google détecte qu’un site web viole systématiquement ses règles en matière de contenu explicite, le moteur de recherche peut prendre des mesures pour pénaliser le classement global de ce site. Cette approche vise à décourager les sites web de diffuser des deepfakes en réduisant leur visibilité globale, sans pour autant les déréférencer complètement. Cette sanction progressive permet à Google de maintenir un équilibre entre la protection des utilisateurs et la liberté d’expression sur Internet.
Cependant, ce système de pénalisation n’est pas exempt de défis. L’un des problèmes persistants est la capacité des algorithmes de Google à distinguer avec précision les deepfakes du contenu explicite réel. Bien que des progrès significatifs aient été réalisés dans ce domaine, il subsiste encore des erreurs de classification qui peuvent entraîner la suppression de contenus légitimes ou la survie de deepfakes dans les résultats de recherche.
L’importance des filigranes dans les IA
Ces mises à jour de l’algorithme de Google représentent une avancée significative dans la lutte contre les deepfakes, en réduisant leur visibilité et en promouvant des contenus plus sûrs et fiables. Toutefois, la lutte contre ces manipulations numériques nécessite une vigilance continue et des améliorations technologiques permanentes pour garantir un environnement en ligne plus sécurisé pour tous les utilisateurs. Par ailleurs, l’initiative de Google souligne la nécessité d’outils plus robustes pour lutter contre les deepfakes. Une solution prometteuse réside dans le développement de filigranes numériques pour les contenus générés par IA. Ces filigranes permettraient de tracer l’origine des images et vidéos, facilitant leur identification et leur suppression lorsqu’ils sont utilisés de manière abusive. Les efforts de Google marquent un pas important, mais la lutte contre les deepfakes nécessitera une collaboration continue et des innovations technologiques pour protéger les individus contre ces atteintes à leur vie privée.
