in , ,

DeepNude, l’appli qui déshabillait les femmes sans leur consentement

L’appli de deepfake a été supprimée

 

Le logiciel DeepNude, qui a suscité une vive polémique depuis son lancement la semaine dernière, a été suspendu temporairement puis supprimé. Ce programme permettait grâce à l’intelligence artificielle à déshabiller sur photo des femmes, sans leur consentement.

Lancé par un certain « Alberto » qui dit vivre en Estonie, le programme est décrit par ses créateurs comme « un projet pour le divertissement de l’utilisateur ». L’application permet de choisir une photo de femme habillée à partir de laquelle un algorithme créera une nouvelle image montrant la femme totalement dénudée, sur la base de près de 10 000 images de femmes nues.

Dans un tweet datant du 27 juin dernier, ses créateurs expliquent qu’ils pensaient ne faire que « quelques ventes chaque mois de manière contrôlée ». Ils ajoutent : « Nous n’avons jamais pensé qu’elle deviendrait virale et que nous ne pourrions pas contrôler le trafic. »

 

Si la version gratuite laissait paraître la mention « Fake Nude », indiquant qu’il s’agit d’une image modifiée, la version à 50 dollars fait apparaître le filigrane seulement dans le coin de l’image, le rendant facile à faire disparaître en rognant la photo ou en la dissimulant via un logiciel de retouche. Ces images pouvaient ensuite potentiellement être publiées comme des photos authentiques – d’autant plus qu’elle serait parfois d’un réalisme criant.

Le recours à l’intelligence artificielle pour détourner des vidéos ou images est de plus en plus courante. Cette pratique devenue phénomène de société a désormais un nom : le « deep fake ». Un rapport de DeepTrace, société hollandaise spécialisée dans la détection des deepfake montre que la recherche du terme « deep fakes » sur Google a été multipliée par 1 000 entre 2017 et 2018, avec plus de 8 000 fausses vidéos pornographiques relevées par l’organisme.

A l’ère des fake news, les dérives liées à l’intelligence artificielle et ses usages représentent aujourd’hui un risque politique et social majeur. Quand elles mettent en scène des personnalités publiques et politiques, ces images constituent un réel risque démocratique. L’avancée de l’intelligence artificielle permet aujourd’hui de modifier de manière aussi précise que trompeuse, jusqu’au discours et aux expressions faciales.

What do you think?

3 points
Upvote Downvote

Written by admin

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *

Loading…

0

Comments

0 comments

Visitez virtuellement le Berghain