Le géant technologique Meta a pris la décision de retirer une fonctionnalité controversée de son tout nouveau générateur d'images basé sur l'intelligence artificielle, disponible sur Instagram. Cette marche arrière intervient seulement trois jours après le lancement de l'outil, suite à une vague de critiques concernant les risques potentiels d'utilisation abusive et de création de deepfakes.
L'innovation en question permettait aux utilisateurs de mentionner des comptes publics afin d'alimenter le système d'IA avec leurs photographies pour générer de nouveaux contenus. Bien que cet outil ait été déployé uniquement aux États-Unis, il a rapidement déclenché une vive polémique. De nombreux internautes et diverses organisations ont exprimé de sérieuses inquiétudes, pointant du doigt les dangers inhérents à la manipulation d'images et à la production de deepfakes trompeurs à partir de publications publiques.
Face à cette levée de boucliers, le groupe de Mark Zuckerberg a justifié son retrait par les retours des utilisateurs. Dans une mise à jour de son blog, Meta a indiqué que "les retours ont montré que cette fonctionnalité ne répondait pas aux attentes, elle n’est donc plus disponible", soulignant que l'objectif initial était d'offrir un outil créatif tout en laissant le contrôle aux utilisateurs. Cependant, la possibilité pour les propriétaires de comptes publics de refuser l'utilisation de leurs clichés n'a pas suffi à apaiser les craintes.
Des voix influentes se sont élevées, comme celle du syndicat américain des acteurs SAG-AFTRA, qui a vivement recommandé à ses membres de bloquer l'accès à leurs contenus pour protéger leur image. De même, Haley McNamara, la directrice générale du National Center on Sexual Exploitation, a alerté sur le potentiel de l'outil à faciliter la sextorsion, les escroqueries et d'autres formes d'exploitation. Elle a également reproché à Meta de faire peser la responsabilité de la désactivation sur l'utilisateur plutôt que d'opter pour une approche plus restrictive par défaut.
Si la fonctionnalité la plus controversée a été mise hors service, Meta tient à préciser que le paramètre global permettant d'empêcher la réutilisation des photos par son générateur d'images reste accessible. L'entreprise conseille désormais à ses utilisateurs de vérifier attentivement leurs réglages de confidentialité pour s'assurer que leurs publications ne soient pas exploitées à ces fins. Cet incident souligne une fois de plus les défis éthiques et les questions de confiance que posent les nouvelles technologies d'intelligence artificielle, en particulier lorsqu'elles touchent à la vie privée et à l'image des individus sur les plateformes numériques.