Caroline Zeller, Creative Direction | Generative AI, Reisinger Studio. Les avancées technologiques dans le domaine de l’intelligence artificielle ont ouvert de nouvelles perspectives passionnantes pour la création visuelle. Pourtant, cette innovation s’accompagne de pratiques problématiques qui interrogent sur l’éthique et la transparence de ces plateformes. Voici quelques-unes des dérives majeures que j’ai partagées au palais Farnèse à Rome il y a quelques semaines.
Exploitation des œuvres des artistes
En janvier 2024, une fuite de données, un fichier Google partagé par erreur, a révélé que le travail de 16 000 artistes avait été utilisé pour entraîner l’intelligence artificielle de Midjourney, sans leur consentement ni rémunération. Les noms des artistes peuvent également être utilisés dans les prompts. Pendant que la plateforme génère des revenus estimés à 300 millions de dollars en 2024, ces artistes ne perçoivent rien.
Addiction numérique
Le fondateur de Midjourney a lui-même qualifié l’outil de "dopamine slot machine", soulignant son caractère addictif. La conception de l’interface capte l’attention des utilisateurs de manière compulsive. Loin de chercher à limiter ces effets, l’entreprise semble s’appuyer sur cette addiction pour maximiser l’engagement, au mépris des impacts psychologiques sur ses abonnés.
Exploitation des utilisateurs
Au-delà de l’attention, Midjourney exploite également ses utilisateurs comme une main-d’œuvre invisible. En leur demandant de classer des images ou d’exprimer leurs préférences esthétiques, sous couvert de "personnalisation", la plateforme recueille des données précieuses pour entraîner et affiner ses modèles algorithmiques. Les tâches (appelées « tasks » sur la plateforme) alimentent une économie où la valeur créée ne profite qu’à l’entreprise. Les utilisateurs les plus actifs peuvent espérer une récompense dérisoire : 4 dollars par jour sous forme de "fast hour" pour les 2 000 meilleurs contributeurs.
Collecte massive de données personnelles
La plateforme pratique une collecte de données personnelles qui interroge. Les informations collectées depuis août 2024 incluent des données potentiellement sensibles, comme les croyances spirituelles, les préférences de style de vie, ainsi que 200 mesures psychométriques. Midjourney justifie ces enquêtes en expliquant vouloir explorer les liens entre personnalité et esthétique pour "améliorer ses produits". Bien que l’entreprise affirme ne pas vendre ces données à des tiers et garantir leur confidentialité, l’amplitude des informations récoltées, il y a 22 millions d’utilisateurs, soulève des préoccupations sur l’utilisation de ces données.
Exploitation du processus créatif des utilisateurs
La politique de confidentialité de Midjourney soulève des questions sur l’exploitation des données des utilisateurs, en particulier celles générées au cours du processus créatif. En effet, la plateforme considère des éléments tels que les prompts et les modifications successives de ces derniers - c’est-à-dire le travail cognitif de l’utilisateur, sa réflexion adaptative et son affinement itératif des demandes - comme des données personnelles. Ce point est particulièrement alarmant. La définition large et floue de ce qui constitue des "données personnelles" permet un usage potentiel de ces données par des prestataires de services, des partenaires commerciaux et des vendeurs tiers.
Midjourney, comme d’autres IA génératives, illustre un paradoxe : des outils qui démocratisent la création tout en capturant le travail et les données des contributeurs.
Il devient urgent de repenser les conditions de cette "révolution" technologique pour qu’elle soit véritablement respectueuse des créateurs, des utilisateurs et de leurs droits.
Considérer l’humain comme une ressource à exploiter est non seulement éthiquement inacceptable, mais profondément dangereux pour notre société.