« Regrets sur YouTube », qu’est-ce que c’est ?
« Regrets sur YouTube » est une campagne de sensibilisation lancée par l’organisation à but non lucratif Mozilla. Mozilla a recueilli les témoignages d’utilisateurs et utilisatrices de YouTube à propos des contenus étranges, voire dangereux, que le système de recommandations de la plateforme leur a suggérés. Cette campagne a vu le jour grâce à nos travaux sur une IA digne de confiance ; grâce aux articles du New York Times et d’autres publications, mais aussi grâce aux ingénieurs de YouTube qui ont accepté de témoigner.
Un contenu « étrange et dangereux », qu’est-ce que c’est ?
C’est ce que notre campagne essaie de définir. Nous n’avons donné aucune instruction particulière au sujet des témoignages, qui proviennent de personnes ayant elles-mêmes estimé qu’un contenu était étrange ou dangereux.
Pourquoi ce sujet intéresse-t-il Mozilla ?
La campagne « Regrets sur YouTube » s’inscrit dans le cadre d’une mission plus vaste de Mozilla : garantir que, dans un monde où l’IA se développe, les technologies grand public aient un impact positif, et non négatif, sur l’humanité. Nous pensons que l’IA doit être conçue en prenant en compte les individualités, et que les entreprises devraient être tenues pour responsables lorsque leur IA porte préjudice à quelqu’un. Pour en savoir plus sur notre campagne de responsabilisation de YouTube, cliquez ici, et pour découvrir les travaux de Mozilla sur une IA digne de confiance, cliquez ici.
Ces contenus devraient-ils être supprimés ?
Nous ne faisons pas campagne pour l’interdiction ou la suppression de certains contenus, mais pour sensibiliser au fait que l’IA, sous la forme de systèmes de recommandations, peut favoriser certains contenus plus que d’autres. Nous pensons que YouTube devrait être plus transparent concernant les méthodes appliquées pour déterminer les recommandations. C’est à YouTube de définir quel type de contenu il souhaite mettre en avant, et son système de recommandations devrait accorder autant d’importance à la responsabilité sociale de la plateforme qu’à l’optimisation de l’engagement des utilisateurs.
Comment les témoignages ont-ils été recueillis ?
Nous avons passé deux semaines, à compter du 10 septembre, à collecter ces histoires auprès des internautes. Nous avons envoyé un e-mail à notre liste d’abonné·e·s dans le monde entier et lancé un appel à témoignages sur Twitter. En tout, nous avons reçu des centaines de témoignages rédigés dans cinq langues différentes. Il nous était impossible de vérifier l’authenticité de ces histoires, c’est donc notre bon sens qui nous a permis de sélectionner celles que nous avons incluses dans cette campagne.
Que souhaitez-vous réaliser avec cette campagne ?
Début août, nous avons envoyé une lettre à YouTube ; elle exprimait nos inquiétudes quant à son système de recommandations de contenus et proposait une liste concrète d’améliorations que la plateforme devrait mettre en œuvre. Le 20 septembre, nous avons rencontré des représentants de Google et YouTube afin de discuter des demandes formulées dans la lettre et de leur poser les questions suivantes :
- Vous affirmez que les modifications apportées à votre algorithme de recommandations ont permis de réduire de 50 % les recommandations de contenus « problématiques » aux États-Unis ; pouvez-vous collaborer avec des chercheurs indépendants pour valider cette affirmation ?
- Pouvez-vous vous engager à travailler régulièrement avec des chercheurs et à leur fournir les données nécessaires pour mesurer l’échelle de ce problème et l’efficacité des solutions que vous mettez en œuvre ?
Pour en savoir plus sur nos demandes et les réponses apportées par YouTube, cliquez ici. Nous utilisons la campagne « Regrets sur YouTube » pour continuer à sensibiliser le public aux dangers du système de recommandations de YouTube. Au cours des prochains mois, nous continuerons à faire pression sur l’entreprise pour qu’elle prenne des mesures au plus vite afin de répondre aux demandes qui lui ont été faites.