L’art de la collecte de données

J’ai commencé à penser à la confidentialité des ensembles de données pendant la pandémie. L’écran est devenu notre principal espace de connexion. Les applications vidéo et photo ont explosé en popularité. Beaucoup d’entre elles, comme Lensa, étaient alimentées par des modèles d’IA générative entraînés à partir d’importantes collections de photographies.

Mon travail d’artiste est fondé sur la photographie en tant que pratique sociale, en tant qu’activité à laquelle nous participons tous. J’ai été frappé par l’idée que beaucoup d’entre nous étaient déjà rassemblés dans ces ensembles de données, qu’on interagissait et collaborait déjà pour créer les outils vendus par ces entreprises.

C’est devenu le point de départ de mon projet We are already gathered (Nous sommes déjà rassemblés), une série d’ateliers participatifs que j’ai lancés en 2022. J’ai contacté plus de 200 personnes dont j’ai trouvé les images dans LAION-5B,un ensemble de données open source utilisé pour entraîner des modèles d’IA générative comme Stable Diffusion et Google Imagen. Nous avons échangé des anecdotes sur nos photographies, nos impressions sur l’IA, nos sosies et nos rêves de justice technologique. Pour la première fois depuis longtemps, c’était excitant d’être en ligne.

Mon rassemblement était un projet artistique, mais on peut se rassembler de plusieurs façons. Après tout, nous avons déjà fait beaucoup ensemble. Nos visages ont servi de base à des images tout à fait nouvelles. Ensemble, nous avons fait partie d’une infrastructure technique qui dépasse notre imagination. Ensemble, nos images ont été utilisées sans notre consentement ou à notre insu. Ensemble, nous avons fait gagner de l’argent à quelqu’un d’autre. Vous pourriez penser aux autres inconnus dans l’ensemble de données comme des voisins, des collègues, des collaborateurs. Peut-être voulons-nous être des complices, des amis, des camarades.

Considérez cet article comme une invitation à constituer votre propre ensemble de données.

Définissez une intention.

Lorsque les entreprises technologiques collectent automatiquement des données d’Internet pour créer des ensembles de données, elles nous organisent. Dans The Art of Gathering (L’art de rassembler), Priya Parker écrit que « le rassemblement, c’est-à-dire le fait de réunir consciemment des personnes dans un but précis, façonne notre façon de penser, de ressentir et de comprendre notre monde. « Les ensembles de données d’IA rassemblent les gens dans un but bien précis, à savoir gagner de l’argent ou construire de meilleurs modèles linguistiques. Mais ce but ne sert généralement pas les intérêts des personnes qu’ils contiennent.

Puisque nous faisons déjà partie de ces technologies qui pèsent des milliards de dollars, comment pouvons-nous détourner le but de notre collecte au profit de notre bien commun ?

Trouvez-vous et rencontrez des inconnus.

Concentrons-nous sur les ensembles de données qui contiennent des images de personnes (nous !) et qui sont utilisés pour entraîner des modèles d’IA générative. La plupart de ces ensembles de données ne sont pas accessibles au public, même si celui-ci est dedans. Par exemple, les ensembles de données d’OpenAI sont privés, tout comme ceux de Meta et d’Apple. À l’heure où j’écris ces lignes, le plus grand ensemble de données open source de paires image-texte est LAION-5B (un acronyme pour « Large-scale Artificial Intelligence Open Network » (Réseau ouvert d’intelligence artificielle à grande échelle), avec « 5B » faisant référence aux 5,85 milliards de paires image-texte de l’ensemble de données). Géré par une organisation allemande à but non lucratif, l’ensemble de données a été compilé par Common Crawl, une autre organisation à but non lucratif qui utilise des robots pour naviguer systématiquement sur Internet et archiver son contenu.

Jetez un coup d’œil à l’intérieur de l’ensemble de données LAION-5B en visitant leur démo de recherche. Essayez de taper votre nom dans la barre de recherche ou de télécharger une image de vous. S’il n’y a pas d’image de vous dans l’ensemble de données, il vous montrera des résultats visuellement similaires, vos sosies pour ainsi dire.

Faites défiler les résultats de la recherche jusqu’à ce que vous trouviez une image avec une adresse e-mail dans la description du texte. Common Crawl a collecté les informations dans LAION-5b en collectant automatiquement les images et les textes associés. Voilà pourquoi il n’est pas rare que des e-mails ou des sites Web personnels figurent à côté de l’image d’une personne, par exemple sur un portefeuille professionnel ou un site Web professionnel. Prenez un moment pour réfléchir à ce que vous ressentez en voyant toutes ces informations réunies.

Envoyer une invitation.

En contactant quelqu’un d’autre dans l’ensemble de données, vous le transformez en réseau social. Grâce à votre invitation, vous vous positionnez et positionnez les autres figurant dans l’ensemble de données, en tant que personnes qui ont une relation entre elles et un intérêt commun pour quelque chose auquel vous contribuez tous les deux.

Dans mon approche, je me suis présenté, j’ai expliqué où je trouvais l’image des destinataires, j’ai partagé leur image avec eux et je les ai invités à participer à mon projet.

Partagez vos connaissances, renforcez la confiance, restez souple, soyez transparent.

Je me suis retrouvé à correspondre avec des personnes de tous les continents, à l’exception de l’Antarctique, dont la plupart avaient peu de connaissances en IA. Les réactions allaient de la colère et de la consternation à la joie et à la curiosité, en passant par la confusion et l’introspection.

Certaines personnes ont répondu qu’elles voulaient participer, d’autres voulaient poser des questions ou donner leur avis. Personne ne savait que son image était dans LAION-5B, et la plupart ne savaient pas ce que c’était. Si les personnes vivant en Europe avaient la possibilité de retirer leur image de l’ensemble de données dans le cadre du RGPD, les autres n’avaient aucun moyen officiel d’agir.

Organisez une collecte.

Un atelier

Pour ma collecte, je voulais utiliser le projet pour redonner le pouvoir aux personnes dont les images avaient été collectées dans LAION-5B. Les donateurs d’image du projet ont été ouvertement invités à participer et, s’ils étaient intéressés, ils pouvaient définir les conditions d’utilisation de leur image et demander quelque chose en retour. Réfléchissez à la raison pour laquelle vous souhaitez rassembler les gens.

J’ai demandé deux choses à ceux qui souhaitaient participer :

1. « Décrivez qui vous aimeriez voir porter le masque à votre image »
2. Donnez « une idée sur ce que vous aimeriez que le groupe « génère » pour vous. »

Je partais de l’idée que lorsque les gens utilisent des applications d’IA générative, ils produisent, dans un sens, des images qui contiennent de minuscules fragments des visages de toutes les personnes présentes dans l’ensemble de données.

Lors de chaque collecte, des inconnus se réunissaient pour choisir des masques et collaborer afin créer des réponses à ces idées. Les collectes sont devenues des échanges entre les personnes dont les images figuraient dans l’ensemble de données, surnommées les « donneurs d’images », et celles qui portaient ces images. Ensemble, nous avons modélisé un autre type d’ensemble de données d’IA, un ensemble axé sur le consentement, l’attention et les échanges.

Auberge espagnole

Les ensembles de données d’IA générative prélèvent quelque chose qui peut sembler insignifiant chez chacun d’entre nous, afin d’accumuler une quantité considérable d’informations qui sont stockées apparemment indéfiniment. De même, lorsque nous participons à un repas du genre « auberge espagnole », nous apportons chacun un petit quelque chose et ensemble, nous préparons un festin. Mais ensuite, nous mangeons, nous nous nourrissons les uns les autres, et ce que nous avons apporté est consommé et disparaît. Invitez les personnes que vous rencontrez dans l’ensemble de données à apporter un plat pour se présenter.

Protestation

Il est possible que lorsque vous entrez en contact avec d’autres personnes dans l’ensemble de données, celles-ci soient contrariées, en colère, confuses, tristes ou dépassées. Peut-être souhaiterez-vous vous organiser. Peut-être souhaiterez-vous en savoir plus sur les lois régissant l’IA et l’impact de l’IA sur votre communauté. Peut-être parlerez-vous du travail des organisateurs de la justice technologique, comme la Tech Workers Coalition, ou peut-être trouverez-vous des coalitions locales qui luttent contre les utilisations contraires à l’éthique de l’IA, comme la Trust Coalition avec laquelle j’ai travaillé à San Diego. Peut-être rejoindrez-vous l’un de ces groupes ou créerez-vous le vôtre.

Après votre collecte, pensez à la partie cachée de l’iceberg.

Aux États-Unis, nous n’avons généralement aucune idée des ensembles de données auxquels nous appartenons, il existe peu de méthodes pour consentir (ou non) à faire partie de ces ensembles de données, nous n’avons pas notre mot à dire sur ce que ces ensembles de données génèrent et des façons douteuses d’en tirer profit. Certaines entreprises nous proposent des moyens limités de nous désinscrire.

LAION-5B n’est que l’un des innombrables ensembles de données dont nous faisons partie, et c’est l’un des très rares que nous pouvons examiner. Nous sommes déjà rassemblés dans des ensembles de données qui sont gérés par les employeurs, les écoles, les gouvernements, les médecins et les entreprises, petites et grandes. Le potentiel de certaines de ces collectes d’ensembles de données pour créer une communauté et reprendre du pouvoir est passionnant.

Par exemple, que se passerait-il si toutes les personnes que Target considère comme enceintes se réunissaient, ou si toutes les personnes que les scanners de la police ont identifiées comme suspectes s’organisaient ? Ces rassemblements ne peuvent, pour la plupart, exister que comme des expériences de pensée dans nos esprits. La majorité de ces ensembles de données nous sont inaccessibles, même si notre inclusion dans ceux-ci a une incidence sur notre expérience vécue.

En attendant, continuons à envoyer des invitations.

Remerciements : je remercie chaleureusement tous les donateurs d’images et les participants qui se sont réunis pour Nous sommes déjà rassemblés, Nicole Kaack, qui m’a invité à mettre en place ce projet dans le cadre de sa série Body Double et qui a été ma complice tout au long du chemin, ainsi que ann haeyoung pour son engagement réfléchi et ses conseils.