Die Kunst des Versammelns im Datensatz

Während der Pandemie begann ich, über die Intimität von Datensätzen nachzudenken. Der Bildschirm wurde zu unserem wichtigsten Ort der Begegnung. Video- und Foto-Apps erlebten einen regelrechten Boom. Viele davon – wie etwa Lensa – basierten auf generativen KI-Modellen, die mit gewaltigen Fotosammlungen trainiert worden waren.

Meine künstlerische Arbeit begreift Fotografie als soziale Praxis, als etwas, an dem wir teilhaben. Mich faszinierte der Gedanke, dass so viele von uns bereits in diesen Datensätzen versammelt waren – dass wir dort aufeinanderprallten und unwissentlich zusammenarbeiteten, um die Werkzeuge zu erschaffen, die diese Firmen verkaufen.

Dies wurde zur Grundlage meines Projekts We are already gathered, einer Reihe partizipativer Workshops, die ich 2022 startete. Ich kontaktierte mehr als 200 Menschen, deren Bilder ich in LAION-5B gefunden hatte – einem Open-Source-Datensatz, mit dem generative KI-Modelle wie Stable Diffusion und Google Imagen trainiert werden. Wir tauschten uns über die Geschichten hinter unseren Fotos aus, über unsere Gefühle gegenüber KI, über unsere Doppelgänger und unsere Träume von technologischer Gerechtigkeit. Zum ersten Mal seit langem fühlte es sich wieder aufregend an, online zu sein.

Meine Zusammenkunft war ein Kunstprojekt, aber es gibt viele Arten der Begegnung. Schließlich haben wir schon eine Menge gemeinsam getan. Unsere Gesichter dienten als Fundament für völlig neue Bilder. Gemeinsam waren wir Teil einer technischen Infrastruktur, die unsere Vorstellungskraft sprengt. Gemeinsam wurden unsere Bilder ohne unser Wissen oder unsere Zustimmung genutzt. Gemeinsam haben wir Profit für andere erwirtschaftet. Sie könnten die anderen Fremden im Datensatz als Nachbarn, Kollegen oder Mitarbeiter betrachten. Vielleicht wollen wir aber auch Mitverschwörer, Freunde oder Genossen sein.

Sehen Sie diesen Artikel als Einladung, Ihre eigene Datensatz-Zusammenkunft abzuhalten.

Setzen Sie eine Intention.

Wenn Tech-Konzerne das Internet durchkämmen, um Datensätze zu erstellen, organisieren sie uns. In ihrem Buch The Art of Gathering schreibt Priya Parker: „Gathering – das bewusste Zusammenbringen von Menschen aus einem bestimmten Grund – formt die Art, wie wir denken, fühlen und die Welt begreifen.“ Auch KI-Datensätze bringen Menschen aus einem bestimmten Grund zusammen – um Geld zu verdienen oder bessere Sprachmodelle zu bauen. Nur dient dieser Grund selten den Menschen, die darin stecken.

Da wir ohnehin schon Teil dieser Milliarden-Technologien sind: Wie können wir den Zweck unserer Zusammenkunft kapern und für unser gemeinsames Wohl nutzen?

Finden Sie sich selbst und treffen Sie Fremde.

Konzentrieren wir uns auf Datensätze, die Bilder von Menschen (uns!) enthalten und zum Training generativer KI-Modelle dienen. Die meisten dieser Datensätze sind nicht öffentlich zugänglich, auch wenn die Öffentlichkeit darin enthalten ist. Die Datensätze von OpenAI sind beispielsweise privat, genau wie die von Meta und Apple. Zum Zeitpunkt dieses Artikels ist LAION-5B der größte Open-Source-Datensatz aus Bild-Text-Paaren (das Akronym steht für „Large-scale Artificial Intelligence Open Network“, wobei „5B“ für die 5,85 Milliarden Paare steht). Der von einer deutschen Non-Profit-Organisation gepflegte Datensatz wurde von Common Crawl zusammengestellt – einer weiteren gemeinnützigen Organisation, die das Internet systematisch mit Bots durchsucht und archiviert.

Werfen Sie über deren Such-Demo einen Blick in den LAION-5B-Datensatz. Geben Sie Ihren Namen ein oder laden Sie ein Foto von sich hoch. Falls kein Bild von Ihnen im Datensatz existiert, werden Ihnen visuell ähnliche Ergebnisse angezeigt – sozusagen Ihre Doppelgänger.

Scrollen Sie durch die Ergebnisse, bis Sie ein Bild finden, dessen Beschreibung eine E-Mail-Adresse enthält. Common Crawl hat für LAION-5B zusammengehörige Bilder und Texte gescraped. Deshalb ist es nicht ungewöhnlich, dass persönliche E-Mails oder Webseiten neben dem Bild einer Person auftauchen – etwa von einem Online-Portfolio oder einer Firmenwebseite. Halten Sie einen Moment inne und spüren Sie nach, wie es sich anfühlt, all diese Informationen so gebündelt zu sehen.

Versenden Sie eine Einladung.

Indem Sie Kontakt zu jemandem im Datensatz aufnehmen, verwandeln Sie diesen in ein soziales Netzwerk. Durch Ihre Einladung definieren Sie sich und die anderen als Menschen, die in Beziehung zueinander stehen – verbunden durch etwas, zu dem Sie beide beitragen.

In meinen Nachrichten stellte ich mich vor, erklärte, wo ich das Bild der angeschriebenen Person gefunden hatte, zeigte es ihr und lud sie ein, an meinem Projekt teilzunehmen.

Teilen Sie Wissen, bauen Sie Vertrauen auf, bleiben Sie flexibel und transparent.

Ich korrespondierte plötzlich mit Menschen auf allen Kontinenten (außer der Antarktis), von denen die meisten kaum etwas über KI wussten. Die Reaktionen reichten von Wut und Bestürzung über Freude und Neugier bis hin zu Verwirrung und Nachdenklichkeit.

Einige wollten mitmachen, andere stellten Fragen oder gaben Anregungen. Niemand hatte eine Ahnung, dass das eigene Bild in LAION-5B steckte, und die meisten wussten nicht einmal, was das ist. Während Menschen in Europa dank der DSGVO gewisse Möglichkeiten hatten, ihr Bild aus dem Datensatz entfernen zu lassen, standen dem Rest von uns keine formellen Wege offen.

Veranstalten Sie ein Treffen.

Ein Workshop

Bei meiner Zusammenkunft wollte ich das Projekt nutzen, um den Menschen, deren Bilder in LAION-5B gelandet waren, ein Stück Handlungsfähigkeit zurückzugeben. Die unfreiwilligen „Bildspender“ waren eingeladen teilzunehmen. Wer Interesse hatte, konnte die Bedingungen für die Nutzung seines Bildes festlegen und eine Gegenleistung verlangen. Überlegen Sie sich gut, aus welchem Grund Sie Menschen zusammenbringen wollen.

Ich bat die Teilnehmenden um zwei Dinge:

1. „Bitte beschreiben Sie, wer die Maske mit Ihrem Bild tragen soll.“
2. „Geben Sie einen Prompt an, was die Gruppe für Sie ‚generieren‘ soll.“

Ich spielte dabei mit der Idee, dass wir bei der Nutzung generativer KI-Apps im Grunde Bilder produzieren, die winzige Fragmente der Gesichter aller Menschen im Datensatz enthalten.

Bei jedem Treffen kamen Fremde zusammen, wählten Masken aus und erarbeiteten gemeinsam Antworten auf diese Prompts. Die Treffen wurden zu einem Austausch zwischen den Menschen im Datensatz – den sogenannten „Bildspendern“ – und denen, die diese Bilder trugen. Gemeinsam modellierten wir eine alternative Art von KI-Datensatz: einen, der auf Zustimmung, Fürsorge und Austausch basiert.

Potluck

Generative KI-Datensätze nehmen jedem von uns etwas scheinbar Kleines, um etwas Gewaltiges anzuhäufen, das scheinbar ewig gespeichert wird. Ähnlich funktioniert ein Potluck: Wir steuern alle eine Kleinigkeit bei, und gemeinsam entsteht ein Festmahl. Aber dann essen wir, wir nähren uns gegenseitig, und das Mitgebrachte wird verzehrt und verschwindet. Laden Sie die Menschen aus dem Datensatz ein, ein Gericht mitzubringen, mit dem sie sich vorstellen.

Protest

Wenn Sie sich mit anderen im Datensatz vernetzen, kann es sein, dass diese aufgebracht sind – wütend, verwirrt, traurig oder überfordert. Vielleicht wollen Sie sich organisieren. Vielleicht wollen Sie mehr über KI-Gesetze und die Auswirkungen auf Ihre Community erfahren. Vielleicht sprechen Sie über die Arbeit von Tech-Gerechtigkeits-Gruppen wie der Tech Workers Coalition, oder Sie finden lokale Bündnisse gegen unethische KI-Nutzung, wie die Trust Coalition, mit der ich in San Diego gearbeitet habe. Vielleicht schließen Sie sich einer dieser Gruppen an oder gründen eine eigene.

Denken Sie nach dem Treffen an den Rest des Eisbergs.

In den USA haben wir meist keine Ahnung, in welchen Datensätzen wir stecken. Wir haben kaum Möglichkeiten zuzustimmen (oder abzulehnen), keinen Einfluss darauf, was diese Datensätze generieren, und fragwürdige Wege, davon zu profitieren. Manche Unternehmen gewähren uns begrenzte Widerspruchsmöglichkeiten.

LAION-5B ist nur einer von zahllosen Datensätzen, in denen wir vorkommen – und einer der ganz wenigen, die wir überhaupt einsehen können. Wir sind bereits in Datensätzen von Arbeitgebern, Schulen, Regierungen, Ärzten und Unternehmen jeder Größe versammelt. Das Potenzial, durch solche Zusammenkünfte Gemeinschaft zu stiften und Handlungsfähigkeit zurückzugewinnen, ist enorm.

Was würde zum Beispiel passieren, wenn sich alle Menschen versammeln würden, die laut Target schwanger sind? Oder wenn sich alle organisieren würden, die von Polizeiscannern als verdächtig markiert wurden? Solche Versammlungen können meist nur als Gedankenexperiment stattfinden. Die meisten dieser Datensätze bleiben uns verschlossen, auch wenn unsere Erfassung darin direkte Auswirkungen auf unser Leben hat.

Bis dahin: Lassen Sie uns weiter Einladungen verschicken.

Danksagung: Ein herzlicher Dank gilt allen Bildspendern und Teilnehmenden, die sich für We are already gathered zusammengefunden haben. Danke an Nicole Kaack, die mich eingeladen hat, das Projekt als Teil ihrer Body Double-Reihe zu realisieren, und die mir von Anfang an eine Komplizin war. Und danke an ann haeyoung für ihren reflektierten Austausch und ihre Begleitung.