Wie man verschwindet: Der Aufstieg der Anti-Überwachungs-Mode

Das Kleidungsstück sieht aus, als wäre eine Schachtel mit Farben auf einem Fußballtrikot explodiert, leuchtende Rot-, Blau- und Gelbtöne springen aus dem Baumwollstoff hervor. Würde man es in der Öffentlichkeit tragen, würde es sicherlich einige Blicke auf sich ziehen, aber nicht von KI. Das liegt daran, dass das Shirt, das ich trage, der neueste Prototyp von Cap_able Design ist, einem italienischen Modestudio, das Kleidung herstellt, die Überwachungstechnologie vereiteln soll.

Die durch künstliche Intelligenz verbesserte Videoüberwachung hat in den letzten Jahren einen Boom erlebt und wird voraussichtlich von einer Branche mit einem Umsatz von 3,90 Milliarden US-Dollar im Jahr 2024 auf 12,46 Milliarden US-Dollar im Jahr 2030 wachsen. Da die Möglichkeiten und die Reichweite dieser Technologie weltweit weiter zunehmen, widmen sich einzelne Designer und Start-ups wie Cap_able der Aufgabe, Menschen dabei zu helfen, mindestens eine weitere Möglichkeit zum Widerstand zu finden: Mode.

Die Gründerin und CEO von Cap_able, Rachele Didero, begann 2019 während ihres Studiums am Fashion Institute of Technology in New York mit der Entwicklung einer Anti-Überwachungs-Modetechnologie. Sie sagte, sie sei sich zunehmend der Verbreitung biometrischer Kameras in der Stadt bewusst geworden und habe einen Freund, der in der Informatik arbeitet, gebeten, etwas dagegen zu unternehmen.

„Das Problem mit [Überwachungs-]Technologie ist, dass Bürger in der physischen Welt keine Möglichkeit haben, sich dagegen zu entscheiden“, sagte sie. „Im digitalen Raum können wir Cookies akzeptieren oder ablehnen. In der physischen Welt haben wir diese Möglichkeit nicht. Wir wollten diesen physischen Schutz schaffen, der es den Bürgern ermöglicht, ihre Zustimmung zu geben oder auch nicht.“

Die Kleidungsstücke von Cap_able sind so konstruiert, dass sie wendbar sind, sodass der Benutzer morgens beim Anziehen entscheiden kann, ob er von der KI erkannt werden möchte oder nicht.

KI-Bildverarbeitungssysteme werden anhand riesiger Datensätze trainiert, um Bildkategorien zu erkennen. Adversarial Images – Pixel, die die Fähigkeit des Computers zur Erkennung solcher Bilder verändern – wurden im Laufe der Jahre von verschiedenen akademischen Forschern und Unternehmen entwickelt. Das neue, von Cap_able patentierte Verfahren entwickelt algorithmisch adversariale Muster und schafft so eine „KI-Tarnung“, die Computer-Vision-Systeme in die Irre führt. Cap_able übersetzt diese digitalen adversarialen Merkmale dann mithilfe eines textilen Engineering-Systems, das bestimmte Vorgaben wie Maschenweite, Garnverhalten, Jacquardstruktur und Farbbeschränkungen einhält, in Strickstrukturen.

Die Strickwaren sind weniger dehnbar als ein durchschnittlicher Vintage-Pullover – sie wurden so konzipiert, dass sie weniger nachgeben, um eine Veränderung der Technologie zu vermeiden. Wenn diese Muster in Stoff umgesetzt werden, können sie die Klassifizierungssicherheit der KI verringern oder sie in falsche Kategorien lenken. Das ist so, als würde man die Brille des Computers beschlagen, wenn er versucht, ein Objekt zu fokussieren.

Heute verkauft das Unternehmen neun verschiedene Kleidungsstücke, darunter Pullover, Hemden, Kleider und Hosen mit ihren patentierten Designs, zu Preisen zwischen 127 € und 670 €, und weitere Produkte sind in Entwicklung. Cap_able fertigt das Endprodukt in Zusammenarbeit mit einem spezialisierten Strickwarenhersteller in Italien aus hochwertigen Materialien. Die Qualität der Produkte ist offensichtlich – sie sehen luxuriös aus und fühlen sich auch so an. Und darüber hinaus sind sie cool. Als ich den bunten Pullover von Cap_able trug – der Computer dazu bringen soll, einen Hund zu erkennen –, bekam ich Kommentare von Fremden, darunter eine Person, die mir ein Kompliment für meinen „Hundepullover“ machte, was darauf hindeutet, dass die Aufdrucke auch Menschen täuschen können.

„Da künstliche Intelligenz zunehmend mit Biometrie verknüpft wird, gibt es nur wenige Vorschriften, die uns schützen“, sagte Didero. „Wir leben in einer Welt, in der jeder unserer Schritte erfasst und gespeichert wird, und es ist sehr wichtig, dass wir mehr Bewusstsein und Schutz schaffen.“

KI-gestützte Überwachung wird überall immer beliebter. In Paris, wo ich lebe, scannen Hunderte von KI-fähigen Überwachungskameras Menschenmengen, um zurückgelassene Pakete, Waffen und andere potenzielle Terrorismusrisiken zu erkennen. Diese Kameras wurden für die Olympischen Spiele 2024 installiert, was laut dem Oxford Human Rights Hub die Gefahr birgt, „die Privatsphäre und die bürgerlichen Freiheiten zu untergraben“.

Die Stadt London hat mobile Gesichtserkennungskameras, die an Autos angebracht sind, eingesetzt, um nach Personen zu suchen, die an Straftaten beteiligt sind, und dabei im Laufe des Jahres etwa 4,7 Millionen Gesichter gescannt. In den Vereinigten Staaten setzen Polizeikräfte zunehmend mit KI ausgestattete Kameras für Echtzeitwarnungen und die Erkennung von Verdächtigen ein. Das US Government Accountability Office veröffentlichte einen Bericht, in dem sieben Behörden genannt werden, die solche Methoden im Jahr 2024 einsetzen.

Angesichts der zunehmenden Verbreitung von Überwachungstechnologie finden Unternehmen wie Cap_able immer mehr Kunden. Didero sagte, dass sie in den letzten Jahren einen Anstieg der Verkaufszahlen verzeichnet habe, den sie auf den KI-Boom und das damit einhergehende gestiegene Bewusstsein der Öffentlichkeit für dessen Gefahren zurückführt.

Cap_able ist nicht der einzige Anbieter solcher Mode. Nothing Personal hat beschlossen, andere Bekleidungsanbieter zu testen, darunter AntiAI Clothing, Yelo Pomelo, Cap_able Design, Oogaly und RiotAssembly. Ich habe Kleidungsstücke aus ihren jeweiligen Kartons herausgeholt und war begeistert von der Vielfalt an Farben und Mustern, die die KI möglicherweise täuschen können. Die AntiAI-Kleidung umfasste mehrere T-Shirts, darunter ein schwarz-weißes Pixel-Muster, ein Muster, das einem unscharfen, bunten Foto ähnelte, und ein mehrfarbiges psychedelisches Muster. Einige waren auffällig und entsprachen ehrlich gesagt nicht meinem Kleidungsstil – andere hingegen waren überraschend tragbar und könnten leicht zu Kleidungsstücken für den Alltag werden.

Skeptiker der Anti-Überwachungs-Mode haben darauf hingewiesen, dass stark variierende und sich schnell weiterentwickelnde Algorithmen zuvor funktionierende Abwehrmuster schnell unwirksam machen können. So hat beispielsweise der in Berlin ansässige Technologe Adam Harvey mehrere Projekte entwickelt, die Jahre später weniger funktionstüchtig sind. Auf seiner Website schreibt er: „Tarnung sollte generell als vorübergehend betrachtet werden, insbesondere aber technische Tarnung, die auf sich schnell weiterentwickelnde Algorithmen abzielt.“

Didero sagte, Cap_able teste seine Produkte mit dem weit verbreiteten Objekterkennungsalgorithmus YOLO (You Only Look Once), der allgemein als der schnellste und genaueste Identifikator gilt. Tyler Brownell, Gründer von AntiAI Fashion, testet die Wirksamkeit seiner Produkte mit der TensorFlow-API von Google, einem Open-Source-Neuralnetzwerk, das für verschiedene Arten der Objekterkennung, einschließlich der Erkennung von Menschen, trainiert wurde.

Brownell, der einen Abschluss in Informatik hat, sagte, er sei um 2022 in die Welt der Datenschutzrechte eingetaucht. Bald darauf begann er, Produkte zu entwickeln, in denen er modifizierte gegnerische Muster integrierte, die er online gefunden hatte. Viele Anti-Überwachungs-Kleidungsstücke waren unerschwinglich teuer, also gründete er sein Unternehmen und begann, seine eigenen Muster zu entwickeln. Heute bietet AntiAI Fashion auf seiner Website 44 Produkte an, deren Preis bei 83 US-Dollar für einen Hoodie liegt, und hat bereits mehr als 7.000 Bestellungen ausgeliefert. In den letzten Jahren hat er ein steigendes Kundeninteresse festgestellt, insbesondere auf dem europäischen Markt.

Brownell räumt ein, dass es seit der Gründung seines Unternehmens in diesem Bereich vor drei Jahren immer schwieriger wird, die Algorithmen zu überlisten. Das Ziel sei es, „ein Kleidungsstück zu schaffen, das mit Blick auf bestimmte Ziele entworfen wurde und den Träger stärkt“, wobei er jedoch betont, dass er „nicht behauptet, dass dies immer funktioniert“.

Social-Media-Unternehmen und Datenbroker sammeln riesige Mengen an Online-Daten darüber, was wir tun, wohin wir gehen und wen wir kennen. Unternehmen wie Palantir integrieren diese Daten und mehr in das, was die ACLU als „zentralisierte Akte über jeden Einzelnen“ bezeichnet, und speichern dauerhaft umfassende digitale Profile, die Menschen anhand ihrer Handlungen und Standorte verfolgen, anstatt nur biometrische Identifikationsmerkmale, die durch Hemdmuster verdeckt werden können.

„Der Fortschritt einer Gesellschaft ist mit bestimmten Kosten verbunden – es gab nie einen Sozialvertrag, in dem wir uns mit Massenüberwachung und -verfolgung einverstanden erklärt hätten“, sagte Brownell. „Die Menschen haben ein Recht auf Privatsphäre und Anonymität.“

Kritiker der adversariellen Mode sagen, dass aufgrund der Komplexität und Reichweite des Überwachungsstaates die Anti-Überwachungsmode eher dazu dient, das Bewusstsein zu schärfen, als tatsächlich den Status quo zu verändern. In seiner Abhandlung zu diesem Thema schlägt der Forscher Torin Monahan vor, dass solche Kleidungsstücke eine „Ästhetisierung des Widerstands” darstellen. Er fügte hinzu, dass marginalisierte Gruppen die Überwachung unterschiedlich erleben und daher auch unterschiedlich von persönlichen Widerstandsmaßnahmen betroffen sind.

„Es ist nicht so, dass wir alle gleichermaßen der Überwachung ausgesetzt sind – für manche Menschen hat diese Überwachung weitaus schwerwiegendere Folgen als für andere“, sagte er.

Eine solche gezielte Überwachung kann sich auf stärker überwachte Minderheitengruppen noch stärker auswirken.

Eine weitere Entwicklung, die den Einsatz solcher Technologien erschwert, ist die Zunahme von Anti-Überwachungsmaßnahmen, die nun vom Staat übernommen werden, wie beispielsweise die zunehmend verbreitete Taktik von ICE-Beamten, ihre Gesichter zu verdecken, wenn sie Personen festnehmen. Mit anderen Worten: Anti-Überwachungsmode und ihre Auswirkungen werden zwangsläufig durch die Identität derjenigen, die sie tragen, und die sich weiterentwickelnden Technologien, die ihre Entwicklung prägen, kompliziert.

„Praktisch gesehen glaube ich nicht, dass diese Technologien sehr effektiv dazu beitragen werden, die Machtverhältnisse in der Gesellschaft zu verändern“, sagte Monahan. „Aber als Übungen zur Bewusstseinsbildung oder Sensibilisierung haben sie meiner Meinung nach durchaus einen Zweck.“

Entwickler, Kunden und Befürworter von Anti-Überwachungsmode nennen das Bewusstsein als zentralen Bestandteil ihrer Begeisterung für die Produkte. Andrew McGregor, ein in Los Angeles ansässiger Künstler und Forscher, nahm im Oktober an einem Videoanruf mit mir teil und trug stolz einen von Cap_able entworfenen Pullover, den er vor etwa einem Jahr gekauft hatte.

„Privatsphäre ist ein Menschenrecht, und wir haben es einfach aufgegeben“, sagte er. „So viele von uns haben das Gefühl, dass wir nichts dagegen tun können, und für mich ist diese Art von Technologie eine Möglichkeit zu sagen, dass es mir trotz allem wichtig ist, auch wenn die Mistkerle gewinnen.“

McGregor sagte, er würde sich in „risikoreichen Situationen“ nicht allein auf einen Pullover verlassen, um nicht entdeckt zu werden, aber im Alltag finde er, dass dieser ihm ein Höchstmaß an Privatsphäre biete.

„Wenn man einen dieser Pullover trägt, hat man das Gefühl, irgendwie getarnt zu sein, und man beginnt, mehr Kameras um sich herum wahrzunehmen“, sagte er. „Dadurch wird mir bewusst, wie oft ich überwacht werde.“

Er fügte hinzu, dass die Gespräche, die seine Cap_able-Kleidung auslöst, für ihn vielleicht sogar wichtiger sind als ihre praktische Funktionalität. Er trägt seinen Pullover mehrere Tage pro Woche und nutzt Komplimente zu seiner Kleidung oft als Anlass, um mit Menschen über Überwachung zu diskutieren. Mit anderen Worten: Er trägt den Pullover letztlich nicht, um nicht von KI erkannt zu werden, sondern um von Menschen gesehen zu werden, denen er vielleicht helfen kann, sich weiterzubilden.

„Das hat eine symbolische Bedeutung – es ist wie eine Maßnahme zum Schutz der öffentlichen Gesundheit“, sagte er. „Wenn ich Menschen aufklären kann, während ich diese Kleidung trage, habe ich das Gefühl, tatsächlich etwas zu tun, um den Schaden zu verringern. Für mich ist es eine Rückeroberung der Menschlichkeit.“