Atlas of AI, Buchrezension: Die Gesamtkosten künstlicher Intelligenz ermitteln

„Bitte um Vergebung, nicht um Erlaubnis“ ist seit langem ein Leitsatz im Silicon Valley. Es gibt keinen Technologiebereich, in dem dieses Prinzip stärker praktiziert wird als das maschinelle Lernen in der modernen KI, von der seine Existenz abhängt auf riesigen Datenbanken, die fast alle aus den riesigen Datenbergen, die wir alle täglich, wissentlich oder bewusst, herausgeben, kopiert, ausgeliehen, erbeten oder gestohlen werden nicht. Diese Daten werden jedoch kaum jemals mit der Erlaubnis der Probanden sorgfältig beschafft.

„Weil wir es können“, sagen zwei Soziologen zu Kate Crawford Atlas der KI: Macht, Politik und die planetarischen Kosten künstlicher Intelligenz

, indem sie anerkennen, dass sich ihre akademischen Einrichtungen nicht von Technologieunternehmen unterscheiden oder Regierungsbehörden in Bezug auf alle Daten, die sie finden, als ihre eigenen, um sie für Schulungen und Tests zu verwenden Algorithmen. Bilder werden zur Infrastruktur. So entsteht maschinelles Lernen.

Jeder möchte darüber reden, wofür KI gut oder gefährlich ist – Gesichtsbilder erkennen, Sprachbefehle interpretieren, Autos fahren (noch nicht!). Viele wollen die heutige KI mit Ethik überschütten, als ob die Festlegung von Regeln die militärische Finanzierung verändern könnte, die ihre grundlegende Natur definiert. Nur wenige möchten über die wahren Kosten von KI diskutieren. Kate Crawford, a leitender Forscher bei Microsoft und ein Forschungsprofessor an der University of Southern California, ist die Ausnahme.

SEHEN: Aufbau des bionischen Gehirns (kostenloses PDF) (TechRepublic)

In Atlas of AI beginnt Crawford mit der Dekonstruktion der berühmten Behauptung, dass „Daten sind das neue Öl'. Normalerweise spricht man dann über den wirtschaftlichen Wert von Daten, aber Crawford konzentriert sich auf die Tatsache, dass es sich bei beiden um extraktive Technologien handelt. Bei der Gewinnung handelt es sich um Bergbau (wie beim „Data-Mining“ oder bei Ölquellen), und wohin der Bergbau geht, sind Umweltschäden, menschliche Ausbeutung und tiefgreifende Folgen für die gesamte Gesellschaft die Folge.

Crawford unterstreicht diesen Punkt mit der Überschrift: Silver Peak, Nevada, um die einzige in Betrieb befindliche Lithiummine in den USA zu besuchen. Lithium ist natürlich ein entscheidender Bestandteil in Akkus für alles, vom Smartphone bis zum Tesla. Crawford geht dem nach, indem er die weitreichenden Auswirkungen der Gewinnung auf die Arbeit, die Datenquellen und die Klassifizierung betrachtet Algorithmen und das dahinter stehende nationalstaatliche Verhalten, bis hin zu den Machtstrukturen, die durch die KI, wie wir sie kennen, ermöglicht werden. Auf diese Weise liegt Projekt Maven und „Unterschriftsstreiks“, in denen er als ehemaliger CIA- und NSA-Direktor tätig war Michael Hayden Zugegeben, Metadaten töten Menschen.

Schlangenöl

Doch einiges davon ist offensichtlich falsch. Crawford verfolgt die Bilddatensätze zurück, auf denen das neueste beunruhigende Schlangenöl – Emotionserkennung – basiert auf und stellt fest, dass sie aus gestellten Bildern erstellt wurden, in denen den Probanden gesagt wurde, sie sollten übertriebene Beispiele emotionaler Reaktionen liefern. In diesem Fall wird „KI“ bis ganz nach unten hergestellt. Gibt es, wie Tarleton Gillespie fragte nach Twitter-Trends, Gibt es dort ein echtes menschliches Spiegelbild?

Während andere Technologiebücher einige von Crawfords Themen behandelt haben (von denen hier zu viele besprochen wurden, um sie aufzulisten), ist das Buch, das ihrem integrierten strukturellen Ansatz am nächsten kommt Die Kosten der Verbindung von Nicholas Couldry und Ulises A. Mejias, der unsere gegenwärtige technologische Neukonfiguration als den Beginn einer neuen Beziehung zwischen Kolonialismus und Kapitalismus betrachtet.

„Jede ausreichend fortgeschrittene Technologie ist nicht von Magie zu unterscheiden“ Arthur C. Clarke hat berühmt geschrieben. Nach Crawford sieht das eher so aus: „Jede Technologie, die wie Magie aussieht, verbirgt etwas.“ In der Herstellung der Wurst stecken so viele dunkle Geheimnisse.

AKTUELLE UND VERWANDTE INHALTE

The Costs of Connection, Buchrezension: Eine umfassendere Sicht auf den Überwachungskapitalismus

Die größte Investition in den Datenbankverlauf, das größte soziale Netzwerk aller Zeiten und andere Diagrammgeschichten von Neo4j

Jetzt nutzt Google KI, um Chips zu entwerfen, und zwar weitaus schneller, als menschliche Ingenieure diese Arbeit erledigen können

Drohnen mit Exoskeletten treten im Fußballwettbewerb gegeneinander an

Angst, Mensch? Emotionserkennungs-KI trifft auf Eye-Tracking-Technologie

Lesen Sie weitere Buchrezensionen

• Silicon Values, Buchrezension: Eine Geschichte der Online-Zensur in der Big-Tech-Ära
• The Hype Machine, Buchrezension: Im „Social-Media-Industriekomplex“
• Die verborgene Kraft des Systemdenkens, Buchrezension: Governance neu erfinden
• Fragen Sie Ihren Entwickler, Buchrezension: Wie man in einer Geschäftslandschaft, in der es um „Bauen oder Sterben“ geht, erfolgreich sein kann
• Lurking, Buchrezension: Eine volkstümliche Geschichte der Online-Kultur