Atlas der KI – Die materielle Wahrheit hinter den neuen Datenimperien, Kate Crawford
Verlag C.H. Beck, Wilhelmstraße 9, 80801 München, www.beck.de
Wenn es um Künstliche Intelligenz geht, dann könnte man bei der rasanten Entwicklung meinen, das ein Buch, welches bereits 2021 auf englisch (Originaltitel: „Atlas of AI“) erschien mit der deutschen Übersetzung im letzten Jahr (2024) doch schon längst überholt ist. Keine Sorge, dem ist definitiv nicht so. Denn die Autorin – eine international führende Wissenschaftlerin für Künstliche Intelligenz und ihre Auswirkungen – beschäftigt sich mit dem System das hinter der KI steckt. Und nicht nur das, sie klärt auch auf, warum der Hype über die KI keinesfalls der Wahrheit entspricht. Nach einer Einleitung geht es im ersten Kapitel „Erde“ zuerst mal mal darum das KI nur existiert weil die Erde ausgebeutet wird um ihr die Materialien zu entreißen welche benötigt werden um die Rechenleistungen in den Serverparks, aber auch in den Computern und mobilen Endgeräten die wir alle benutzen zu schaffen.
„Arbeit“ erklärt wie viel menschlicher Arbeit und Ausbeutung nötig ist, damit die KI funktioniert. Sie spricht auch von KKI, also Künstliche Künstliche Intelligenz, wenn Menschen immer noch mitarbeiten, es für die Nutzenden aber so aussehen soll als ob alles ohne menschliches zutun geschieht. Spätestens wenn man das dritte Kapitel „Daten“ gelesen hat wird einem völlig klar das hier seit Jahrzehnten einiges schief läuft und die KI letztendlich mit schlechten Daten gefüttert und trainiert wird, die dafür sorgen das die menschlichen Ungerechtigkeiten in der KI weiterleben. Was nochmal im nächsten Kapitel „Klassifizierung“ verdeutlicht wird: „Klassifizierungsmodelle realisieren und unterstützen jedoch genau die Machtstrukturen, die sie geprägt haben und diese wandeln sich ohne erhebliche Anstrengungen überhaupt nicht.“ Im Kapitel „Affekt“ geht es darum wie die Techindustrie behauptet das sie Emotionen und zukünftiges Verhalten durch Algorithmen erkennen kann – was aber so nicht zu stimmen scheint. Und auch hier wird die Problematik der schlechten Programmierung und die Qualität der Daten nochmals deutlich. Das sechste Kapitel „Staat“ wird dann ganz gruselig, wenn nämlich der ganze militärisch-technische Quatsch mit Staats- und Überwachungsaufgaben gemischt wird – aber lest selbst. Oder um die Autorin nochmal zu Wort kommen zu lassen im „Schluss: Macht“ Kapitel: „Künstliche Intelligenz ist keine objektive, universelle oder neutrale Computertechnik, die Entscheidungen ohne menschliche Anleitung trifft. Ihre Systeme sind vielmehr in soziale, politische, kulturelle und ökonomische Welten eingebettet und von Menschen, Institutionen und Imperativen bestimmt, die festlegen, was sie wie tun. Sie sind darauf ausgelegt, zu diskriminieren, Hierarchien zu bestärken und eng gefasste Klassifizierungen zu kodieren. Werden sie in sozialen Kontexten wie bei der Polizeiarbeit, im Justizsystem, bei der Gesundheitsfürsorge oder im Bildungswesen eingesetzt, können sie bestehende strukturelle Ungleichheiten reproduzieren, optimieren und verschärfen. Und das ist kein unglücklicher Zufall. Denn KI-Systeme sind dazu da, die Welt auf eine Weise zu betrachten und in sie zu intervenieren, die in erster Linie den Staaten, Institutionen und Unternehmen nützt, in deren Diensten sie stehen. So gesehen sind sie Ausdrucksformen einer Macht, die aus größeren ökonomischen und politischen Kräften erwächst, dazu gemacht, Profite zu erhöhen und die Kontrolle zugunsten derjenigen weiter zu zentralisieren, die sie bereits innehaben. Doch so wird die Geschichte von der künstlichen Intelligenz normalerweise nicht erzählt. Die übliche Story dreht sich vielmehr oft um eine Art algorithmischen Exzeptionalismus – das heißt um den Gedanken, dass KI-Systeme schlauer und objektiver als ihre fehleranfälligen menschlichen Schöpfer sein müssen, weil sie unglaublich starke Rechenleistungen vollbringen können.“ Dann wird in „Coda: Weltraum“ über die Kolonialisierungs-Träume der Tech Milliardäre geschrieben. Abschließend noch dieser Auszug: „Dieses Buch hat die planetarische Infrastruktur der KI als einer extraktiven Industrie erkundet, von ihrer materiellen Genese über die politische Ökonomie ihres Betriebs bis hin zu den Diskursen, die ihre Aura der Immaterialität und Notwendigkeit unterfüttern. Wir haben die Politik kennengelernt, die in das Training von KI-Systemen zur Erkennung der Welt eingeht, und die systemischen Formen von Ungleichheit, die diese Technik zu dem machen, was sie heute ist. Das Kernproblem ist die tiefe Verstrickung von Technologie, Kapital und Macht, deren jüngste Manifestation eben die künstliche Intelligenz ist. Ihre Systeme sind weder unergründlich noch fremdartig; sie sind die Produkte größerer gesellschaftlicher und ökonomischer Strukturen und zeitigen umfangreiche materielle Konsequenzen.“ Hier findet ganz klar eine profunde Entzauberung der KI, so wie sie die meisten meinen zu kennen, statt. Es ist auch irgendwie eine Kapitalismuskritik 4.0 oder digital. Sie schreibt unheimlich gut und weiß nicht nur in ihrem Fachgebiet Bescheid. Und da die KI laut ihr gar nicht Intelligent ist, muss man sich vielleicht doch keine Gedanken machen ob man die irgendwann mal als nichtmenschliches Lebewesen behandelt und wie (siehe Rezi von „Die Magie der Gemeinschaft“ in Trust # 229). Aber, letztendlich weiß grade niemand was genau in der Zukunft mit der KI geschehen wird, aber das hier ist auf jeden Fall ziemlich überzeugend und kompetent, ich würde sagen das ist auch mal wieder Pflichtlektüre. 336 Seiten, Gebunden, 32,00 Euro (dolf)
Isbn 978-3406823336
[Trust # 230 Februar 2025]
