Was bedeuten kritisches Denken und Emanzipation im Zeitalter generativer KI? Diese und andere grundlegende Fragen standen im Zentrum des zweitägigen Workshops „Critical Theory of the Computational“, der am 16. und 17. Oktober 2025 am Weizenbaum-Institut in Berlin stattfand. Veranstaltet wurde die Konferenz gemeinsam vom Weizenbaum-Institut, dem Center for Responsible AI Technologies – in Person von Benjamin Rathgeber – und dem Center for Critical Computational Studies (C3S) aus Frankfurt. Auch inhaltlich war die Hochschule für Philosophie München auf der Konferenz vertreten: In ihrem Beitrag „Behind the Hype: A Critique of Artificial Reasoning“ analysierten Raphael Ronge, Markus Maier und David Gierscher sogenannte „Reasoning Modelle“ kritisch aus einer philosophisch-technischen Perspektive.
Konzeptioneller Rahmen: Emanzipation emanzipieren
Die Gastgeber*innen Christoph Burchard und Juliane Engel eröffneten die Konferenz mit vier zentralen Provokationen, die den theoretischen Rahmen für die folgenden Diskussionen setzten. Ihr Ausgangspunkt: Emanzipation im digitalen Zeitalter sei selbst zu einem Kontrollmechanismus geworden, der uns lesbar macht. Daher müsse die Emanzipation selbst emanzipiert werden. Freiheit sollte nicht als Autonomie, sondern als Praxis der Relation, Offenheit und Unabgeschlossenheit verstanden werden.
Kritik, so die Organisator*innen, müsse als situierte Praxis begriffen werden – nicht beschränkt auf interruptive, dekonstruktive Praktiken, sondern auch präfigurative, komponierende Ansätze umfassend. Das Komputationale muss dafür in Zeit, Raum und Materie gedacht werden: es ist ebenso Ästhetik wie Technik. Kritik werde heute zum Signal für das nächste Update – Entmystifizierung breche das System nicht mehr – wenn wir nicht die Transformation der Transformation in den Blick nehmen. Es brauche daher eine Kritik, die sich ihrer eigenen Verstrickung und Vereinnahmung bewusst ist, sich aber trotzdem nicht geschlagen gibt. Dieses Konzept mit Leben zu füllen sollte im Zentrum der nächsten zwei Tage stehen.
Eine Neue Kritische Theorie?
Die sechs folgenden Panels – interdisziplinär und hochkarätig besetzt – sollten einen diskursiven Ausgangspunkt für die Erarbeitung einer solchen Kritik setzen. Die Panelist*innen beleuchteten, wie der technologische und algorithmische Kapitalismus Wissen, Arbeit und Machtverhältnisse transformiert und dadurch neue Formen von Herrschaft und Abhängigkeit hervorbringt. Sie betonten im Geiste der Konferenz, dass kritische Theorie und politische Reflexion mit der Geschwindigkeit und Komplexität digitaler Strukturen Schritt halten müssen, um Rationalität und Kritikfähigkeit bewahren zu können. Zugleich hinterfragten die Panels, wie beispielsweise große Sprachmodelle Nachhaltigkeitsnarrative, rechtliche Strukturen, demokratische Praxen und kapitalistische Bedingungen neu formen oder verstärken – mit weitreichenden Folgen für Demokratie, Gerechtigkeit und gesellschaftliche Selbstbestimmung. Und wie diese deswegen immer wieder beleuchtet und hinterfragt werden müssen.
Model Collapse – Keynote von Kate Crawford
Zum Abschluss des ersten Tages hielt Prof. Kate Crawford eine Keynote zum Thema „Model Collapse“. Sie entwickelte einen metabolistischen Zyklus der Aufnahme, Verarbeitung und Absonderung von (synthetischen) Daten, der nicht nur KI-Modelle destabilisiert, sondern auch unsere digitalen Welten vermüllt, während er planetare Ressourcen in immer größerer Geschwindigkeit vernichtet.
Abschluss
In den Schlussbemerkungen am zweiten Tag arbeitete Thorsten Thiel heraus, dass es eine Kritische Theorie (mit großem K) des Computationalen braucht – vielleicht noch wichtiger seien aber zeitgemäße kritische (mit kleinem k) Theorien des Computationalen. Auf Grundlage der ursprünglichen Kritischen Theorie kann und müssen kritische Theorieansätze als Praxis entwickelt werden. Diese müssen den Herausforderungen des komputationalen Zeitalters gewachsen sein und dabei immer wieder die Bedingungen ihrer eigenen Möglichkeit unter digitalen Vorzeichen in Frage stellen und reflektieren. Nur so können wir Wege finden, Friktionen zu schaffen, die sich einem reduktionistischen Optimierbarkeitsmythos entziehen.
