„Das Problem der KI ist der Mensch“

„Das Problem der KI ist der Mensch“

Sozialethische Perspektiven auf Künstliche Intelligenz

Anne Weber

https:// philosophie-indebate.de/das-problem-der-ki-ist-der mensch

Februar 2024

„Die Gleichung von Geist und Welt geht am Ende auf, aber nur so, dass ihre beiden Seiten gegeneinander gekürzt werden. In der Reduktion des Denkens auf mathematische Apparatur ist die Sanktion der Welt als ihres eigenen Maßes beschlossen. Was als Triumph subjektiver Rationalität erscheint, die Unterwerfung alles Seienden unter den logischen Formalismus, wird mit der gehorsamen Unterordnung der Vernunft unters unmittelbar Vorfindliche erkauft. Das Vorfindliche als solches zu begreifen, den Gegebenheiten nicht bloß ihre abstrakten raumzeitlichen Beziehungen abzumerken, bei denen man sie dann packen kann, sondern sie im Gegenteil als die Oberfläche, als vermittelte Begriffsmomente zu denken, die sich erst in der Entfaltung ihres gesellschaftlichen, historischen, menschlichen Sinnes erfüllen – der ganze Anspruch der Erkenntnis wird preisgegeben. Er besteht nicht im bloßen Wahrnehmen, Klassifizieren und Berechnen, sondern gerade in der bestimmenden Negation des je Unmittelbaren. Der mathematische Formalismus aber, dessen Medium die Zahl, die abstrakteste Gestalt des Unmittelbaren ist, hält statt dessen den Gedanken bei der bloßen Unmittelbarkeit fest.“

(Max Horkheimer/ Theodor W. Adorno, Dialektik der Aufklärung in : Max Horkheimer Ges. Schriften BD 5, 1987, 49)

Wo bleibt eine feministisch philosophische Kritik an der sogenannten Künstlichen Intelligenz? Viele Publikationen zu diesem Thema kritisieren die Reproduktion sozialer Ungleichheit und gesellschaftlicher Diskriminierung von marginalisierten Gruppen, und das betrifft überwiegend Frauen. Aber das sind Mängel, die durch gezielte Interventionen der Computer-Programme und –Verwaltung korrigiert werden könnten. Diese Kritik bleibt an der Oberfläche der Funktion und Wirkungsmacht von „KI“.

Was aber bedeutet die neue Technologie für Frauen, ihr Verhältnis zur Welt, ihr Verständnis von Wissenschaft und Erkenntnis?

Anne Weber stellt in ihrem Beitrag „ Das Problem der KI ist der Mensch“ das Subjekt in den Mittelpunkt. Sie wählt eine sozialethische (eigentlich sozialpolitische) Perspektive und fragt generell nach den Auswirkungen der neuen Technologie auf die „Wahrung und Sicherung der menschlichen Würde in allen gesellschaftlichen Bereichen und Systemen“ (1).

Damit stellt sie sich gegen einen neuen ‚digitalen Positivismus‘, in dem die Welt ist, was der Algorithmus erfasst und reflektiert die strukturellen Implikationen der neuen Technologien.

Dabei kommt die feministische Sichtweise nicht explizit vor, aber ihr Beitrag erlaubt Schlussfolgerungen auf eine weibliche Sicht und Betroffenheit.

Anne Weber ist wissenschaftliche Assistentin am Forschungsinstitut für Philosophie Hannover.

III

Der Beitrag besteht aus drei Teilen:

einer Beschreibung und Analyse von „KI“
einem Überblick über sozialethische Kritiken der neuen Technologien und
Handlungsoptionen.

1) Der Begriff „KI“ ist an sich schon ein Problem, er suggeriert eine eigenständige Kompetenz in Anlehnung an menschliche Intelligenz. Wie auch andere AutorInnen stellt Anne Weber klar, dass es sich bei dem Phänomen um „datenbasierte autoregulative Systeme“ handelt (6). Sie differenziert die verschiedenen Typen wie schwache, starke und generative „KI“. Bei allen Systemen handelt es sich um automatisierte Mustererkennung und Informations-Kompilierung, also um Daten von Daten: „Vor diesem Hintergrund ist die Verwendung der Begriffe ‚Intelligenz‘, aber auch ‚Autonomie‘ im Zusammenhang mit Technik und Robotik irreführend und aus philosophischer Perspektive letztlich nicht adäquat“ (5).

Den Systemen mangelt es an Fähigkeiten des Sinnverstehens und der Intentionalität . Sie haben Probleme, nicht arithmetische Abwägungen zu treffen. Ihnen fehlen spezifisch menschliche Kompetenzen wie Moral und Verantwortungsbewusstsein. Es sind Maschinen, die enorme Leistungen erbringen, die die menschliche Kapazität mittlerweile überschreitet. Das bedeutet aber einen potentiellen Kontrollverlust des Menschen, weil er die Regulierung nicht mehr garantieren kann.

2) Anne Weber konzentriert die sozialethische Kritik auf drei Bereiche, in denen das Subjekt von den Auswirkungen der neuen Technologien betroffen ist. Dabei ist die Problematik der neuen Technologien zwischen Potentialen und Risiken in allen Bereichen ambivalent.

Der erste Gedanken führt zu den Subjekten, die an der Wirkungsweise der Maschinen beteiligt sind, der zweite zu den Auswirkungen auf die Nutzer der Systeme. Das sogenannte ‚training‘ der Computersysteme wird durch clickworker durchgeführt. Weltweit werden dafür Hilfskräfte angeworben und eingesetzt, die Datenmaterial sichten, bewerten, auswählen und in Datenbanken eingeben. Zu kritisieren sind nicht nur die prekären Arbeitsbedingungen der clickworker, es sind sozusagen Aufträge in Form von mini-jobs, sondern die unsystematische Anleitung zur Auswahl und Bewertung von Daten. Aufgrund unterschiedlicher sozialer und kultureller Zugehörigkeit der Datenbearbeiter können Verzerrungen und Fehler entstehen. Die Programmierung der Daten erfolgt so nach gesellschaftlich vorhandenen clustern und Kategorisierungen. Es werden übliche Einstellungen, Vorurteile und Meinungen unreflektiert reproduziert. Bestehende Ungleichheiten und Diskriminierungen werden verfestigt. Aber:„ Insofern diese Prozesse opak sind und automatisiert ablaufen, erzeugen sie eine ‚Illusion der Objektivität‘ (Campolo/Crawford 2020)“ (8), die das einzelne Subjekt nur schwer durchschauen kann.

Auf der politischen Ebene zeigt sich die Wirkungsmacht der neuen Technologie einerseits in neuen Dimensionen der Einflussnahme und Manipulation des Subjekts, andererseits in neuen Freiheitsräumen der politischen und gesellschaftlichen Teilhabe.

Über social media kann sich jede/r über alles äußern. Gefahren entstehen durch ein Überangebot von Informationen, einer intellektuelle Überforderung , die in ihr Gegenteil umschlagen kann: „So wird der perspektivenplurale Diskurs als Erkenntnisort eingedampft und durch selbstreferentielle Echokammern ersetzt.“ (9) Der mögliche Informations- und Erkenntnisgewinn zersetzt sich selbst.

Gegenwärtig fehlen Kontrollorgane, die den Missbrauch von Daten zur politischen Einflussnahme analysieren und regulieren könnten. Zudem werden ökonomische Interessen undurchschaubar mit politischen Botschaften verknüpft. So besteht die Gefahr, dass „die Souveränität demokratisch legitimierter Politik und ihrer Steuerungsmechanismen an der Marktmacht einzelner Unternehmen“ (11) untergeht, ohne dass sich das Subjekt gezielt dagegen wehren könnte.

Auf der persönlichen Ebene ist die Wirkungsmacht der neuen Technologien subtiler. Besonders die Smart-Technologien wirken durch den Effekt positiver Nutzung unmittelbar auf unsere Alltagswelt ein. Sie haben eine hohe Akzeptanz, da die Automatisierung von Abläufen Erleichterungen für jedermann bewirken. Problematisch ist hier, dass sich durch diese Programme, Denkmuster der Vereinfachung unbewusst manifestieren. Es sind Vereinfachungen im technischen Sinn, die aber zum Bespiel komplexeren zwischenmenschlichen Beziehungen nicht gerecht werden. Damit werden sich Resonanzerfahrungen, also komplexe Authentizitätserlebnisse, wie sie Hartmut Rosa (2016) für gelungene Sozialität beschrieben hat, zurückbilden. Die Voraussetzungen subjektiver Selbstbildung – das ursprüngliche Konzept von Individualität nach W.v. Humboldt – gehen verloren. Die Selbstbildung des Subjekts geschieht dann nur noch in Bezug auf Stereotypen.

3 ) Sowohl von der Europäischen Union (EU.AI.Act 2024) als auch von den Vereinten Nationen (Governing AI for humanity 2024) sind Maßnahmen-Kataloge zum Umgang mit „KI“ verabschiedet worden. Aber es mangelt an wirksamer Kontrolle und Durchsetzung der Leitlinien. So bleibt die Forderung nach Respektierung und Anerkennung der Menschenrechte im „KI“-Sektor zur Zeit wirkungslos.

Anne Weber zufolge ist parallel zur technischen Implementierung der „KI“ eine breite kulturelle Akzeptanz erforderlich. Gesellschaft und Subjekte müssen die technologische Entwicklung und Kontrolle mittragen – und zwar direkter und unmittelbarer als es bisher geschieht. Eine Idee, die Zivilgesellschaft neu zu aktivieren, stammt von dem Soziologen Hartmut Willke: basisdemokratische, unabhängige Expertenräte zu bilden, die beratende und regulative Funktionen haben. Das klingt utopisch, würde aber die Problembearbeitung zurück an die Gesellschaft und die Bürger delegieren.

Unabhängig davon ist weiter eine komplexe Vermittlung von IT-Grundkompetenzen erforderlich, die nicht bei der Nutzung der neuen Technologien stehenbleibt.

Anne Weber resümiert: „Insofern die Macht der „KI“-Systeme nicht technologisch, sondern von Menschen gemacht ist, sind wir es also auch, die sich für wirksame Veränderungen in die Pflicht nehmen lassen müssen“. (15)

In der Diskussion um die neuen Potentiale der KI wird ein entscheidender Aspekt ausgeblendet. Was bedeutet diese neue Technologie für unser Wissensmodell und unsere Erkenntnismöglichkeiten?

Wenn die Welt zu dem wird, was die Algorithmen erfassen, wären wir in einem totalitären Positivismus der Zeichen angekommen. Die neue Technologie führt zu einer Formalisierung der Welt, des Lebens, der Alltagswirklichkeit. Das Denken, der Anspruch des Erkennens würde preisgegeben- wie es Horkheimer/Adorno in der oben zitierten Textstelle formulieren.

Dieser Prozess bezieht sich in der Folge auch auf das Subjekt, auf das Geschlecht. Das Subjekt wird durch die Formalisierung beschränkt und in seiner Besonderheit negiert. Maschinen werden zu ‚menschlichen Robotern‘ und der Mensch zur funktionellen Maschine.

Diese Form der Vereinheitlichung unseres Lebens durch die digitale Regulierung führt zur weiteren Entmenschlichung, Entsinnlichung und De-Sexualisierung. Die Geschlechterdifferenz wird negiert – und so finden wir uns in dem Zustand wieder, den Jacques Lacan vor vielen Jahren so formuliert hat: „La femme n’existe pas.“

„Was passiert, wenn KI sich verselbständigt und nicht mehr zu kontrollieren ist? Wie verändern sich durch sie die Wahrnehmung und Beurteilung von menschlicher Leistung? Was geschieht, wenn sie ein Bewusstsein entwickelt? Wer ist verantwortlich für negative Auswirkungen und Schäden?“ (2)

(Das Zitat aus der Dialektik der Aufklärung ist von mir zugefügt.AD)

3/2025