Gesellschaftliche Mensch-KI-Verhältnisse

Menschen–und Technikbilder in der KI–Diskussion

KI und das Reflexionswesen Mensch

KI wird als eine technisch-kulturelle Entäußerung des Menschen verstanden, in der dieser mit seinem technischen Wirken »in seiner Richtung nach außen, immer zugleich ein Selbstbekenntnis und in ihm ein Medium der Selbsterkenntnis« (Cassirer) artikuliert. Als solche steht diese Artikulation im Kontext von Welt- und Menschenbildern, die ihrerseits Symbolisierungen, Sinnkonstruktionen und damit Orientierungen bieten. Im Rahmen der Expertise wird »KI« (wie auch »Technik« und »Mensch«) als ein Inbegriff der Technikvorstellungen aufgefasst, in dem heterogene Elemente unter einem (praktischen) Interesse zusammengefasst werden. Diese Inbegriffe (z.B. KI als übermächtige Vernunft; der Mensch als Mängelwesen; Technik als Entfremdung) werden als transzendentale Reflexionsbegriffe verstanden. Das heißt, in diesen Begriffen werden Vorstellungen orientiert, d.h. etwa praktische Welt-Verhältnisse, die der Mensch hinsichtlich einer Disponibilität als Technische, einer Nicht-Disponibilität als Natürliche und einer bedingten Disponibilität als Kultürliche einnimmt. Praktisch sind diese transzendentalen Reflexionsbegriffe, weil sie nach den Bedingungen der Möglichkeit von Handlung(en) fragen – im Gegensatz zu den theoretischen transzendentalen Reflexionsbegriffen, wie sie Kant eingeführt hat.

Das Projekt sieht in einem ersten Schritt eine Ausgangssichtung von einschlägiger Literatur aus dem Feld der Menschen- und Technikbilder vor; hier werden die enthaltenen Inbegriffe mit Bezug zu KI extrahiert. Dieses erste begriffliche Register dient im zweiten Schritt zur umfangreichen Recherche in:

• wissenschaftlichen Publikationen
• Videos und TED-Talks zu KI
• Publikationen mit einem breiten populärwissenschaftlichen Ansatz

Im dritten Schritt werden diese Funde historisch kontextualisiert und topologisch systematisiert. Dies geschieht einerseits anhand einer Verhältnisorientierung im Raster »Mensch«, »Maschine«, »Tier«, »Gott« und bezogen auf die höherstufigen Reflexionsbegriffe »Natur«, »Kultur«, »Technik«. Im vierten Schritt werden die Funde einer Schwerpunktanalyse unterzogen und auf ihre Orientierungskraft hin reflektiert. Der fünfte Schritt beinhaltet die Erstellung der jeweiligen Ergebnisformate/Publikationen.

Maschinelles und menschliches Lernen

Menschliches Lernen und „Machine Learning“ – (Un)vergleichbar?

Im Mensch-Technik-Verhältnis von natürlicher und künstlicher Intelligenz spielt Lernen eine besondere Rolle: Zum einen hängen natürliche Intelligenz und Lernen eng zusammen, zum anderen spielen Lernprozesse in der Interaktion zwischen Mensch und Maschine bzw. „KI“ eine große Rolle. Die geplante Expertise untersucht beides.

Zunächst werden grundlegende Fragen zu menschlichem Lernen und „Machine Learning“ getrennt aber vergleichend untersucht:

• Wer lernt was auf welche Weise wie und womit?
• Wer lehrt in welcher Umgebung und unter welchen Bedingungen? Was sind Lernanlässe, Lernziele sowie engere und weitere Lernkontexte?
• Aber auch: Was wird von wem unter ‚lernen‘ verstanden, welche Wortbedeutungen, Begriffsverständnisse oder Theorien liegen dem zugrunde?

Unterschiedliche Formen menschlichen Lernens werden entlang des Lebenslaufs und aus der Perspektive der evolutionären Entwicklung des Menschen betrachtet. So lassen sich typische Formen von Lernen, wie z.B. die Ausprägung von Reflexen, das Trainieren motorischer oder kognitiver Fähigkeiten, der Sprach- oder Wissenserwerb unterscheiden. Aus einem Überblick über wesentliche Lerntheorien – von einfachen Black-Box-Modellen des Behaviorismus bis hin zum umfassenden Spiralmodell der evolutionären Erkenntnistheorie – ergeben sich wesentliche Begriffe, Kategorien und Merkmal zur Beschreibung von Lernprozessen, die die Grundlage für alles weitere bilden.

Bei modernem Machine Learning lassen sich zwei Phasen deutlich unterscheiden: Das „Trainieren“ der Algorithmen bzw. Modelle und ihre darauf folgende Anwendung. In der Trainingsphase wird das jeweilige Modell dazu gebracht, die entscheidenden Merkmale – beispielsweise einer Katze – zu erkennen und die für das Erkennen notwendigen Parameter zu konfigurieren. In der Anwendungsphase wird das Modell genutzt, teilweise werden die Parameter noch weiter optimiert. „Machine Learning“ bedeutet also im Wesentlichen, dass das System bzw. Modell (die „Künstliche Intelligenz“) nicht nur vorgegebenen starren Regeln und Abläufen folgt, sondern diese innerhalb bestimmter Grenzen selbst festlegt und verändert. Die Kennzeichnung als ‚lernen‘ ist diesen Veränderungs- bzw. Optimierungsansätzen geschuldet, mit denen sich KI-Algorithmen von herkömmlichen, normalerweise in der Programmierung verwendeten Algorithmen unterscheiden. „Machine Learning“ geht also mit einem beschränkten, technische Verständnis von ‚Lernen‘ einher, welches mit der großen Vielfalt menschlicher Lern- und Entwicklungsformen kaum zu vergleichen ist.

Dies wird noch deutlicher, wenn Lernkontexte und Interaktionen mit berücksichtigt werden: Menschen lernen durch ständige Iterationen von Handeln und Lernen, Lernen und Handeln in Interaktionen mit ganz unterschiedlichen Interaktionspartnern, seien es andere Menschen, Dinge oder auch Ideen. Menschen, egal ob Babys oder Senioren, lernen permanent, überwiegend ohne es zu merken. „Machine Learning“ hingegen setzt voraus, dass Menschen die Maschine, also den Computer samt Infrastruktur bauen, ihn programmieren, mit (aufbereiteten) Daten füttern und ihn ‚trainieren‘. Eine Maschine kann nicht von sich aus handeln oder lernen. „Machine Learning“ erfordert immer Menschen, die als Lehrende oder Trainer agieren, seien es „Data Scientists“ oder  oder „AI-Engineers“. Auch die Nutzung der so programmierten KI ist auf die Interaktion mit Menschen angewiesen, sei es im Alltag, in der Medizin, im Büro oder in der Instandhaltung. In diesen Interaktionen lernen ebenfalls in erster Linie Menschen, häufig genug vor allem anderen, die Schwächen der KI auszugleichen.

Auch die Analyse typischer Interaktionssituationen wird zeigen, dass KI-Anwendungen – ähnlich wie viele andere Automatisierungstechniken – sehr voraussetzungsreich und dem „Machine Learning“ enge Grenzen gesetzt sind. Menschliches Lernen hingegen ist genuin soziales, auf andere, das eigene Selbst und die jeweilige Beziehung gerichtetes Lernen und Verstehen, das sehr flexibel ganz unterschiedliche Entwicklungen ermöglicht.

Auf Basis des Vergleichs zwischen menschlichem Lernen und „Machine Learning“ und der Analyse typischer Interaktionssituationen vor allem im Arbeitskontext werden in der Expertise individuelle, organisationale und gesellschaftliche Risiken dargestellt sowie aktuelle Gestaltungsoptionen und denkbare Entwicklungspfade abgeleitet. Eine wesentliche Rolle wird dabei das Missverhältnis zwischen dem Glauben an Technik im allgemeinen und an KI im besonderen (Stichwort „technische Singularität“/„Superintelligenz“) einerseits und den deutlichen prinzipiellen wie praktischen Beschränkungen der verwendeten Modelle und Algorithmen andererseits spielen.