KI-getriebener Wandel der Gesellschaft

Dynamiken der KI-Entwicklung

Fragestellung

Mit dem Rückgriff auf Konzepte der sozialwissenschaftlichen Innovationsforschung werden dabei zwei Hauptfragen und eine ergänzende Frage verfolgt:

Die erste Hauptfrage richtet sich auf die gesellschaftlichen Bestimmungsfaktoren und Mechanismen der Genese des soziotechnischen Feldes KI vor allem in der letzten Dekade. Voraussetzung der KI-Dynamik ist fraglos die teilweise disruptive informations- und datentechnologische Entwicklung. Jedoch handelt es sich dabei um technologische Potenziale, mit denen die KI-Dynamik nicht zureichend erklärt werden kann. These ist vielmehr, dass die KI-Dynamik von kollektiven Erwartungen und Technologieversprechen über ihre besondere Leistungsfähigkeit und Problemlösungsfähigkeiten für soziale und ökonomische Herausforderungen getrieben wird. Angeknüpft wird damit an Überlegungen aus der Sociology of Expectations, wonach Erwartungen als treibende Kräfte von Innovationen und der kapitalistischen Dynamik generell zu begreifen sind. Die Analyse wird daher vom innovationstheoretischen Konzept der Promising Technology angeleitet. Damit wird ein Modell des Zusammenhangs von Technologieentwicklung und gesellschaftlichen Strukturwandel entworfen: ausgehend von einem Technologieversprechen und seiner fortlaufenden Präzisierung werden Handlungsverbindlichkeiten und zunehmend stabile Koordinationsmuster heterogener Akteure generiert, die in sozialen Ordnungsstrukturen und einem neuen soziotechnischen Feld münden. In diesem Sinn ist KI als Promising Technology zu verstehen.

Die zweite Hauptfrage bezieht sich auf den wechselseitigen Zusammenhang der Genese des soziotechnischen Feldes KI mit gesellschaftlichen Bedingungen. Der Analysefokus richtet sich dabei auf das gesellschaftliche Innovationssystem (IS) mit seinen Institutionen, Interaktionsmustern, Akteurskonstellationen und eingespielten Innovationspraktiken. Mit diesem Konzept werden sowohl die gesellschaftliche Bedingtheit von Technologieentwicklung als auch ihre Rückwirkungen auf Gesellschaft thematisiert. Es wird davon ausgegangen, dass die KI-Dynamik einen nachhaltigen Druck auf eine strukturelle Neujustierung des Innovationssystems ausübt.

Eine dazu ergänzende Frage hat vergleichenden Charakter, um die aktuelle KI-Dynamik anhand von Parallelitäten und/oder Divergenzen zu anderen Technologiefeldern verdeutlichen zu können. Diese Frage richtet sich zum einen historisch vergleichend auf frühere Technologieschübe. Dabei sollen frühere Technologieversprechen in Wechselwirkung mit ihren jeweiligen Strukturbedingungen in den Blick genommen werden. Sie richtet zum anderen aber auch den Blick international auf weitere, für die KI-Entwicklung hoch relevante Länder wie die USA und dort ablaufende KI-Entwicklungsmuster.

Expertisendesign

1. a) Untersuchungsfeld

Empirisch soll sich die Analyse auf den vergangenen und laufenden nationalen und europäischen KI-Diskurs und Entwicklungsaktivitäten, aber auch den einflussreichen internationalen Diskurs beziehen. Soweit aufgrund des ausgeprägt internationalen Charakters der KI eingrenzbar, ist das primäre Untersuchungsfeld ist die KI-Dynamik in Deutschland und der damit verbundene strukturelle Wandel des deutschen, traditionell industriell geprägten Innovationssystems.

Um die KI-Dynamik zureichend analysieren zu können, soll ein doppeltes Vorgehen verfolgt werden:

• Einerseits sollen die Fragen bezogen auf die KI-Entwicklung generell in Hinblick auf ihren Charakter als neue Basistechnologie untersucht werden.
• Andererseits aber sollen, soweit zu einer tiefer gehenden Klärung sinnvoll, exemplarisch KI-Entwicklungen für konkrete Anwendungsfelder analysiert werden.

Aus dem breiten Feld absehbarer KI-Anwendungen sollen dafür die Sektoren von Dienstleistung und Produktion ins Auge gefasst werden. Denn diese Anwendungssektoren gelten als besonders relevant für KI.

1. b) Methode

Die Expertise soll mit einem Mix qualitativer Methoden bearbeitet werden:

• die Reinterpretation bisheriger eigener Ergebnisse der Digitalisierungsforschung und eine laufende Literaturanalyse deutscher und internationaler Literatur, Dokumente etc. zu Bedingungen und Mustern der KI-Entwicklung,
• eine Diskursanalyse des laufenden Diskurses über KI auf der nationalen und europäischen Ebene,
• empirische Erhebungen mit einer Reihe von Interviews mit Experten aus der Wissenschaft, von Unternehmen, Verbänden sowie der Innovationspolitik.

Zielsetzung

Die zentrale Zielsetzung der Expertise ist eine zusammenfassende Analyse der vergangenen und gegenwärtigen Entwicklungsdynamik der KI und eine Bewertung ihrer weiteren Entwicklungsoptionen. Besonders geht es dabei um die Frage, inwieweit von einem deutschen/europäischen Entwicklungspfad von KI gesprochen werden kann und welche Merkmale und Perspektiven er aufweist. Darüber hinaus sollen Forschungsdesiderata, offene empirische und konzeptionelle Fragen sowie Politikempfehlungen wie neue Ansätze der Forschungs- und Innovationspolitik begründet werden.

KI als gesellschaftliche Verheißung

Ausgangslage und Fragestellung: Zukunftshoffnungen jenseits des Technischen

Zwar sind zeitgenössische Gesellschaftsdiagnosen diskursiv umkämpft, gleichwohl lassen sich Krisenphänomene auf individueller, kollektiver und zunehmend auch planetarer Ebene übergreifend als Erschöpfungssyndrome einordnen. Immer deutlicher lässt sich die Welt nur noch über regressive apokalyptische Hermeneutiken und Bilanzierungen fassen oder anhand von Theorien der Fragilität oder Überforderung beschreiben. Vor dem Hintergrund zunehmender Verunsicherung tritt das Imaginationsfeld künstlicher Intelligenz (KI) mittlerweile auf rezeptionsbereite Publika, die sich offen für Verheißungserzählungen zeigen. Diese liegen in Form von utopischen Fortschrittsgeschichten, Meta-Analysen, Hype-Zyklen, politisch-normativen Leitbilder, Visionen von KI-Schaffenden, Medienberichten oder auch zahlreichen fiktionalen Darstellungen vor. Als prognostischen Narrative repräsentieren Verheißungserzählungen Erwartungshorizonte und Zukunftshoffnungen zwischen Technikversprechen und Technikgläubigkeit. Gemeinsam läuten sie ein neues Zeitalter der Verheißungen ein.

Vor diesem Hintergrund stellt sich die Frage, worüber Menschen eigentlich reden, wenn sie über KI sprechen: Welche Wirklichkeitskonstrukte, Versprechensdynamiken und handlungsleitenden Weisungsgehalte verbinden sich in verheißungsvollen Zukunftsnarrativen? Eine soziologische Perspektive auf Verheißungen stellt hierbei nicht die Funktionalitäten von KI als Technik in den Mittelpunkt, sondern die Relevanzen von Bedeutungszuschreibungen an diese Technik. Ein vorurteilsfreies Verständnis zeitgenössischer Verheißungen zu KI als sozio-technische Imaginationen braucht daher Perspektivenvielfalt und Polyvokalität (Vielstimmigkeit), um die Vielfalt dieser Zuschreibungen angemessen zu erfassen.

Methodisches Vorgehen: Vielstimmigkeit als Seismograph

Deshalb wurden erstens sehr unterschiedliche Quellen über KI gesichtet – von wissenschaftlichen Fachtexten über politische Positionspapiere und ethisch-normative Leitbilder bis hin zu Science-Fiction-Formaten sowie Kunstprojekten. Dieser umfassende narrative Wissensraum über KI diente als Diagnoseinstrument, weil er epochentypische Reflexionsprozesse spiegelt. Verheißungserzählungen repräsentieren Experimentierfelder, in denen „Als-Ob-Welten“ gedanklich erprobt werden. Somit lassen sich Stimmungen, Fantasien, Werte- und Moralvorstellungen, die technologische Entwicklungen flankieren, seismographisch erfassen. Ausgehend von vier prototypischen Erzählweisen über Zukunft, die in unterschiedlicher Intensität und Mischung dystopische oder utopische Perspektiven repräsentieren, wurden verheißungsvolle KI-Narrative in einen Gesamtzusammenhang gebracht. Zweitens wurden in begleitenden Gesprächen mit Expert:innen aus sehr unterschiedlichen Feldern Formen gruppenspezifischer Binnenkommunikation, Identifikationspotenziale sowie sinnstiftende und handlungsleitende Prognosefunktionen von Verheißungserzählungen systematisch rekonstruiert. Zukunftsnarrative verbinden Vorannahmen, Informationen und Wahrnehmungen, sie erzeugen Sinn, der von Rezipient:innen als authentische Beschreibung der sozialen Wirklichkeit wahrgenommen wird. Ausgehend von religiös-theologischen Heilsgeschichten wurden drittens Traditionslinien von Verheißungserzählungen rekonstruiert. Dabei wurde im Kontext von KI die Renaissance der Heilssehnsucht im Gewand impliziter Quasi- bzw. Ersatzreligionen sowie die Verschmelzung eines substanzialistischen mit einem funktionalistischen Religionsbegriff sichtbar. Übergreifend konnte gezeigt werden, wie Zukunftseuphorie an die Stelle ehemals hartnäckiger religiösen Erfahrung trat.

Ergebnis: Zukunftseuphorie als Trost

Verheißungsnarrative sind weder Bedienungsanleitung noch Technikfolgenabschätzung, sondern spekulative Bedeutungszuschreibungen innerhalb eines epochentypischen Settings. Ihre primäre Wirkung beruht auf der Erzeugung von Zukunftseuphorie, ihre sekundäre Funktion besteht in ihrer latenten Tröstungsfähigkeit. Das zentrale Ergebnis ist daher die These der Zukunftseuphorie als Trostersatz. Um diese These argumentativ zu erhärten, wurde in Anlehnung an Hans Blumenbergs Ethik des Trostes eine philosophisch-anthropologische Einordnung von Trost vorgenommen um dann Trost als soziale Form und kommunikative Gattung neu einzuordnen: Zukunftseuphorie in Form von Verheißungsnarrativen ist ein zeitgemäßes Format welthaltigen („mundanen“) und daher tragfähigen bzw. handlungsleitenden Trostes. In verheißungsvollen KI-Narrativen verbinden sich (bekannte) rhetorische Trostmittel mit (neuen) lebenspraktischen Versprechen. Verheißungen sind tröstende Sprachbilder und handlungsleitende Konventionen zugleich. Zukunftseuphorie hat damit eine metaphorische und eine praktische Signatur: das Phänomen KI kann übergreifend als kollektives Tröstungsprojekt verstanden werden. Verheißungsgeschichten sind Teil einer unverzichtbaren Sinnstrategie, die Zukunft erst möglich macht.

Diskussion und Ausblick: Neue Leitfähigkeit für soziale Utopien

Verheißungsnarrative sind Fortsetzungsgeschichten zwischen Gegenwart und Zukunft – einerseits noch (teils empirisch und theoretisch fundierte) Gegenwartsdiagnose, andererseits bereits prognostische und (hoch)spekulative Zukunftsszenarien. Sie dienen als Katalysator für entlastende Zukunftseuphorie, die in säkularisierten, sozial erschöpften und sich trasnformierenden Gesellschaften als nachgefragter Trostersatz wirkt. Verheißungserzählungen lassen sich zwischen skeptischer Verweigerung und naiver Technikgläubigkeit verorten und somit zwischen einem dystopischen und einem utopischen Wahrnehmungsrahmen.

Gerade die Vielzahl zeitgenössischer Katastrophenszenarien macht es notwendig, über hoffnungsvolle Gestaltungsoptionen und eine positive bzw. utopische Zukunftsethik nachzudenken. Krisenbewusstsein und Zukunftseuphorie bedingen sich gegenseitig. Zukunftsdesign darf allerdings nicht allein von den Risiken der Technik ausgehen, sondern einerseits den Menschen selbst als Risiko sehen, andererseits Gestaltungsoptionen zwischen Erfolg und Ernüchterung betonen. Offen bleibt dabei die Frage, ob und wie verheißungsfreie Zukunftserzählungen im Kontext einer progressiven Zukunftsethik aussehen könnten. Deren Funktion bestünde darin, die gesellschaftliche Leitfähigkeit für soziale Utopien zu steigern und jenseits von technikdeterministischen Narrativen einen Beitrag zum zivilisatorischen Wandel zu leisten. Verheißungsfreien Narrative müssten kognitive Emanzipation von KI ermöglichen, anstatt kognitive Entlastung durch KI zu versprechen. Hierzu braucht es ein produktives Zusammenspiel von differenzierter und wertfreier Wissenschaft sowie engagierten Narrativen im Kontext transformativer Szenarien jenseits redundanter Darstellungen von Vor- und Nachteilen von KI. Hierbei geht es darum, den Menschen und nicht die Technik als Risiko zu sehen. Hierfür gibt es erste positive Beispiele künstlerischer Forschung zu KI, die empirisch fundiertes Krisenbewusstsein und utopische Zukunftseuphorie produktiv verbinden. Zur euphorischen Aufbruchsstimmung der Unternehmen, die KI als Schlüsseltechnologie des 21. Jahrhunderts zelebrieren und zur medialen Euphorie in Form verheißungsvoller KI-Narrative, gehört schließlich auch die Akzeptanz der Bürger:innen als Optionsschein auf eine bessere Zukunft.

Kartierung von Akteuren im aktuellen KI-Diskurs

Kartierung von Akteuren im aktuellen KI-Diskurs

Mittels einer Literatur- und Diskursanalyse soll hier ein systematischer Überblick gegeben werden über die relevanten Akteure im Feld, ihre Motive und Interessen, sowohl im wissenschaftlichen als auch im populären KI-Diskurs: Wer spricht wie über KI, wer schürt Erwartungen oder Befürchtungen, wer lanciert welche Prophetien und verfolgt welche Interessen und Strategien? Wer wird aus welchen Gründen als relevant inszeniert und als Expert*in (wie legitimiert?) wahrgenommen im Kreis der Prediger digitaler Utopien oder in dem der (zuweilen apokalyptischen) Warner?

Ziel ist eine wissenschaftlich fundierte Studie, die die Akteure der diskursiv produzierten und medial vermittelten Erwartungen und Zukunftsversprechen der KI in der Landschaft des realen oder imaginierten sozialen Wandels möglichst differenziert und strukturiert verortet. Der Fokus liegt dabei auf den deutschsprachigen Debatten und deren Rezeption des trans-/internationalen KI-Diskurses.

In einem I. Schritt sollen die Akteure im Diskurs verortet und thematisch kartografiert werden nach den verschiedenen Ebenen ihrer gesellschaftlichen Rezeption und Wissensproduktion. Dabei lassen sich drei Akteurs-Felder grob unterscheiden: die den KI-Diskurs mit Abstand am meisten und lautesten bestimmenden Akteure diesseits des Höhenkamms, wie die einschlägigen Prophet*innen der KI (Autor*innen, Journalist*innen, maßgebliche IT-Firmen) in der populären, massenmedialen KI-Vermittlung. Dann die zentralen Akteure im wissenschaftlichen Diskurs der KI-Entwicklung, die technischen Expert*innen: Welche Ansprüche und Argumentationsmuster sind hier leitend? Welche Sprache, Deutungsmuster und Zukunftsnarrative prägen den Diskurs auf dieser Ebene, wer formuliert hier weshalb KI-Euphorie oder -Skepsis? Nicht zuletzt soll der geisteswissenschaftliche Meta-Diskurs zur KI hinsichtlich seiner maßgeblichen Positionen und Akteure skizziert werden. Besonders im Fokus werden die fachspezifischen Unterschiede der Zugänge und Perspektiven sein, z.B. in der Soziologie, Philosophie, Medientheorie. Und die Frage: Welche Rolle nehmen sie im Gesamtdiskurs ein – sowohl ihrem eigenen Anspruch nach, als auch gemäß der medialen Rezeption und dem gesellschaftlichen Echo nach zu schließen?  

In einem II. Schritt soll eine Kartierung in topographischer Hinsicht vorgenommen werden, indem die Machtverhältnisse zwischen den Akteuren und den genannten Akteurs-Ebenen befragt und die (expliziten wie impliziten) Hierarchien im KI-Diskurs aufgezeigt werden: Wer prägt die gesellschaftlich wirksamen Leitbilder und Zukunfts-Narrative der KI, wer bestimmt die Sprachspiele und Debatten dazu in welchem Maß? Wer muss sich auf wen beziehen – und wer hat die Deutungsmacht? Die drei oben genannten Diskursebenen stehen in einem rekursiven Wechselspiel und paradoxen Anerkennungsverhältnis: entgegen ihrer vorgeblich technisch-rationalen Standards und Ansprüche an Wahrheit und Glaubwürdigkeit, ist der Diskurs z.T. hochemotional und vielmehr von Marktlogiken der medialen Wirklichkeit geprägt.

Für eine Kartierung in der Fläche und mit Blick auf die impliziten Machtverhältnisse ist es aber auch erforderlich zu fragen, wo die weißen Flecke auf der Karte oder blinden Flecken im Diskurs zu finden sind: Wer kommt nicht vor, wer ist strukturell und systemisch ausgeschlossen im Feld der relevanten Akteure? Inwiefern erfolgen strukturelle Ausschlüsse aus der Landschaft der Zukünfte und KI-Akteure?

Dabei tritt der krasse Gender Gap (allgemeiner: der „Digital Gender Gap“) ebenso in den Blick und in den Fokus der Analyse, wie der „Coded Bias“, der algorithmisch verankerte Rassismus in der KI, der zu einer strukturellen Ungleichverteilung von Zugang und Ressourcen führt. Denn Frauen oder People of Color spielen in dem Feld in signifikantem Maß nicht mit: weder in der technischen Entwicklung, noch als datenrelevanter Teil der Menschheit in der Algorithmen-Programmierung, und auch nicht als relevante Stimmen oder Akteure im Diskurs. Das gilt, wie sich zeigen lässt, für alle Ebenen der medialen Rezeption und Wissensproduktion.

Insofern mündet diese Untersuchung in die Frage, wie es kommt, dass ein weltweit gesellschaftlich so maßgeblicher Diskurs wie der zur KI, der zudem ein Tätigkeits- und Wissensfeld betrifft, das unser aller Zukunft stark wandeln und prägen wird, im Hinblick auf die Akteure im Feld derzeit hoch exklusiv ist, und durch die Art und den Fokus einseitiger Datenerhebung und Diskurszugänge auch in Zukunft exkludierend sein wird: Wie spielt das zurück auf die menschlichen Belange, wie Bildung, die Gestaltung von Politik und des Sozialen?