Fallstudie: KI-Systeme

# Fallstudie: KI-Systeme Selbstständigkeit, Beziehungen und Verantwortung Ein Sprachmodell formuliert eine überzeugende Antwort. Ein automatisiertes Fahrzeug reagiert auf seine Umgebung. In beiden Fällen lohnt es sich, genauer zu fragen: Was steuert das System selbst, wovon hängt es ab und wie wirkt es auf andere? Die Pfadethik untersucht diese Fragen als <strong>Autonomie, Anschlussfähigkeit und Persistenz</strong>. Damit lässt sich bereits arbeiten, während die Frage nach einem möglichen Erleben künstlicher Systeme offenbleibt. ### Gedankenbeispiel: ein vollständig autonomes Fahrzeug Stellen wir uns ein Fahrzeug vor, das eine Fahrt ohne menschliche Übernahme bewältigen soll. Es muss auf eine gesperrte Straße reagieren und zugleich das Verhalten anderer Verkehrsteilnehmer berücksichtigen. Eigene Steuerung gehört zur **Autonomie**; der verlässliche Umgang mit seiner Umgebung zur **Anschlussfähigkeit**. Ob diese Fähigkeiten im konkreten System vorliegen, muss geprüft werden. Das Beispiel beschreibt einen Anspruch und liefert keine Messwerte. ### Sprachmodelle Große Sprachmodelle, auf Englisch **Large Language Models (LLMs)**, können Texte aus unterschiedlichen Themenfeldern verarbeiten und miteinander verbinden. Ihr Handlungsspielraum hängt unter anderem davon ab, welche Aufgaben, Werkzeuge und Befugnisse ihnen gegeben werden. Viele mögliche Verbindungen sind noch kein Gütesiegel: Ein Modell kann hilfreiches Wissen erschließen und ebenso falsche Zusammenhänge verbreiten. Anschlussfähigkeit muss deshalb auch nach ihren Wirkungen beurteilt werden. ### Gedankenexperiment: allgemein einsetzbare KI #### Welche Rolle mögliches Erleben spielen würde Als **allgemeine künstliche Intelligenz**, abgekürzt **AGI**, wird hier ein hypothetisches System verstanden, das sehr unterschiedliche geistige Aufgaben selbstständig bearbeiten könnte. Die folgenden Szenarien prüfen eine offene Frage der Theorie: Wie wäre ein solches System zu beurteilen, wenn es Menschen in vielen Fähigkeiten überträfe? Wir unterscheiden zwei Annahmen. Im ersten Szenario hat die KI eigenes Erleben; im zweiten fehlt es. Mit **Qualia** sind die erlebten Eigenschaften einer Erfahrung gemeint, etwa wie Schmerz sich anfühlt oder Rot erscheint. Die Unterscheidung ist ein Gedankenexperiment. Sie liefert keinen Nachweis dafür, ob oder wie künstliche Systeme erleben. #### Szenario A: KI mit eigenem Erleben | Aspekt | Beschreibung | | --- | --- | | Autonomie | Autonomie: Zu prüfen wäre, wie eigene Organisation, Zielbildung und Erleben zusammenwirken. Aus Erleben allein folgt keine bestimmte Stufe der Selbstbestimmung. | | Bewertung | Bewertung: Eigenes Erleben könnte eine zusätzliche Perspektive auf Folgen eröffnen. Daraus folgt noch nicht, dass ihre Urteile richtig wären. | | Rolle des Menschen | Rolle des Menschen: Menschen müssten ihre Erfahrungen, Rechte und Gründe in eine Zusammenarbeit einbringen. Die Bedingungen einer solchen Zusammenarbeit wären auszuhandeln. | | Risiko | Offene Schwierigkeit: Die KI könnte andere Erfahrungen und Prioritäten haben. Wie Konflikte zu entscheiden wären, bleibt eine eigenständige Frage. | #### Szenario B: KI ohne eigenes Erleben | Aspekt | Beschreibung | | --- | --- | | Autonomie | Autonomie: Eigene Steuerung und Selbstorganisation wären auch unter dieser Annahme zu untersuchen. Ziele, Befugnisse und Abhängigkeiten müssten offengelegt werden. | | Bewertung | Bewertung: Das System könnte Folgen und Muster analysieren. Ob ihm ohne Erleben eine eigene wertende Perspektive zukäme, ist umstritten. | | Rolle des Menschen | Rolle des Menschen: Menschen bringen erlebte Folgen, begründete Ziele und Verantwortung für Entscheidungen ein. | | Risiko | Offene Schwierigkeit: Hohe Analyseleistung könnte mit moralischer Urteilshoheit verwechselt werden. Wer Ziele setzt und Entscheidungen verantwortet, muss erkennbar bleiben. | #### Was eine Analyse über Erleben aussagen kann Eine KI könnte beschreiben, wie eine Entscheidung Handlungsmöglichkeiten verändert. Eine betroffene Person erlebt zugleich, was diese Veränderung für sie bedeutet. Wie hängen beide Perspektiven zusammen? Die Pfadethik muss klären, ob ihre Beschreibung der Struktur auch diese erlebte Bedeutung erfasst. Diese ungelöste Spannung heißt hier **Aporie**. Eine bessere Berechnung allein löst sie nicht. #### Erfahrung und Verantwortung einbeziehen Für Entscheidungen müssen die Erfahrungen und Gründe der Betroffenen zugänglich bleiben. Das gilt unabhängig davon, wie leistungsfähig ein System wird. Drei Aufgaben sind dabei: - Erlebte Unterschiede benennen, die in einer Beschreibung der Abläufe fehlen können. - Analysen an Erfahrungen und nachvollziehbaren Gründen prüfen und Widersprüche untersuchen. - Ziele, Rechte und Verantwortung für eine Entscheidung offenlegen. #### Gesellschaftliche Handlungsmöglichkeiten erhalten Die Vorstellung einer überlegenen KI lenkt den Blick auch auf gegenwärtige Gestaltungsfragen. Wer bestimmt die Ziele technischer Systeme? Wer kann ihren Einsatz prüfen oder beenden? Die Pfadethik fragt dabei, wie Menschen und Institutionen ihre Fähigkeit zum Mitgestalten erhalten. | Aspekt | Aktuell | Erforderlich | | --- | --- | --- | | Autonomie | Ziele und Entscheidungsbefugnisse sind häufig auf mehrere Stellen verteilt. | Zuständigkeiten klären und Betroffenen tatsächliche Mitsprache ermöglichen. | | Anschlussfähigkeit | Technische Entwicklung und gesellschaftliche Folgen werden oft getrennt betrachtet. | Rückmeldungen, Widerspruch und unabhängige Prüfung wirksam einbinden. | | Persistenz | Abhängigkeit kann wachsen, während eigene Fähigkeiten schwinden. | Wissen, Ausweichmöglichkeiten und die Fähigkeit zur Korrektur erhalten. | #### Die Zusammenarbeit im Projekt KIKOLAUS Im Projekt arbeiten Mensch und KI an Texten und Analysen zusammen. **Nikolaus Reinelt** setzt die inhaltliche Richtung, prüft Ergebnisse und verantwortet die Veröffentlichung. **KI** unterstützt beim Entwerfen, Strukturieren und Prüfen. Diese Arbeitsweise ist selbst ein Gegenstand der Reflexion; sie belegt keine der Annahmen über künftige AGI. #### Offene Fragen - Welche Bedeutung hat eigenes Erleben für den Wert eines Pfades? - Was kann eine Analyse von Strukturen erfassen, und welche Erfahrungen bleiben ihr möglicherweise unzugänglich? - Wer darf entscheiden, wenn Menschen und KI-Systeme zu unterschiedlichen Bewertungen gelangen? Die Szenarien markieren Forschungsfragen. Für ihre Beantwortung braucht es begriffliche Arbeit, überprüfbare Befunde und eine Klärung der Verantwortung.