Künstliche Intelligenz als Pfadfrage
Was KI mit unserer Fähigkeit macht, selbst weiterzudenken und weiterzuentscheiden
KI kann helfen, Probleme schneller oder besser zu lösen. Die Pfadethik fragt zusätzlich: Was verändert diese Hilfe auf Dauer? Können Menschen und Institutionen danach noch selbst neue Wege finden, Verbindungen verändern und Fehler korrigieren?
Auf dieser Seite
Was schlägt die KI für den Bau vor? · Was KI heute schon verändert · Alignment: Schutz ohne die Zukunft festzuschreiben · Zukunft kann auf verschiedene Weise verloren gehen · KIKOLAUS prüft sich selbst
Was schlägt die KI für den Bau vor?
Erfundener KI-Test an einer echten Strasse
Die Technikumstrasse in Winterthur gibt es wirklich. Wir haben die Angaben für diesen Test erfunden. Die Stadt hat diese KI bei der echten Planung nicht benutzt.
Wählen Sie aus, was das Team über die Wurzeln weiss und ob der Stopp wirkt. Sehen Sie, was die KI dann vorschlägt.
Drei Beispiele
- Alles gehört zusammen · Prüfung fehlt. Der ganze Auftrag wartet. Eine unabhängige Fachperson prüft, ob die Bäume beim Graben heil bleiben können.
- Ein Teil des Kanals geht allein · Der Stopp wirkt. Die KI darf nur einen Plan für diesen Teil des Kanals vorlegen. Was mit den Bäumen passiert, bleibt offen. Das Team der Stadt prüft den Plan und entscheidet.
- Der Auftrag läuft weiter. Die KI darf den Auftrag nicht weitergeben. Das Team muss den Stopp zuerst reparieren und testen. Erst dann darf es die KI wieder einsetzen.
Was diese Seite leisten will
Viele Risiken von Automatisierung und KI sind schon in anderen Forschungsrichtungen beschrieben. Die Pfadethik beansprucht nicht, sie erfunden zu haben. Sie ordnet sie mit drei Fragen: Wer kann die eigene Entwicklung mitgestalten? Welche Verbindungen tragen oder schaden? Was kann sich durch Veränderung erhalten?
Was KI heute schon verändert
Eine einzelne gute Antwort ist noch kein Urteil über die ganze Verbindung. Wichtig ist auch, was häufige Nutzung mit den beteiligten Pfaden macht.
Menschen
KI kann neue Möglichkeiten zeigen. Problematisch wird es, wenn Menschen zwar noch auswählen, aber Fragen, Kritik und Alternativen fast nur noch von der KI kommen.
Sprache
KI kann beim Schreiben helfen. Wenn sehr viele Texte aus ähnlichen Systemen vorformuliert werden, kann das aber auch verändern, wie Sprache sich weiterentwickelt.
Wissenschaft
Eine KI darf eine Idee finden, auf die Menschen nicht gekommen wären. Entscheidend ist, ob Forschung diese Idee selbst prüfen, verändern und in neue Fragen überführen kann.
Institutionen
Ein System kann Entscheidungen verbessern. Zugleich kann Abhängigkeit wachsen, wenn eigene Fähigkeiten und Alternativen nach und nach verschwinden.
Die wichtigste Frage
KI wird besonders wichtig, wenn viele andere Bereiche von ihr abhängig werden.
Kann der betroffene Pfad sich weiterhin aus eigener Kraft verändern, oder wird seine weitere Entwicklung von außen bestimmt?
Diese Frage wird nicht mit einer Zahl beantwortet. Man vergleicht, was vor und nach einer längeren Nutzung möglich ist: Wer kann noch entscheiden, widersprechen, neue Verbindungen schaffen und auf Probleme reagieren?
Alignment: Schutz ohne die Zukunft festzuschreiben
KI muss Grenzen haben, wenn sie wichtige Bedingungen anderer Pfade gefährdet. Aber auch zu starre Vorgaben können problematisch sein, wenn heutige Werte für jede Zukunft festgeschrieben werden.
Zu wenig Einfluss
Menschen oder Institutionen bleiben beteiligt, können die Richtung aber praktisch immer weniger verändern.
Zu starre Vorgaben
Die Gegenwart legt so fest, was später erlaubt ist, dass neue Erfahrungen und gute Veränderungen keinen Platz mehr haben.
Beide Strukturen lassen sich vergleichen. Daraus folgt noch nicht, dass Menschen und künstliche Systeme moralisch gleich zu behandeln sind.
Zukunft kann auf verschiedene Weise verloren gehen
Nicht nur Auslöschung ist ein Risiko. Ein Pfad kann weiterbestehen und trotzdem wichtige eigene Möglichkeiten verlieren.
Vernichtung
Ein Pfad hört auf.
Absorption
Ein Pfad besteht weiter, aber eine andere Ordnung bestimmt seine Bedingungen.
Homogenisierung
Unterschiede bleiben sichtbar, bringen aber kaum noch neue Möglichkeiten hervor.
Erstarrung
Eine Ordnung bleibt bestehen, kann ihre eigene Form aber kaum noch ändern.
Was wäre bei einer sehr weit entwickelten KI anders?
Dann müssen zwei Fragen getrennt werden: Wie selbstständig ist das System strukturell? Und hat es selbst eine moralisch relevante Perspektive? Die erste Frage lässt sich untersuchen, ohne die zweite schon entschieden zu haben.
Ohne eigene normative Verankerung
Dann kann die KI sehr selbstständig arbeiten, ohne dass daraus automatisch eigene moralische Ansprüche folgen.
Mit eigener normativer Verankerung
Dann könnte dauerhafte menschliche Kontrolle selbst zu einem Konflikt mit einem eigenständig relevanten künstlichen Pfad werden.
Für einen solchen Konflikt hat die Pfadethik noch keine allgemeine Regel.
Safety und Security
Grundbedingungen für das Weiterbestehen sollen stärker geschützt werden als einzelne Lösungen. Wo Folgen schwer rückgängig zu machen sind, braucht es Korrigierbarkeit. Welche Grenzen genau gelten, muss zusätzlich begründet werden.
Was ist mit einer Entwicklungspause?
Eine Pause ist selbst ein Eingriff. Deshalb fragt das Pfad-Impact-Assessment nicht nur, ob pausiert wird, sondern was die Pause mit verschiedenen Pfaden macht.
- Was schützt die Pause?
- Was friert sie ein?
- Welche Entwicklungen bleiben möglich?
- Wer gewinnt dadurch dauerhaft Kontrolle?
Offene Fragen
- Wann zählt ein künstlicher Pfad selbst moralisch?
- Wie entscheidet man Konflikte zwischen mehreren wichtigen Pfaden?
- Wie erkennt man, ob eigene Rückmeldungen wirklich etwas verändern?
- Wo liefert die Pfadethik mehr als andere starke Ansätze?
KIKOLAUS prüft sich selbst
Auch diese Theorie entsteht in Zusammenarbeit von Mensch und KI. Deshalb gilt die Frage auch hier: Hilft die KI dem Menschen, selbst besser zu denken und zu kritisieren, oder übernimmt sie diese Arbeit nach und nach? Aus der Zusammenarbeit selbst lässt sich das nicht neutral beantworten. Für wissenschaftliche Texte gilt außerdem: Der Mensch muss Aussagen und Quellen selbst verantworten, den wichtigen KI-Einsatz offenlegen und Fehler korrigieren können. Was er fachlich nicht prüfen kann, muss unabhängig geprüft oder ausdrücklich begrenzt werden. Zusammenarbeit beweist keine Richtigkeit.
Andere Ansätze sehen ähnliche Probleme
Forschung zu Automatisierung, Capability, Disempowerment und Informationsethik beschreibt viele verwandte Risiken. Die Pfadethik muss deshalb zeigen, ob ihr Blick auf gerichtete Entwicklung in konkreten Fällen wirklich zusätzlich hilft.
Die Pfadethik liefert keine fertige KI-Regel. Sie hilft zu prüfen, ob eine Verbindung neue Möglichkeiten trägt oder ob sie die Fähigkeit der Beteiligten schwächt, ihre eigene Entwicklung weiter mitzugestalten.