KI soll Routinearbeit abnehmen, Kosten senken und Entscheidungen beschleunigen. Doch aus einer besseren technischen Leistung folgt noch keine bessere gesellschaftliche Ordnung. Wer KI-Ablehnung verstehen will, muss deshalb fragen: Was verbessert sich, für wen, und welche künftigen Handlungsmöglichkeiten werden dafür aufgegeben?
Nehmen wir eine Behörde, die KI zur Bearbeitung von Anträgen einführt. Das System fasst Unterlagen zusammen und bereitet Entscheidungen vor. Beschäftigte prüfen und unterschreiben weiterhin. Antragsteller könnten schneller Antworten erhalten, Beschäftigte mehr Zeit für schwierige Fälle gewinnen.
Die Leitung könnte die Zeitersparnis aber auch vollständig in höhere Fallzahlen übersetzen. Dann schrumpft die Gelegenheit zur Prüfung, während die Verantwortung unverändert bleibt. Widersprechen Beschäftigte dieser Umstellung, bestreiten sie nicht unbedingt den Nutzen der KI. Sie bestreiten, dass die gewählte Verwendung dieses Nutzens eine Verbesserung ist.
Eine alte Verwechslung
Ab 1811 zerstörten englische Textilarbeiter Web- und Wirkmaschinen. Diese Maschinenstürmer, auch Ludditen genannt, kämpften im frühen 19. Jahrhundert unter anderem gegen Lohnverschlechterungen und die Entwertung qualifizierter Arbeit. Sie waren selbst mit Maschinen vertraut. Ihre Konflikte lassen sich deshalb nicht auf die Angst vor unbekannter Technik reduzieren.
Der historische Vergleich rechtfertigt keine Maschinenzerstörung. Er macht eine Unterscheidung sichtbar: Eine Produktionsweise kann leistungsfähiger werden, während diejenigen, die bisher von ihr lebten, ihre Existenzgrundlage verlieren. Der technische Zugewinn beantwortet die soziale Frage nicht.
Im Behördenbeispiel geht es nicht um denselben Konflikt. Aber auch hier würde der Hinweis auf mehr erledigte Vorgänge den Einwand verfehlen. Kürzere Wartezeiten, gute Entscheidungen, tragfähige Arbeitsbedingungen und öffentliche Ausgaben gehören gemeinsam in die Beurteilung. Keines dieser Anliegen verschwindet dadurch, dass die Software schneller arbeitet.
Was der heutige Gewinn morgen verändert
Die pfadethische Analyse verfolgt diesen Konflikt über die unmittelbare Verteilung hinaus. Sie fragt, ob die neue Arbeitsweise auch die Fähigkeit erhält, ihre späteren Folgen zu erkennen und den Einsatz weiterzubestimmen.
Wenn Beschäftigte seltener selbst prüfen und Nachwuchskräfte kaum noch fachliches Urteilen lernen, könnte die Behörde zunächst mehr leisten und langfristig weniger eigenständig entscheiden. Mit der Kompetenz würde dann auch ihr Einfluss auf den technischen Anbieter schwinden. Das Freigaberecht bliebe bestehen, seine verantwortliche Ausübung würde schwieriger. Dieser Verlauf ist zu untersuchen, nicht bereits durch die Einführung von KI bewiesen.
Dabei ist die Technik selbst nicht von der Prüfung ausgenommen. Welche Informationen sie zugänglich macht und welche Korrekturen sie zulässt, prägt die Handlungsmöglichkeiten. Auch ihre Ziele können problematisch sein: Eine fachlich kompetente Behörde könnte ein Verfahren zuverlässig betreiben, dessen Kriterien Antragstellern nicht gerecht werden. Gute Kontrolle macht einen ungeeigneten Zweck nicht richtig.
Für Alignment bedeutet das: Es genügt nicht, KI zuverlässig auf bestehende Vorgaben auszurichten. Die Zusammenarbeit muss auch ermöglichen, diese Vorgaben aus begründeter Erfahrung zu verändern.
Woran sich die Einführung bewähren müsste
Im Behördenbeispiel wäre vor einer Ausweitung nachzuweisen, dass Beschäftigte Fehler erkennen und korrigieren können. Dafür gehören unabhängige Informationen, ausreichende Prüfzeit und Lerngelegenheiten zum Einsatzkonzept. Lassen sich höhere Fallzahlen nur erreichen, indem diese Voraussetzungen entfallen, muss die Zielvorgabe geändert werden.
Ebenso muss die Erfahrung der Antragsteller zurückwirken können. Zeigen Beschwerden, dass bestimmte Lebenslagen systematisch falsch eingeordnet werden, reicht es nicht, einzelne Bescheide auszubessern. Dann müssen Kategorien oder Einsatzregeln überprüft werden. Ein Wechsel oder Abbruch muss möglich bleiben, ohne die notwendige Versorgung lahmzulegen.
Das verlangt weder unveränderte Berufe noch Zustimmung zu jeder Kritik. Widerstand kann auch Vorteile einer einzelnen Gruppe verteidigen. Aber wer Aufgaben abbaut, muss erklären, wie Lernen, Verantwortung und berufliche Übergänge künftig getragen werden. Ein allgemeines Wohlstandsversprechen genügt dafür nicht.
KI-Akzeptanz ist damit nicht das Ziel, an dem sich die Einführung entscheidet. Entscheidend ist, ob ihre Vorteile mit einer Ordnung verbunden werden, in der Betroffene auch künftig urteilen, handeln und Veränderungen bewirken können. Ob die Technik diesem Anspruch dient, muss sich im Verlauf zeigen, nicht allein in ihrer Leistungsbilanz.
AI is meant to take over routine work, cut costs and speed up decisions. But better technical performance does not by itself produce a better social order. To understand resistance to AI, we therefore need to ask: What improves, for whom, and which future possibilities for action are given up in return?
Consider a public agency introducing AI to process applications. The system summarises documents and prepares decisions. Staff still review and sign off on them. Applicants could receive answers sooner, while staff could gain more time for difficult cases.
Management could, however, use all the time saved to increase caseloads. The opportunity for review would then shrink, while responsibility remained unchanged. If staff object to this change, they are not necessarily disputing the usefulness of AI. They are disputing whether the chosen use of that benefit amounts to an improvement.
An old confusion
From 1811 onwards, English textile workers destroyed weaving and knitting machines. These machine-breakers, also known as Luddites, fought against falling wages and the devaluation of skilled work, among other grievances, in the early nineteenth century. They were themselves familiar with machinery. Their conflicts therefore cannot be reduced to fear of unfamiliar technology.
The historical comparison does not justify destroying machines. It brings a distinction into view: a way of producing goods can become more productive while those who previously made their living from it lose their livelihoods. The technical gain does not answer the social question.
The public-agency example concerns a different conflict. Yet pointing to more completed cases would miss the objection here too. Shorter waiting times, sound decisions, viable working conditions and public expenditure all belong in the assessment. None of these concerns disappears because the software works faster.
How today’s gain changes tomorrow
The Path Ethics analysis follows this conflict beyond the immediate distribution of benefits. It asks whether the new way of working also preserves the capacity to recognise its later effects and continue shaping how the system is used.
If staff conduct fewer independent reviews and junior colleagues have little opportunity to learn professional judgement, the agency might initially accomplish more while becoming less able to make its own decisions over time. As its expertise declined, so might its influence over the technology provider. The right to sign off would remain, but exercising it responsibly would become harder. This is a possible development to investigate, not an outcome already proven by the introduction of AI.
The technology itself is not exempt from scrutiny. The information it makes accessible and the corrections it permits shape the possibilities for action. Its purposes may also be problematic: a professionally competent agency could reliably operate a procedure whose criteria do not do justice to applicants. Good oversight does not make an unsuitable purpose right.
For alignment, this means that reliably directing AI towards existing requirements is not enough. The collaboration must also allow those requirements to change in response to experience that provides grounds for revision.
What the introduction would have to demonstrate
In the agency example, staff would have to be shown to be capable of recognising and correcting errors before the system’s use was expanded. Independent information, sufficient review time and opportunities to learn therefore belong in the deployment plan. If higher caseloads can be achieved only by removing these conditions, the target must change.
Applicants’ experiences must also be able to feed back into the process. If complaints show that certain life circumstances are systematically misclassified, correcting individual decisions is not enough. The categories or rules governing use must then be reviewed. Switching systems or discontinuing their use must remain possible without bringing essential services to a halt.
This requires neither unchanged occupations nor agreement with every criticism. Resistance can also defend the advantages of a particular group. But anyone eliminating tasks must explain how learning, responsibility and occupational transitions will be supported in future. A general promise of prosperity is not enough.
Acceptance of AI is therefore not the goal by which its introduction should be judged. What matters is whether its benefits are embedded in an arrangement that enables those affected to continue exercising judgement, acting and bringing about change. Whether the technology meets this requirement must become evident over time, not merely in its performance record.