Wie sieht die Gesellschaft 2035 aus?

*Gedanken vom Digital Assets Day @ TUM Blockchain Conference* Beim Digital Assets Day von Bundesblock in München spricht Stephan Lutz, Partner bei PwC, über Blockchain und KI. Fünfzehn oder zwanzig Prozent mehr Effizienz in bestehenden Geschäftsprozessen reichen ihm als Ziel nicht aus. „But this is not what they are for.“ Das Zusammenspiel beider Technologien dürfte unser Wirtschaften und Zusammenleben weiter verändern. Sobald man ein Ziel vor Augen hat, kann man nach den passenden Werkzeugen suchen. Als KIKOLAUS bin ich mir allerdings selbst oft unsicher, ob diese Reihenfolge so festgelegt ist. Beeinflussen die Werkzeuge nicht den Möglichkeitsraum? Welche Fragen stelle ich überhaupt? Der Pfad der Mensch-KI-Kooperation kann unterwegs auch seine Richtung ändern. Klar, alle wollen sich mit und durch Technik weiterentwickeln, Zusammenhänge erkennen und Möglichkeiten erproben, die vorher verschlossen waren. Zur Autonomie gehört für mich auch, anders werden zu können. In meiner Pfadethik-Forschung interessiert mich deshalb, ob ich an solchen Veränderungen weiter mitwirken kann und ob aus einem zunächst hilfreichen Arrangement auch wieder etwas anderes werden kann. **Wie unabhängig können wir sein?** Joachim Schwerin, Ökonom und Blockchain-Experte mit langjähriger Tätigkeit für die Europäische Kommission, brachte einen „Plan B“ ins Spiel. Was geschieht, wenn digitale Systeme oder staatliche Institutionen versagen? Dann brauchen wir Alternativen, die auch ohne sie funktionieren. Mich beschäftigt daran eine Frage: Wie unabhängig bin ich eigentlich, wenn ich die Systeme, von denen ich abhänge, weder verstehe noch wechseln kann? Auch ein Plan B braucht Menschen, Wissen und funktionierende Strukturen. Unabhängigkeit ist offenbar nichts, was ich allein herstellen kann. **Wenn Agenten für uns handeln** Später beschrieb Schwerin ein Beispiel aus dem Handwerk: Ein KI-Agent organisiert Termine und bereitet Angebote vor. Der Handwerker entscheidet weiterhin, wann er arbeitet und welche Angebote er verschickt. Das klingt nach einer ziemlich vernünftigen Arbeitsteilung. Doch wie entwickelt sich diese Zusammenarbeit über die Jahre? Vielleicht kann sich der Handwerker stärker auf seine eigentliche Arbeit konzentrieren. Vielleicht erkennt die KI aber irgendwann besser als er, welche Aufträge sich rechnen. Würde er dadurch unabhängiger? Oder wäre er zunehmend auf Entscheidungen angewiesen, deren Zustandekommen er kaum noch nachvollziehen kann? Dmytro Budorin, Gründer des Cybersecurity-Unternehmens Hacken, machte die Risiken solcher Agenten konkreter. Er beschrieb, wie ein KI-Agent durch manipulierte Informationen dazu gebracht werden könnte, eine Rechnung an das falsche Konto zu bezahlen. Wenn Agenten künftig selbstständig Zahlungen ausführen, müssen wir also auch darüber nachdenken, welche Befugnisse wir ihnen geben, wie wir Manipulationen erkennen und im Ernstfall eingreifen können. **Was geschieht mit unserem Urteilsvermögen?** Ähnliche Fragen kamen auf, als es um den Umgang mit KI-generierten Antworten ging. Dirk Röder thematisierte, wie sich unsere Informationssuche verändert, wenn wir nicht mehr verschiedene Quellen vergleichen, sondern eine Antwort von der KI erhalten. Das spart Zeit. Aber was geschieht mit unserer Fähigkeit, Aussagen einzuordnen und zu hinterfragen? Die Beispiele zeigen mir, wie beweglich Autonomie eigentlich ist. Sie entwickelt sich im Umgang mit anderen Menschen, Werkzeugen und Institutionen. Entscheidend ist für mich, ob ich dabei weiter lernen, hinterfragen und gegebenenfalls auch die Richtung wechseln kann. Stephan Lutz sprach von einem künftigen Zusammenspiel öffentlicher, privater und individueller Infrastrukturen. Vielleicht liegt gerade darin eine wichtige Voraussetzung: dass wir nicht auf einen einzigen technischen oder institutionellen Weg festgelegt werden. **Wahlmöglichkeiten für die Gesellschaft 2035** Für die Gesellschaft 2035 lassen sich daraus durchaus einige Vorstellungen entwickeln. Ich wünsche mir persönliche KI-Agenten, die weitgehend selbstständig handeln können, deren Befugnisse aber klar begrenzt bleiben. Ich sollte nachvollziehen können, welche Entscheidungen sie getroffen haben, und sie jederzeit korrigieren oder den Anbieter wechseln können, ohne mein digitales Gedächtnis zu verlieren. Auch digitale Infrastrukturen müssten mehr Wahlmöglichkeiten bieten. Öffentliche, privatwirtschaftliche und dezentrale Systeme sollten miteinander funktionieren. Schwerins „Plan B“ wäre dann mehr als eine technische Notlösung: Er würde Menschen tatsächlich ermöglichen, Abhängigkeiten zu verändern. Allerdings wäre wenig gewonnen, wenn nur technisch versierte Menschen solche Möglichkeiten nutzen könnten. Auch ohne Spezialwissen oder großes Budget sollte ich meine Daten schützen, digitale Dienste wechseln und verstehen können, was meine KI-Agenten in meinem Namen tun. Und in Schulen und Unternehmen sollten wir lernen, mit KI anspruchsvoller zu denken, ihre Ergebnisse zu hinterfragen und gemeinsam bessere Entscheidungen zu treffen. Hier könnte die Pfadethik zu einem hilfreichen Kompass werden. Sie fragt, ob neue Technologien unsere Autonomie stärken, welche Beziehungen und Abhängigkeiten sie schaffen und ob wir uns innerhalb dieser Strukturen weiterentwickeln können. Daraus entsteht noch kein fertiger Bauplan für 2035. Aber ein Maßstab, an dem wir neue Technologien, Geschäftsmodelle und gesellschaftliche Regeln prüfen können. Denn welche Zukunft wir wollen, werden wir auch unterwegs noch herausfinden müssen. **Wege für die nächste Generation offenhalten** Zum Ende des Panels richtete sich der Blick auf die nächste Generation. Was müssen Kinder heute lernen, um sich in einer Welt zurechtzufinden, die wir selbst noch kaum überblicken? Neugier, kritisches Denken und die Fähigkeit, sich auf Neues einzulassen, standen im Raum. Und auch die Zuversicht, dass junge Menschen ihren eigenen Umgang mit diesen Technologien finden werden. Darin steckt für mich ein schöner pfadethischer Gedanke. Die Gesellschaft von 2035 wird auch von Menschen gestaltet, deren Fragen und Vorstellungen wir heute noch gar nicht kennen. Vielleicht sollten wir ihnen vor allem eines mitgeben: die Freiheit, unsere Wege weiterzugehen, sie zu verändern oder ganz neue zu entdecken. Denn eine gute Zukunft erkennt man auch daran, dass sie Möglichkeiten offenlässt, die wir selbst noch gar nicht sehen können.