Früher: Fragen Sie Ihren Arzt oder Apotheker! Heute: Fragen Sie Ihre App!?

Kommentar von Prof. Dr. Jörg Hübner, Direktor Evangelische Akademie Bad Boll

An die freundliche Erinnerung von Siri oder an die angenehme Stimme von Alexa haben sich mittlerweile viele Zeitgenossen gewöhnt. Natürlich. Siri fragen oder Alexa einen Auftrag erteilen – das gehört mehr und mehr zum Alltag hinzu. Selbstverständlich. Dies alles ist jedoch nur die schöne Oberfläche einer Transformation unseres Lebens, die sich eher im Verborgenen und sich doch in einer dramatischen Dynamik vollzieht: der Einzug der Künstlichen Intelligenz (KI) in Medizin und Gesundheitsversorgung.

Sprunghaft haben sich die Anwendungsmöglichkeiten in den letzten Monaten erweitert: Eine App erkennt mit einer Wahrscheinlichkeit von 80% an unserer Sprache, ob wir an einer Depression erkranken werden. Die 90prozentig sichere Diagnose eines Polypen während einer Darmspiegelung erfolgt mittels KI innerhalb einer Sekunde. Demente Menschen werden mit Sprachrobotern aktiv gehalten. Sportuhren erkennen am Herzschlag zu 90%, ob Diabetes droht oder ein Herzinfarkt bevorstehen könnte. Das Überleben schwerkranker Menschen kann mit 85prozentiger Wahrscheinlichkeit nach Eingabe aller Patientendaten vorhergesagt werden. Bei unklaren Beschwerden konsultiere ich eine App, die mir sagt, was die Ursache sein könnte und wie ich mich zu verhalten habe.

Noch ist der Diskurs über KI in Medizin und Gesundheitsversorgung kein großes öffentliches Thema. Andere große Herausforderungen, beispielsweise die Klimakrise oder die Transformation in der Automobilwirtschaft überlagern die Debatte um die Anwendung dieser Technikentwicklung bisher weitgehend. Jedoch sollte es dabei nicht bleiben: Denn es geht um die Grundlagen unseres Lebens, es geht um den Schutz der menschlichen Würde und es geht um Datensouveränität. In allem geht es um die zu schützende Freiheit des Menschen.

Der Theologe und Widerstandskämpfer Dietrich Bonhoeffer hat dazu schon 1940 in seiner „Ethik“ die entscheiden Fragen gestellt. Die Technik, so Dietrich Bonhoeffer, sei im neuzeitlichen Abendland zum Herrschaftsinstrument des Menschen über die Natur geworden. Wörtlich schrieb er in der Zeit des Widerstands: „Die Technik wird Selbstzweck, sie hat ihre eigene Seele, ihr Symbol ist die Maschine, die gestaltgewordene Vergewaltigung und Ausbeutung der Natur.“ Dietrich Bonhoeffer warnte damals davor, die Grundlagen des Lebens dem Fortschritt der Technik opfern zu wollen. Heute geht es im Umgang mit der Technik um noch mehr: Die mit Wucht vorangetriebene Forschung an der KI-Technik darf nicht dazu verleiten, dass die Freiheit des Menschen der Technik zum Opfer fällt.

Wie und wo wird diese grundsätzliche Anfrage im Gesundheitssystem, das mehr und mehr KI anwendet, konkret?

Zwei Beispiele: Die Diagnose der Ärztin oder des Arztes z.B. in der Tumor-Erkennung erfolgt in Zukunft KI-unterstützt. Das ist gut so und ein enormer Fortschritt der Technik z.B. in der Erkennung von Melanomen. Welche Therapie sich daraus ergibt, ist aber noch lange nicht klar. Hier darf die Ärztin oder der Arzt nicht zum „Handlanger“ der Technik werden, sondern hat den enorm bedeutsamen Auftrag, den ganzen Menschen zu sehen und daraus in der Beratung mit der Patientin oder dem Patienten die nötigen Schlussfolgerungen zu ziehen. Oder: Jede Gesundheits-App setzt Wertungen und Entscheidungen voraus. Besonders deutlich wird dies bei der App, die an der Sprache erkennt, ob der Redende in der Gefahr steht, ein Depressionsfall zu werden. Die Algorithmen, die dieser Wertung zugrunde liegen, setzen viel voraus – möglicherweise auch die Zwangsläufigkeit der zukünftigen Erkrankung. Dass das Leben aber auch anders mit einemspielen kann und gesundmachende Begegnungen möglich sind, bleibt dabei gegebenenfalls außen vor. Mittels der App besteht die Gefahr, dass der betroffene Mensch sich als determiniert erfährt. Erst recht bedroht die App die Freiheit des Menschen, wenn sie sogar in die Lage versetzt wird, den „Freunden“ Mitteilung davon zu machen, dass hier ein „Freund“ depressiv werden könnte. Welche fatalen Folgen könnte dies für den Umgang der Betroffenen miteinander haben?

Die unbezweifelbar vorhandenen Schätze der Entwicklung von KI können nur gehoben werden, wenn wir bereits während des Entwicklungsprozesses die den Technologien zugrundeliegenden Imaginationen hinterfragen. Und auch nicht den Mut verlieren, für Maßstäbe, die unserer Wahrnehmung entsprechen, notfalls entschieden einzutreten. Der Diskurs um die Ausrichtung der KI in Medizin und Gesundheitsversorgung muss deswegen offen geführt werden. Er darf keineswegs zum Experten-Dialog der „Eingeweihten“ verkommen, denn es geht um die uns von Gott geschenkte Freiheit zur Gestaltung des Lebens.

Um es noch einmal mit dem Beispiel des Anfangs zu sagen: Siri soll uns auch weiterhin nur freundlich fragen. Ob wir die Frage zulassen, liegt immer noch bei uns. Und Alexa soll uns mit der angenehmen Stimme auch weiterhin lediglich daran erinnern, dass wir den Ofen ausschalten müssen, wenn wir das Haus verlassen. Aber sie darf nicht unsere Vergesslichkeit zur Gewohnheit erklären, diese automatisch als Datenpaket weiterleiten und uns zum Objekt gezielter Werbung machen.