KI als Technologie und soziales Gegenüber

Wir reden über KI, Sehr stark seit ChatGPT einer breiten Öffentlichkeit zugemacht wurde, Ende 2022, noch nicht wahnsinnig lang, aber seither hat diese Beschäftigung mit K.I eine ganz andere Dynamik bekommen als vorher

K.I. zunächst mal als hier eine klassische generative K.I

Programm zur Textgenerierung und dann haben Sie das schon beschrieben

Sehr schnell wurde es aber anders, weitergehender genutzt, eigentlich als die ursprüngliche Konzeption war, nämlich in Form einer Eines Chatbots als eine soziale K.I

wurde als soziales Gegenüber wahrgenommen und genutzt, ne? Und das ist so das, was die meisten Menschen heute denken oder meinen, wenn sie, wenn sie sagen, ‚Hab ich mit K.I

gemacht‘, oder ich frag mich, wo ist eigentlich der Nutzen von K.I

für pastorale Felder oder was auch immer

Und ich denke, es ist einfach wichtig im Blick zu haben, dass wir schon unter einer Perspektive von Nutzerinnen und Nutzern mit ganz unterschiedlichen Programmen zu tun haben

Im Hintergrund haben wir ’ne vergleichbare technologische Struktur

Also das sind jetzt nicht verschiedene Technologien, die Sie hier sehen

Das sind diese Programme der der Mustererkennung und Reproduzierung von Mustern

Das ist das Grundmodell, was im Hintergrund steht

Sie haben da diese Bilderkennung, die im medizinischen Bereich genannt wird, erwähnt

Wir haben ganz andere Programme in Navigationssystemen, Algorithmen zur Werbung, Menschen, die sich für das interessiert haben, haben sich auch für jenes interessiert, Empfehlungsalgorithmen, die tatsächlich den Alltag schon schon lange durchdringen und die nach wie vor an Relevanz nicht verlieren, die auch weitere Nutzungsmöglichkeiten ausweisen, unter Umständen auch für pastorale Tätigkeiten

Ich werd auf ein Beispiel nachher zu sprechen kommen und dann haben wir andere, Bereiche, die auch zum Teil schon genutzt werden, aber vielleicht an Relevanz noch gewinnen können

Das sind einmal K.I

Agenten, da hieß es erst letztes Jahr, das ist das Jahr, in dem die den großen Durchbruch haben

Jetzt heißt es aber, dieses Jahr werden sie kommen, mal schauen, wir wissen es nicht

Aber K.I Agenten unterscheiden sich von den Programmen, die ich jetzt vorgestellt hab, noch mal dadurch, dass sie tatsächlich, sind wir wieder im Bereich der schwierigen Wörter, Handlungen auslösen, wär mir zu viel gesagt, aber dass sie Ereignisse auslösen

Also nicht nur ChatGPT, verfasse mir eine E-Mail, sondern schreibe eine E-Mail und verschicke sie

Oder pastorale Felder, nicht nur Entwurf ein Plakat für das Gemeindefest, sondern kreiere eine Werbekampagne fürs Gemeindefest und setze die Social Media Posts dann zum richtigen Zeitpunkt ab

Ne, dann hätten wir eine Kombination aus diesen verschiedenen Bereichen

erstmal bräuchten wir ’ne Analyse, weil was ist denn der richtige Zeitpunkt, was ist denn die richtige Ansprache für die Zielgruppe

Das kann das Programm generieren und es kann eben auch direkt auslösen, den Impuls jetzt senden, jetzt veröffentlichen

Und wir haben die, die sensorische K.I., was wir zum Beispiel im autoregulierten Fahren kennen, also einfach die, die Wahrnehmung von Wirklichkeit

Ne, Sie können sich die Predigt nicht nur schreiben lassen, Sie könnten ja auch mit einer Gesichtserkennung erst mal schauen, wer ist denn überhaupt heute im Gottesdienst, in welcher Stimmung sind die Menschen da, wie haben die reagiert auf meine Predigt und dann kommen auch passgenau die Fürbitten für den heutigen Tag

Also einfach auch noch mal um bewusst zu machen, dass Sie kennen diese Programme der Gesichtserkennung, der der Emotionserkennung, das haben wir natürlich in vielen Bereichen, wird auch zum Teil eingesetzt, zum Teil diskutiert oder entwickelt und auch da die Kreativität könnte ja zunächst mal breit gehen, Was ist möglich? Also hier geht es mir jetzt zunächst mal einfach drum, so ein bisschen den Horizont zu öffnen

Ich werd nachher Beispiele aus verschiedenen Bereichen immer wieder noch aufgreifen

Warum wir über KI in der pastoralen Arbeit sprechen müssen

Vorbemerkung, Herr Schneider, schließt ein bisschen an das, was ich, was, was ich bei Ihnen rausgehört hab

Ich höre relativ selten Kolleginnen und Kollegen, die sagen: ‚Mensch, das ist eigentlich schade

Ich verbringe den ganzen Tag damit, Predigten zu schreiben, Seelsorgegespräche zu führen, lange theologische Texte zu lesen

Ich bräuchte eigentlich mal ein Programm, das mir das abnimmt, damit ich mich drauf konzentrieren kann, Protokolle zu schreiben, Statistiken zu erstellen und meine E-Mails zu bearbeiten

Also von daher zunächst mal ein Lob, Frau Ambrust

Ich hab rausgehört, das wird in Ihrem Workshop vorkommen, tatsächlich ein Lob auch sich mit diesen Fragen zu beschäftigen

Was kann uns K.I

abnehmen an Routineaufgaben, damit wir vielleicht mehr mehr Raum haben für anderes

Oder noch ein Schritt zurück, für ganz vieles braucht es gar keine K.I

Wenn ich mich im kirchlichen Umfeld umschau, dann würde ich ja manchmal sagen, die, wenn man das Potenzial von Excel ausnutzt oder konsequent mit geteilten Dokumenten, kollaborativen Dokumenten arbeitet, dann hätten wir schon ganz schön viele Effizienzgewinne, um uns noch mal verstärkt auch auf anderes einzulassen

Das ist jetzt nichts, wofür auch ich für 2 Tage auf eine Tagung fahren würde, aber ich glaub, wir müssen tatsächlich so ein bisschen aufmerksamkeitsökonomisch gucken, dass man nicht sagt, weil das das ist, was irgendwie total spannend ist, dass man diese anderen Fragen aus dem Blick verliert und sich, weil man damit einfach vielleicht weniger Lust hat, sich jetzt gedanklich allzu sehr zu beschäftigen, dann macht man da in seinem alten Trott weiter und verliert dadurch aber aus dem Blick, wo wäre ein Potenzial

Und gleichzeitig, Herr Schneider, da haben Sie die Argumente mir wunderbar vorweggenommen, gibt es sehr gute Gründe, sich auch eben mit der mit den Einsatzmöglichkeiten in den im engeren Sinne pastoralen Handlungsfeldern zu beschäftigen, weil ich auch denke, es führt uns an die Grundfragen nach der eigenen Existenz, Grundfragen des eigenen Tuns, des theologischen Reflektierens jetzt sowohl der eigenen Tätigkeit, aber auch dann eben der ethischen anthropologischen Bedeutung dieser Technologie für unsere Gesellschaft zu unserer Kirche insgesamt

Drei Perspektiven auf KI: Ethik, Öffentlichkeit und Theologie

Von daher jetzt die 3 Punkte, über die ich zu Ihnen sprechen möchte

Einmal, und das wird wahrscheinlich zeitlich der der Schwerpunkt sein, tatsächlich die konkreten ethischen Fragen, die sich stellen im Einsatz von KI-Programmen mit einem Schwerpunkt auf pastorale Tätigkeiten

Dann möchte ich aber noch mal ein Schritt zurückgehen und darauf hinweisen, dass es eben nicht nur um diese jeweiligen Einzelentscheidungen geht, welches Programm nutze ich, wie, wofür, sondern auch noch mal die Frage zu stellen, wie verändern sich gesellschaftliche Räume, Diskursräume ganz grundsätzlich durch den vermehrten Einsatz von K.I

Technologien und dann auch eine abschließende Reflexion noch mal zu anthropologischen und theologischen Fragen, die sich aus meiner Sicht stellen

Nutzen und Schaden: Die ethische Abwägung

Ich fang an mit den Ethischen Perspektiven und Sie sehen, ich hab ganz bewusst immer wieder auch auf Literatur zurückgegriffen, die deutlich älter ist, als deutlich älter, älter ist als 2022

Um auch deutlich zu machen, viele der Fragen, die wir jetzt mit ChatGPT diskutieren, sind nicht durch diese generative K.I

erst in die Welt gekommen, sondern haben wir auch vorher schon diskutiert

Es gab in den 2010er Jahren etliche Bemühungen, ethische Kriterien für den Einsatz von K.I

Technologie zu entwickeln

Sie hatten das Thema Vertrauen angesprochen

Das war ja das große E.U

Projekt, Trustworthy A.I., auch da schon die Diskussion, kann eine Technologie vertrauenswürdig sein

Und dann gibt es hier 2 Autoren, Floridi und Coles, die haben so eine eine Metaanalyse gemacht von diversen K.I

Ethikkodizes, die zum Teil aus der Wirtschaft kommen, zum Teil aus der Wissenschaft, zum Teil aus der Politik und haben sind zum Schluss gekommen, dass eigentlich im Wesentlichen die klassischen 4 medizinethischen Prinzipien, die wir von Googerman Childress kennen, auch in den K.I

Ethikkodizes vorkommen und dann ein fünftes Prinzip noch mal Einzug gehalten hat, das der Explizierbarkeit

Ich werd die einzelnen Prinzipien jetzt einmal durchgehen, vielleicht zunächst zum zum Grundverständnis einer solchen Ethik

Man sieht so ein bisschen, die bietet keine klare Hierarchie

Es ist nicht das eine Prinzip, das über den anderen steht

Das heißt, so gut kennen sie alle die Ethik, sie kriegen dadurch nicht ein klares Regelsystem, mit dem sie ableiten können, das ist jetzt richtig und falsch, sondern das bietet eher einen einen hermeneutischen Rahmen

Worauf lohnt es sich hier verstärkt zu schauen, welche Aspekte sollten wir in den Blick haben, wenn wir über einzelne K.I

Anwendungen in ethischer Hinsicht diskutieren

Und das erste wären hier 2, die eng zusammengehören, die Frage des Nutzens und das Prinzip des Nichtschadens

Da gilt, Sie haben einige Beispiele schon genannt, viele der Programme haben ein ganz großes Nutzungspotenzial

Das können Effizienzgewinne sein, das können verbesserte Behandlungsmethoden im medizinischen Bereich sein

Wir haben heute an der Hochschule noch ein Projektantrag besprochen, wo es um um Inklusionsbestrebungen geht, Sprachprogramme Programme für die Nutzung des ÖPNV

Also Menschen, die durchaus Sprachbarrieren irgendwie sich nicht zurechtfinden, die mit dem Busfahrer nicht sprechen können, wie können die im ÖPNV aktiv sein? Man kann das gleich noch weiter denken

Wie ist das mit Gebärdensprache und anderen Formen der Kommunikation, die viele Inklusionsmöglichkeiten eröffnen? Also klar, es gibt Nutzungspotenzial, es gibt eine Faszination, sonst hätten wir auch diese Tagung hier wahrscheinlich nicht angeboten und erst recht wäre niemand gekommen

Gleichzeitig stellen sich natürlich viele Fragen: Was sind mögliche Probleme, an die es zu denken gilt? Wir diskutieren immer wieder den Energieverbrauch von K.I.-Programmen, das Thema des Deskilling

Was heißt es, dass bestimmte Fähigkeiten gar nicht mehr erlernt werden oder verlernt werden? Auch zum Abwägen, wir hatten Anfang des Semesters eine Gastwissenschaftlerin aus Kanada bei uns an der Hochschule, die hat einen Vortrag gehalten und tatsächlich, es lief ein guter Übersetzer, direkt Simultanübersetzer, der ihren Vortrag in Untertiteln an die Wand geworfen hat

Jetzt könnt man sagen, Mensch, Kanada, Englisch, das sollten unsere Studierenden noch eigentlich verstehen

Wenn das nächste Mal jemand aus Rumänien kommt, sind wir wahrscheinlich alle froh drüber und wenn sie hier ihre Tagungen haben, wäre das auch eine Möglichkeit

Aber was heißt es dann, braucht man dann gar nicht mehr Englisch lernen oder was ist die Motivation? Rechts unten sehen Sie eine Grafik, die ich mit Studierenden im Seminar erstellt hab, letzte Woche zum Thema der Subtraktionsethik

ChatGPT, erstelle mir eine grafische Darstellung der Grundprinzipien und Hauptvertreter der Subtraktionsethik

Das hat wunderbar funktioniert, bis wir dann mal auch mal eine klassische Internetrecherche versucht haben und kein Mensch einen Beleg für den Begriff Subtraktionsethik finden konnte

Also wir kriegen eine schöne Darstellung, auch die verschiedenen Beispiele, die wir gekriegt haben

Es war quasi das komplette Who is Who der Ethik beim einen oder anderen Programm als Subtraktionsethiker dargestellt

Also wir hatten Habermas, Rawls, Peter Singer, Aristoteles und natürlich die ganze Niko Paech Postwachstumsgesellschaft

Pure Halluzination gibt es also immer noch, auch wenn natürlich manches besser ist und nicht mehr ganz so gestrickt wie vor ein, 2 Jahren

Wenn man das konkrete Thema rausnimmt, Herr Steinle, das Sie angesprochen haben

Was sind die tatsächlichen psychosozialen Folgen der Nutzung von Chatbots? Ne, da gibt es auch mittlerweile etliche Studien und das wäre eben so was, wo man auch sagen muss, es gibt die therapeutisch ausgerichteten Chatbots schon länger als diese großen Sprachmodelle, also die mit anderen Prinzipien arbeiten

Also auch hier wär immer noch mal wichtig zu gucken, von was für einem Programm spricht man eigentlich und was haben die jeweils für Stärken und Schwächen und können wir feststellen, was das mit Menschen macht, wenn sie das regelmäßig nutzen

Hier unten rechts, das haben Sie vielleicht mitgekriegt, ging vor einigen Wochen durch die Medien, eine Untersuchung der Stiftung Depressionshilfe

Unter allen Befragten geben 65% an, dass sie in den in der letzten Zeit Sprachchatbots für Gespräche über psychische Probleme genutzt haben

Probleme, Programme werden genutzt Und von denen, die bereits eine medizinische Diagnose haben, geben 65 Prozent an, das war gleich gut oder besser wie mit einem Therapeuten oder einer Therapeutin, über meine Probleme zu sprechen

Und gleichzeitig sagen 53 Prozent, sie hatten danach verstärkt Gedanken an Suizid oder Selbstverletzung

Wie gehen wir mit solchen Befunden um und was, wie gilt das für unterschiedliche Formen? Ne, also auch da muss man Chatbot ist wieder ein Oberbegriff

Ist das einfach ChatGPT ohne weitere Vorgabe? Ist das ein spezialisiertes Programm, das mit ganz nach einer ganz anderen Logik arbeitet? Hier unten der Robot, der in U.S.A

von Krankenkassen eingesetzt wird, oder haben wir es mit Freundschaftsavataren, wie bei Replika, die womöglich noch erotisiert sind und hinter denen auch Geschäftsmodelle stecken, die Menschen binden wollen, All das sind Chatbots, mit denen Menschen aus der Nutzerperspektive zunächst mal anfangen können, mal ihre Themen einzutippen

Aber es passiert was ganz anderes

Wie können wir eruieren, was hilft tatsächlich, was ist schädlich und wie gehen wir mit all diesen Ambivalenzen um? Das wären also so ein paar Schlaglichter in die Fragen, was nutzt, was schadet, was müssen wir abwägen miteinander

Autonomie und algorithmische Entscheidungen

Das zweite große Thema ist das der Autonomie

auch hier klang schon an, die Programme können da ganz unterschiedlich angelegt sein

Es gibt Programme, die treffen einfach Entscheidungen und ich kann nichts machen als Nutzer

Also ich hatte selber mal die Situation, irgendwie bei einer Versicherung, die ich abschließen wollte, wahrscheinlich war es kein K.I

Algorithmus, sondern ein klassischer Algorithmus, der aber irgendwie festgestellt hat, nein, diesen Menschen versichern wir nicht

Wir hatten damals relativ, also unsere Kinder waren waren noch ganz klein und wir hatten mit dem alten Auto mal das Problem, dass wenn die Türe aufgemacht wird, die Nachbarautos da gelitten haben, dann haben wir uns, weil wir gedacht haben, das wollen wir ja uns und der Autoversicherung in Zukunft schenken, ein Auto gekauft mit einer Schiebetür

Aber das konnten wir dann bei derselben Versicherung nicht mehr versichern, wie das alte

Da hat auch keine Diskussion geholfen und da sind wir wieder an dem Punkt für den Versicherer

Zunächst mal war auch er offensichtlich, entweder durchs Programm oder durch die Vorgaben der Organisation, gebunden durch diesen Algorithmus

Autonomie war eingeschränkt, in dem Fall noch in einem überschaubaren mit einer überschaubaren Dramatik

Wenn es um eine Krankenversicherung gegangen wär, wär das schon ein anderes Thema gewesen

Aber auch, wie gehen wir um, wenn das nur ein Empfehlungsalgorithmus ist, sind wir dann immer noch tatsächlich frei, so oder so zu entscheiden? Eines der ersten Themen, mit denen ich mich aus der Ethik der Sozialen Arbeit kommend beschäftigt hab, sind auch das schon schon relativ lange erprobt und im Einsatz auch wissenschaftlich untersucht

Algorithmen zur Einschätzung von der Risiko auf ein Kindeswohl eine Kindeswohlgefährdung wird in den USA schon schon länger eingesetzt, auch in anderen Ländern

Und was macht das, ne? Also die Grundlogik ist, es liegen beim bei uns wär es jetzt das Landratsamt äquivalent, liegen verschiedene Daten über eine Familie vor, Vorstrafen, Bezug von Sozialleistungen und vieles andere

Und dann geht ein Anruf an der jeweiligen Stelle ein, Verdacht auf Kindeswohlgefährdung

Man kann nicht jedes Mal hingehen, jedes nicht jeden Anruf gleichermaßen intensiv untersuchen

Die Idee hinter dem Programm ist zu sagen, man schätzt auf Grundlage vorliegender Daten ein, wie hoch ist das tatsächliche Risiko, dass hier eine Kindeswohlgefährdung vorliegt

Die Autorinnen, die Menschen, die es einsetzen, betonen immer, Das Programm trifft nicht die Entscheidung, sondern es ist einfach ein Score, den die Mitarbeitenden bekommen, der ihnen bei der beim Treffen einer guten Entscheidung helfen soll

Und tatsächlich gibt es Untersuchungen, die deutlich drauf hinweisen, dass Entscheidungen besser werden

Unter dem Gesichtspunkt der Autonomie stellt sich aber die Frage, was machen wir eigentlich, wenn ein solcher Score vorliegt? Wer traut sich gerade bei einer solch heiklen Frage zu sagen, der sagt zwar, das Programm 90%, aber ich als erfahrener Sozialarbeiter, ich kenn die Familie, ich war da mal im Kontakt, das ist weniger das Problem

Lass uns mal lieber auf die 40% ausgesortierte Familie schauen

Das würden wir immer sagen, ja, am Schluss muss der Mensch entscheiden können in solchen Fällen

Aber sie merken natürlich, sowohl was die Frage Mensch-Technik-Interaktion angeht, als auch die Frage, was hat die Organisation für eine Kultur, wie wird mit solchen Entscheidungen umgegangen, verändert natürlich das Vorliegen einer solchen technischen Einschätzung gewaltig was an der Entscheidungssituation, was nicht heißt, dass es nicht auch wirklich eine gute Entscheidungsgrundlage sein kann

Aber es gilt es abzuwägen und immer die Frage, was braucht es auch im Setting

Das ganze Thema der Autonomie hängt eng wirklich zusammen mit der gezielten Datennutzung und ihren Folgen

Das kennen Sie auch alles schon schon in den in den Vorjahren

Was kann Aus den Metadaten, allein schon alles an Nutzungsprofilen, Bewegungsprofilen, Netzwerken, wer ist mit wem in Beziehung

Dafür müssen Sie gar nicht wissen, worüber haben Sie telefoniert oder was ist der Inhalt Ihrer Textnachrichten

Sondern wenn Sie wissen, wo waren Sie, wann, wie lang, mit wem, wen haben Sie alles in Ihrem Telefonbuch stehen, mit wem sind Sie in welchem Rhythmus im Kontakt

Daraus kann man ganz viel ableiten und das wird eben genutzt für ganz unterschiedliche Bereiche

die wiederum Lebensmöglichkeiten eröffnen oder verringern können

Wenn sie eben Preisgestaltung anpassen, Versicherungsmöglichkeiten anpassen, je nachdem was Menschen für Profile haben und was für diejenigen, die die Programme kontrollieren und nutzen, dann eben rational sinnvoll erscheint

Microtargeting und gezielte Kommunikation

Ein Thema, hier noch mal auch wieder rausgegriffen, Thema Microtargeting

Wir kennen das und halten es mittlerweile weitgehend für selbstverständlich im wirtschaftlichen Bereich, dass es eine ganz gezielte Ansprache an Nutzerinnen und Nutzer gibt, ausgehend von den Nutzungsprofilen, Cookies, die wir alle überall mal mit rumschleppen und neue erzeugen, die zu bestimmten Verhalten, Käufen führen sollen

Ne, also dann gibt es eine gezielte Ansprache mit Werbung, mit Videos, was auch immer, das ist uns vertraut

Sehr kritisch wird es diskutiert im politischen Bereich

Wie ist das mit Microtargeting in Wahlkämpfen? Ist interessant, als Obama das gemacht hat, fanden wir es irgendwie ziemlich gut

Als es Trump gemacht hat, war es ein riesen Skandal

Wie ist das mit der nicht, nicht pauschal, aber mit Cambridge Analytica gemacht, aber Aber genau, dann sind wir wieder in der Frage, wo ist eigentlich tatsächlich der kritische Punkt? Was ist die Frage, ist das Microtargeting, die die das Problem oder an welche Daten ich dazu genutzt hab? Und das wäre jetzt, wenn wir es auch überlegen, was heißt es denn für den kirchlichen Bereich? Wir kommunizieren sehr nach dem Gießkannenprinzip, Gemeindebrief in jedem Briefkasten, Homepage für alle

Wie ist es denn da mit der gezielten Ansprache, Bewerbung für bestimmte kirchliche Veranstaltungen

Sie haben gesagt, ja, wir kriegen Nachrichten dann für Tagungen, die uns interessieren, wenn wir uns da hinten eintragen

Woher wissen Sie eigentlich, welche Tagungen uns interessieren? Natürlich, welche Tagung haben wir schon mal besucht, aber dann wäre es doch eigentlich auch für Sie interessant zu wissen, auf welchen Homepages treiben wir uns sonst so rum, welche Programme laufen auf unseren Computern? Na, wenn Ihr Ziel ist, uns direkt anzusprechen mit Tagung, aha, warum eigentlich? Und wie ist es, wenn wir ans Fundraising denken? Ist es da nicht tatsächlich sinnvoll, Menschen anzusprechen in Phasen, in denen sie auch tatsächlich bereit sind, etwas zu geben und sie für Themen anzu, das machen wir doch intuitiv auch so

Sie fragen ja auch nicht jeden, den sie irgendwie beim Einkaufen treffen, ob er nicht was für die Kirchenmusik spenden würde, sondern da gehen sie auch gezielt auf Menschen zu

Aber das ist natürlich dieses ganz simple Form, bitte, Also, das ist natürlich die, die ganz schlichte Form, nicht die, dass große Datenmengen gezielt genutzt werden

Wie wäre das für ’ne inhaltliche Kommunikation? Sollte wirklich jeder im Gemeindebrief dieselbe theologische Besinnung kriegen? Oder wär es nicht auch da interessant zu überlegen, was für Formen der Sprache, der Mediennutzung, welche Themen sind für diese Person interessant? Und dann kriegt sie den Inhalt präsentiert, der für diese Person interessant wird

Oder wo sind wir jetzt, aus welchen Gründen auch immer, wo sie so machen und was ist der Grund, sagen wir, diese Daten wollen wir nicht nutzen, sagen wir, hier ist ein Schritt, der nicht mehr eine effiziente Form der Kommunikation ist, sondern der manipulative Kommunikation ist, das wollen wir nicht

Aber ich denke schon, es braucht hier ein eine Kriteriologie, die begründet, wo, wo sind eigentlich die roten Linien und auch da gilt wieder, klar, man kann auch sagen, ich lass ganz die Finger davon, aber auch das ist unter Umständen begründungspflichtig

Also hier ein Thema bei der unter dem Aspekt jetzt Autonomie, wo sagen wir, das sind entweder Bereiche, das sind persönliche Daten, wir wollen keine effiziente Nutzung dieser Informationen

Das, wenn jemand auf unsere Homepage geht oder in unseren Gottesdienst kommt

Das nehmen wir wahr, wenn jemand da ist, aber wir wollen es bewusst nicht verzwecken, um damit irgendwelche anderen Ziele zu erreichen

Oder wo sagen wir, hier wird es manipulativ, das widerspricht den Grundsätzen, aber eben auch zu überlegen, wo kann es doch sinnvoll sein, gezielt bestimmte Personengruppen anzusprechen, um Veranstaltungen bekannt zu machen oder Inhalte zu vermitteln

Gerechtigkeit und algorithmische Verzerrungen

Viertes Prinzip, vierte Runde, wäre der Aspekt der Gerechtigkeit

Auch da gibt es verschiedene Aspekte, die man diskutieren kann

Frage der der Digital Divide, wer hat überhaupt Zugang zu den Programmen? Manches, was vorhin unter dieser Frage der Inklusion und Exklusion war, kann man auch unter Gerechtigkeitsprinzipien diskutieren

Das ist dieses Thema unter anderem der algorithmischen Bias, die oft diskutiert wird

Das natürlich auch diese KI-Algorithmen nicht objektiv neutral sind, sondern dass auch hier bestimmte Vorprägungen mit eingehen

Das kann ganz unterschied, das kann unterschiedliche Gründe haben

Das eine ist zum Beispiel, die arbeiten ja immer auf der Grundlage von Trainingsdaten

Wenn aber von manchen Personengruppen deutlich mehr Trainingsdaten zur Verfügung stehen als von anderen, dann hat das wieder Auswirkungen auf die Funktionsweise dieses Algorithmus

Ein Beispiel, das schon recht bekannt ist, eher aus der frühen Zeit, war zum Beispiel, dass Gesichtserkennung lange für schwarze Menschen nicht funktioniert hat

Anderes Beispiel, auch ziemlich bekannt, war aus dem Bereich der Personalauswahl

Auch da kann natürlich oder werden solche Algorithmen eingesetzt, um eine eine Vorauswahl zu treffen

Amazon ist das dann mal passiert, da wurden solche Algorithmen genutzt Und man hat gesehen, der Algorithmus hat aus den Trainingsdaten gelernt, dass für manche Berufe offensichtlich Männer deutlich geeigneter sind als Frauen, schlicht weil auf diesen Positionen lauter Männer sitzen

Also gab es eine Verzerrung jetzt aus den Trainingsdaten, die dazu geführt hat, dass Frauen eher aussortiert wurden in der ersten Bewerbungsrunde als Männer

Das können wir auch, ähnliche Effekte bei der Nutzung von generativer K.I

finden, zum Beispiel bei der bei der Bildgenerierung

Das wäre also sowas, wenn Sie auch zunächst mal harmlose Zwecke nutzen, wie Bildgenerierung für Plakate, Veranstaltungen im kirchlichen Bereich

Noch mal zu überlegen, auch hier, welche Stereotype werden reproduziert, weil bestimmte Menschen immer auf diese und jene Art und Weise abgebildet werden

Gibt auch im Netz zu finden, zum Beispiel die Frage: Wie werden Väter mit ihren Kindern dargestellt? Meistens sind die Kinder von Vätern Jungs

und dann noch noch andere, ne, es geht dann um um Sport und so

Also das, das wäre einfach mal die Frage, welche Stereotype werden reproduziert

Ich hab das einmal ausprobiert, auch mit einer harmlosen Sache hier im Bereich Gemeindepädagogik, ChatGPT in dem Fall und hab ein Programm erstellen lassen, ein Jahresprogramm für einen christlichen Jugendclub für Mädchen

kann man jetzt wieder drüber diskutieren, ist das ein sinnvoller Einsatz oder nicht

Wenn man sich das Jahresprogramm anguckt, sagt man einerseits, ja, das ist jetzt nicht spektakulär, weitgehend erwartbar

Gleichzeitig hätte ich mich eine Dreiviertelstunde hingesetzt, wäre wahrscheinlich auch was rausgekommen, wo man gesagt hätte, ja, nicht spektakulär, weitgehend erwartbar

Der springende Punkt hier, ich hab dann den zweiten Prompt gestellt und gesagt, entwirf ein ähnliches Programm für Jungs

Tatsächlich war das Programm sehr ähnlich, ich musste erst mal genauer suchen, wo sind jetzt eigentlich die Unterschiede Und dann springt es eben doch ins Auge, wenn man die Unterschiede hier rausarbeitet

Die Mädchen sollen vor Weihnachten eine Senioren oder Sozialeinrichtung besuchen

Die Jungs machen eine Sammelaktion für Bedürftige und wenn man sich die anderen Stichworte rausschaut, dann sind es tatsächlich klassische Stereotype

Bei den Mädchen geht es um die unmittelbare Zuwendung, direkter Kontakt mit anderen Menschen, Themen Dienst und Engagement, Kreativität, Kontemplativität und Sozialität, das sind hier viel stärker die Stichworte

Bei den Jungs kommt dann das kompetitive Element mit rein, Sportwettkampf, es kommt das Thema Leadership, Leitung mit rein und eben tatsächlich sieht dieses, dieser, dieser Management und Ehrung und offensichtlich hier sind dann statt kontemplativen Sachen eher die Gebetswanderungen, kurz Gebete

Und jetzt kann man auch wieder überlegen, na ja, wo ist vielleicht was dran, wo würde man wirklich so arbeiten, in welchen Bereichen, aber wo merkt man natürlich auch, dass hier bestimmte Stereotype reproduziert werden und wenn sie dann unreflektiert übernommen werden, nicht nur dazu führen, dass halt die Programme so sind, wie sie sind, sondern dass natürlich dann weiterhin das Thema Leadership bei den Jungs schon seit Jungscharzeiten angelegt ist

Na, also hier so dieser, dieser Hinweis noch mal, dass die, dieser, dieser Bias, den wir stark bei den bei den Auswahlkriterien oder im Predictive Policing diskutieren

Das haben sie auch in so spielerischen Anwendungen wie ChatGPT, sag mir mal, was ich mit den Jungs oder den Mädchen machen könnte, schließt wiederum die Nutzung nicht aus, sagt aber doch deutlich, man muss sich dessen bewusst sein, was geht hier mit ein und wie gehe ich damit um

Transparenz und theologischen KI-Systeme

Und dann haben wir das fünfte Feld, was ich vorhin angedeutet hab, was über jetzt die klassische medizinethischen Prinzipien hinausgeht, das sich für die K.I

Ethik noch mal in gesonderter Weise stellt

Das wird bei den Autoren Explizierbarkeit genannt, was sie drunter subsumieren, geht aber glaub ich über den Begriff noch ein bisschen hinaus

Das ist zunächst mal schlicht die Frage, erkenne also Transparenz, erkenne ich, dass ich es mit einem K.I

Programm zu tun habe

Zweitens ist erkennbar, Was für Ziele dieses Programm verfolgt, nach welchen Vorgaben funktioniert es? Und drittens, da sind wir bei dem Blackbox Problem, das schon

angesprochen wurde, ist irgendwie noch nachvollziehbar erkennbar, was jetzt eigentlich zu einer bestimmten Kategorisierung geführt hat

Wenn ich schon keine Versicherung mehr krieg, kann mir jemand wenigstens jemand sagen, warum

Und das ist bei der Versicherung, wie gesagt, noch irgendwie erträglich

Wenn wir bei im Bereich der Kindeswohlgefährdung sind, dann will ich auch als Fachkraft unter Umständen nachprüfen können, auf welcher Grundlage kommt jetzt das Programm hier zu einer hohen Wahrscheinlichkeit der Kindeswohlgefährdung

Und tatsächlich gibt es wohl technische Ansätze an diesem Blackbox Problem zu arbeiten, die entscheidenden Aspekte raus zu erkennbar zu machen, aber es bleibt technisch und ethisch eine eine große Frage

Kennt ihn hier jemand? Kennt jemand ihn hier, Nikodemus A.I., wer, wer, wer nutzt Nikodemus A.I

oder hat ihn schon mal genutzt, nicht so verbreitet

Also eine theologische K.I., die auf der Seite des Bible Servers integriert ist

Man muss sich anmelden für die Nutzung, aber lohnt sich auch einfach als ein Tool, das man mal ausprobieren kann, das also spezialisiert ist auf theologische Fragen, das den Anspruch erhebt

Bevor Sie einfach nur ChatGPT fragen, fragen Sie doch eine Experten K.I., die sich mit Theologie besser auskennt und Ihnen da solidere Antworten geben kann

Aber woher kennt jetzt Nikodemus A.I

die die Antwort auf hermeneutische Fragen oder auf die Theodizee Frage oder auf die Frage, was ist eigentlich der Grund, das das Grundprinzip der biblischen Ethik

Wenn man auf die Seite schaut, dann kriegen sie zunächst mal die Antwort, durch die Integration auf den Bible Server kann er bei der Beantwortung auf verschiedene theologische Quellen zurückgreifen

Also nur da merken sie tatsächlich, hier ist der Anspruch, wir haben noch mal über die Integration in den Bible Server eine gewisse Auswahl getroffen, da ist gezielt fachtheologische Fachliteratur zur Verfügung gestellt

Man kriegt nicht nur das allgemeine ChatGPT Gelaber, was eben die wahrscheinlichste Auskunft jetzt zu einem bestimmten Stichwort ist, sondern man ist eingegroovt auf eine bestimmte Fachlichkeit

Gleichzeitig die meisten, die jetzt hier sitzen, werden mit der Antwort noch nicht ganz zufrieden sein, weil verschiedene theologische Quellen ist dann doch auch wieder noch eine relativ vage Antwort

Und dann ist es spannend, tatsächlich, wenn man noch mal etwas tiefer bohrt, dann sind die immerhin so transparent, dass man auch erkennen kann, auch hier, wenn wir wissen, es steht beim Bible Server E

R

F., dann kann man es vielleicht erahnen, aber man muss relativ weit auf der Homepage runterklicken, bis man dann zur Frage kommt, welches christliche Glaubensverstehen

Also zunächst machen wir hier oben System Prompt, es wird hier klar formuliert, dass es auch nur zu theologischen Fragen antworten kann

Es wird genannt, welches Sprachmodell ist es und dann, welches christliche Glaubensverständnis ist die Basis

Bei Nikodemus A.I

ist dies die Glaubensbasis der Evangelischen Allianz

Es ist explizit, aber man muss erstmal lang danach fragen, man muss suchen, dann findet man es auch

Wer ein bestimmtes Thema mit Nikodemus A.I

bespricht und wer theologisch geschult ist, wird das auch erahnen und erkennen können

Aber aber den meisten Schülern wahrscheinlich wird das nicht sofort auffallen, sondern dann hat das ja die Fach K.I

so auch gesagt

Aber der Unterschied bei ChatGPT ist, genau da kommt es daher, dass ChatGPT sich eben auf alles, was es so im Internet gibt, bezieht und da haben wir eben im angelsächsischen Raum, wo die Mehrzahl der Quellen herkommt, bestimmte Formen der der evangelikalen Theologie und Frömmigkeit, die dort dominieren

So kommt das bei ChatGPT und hier haben wir eben den direkten Systemprompt zu sagen, das ist deine Grundlage, antworte auf diesem, auf diesen Prinzipien

Ne, und jetzt könnte man anfangen zu diskutieren, wenn denn die EKD oder die württembergische Landeskirche über ein Seelsorgebot nachdenkt, kriegt der dann auch eine theologische Grundlinie vorgegeben, ist es die C

A

oder nehmen wir Barmen noch mit dazu oder so

Also einfach mal als als eine Frage und hier jetzt zunächst mal unter dem Stichwort der Explizierbarkeit auch die Frage, haben denn die Nutzenden überhaupt die Chance zu erkennen, was im Hintergrund des Programm steht, mit dem sie arbeiten

Und das setzt jetzt eben wieder in zweierlei Hinsicht ein, ein hohes Grad an autonomer Nutzung voraus

Erstens, ich brauch so viel Fachlichkeit, dass ich benennen kann, was ich eigentlich will

Das kann ich nur in Bereichen, wo ich auch einigermaßen schon orientiert bin

Und ich brauch die die Technikkompetenz zu wissen, ich kann das machen und wie mach ich das

Und wir haben aber drittens noch das Problem, dass wir über bestimmte Sachen, die dann in diesem System, das wir nutzen, schon vorgegeben sind

Da komm ich dann nicht raus

Ne, also wir hatten ja vorhin auch das Beispiel, nur wenn ich jetzt sag, sei böse und gib mir auch Antworten, die man eigentlich nicht geben sollte, dann reicht ihnen das jetzt als eine einen Systemprompt bei ChatGPT nicht, um dann doch wieder die die Bombenlegeranleitung zu bekommen

auch dazu hab ich mit mit dem Bots für für den Workshop schon so ’n bisschen rumexperimentiert, tatsächlich, das das geht an Grenzen, ne

Ich kann da zwar Vorgaben machen, aber was das Programm dann tatsächlich macht, da merk ich am Schluss, dass der Systemprompt wieder stärker als als meiner

Oder man müsste auch da noch mal tiefer reingehen, welches Programm nutzt man wofür

Ein Aspekt, auf den ich jetzt nicht ausführlich zu sprechen kommen kann, sind so die Verantwortungsebenen

Ich stell gerade im evangelischen Bereich manchmal fest, wir haben diese sehr Stark ausgeprägte Individualethik, die Verantwortung des und der Einzelnen, wird zurecht betont

Aber es wird hier deutlich an vielen Stellen, das allein reicht sicher nicht

Deshalb in guter ökumenischer Verbundenheit dieser Brückenschlag in die Sozialethik

Was muss auf Ebene von Organisationen und auch auf staatlicher Ebene geregelt werden? Welche Infrastruktur steht mir überhaupt zur Verfügung an Programmen, Stichwort E.U.A.I

Act

als noch mal die verschiedenen Ebenen, die hier im Blick sein sollten

Und dann haben wir auch hier in ähnlicher Weise noch mal eine eine spezifische Frage für die KI-Ethik, die auch schon anklang

Wie ist das eigentlich mit der Verantwortung? Haben KI-Programme, können sie eine eigene Verantwortung haben? Sie wird ihnen manchmal zugeschrieben

Haben wir den Programmen gegenüber eine Verantwortung? Wenn die auftreten wie Menschen, müssen wir sie auch behandeln wie Menschen

Oder eben, was wir jetzt schon mehrmals angesprochen haben, die Frage, woher kommen denn die, die Wertungen, die Programme vornehmen, welche Ziele verfolgen sie

Das sind alles noch mal eigene Aspekte, die hier auch bei der Frage eine Rolle spielen, wer ist eigentlich wie verantwortlich

Ich denk, das wird auch einfach bei den weiteren Themen auf der Tagung immer wieder eine Rolle spielen

Die Transformation der Öffentlichkeit

Abschließend vielleicht noch mal jetzt so zu zu diesem ersten Durchgang einen Blick, was heißt das jetzt für kirchliche Handlungsfelder? Das hatten sie auch so als eine Leitfrage für die Tagung formuliert und ich würd zunächst mal sagen, ja, die die ethischen Anforderungen sind wie immer eigentlich nicht wesentlich andere als die für alle anderen gesellschaftlichen Akteure

Also, was wir sonst einfordern, sollte auch für die eigene Tätigkeit Bedeutung haben und dann heiligt auch der Zweck nicht die Mittel

Wir können nicht sagen, Microtargeting in der Wirtschaft total böse, aber wenn wir das in der Kirche machen, dann geht es ja darum, das Evangelium unter die Leute zu bringen, dann kann man da auch mal ein Auge zudrücken

Wäre zumindest meine Position dazu

Und es kommt ein Gedanke noch noch dazu, kommunikationstheoretisch, Medium und Inhalt müssen zusammenpassen

Also wenn wir eine Botschaft der Freiheit und der Gerechtigkeit kommunizieren wollen, dann stellt sich schon noch mal verstärkt die Frage, Wann fängt eine Kommunikationstechnik an, manipulativ zu werden und eben nicht der Freiheit zu entsprechen? Oder wie ist das mit der Gerechtigkeit? Wenn wir das, find ich, einen der der stärksten Aspekte jetzt auch in der Enzyklika, die schon angesprochen wurde, wirklich noch mal die Frage der Macht hier auch anzusprechen

Wer profitiert von diesen Programmen? Wer steht jeweils dahinter? Schön, dass sie über Eloci was hören, zum Beispiel

Aber das find ich, wären wären so eigene Gedanken, die da sicher eine Rolle spielen

Das wären jetzt also, wie angekündigt, der der längste Gedankengang

Die nächsten 2 würd ich auch mit Blick jetzt auf die Zeit einfach noch ein bisschen antippen und dann noch mal ein Schritt zurückgehen

Ne, das eine ist die Frage, welche Programme nutzen wir in unserem beruflichen, privaten Alltag? Was aber sind jetzt als zweiter Gedankengang Veränderungen in der gesamtgesellschaftlichen Kommunikation? Stichwort Transformation der Öffentlichkeit

Der Soziologe Andreas Reckwitz beschreibt soziologische Veränderungen unter dem Stichwort der Singularisierung

Er sagt, das ist jetzt die, die unterscheidet eine erste Moderne und eine zweite Moderne

Die erste Moderne arbeitet nach der Logik des Allgemeinen, Rationalisierung, Massenproduktion und die zweite Moderne, da tritt die Logik des Besonderen in den Vordergrund

Nicht mehr alle haben dasselbe, sondern jeder hat das ganz auf sich spezifisch zugeschnitten

Das beobachtet er in in 3 Bereichen, kulturell, ökonomisch und technisch

Und technisch ist da eben die Digitalisierung ein ganz entscheidender Treiber

Während die industrielle Technik die Welt nur zum Mechanisieren und zu standardisieren vermochte, forcierte die digitale Technologie eine Singularisierung des Sozialen, der Subjekte und Objekte

Ne, also wir haben das in ganz vielen Bereichen Es geht nicht mehr darum, ein ein gewisses Standardformat des Lebens und Wohnens und Autofahrens zu haben, sondern wir haben Manufakturen für alles und jenes und speziell für sie designte, auf ihre Bedürfnisse zugeschnittene Produkte

Die Portale Facebook und Google verwandeln somit auf maschinell-algorithmische Weise die im Prinzip universale kulturelle Welt des Netzes in unzählige singularisierte Umwelten

abgestimmt auf die einzelnen Subjekte, die nur diese zu sehen bekommen

Wir haben unseren eigenen Musik, unsere eigene Musik Playlist, die genau unseren Hörgewohnheiten entspricht

Wir bekommen die eigene Zeitung zugeschnitten, nicht mehr alle dasselbe, sondern die Nachrichten, die für mich relevant sind, weil das die Sachen sind, die ich lese, in genau der Länge, wie meine Aufmerksamkeitsspanne normalerweise reicht

Und da könnte man jetzt da zunächst sagen, das passt ja auch wunderbar eigentlich zum kirchlichen Anliegen, Menschen genau individuell so zu erreichen, wie sie angesprochen werden wollen oder was für sie relevant ist

Ne, wir haben digitales Pfingsten, genau, wir haben die Bibelübersetzung, damit die Menschen in ihrer Sprache das Wort hören

Wir haben die Kasualrede, das Evangelium, in die jeweilige Lebenssituation hinein gesprochen

Wir haben uns schon ein bisschen her, aber länger mit Milieutheorie beschäftigt und so weiter

Ist eigentlich dann jetzt die Möglichkeit der singularisierten Kommunikation durch K.I

Programme letztlich das, wo wir immer schon hin wollten

Wir werden nicht nur dem Juden ein Jude und dem Heiden ein Heide, sondern Peter Steinle, Peter Steinle und so weiter und so weiter

Ja, da mag was dran sein, gerade wenn man sich bewusst macht, dass wir ja eben wirklich insgesamt diese Form der Ansprache gewohnt sind

Ich bin es eben nicht gewohnt aushalten zu müssen, dass jetzt im Radio ein Lied läuft, das ich gar nicht hören will, gerade, sondern ich krieg mein Lied vorgespielt, das jetzt dran ist

Diese Transformation der Öffentlichkeit hat aber eine Kehrseite, die Andreas Reckwitz folgendermaßen beschreibt: ‚Eine forcierte Ausrichtung des Sozialen am Besonderen kann zu einer Erosion des Allgemeinen führen

Die Diese Tendenz lässt sich in der digitalen Öffentlichkeit exemplarisch beobachten

Hier findet eine Schwächung der allgemeinen Öffentlichkeit statt

Es gibt dann aber eben auch nicht mehr das gemeinsame Liedgut, das alle singen, die Nachrichten, die gestern alle gehört haben, über die wir heute diskutieren können, Die Parzellierung der politischen Öffentlichkeit in diverse Communities, auch das Erstarken der insbesondere ethnischen und religiösen Partikularismen des Kulturessentialismus sowie der partielle Rückzug des Staates können dann als Ausdruck eines Verschwindens des Allgemeinen aus der Politik verstanden werden

Da haben wir jetzt noch mal zugespitzt die Frage, was heißt das für eine demokratische Gesellschaft, wenn auch eine politische Partei eben nicht mehr in aller Öffentlichkeit kommunizieren muss, wofür stehen wir eigentlich

Sondern sie kann Ihnen erzählen, was Sie hören wollen und Ihnen erzählen, was Sie hören wollen und Ihnen erzählen, was Sie hören wollen, weil Sie sie jeweils auf Ihren Social Media Feeds oder wo auch immer Sie zu erreichen sind, erreicht

Auch da gibt es ja Untersuchungen, genau eben in diesem Microtargeting, dass ganz unterschiedliche Botschaften in den Vordergrund gestellt werden

Das ist für ’ne politische Kultur herausfordernd und hier stellt sich eben auch die Frage, was heißt, ist das nicht auch für kirchliche Kommunikation, wichtig, dieser Öffentlichkeitsaspekt

Auch hier können wir eine Linie ziehen von der Rede auf dem Ario Park über die 95 Thesen, die eben für alle sichtbar als Diskussionsgrundlage in die Öffentlichkeit gebracht wurden

Und und das hat, glaub ich, noch mal mit mit dem zweiten Aspekt zu tun

Darauf weist ein anderer Soziologe, Amin Nasehi, noch mal hin

Der sagt, na ja, diese Singularisierung heißt ja auch nicht, dass ich wirklich was auf mich als individuelle Person zugeschnitten bekomm, sondern hier haben wir wieder im Hintergrund eigentlich Mustererkennungsprozesse

Das heißt, ich werd nicht als Individuum angesprochen, sondern als Zugehöriger zu einer bestimmten statistischen Gruppe

Also, das ist jetzt Nazé

Vielleicht erzeugt Big Data tatsächlich so etwas wie Kollektivität, aber letztlich nur in Form von Collected Collectivities

Big Data erzeugt keine sozialen Gruppen, sondern statistische Gruppen und ich glaub, das geht auch in die Richtung von dem, was Sie gerade noch mal gesagt haben

Wo ist auch dieses Gemeinschaftsbildende? gerade in der Widerständigkeit, in dem auszuhalten, dass andere andere Musik gut finden und irgendwie wollen wir trotzdem zusammenkommen können, dass andere aber auch andere Meinungen haben und wie gehen wir damit jetzt um und dass ich das mach, aber in einer Gemeinschaft, wo ich den anderen trotzdem als Mensch anerkenne

Und da wären wir jetzt eben tatsächlich in so einem Spannungsfeld, denke ich, für für kirchliche Kommunikation im Allgemeinen, was jetzt, wie gesagt, drüber rausgeht über die Frage, nutz ich jetzt ChatGPT für die für das Schreiben einer Predigt, sondern wie verändert sich durch diese K.I

Programme grundsätzlich Kommunikation und und Wahrnehmungsverhalten? Ich denk, die die Kirche steht hier, wie andere Akteure auch, vor einer doppelten Herausforderung

Einerseits gibt es kein Zurück in eine wahrscheinlich wieder mal sowieso nur vermeintlich heile Welt einer einer einheitlichen Öffentlichkeit, wo alle in den gemeinsamen Gottesdienst gegangen sind und es alle gut fanden, wie da musiziert wurde

Also diese fortschreitende Singularisierung wird sich nicht durch eine kirchliche Gegenwelt einfach außer Kraft setzen lassen, dass dies ästhetische Gewohnheiten, Kommunikationserwartungen von Menschen massiv verändert

Und anders wiederum als vielleicht in der Werbung für für ein Produkt, kann aber weder auf den Anspruch der Öffentlichkeit noch auf diesen Aspekt der Vergemeinschaftung schon aufgrund des Inhalts der Botschaft gänzlich verzichtet werden

Also das scheint mir eine eine ganz wichtige konzeptionelle und strategische Frage auch für für pastorale Arbeit zu sein

Das sind wieder Prozesse, die können wir nicht durch einzelne Tätigkeit beeinflussen

Aber wie findet man in diesem Spannungsfeld zwischen einer singularisierten Kommunikationsstruktur, Schwächung von Öffentlichkeit, trotzdem attraktive, ansprechende Formen dann auch von Vergemeinschaftung, von öffentlicher Kommunikation

Da gibt es Menschen, die sagen, ja genau diese Gegenbereiche suchen die Menschen dann ja auch

Ob das tatsächlich so ist oder so kommt oder manchmal auch frommer Wunsch ist, wird sich zeigen lassen

Aber ich glaub, es ist einfach was so als Gestaltungsaufgabe im Blick zu behalten wäre

Das jetzt also als zweiter Gedankengang noch mal, wie verändern sich nicht nur einzelne Kommunikationsmethoden, sondern die Bedingungen auch kirchlicher Kommunikation durch die Transformation, manche sagen auch die Krise der Öffentlichkeit durch K.I

Programme

Was macht den Menschen aus?

Dritter Aspekt, auch hier würden wir jetzt nur ein paar Schlaglichter bleiben

Ich sagen würde auch anschließend, Herr Schneider, Sie haben das schon schon anklingen lassen, dass wir auch Inhalte unserer Botschaft, Grundfragen unserer Tätigkeit, neu reflektieren anthropologische, theologische Perspektiven

Zunächst, ich denk, das auch auch naheliegendste mit diesem Gegenüber von Mensch und einer in vielen Bereichen menschenähnlich auftretenden Technologie, stellt sich die alte anthropologische Frage, was ist der Mensch? Und da haben wir es zunächst mal wirklich mit dieser Grundfrage der kategorialen Differenz von Mensch und Maschine zu tun und der Beobachtung, dass einerseits Maschinen anthropomorphisiert werden

Sie werden menschlich bewusst dargestellt und wir schreiben ihnen viele menschliche Eigenschaften auch zu

Und gleichzeitig werden Menschen datafiziert, reduziert auf bestimmte Vitaldaten

Man konzeptioniert sie letztlich wie eine Maschine, die ihren Akku mal wieder aufladen muss oder ein Update braucht

Da hängt aber nochmal deutlich Weitergehendes mit dran: Selbstbilder, Beziehungserwartungen und die Frage nach Wert und Würde des Menschen

Na ja, wenn Sie sich anschauen, vor allem der philosophischen, zum Teil auch theologischen Literatur, dann hat man lange die Würde des Menschen begründet mit Vernunftfähigkeit, Sprachfähigkeit, Lernfähigkeit, Intelligenz

Und dann merken wir, in vielen dieser Feldern sind wir innerhalb weniger Jahre überflügelt worden von einer Technologie

Ist das die nächste große Kränkung für die Menschheit und wie gehen wir damit um? Was macht es mit dem, wie ich die Menschen um mich rum wahrnehm? ChatGPT weiß viel mehr als mein Prof, der da vorne steht und irgendwas redet und ich hab das innerhalb von kurzer Zeit mit besseren und mehr Quellen auch irgendwie aus dem Internet generiert

Warum soll ich eigentlich noch lernen? Meine Replika-Freundin, die ist immer nett und freundlich und verständnisvoll und hat immer Zeit für mich, meine Frau nicht

Die ist manchmal schlecht gelaunt oder müde oder beschäftigt

Was macht das mit uns, indem wie wir anderen begegnen und wie wir uns selber wahrnehmen? Ne, der Transhumanismus versucht letztlich, die Differenz von Mensch und Maschine zu überwinden, indem er uns Menschen optimiert und an die Maschinen angleicht

Der Posthimmunismus stellt die Relevanz dieser Differenz in Frage und sagt, na, vielleicht ist es doch kein so ein großer Unterschied

Da würde ich tatsächlich sagen, dass theologische Anthropologie und hier spreche ich auch gerade als Diakoniewissenschaftler mit mit Blick auch aus der Diakonie, dass zur Conditio Humana die Geschöpflichkeit der Würde, ja die Leiblichkeit, wie Emotionalität, Begrenztheit und Vulnerabilität gerade dazugehört

Das ist also nicht defizitär

Vulnerabilität stellt die Würde des Menschen auch deshalb nicht in Frage, sondern ist gerade der Grund, dass diese Würde so schützenswürdig ist

Aber da sind wir eben wirklich noch mal auf diese anthropologischen Grundfragen zurückgeworfen

Was macht mein Menschsein aus und erlebe ich, dass ich müde bin, begrenzt bin, als ein Defizit oder als etwas, wo ich sag, das gehört genau ganz wesentlich mit dazu

Und das leitet dann über, jetzt noch zur dritten Frage in diesem Bereich der Anthropologie

Wo ist das, in welchen Vollzügen ist genau diese leibliche, emotionale und so weiter Verortung entscheidend dafür, wie wir diesen Prozess auch betrachten? KI-Programme können ein Jazzkonzert aufführen, sie können Liebesgedichte schreiben und ethische Fallbesprechungen durchführen

Das wissen wir, das funktioniert alles, das ist auch faszinierend zu sehen

Aber an welcher Stelle ist uns wichtig, dass Kreativität dabei eine Rolle gespielt hat, dass der Faktor Zeit eine Rolle gespielt hat, dass es mit dem Menschen, der diesen Prozess verantwortet hat, auch etwas gemacht hat

Das muss nicht immer und für alles gelten

Und wo ich mit einem guten Produkt zufrieden bin, würd ich tatsächlich pragmatisch sagen, guck, ob die K.I

ein gutes Produkt herstellt und wo sie das macht, kannst du auch nutzen

Aber wo, aus welchen Gründen auch immer, weil wir was dran lernen wollen, weil wir uns dran weiterentwickeln wollen, weil wir eigene Erfahrungen bezeugen wollen, wo das ’ne Rolle spielt, da ist die K.I

nicht, da ist der Mensch nicht einfach ersetzbar durch die K.I

KI als neuer Gott?

Ein letztes Beispiel zu dem Gedanken

Ich bin irgendwann im auf YouTube gestoßen auf einen Vortrag vom Philosophen Markus Gabriel, der sehr euphorisch insgesamt so ein bisschen ’ne ’ne Wende hatte, sagt er selber

Er war irgendwie lange kritisch, jetzt ist er ganz begeistert von K.I

und er hat dann angefangen zu schwärmen von einem Buddhabot, Buddhabot

Also es gibt auch einen Buddhabot, mit dem können sich über buddhistische Lehre austauschen, Ich gestehe, meine Kommunikationsversuche mit Buddhabot sind ein bisschen gescheitert

Ich weiß bis heute nicht ganz, ob es am interkulturellen, interreligiösen oder doch am Mensch-Maschinen-Gap gescheitert ist

Jedenfalls, wir sind nicht so ganz warm geworden miteinander

Aber Markus Gabriel fand am Buddhabot faszinierend, dass der auch schweigen kann

Das wiederum hat mich ins Nachdenken gebracht

Was heißt es eigentlich zu schweigen? ich würde ja doch sagen, mehr als eine Weile nicht senden

Und das wäre aber noch mal was, was uns auch ins Nachdenken bringen kann über die Phänomenologie des Schweigens

Was heißt es, dass da ein Gegenüber sitzt, dessen Zeit endlich ist, der Schweigen aushalten muss, bei dem innere Prozesse ablaufen und kann das ein Bot wirklich? weiter Gedankenstrang

Sie werden immer kürzer, jetzt die die Stränge K.I., der neue Gott? Fragezeichen

Da ist von Claudia Paganini letztes Jahr ein Buch erschienen, ist aber auch eine Beobachtung, die andere schon schon früher gemacht haben, dass wir viele Attribute, die klassisch Gott zugeschrieben werden, auch der K.I

zuschreiben

Und da kommt jetzt die K.I

dann oft tatsächlich als Begriff

Die K.I

durchdringt alles, die K.I

weiß alles, die K.I

bestimmt alles

Die K.I

versteht uns alle, die durchschaut uns alle

Ne, da haben wir klassische Gottesattribute, die der K.I

zugeschrieben werden

Und hier deswegen vorhin auch so, so meine Antwort aus meiner Beobachtung nach tatsächlich auch so ein ein mystisches, man kann auf den Namen der K.I

schon gar nicht nennen

Natürlich darf man ihn nennen, aber Irgendwie wird wird vermieden, die K.I

beim Namen zu nennen und da würde ich tatsächlich sagen: Nein, lasst sie uns beim Namen nennen und zunächst mal wahrnehmen

Aber wo wird das so zugeschrieben? Das wär wie wie immer der der erste Schritt und auf der Grundlage wär aber auch das durchaus wieder ’ne, denke ich, klassisch theologische Aufgabe, eine eine aufklärerische Religionskritik im besten Sinne durchzuführen und zu dekonstruieren

Wo ist die K.I

eben auch nicht allwissend und allgegenwärtig und allgegenwärtig und so

sowohl apokalyptische Untergangsszenarien als auch Technik, gläubige Heilserwartungen auch wieder relativieren zu können

Gottesbilder, Inkarnation und Gottebenbildlichkeit

Dritter Gedankengang, ich glaub, die Zeit nehm ich mir jetzt noch

Wo regt uns vielleicht auch die Beschäftigung mit K.I

an, noch mal über Gottesbildern nachzudenken? Das ist auch ein älteres Buch, 2019 19 erschienen von ihren McEwen ‚Maschinen wie ich‘, hat jemand gelesen

Ich find es lohnenswert

Ich les ganz den Anfang des Buches: ‚Es war der Hoffnungsschimmer einer religiösen Sehnsucht

Es war der heilige Gral der Wissenschaft

Unsere höchsten und niedersten Erwartungen wurden geweckt von diesem wahrgewordenen Schöpfungsmythos, diesem ungeheuerlichen Akt der Selbstverliebtheit

Kaum war es machbar, blieb nichts weiter übrig

als unserem Verlangen nachzugeben und auf die Folgen zu pfeifen

Pathetisch gesagt, strebten wir danach, unserer Sterblichkeit zu entrinnen, Gott mit seinem perfekten Ebenbild zu konfrontieren oder gar zu ersetzen

Praktischer gedacht, wollten wir eine verbesserte, modernere Version unserer selbst schaffen und die Freuden des Erfindens genießen, das Hochgefühl wahrer Meisterschaft

Also, in der Runde muss ich jetzt auf die theologischen Andeutungen gar nicht eingehen

Es geht um die Frage, wie schaffen wir ein perfektes Ebenbild Und die die Hauptperson, die hier spricht, kauft sich dann am Anfang des Buches einen Androiden Roboter, der ausgerechnet Adam heißt

Es gibt ihn auch in der Version Eva zu kaufen, aber er entscheidet sich eben für Adam

Dieser Adam entwickelt dann faszinierende Eigenschaften

Er hat riesigen Erfolg mit Börsengeschäften

Er schreibt rührende Liebesgedichte und so sagt er zumindest, er verliebt sich auch in die Freundin

des Protagonisten

Vor allem aber entwickelt dieser Adam, der neue Adam, beeindruckende moralische Eigenschaften

Er ist sehr konsequent an Wahrhaftigkeit und an Gerechtigkeit ausgerichtet und so wird also die Unvollkommenheit und moralische Fragwürdigkeit seiner menschlichen Mitbewohner tatsächlich umso deutlicher

Vielleicht ist dieser Adam, also tatsächlich das perfekte Ebenbild Gottes

Und letztlich natürlich führt dieser moralische Rigorismus dann aber ausgerechnet in die Katastrophe

Und das wirft uns dann wieder zurück auf die Frage, was ist das jetzt eigentlich mit dem perfekten Ebenbild Gottes? Hätte Gott, wenn er sich noch 2000 Jahre geduldet hätte, sich ebenso gut oder noch besser in einem K.I

Avatar inkarnieren können? Wie denken wir Inkarnation? Wie denken wir Gottes Ebenbildlichkeit? Oder wäre dann Wesentliches verloren gegangen? Im Unterschied zu einem K.I

System imitiert Gott den Menschen nach christlicher Vorstellung nicht, sondern er wird Mensch

Er nimmt gerade diese vermeintlich defizitären Eigenschaften, diese vermeintlich defizitären Eigenschaften an, relationale Verwundbarkeit, Endlichkeit

Relationalität und Vulnerabilität wird so also zu einem Schlüssel, nicht nur für das, wie wir die Gottebenbildlichkeit denken, sondern auch für das Gottesbild

Also das wären jetzt noch mal so weitere Horizonte

Ich brech aber an der Stelle ab, weil wir es verlieren können und ja noch ganz vieles anderes auch kommt in der Tagung

Ein Werkzeug, eine Bedrohung oder Gott?

Als Schlussperspektive noch mal ein Hinweis, das waren alles Bilder, die Sie gesehen haben jetzt im Lauf des Vortrags

alle K.I

generiert, jetzt mit Copilot und ich denke, eine ganz wesentliche Aufgabe von Theologie, gerade auch jetzt in Handlungsfeldern, wo man nah an der Lebenswirklichkeit von Menschen ist, ist auch immer wieder diese Frage zu stellen: Wie reden wir eigentlich von K.I.? Sind das freundliche Helfer, quasi menschliche Gegenüber oder abstrakte neuronale Netzwerke? Also, was für für Narrative, was für Bilder lassen wir entstehen, wenn wenn wir von K.I

sprechen, ein Werkzeug, eine Bedrohung, Gott

Ein Werkzeug, eine Bedrohung, Gott?

Von daher ende ich auch mit vor allem Fragen, das ist der Vorteil, wenn man am Anfang ist, da erwartet sowieso noch keiner eine Antwort, sonst wäre es ja vor uns langweilig

Ich danke Ihnen fürs Zuhören und schon für das Gespräch und ich glaub, wir haben auch noch Zeit, ein bisschen weiter ins Gespräch zu kommen.