„Magnifica Humanitas“ (Großartige Menschheit), heißt die erste, vor Kurzem veröffentlichte Enzyklika von Papst Leo XIV. In diesem Lehrschreiben geht es um den Umgang mit KI für Gläubige in der aktuellen Zeit. Der Untertitel lautet dazu: „Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“ und macht bereits klar, dass die neue Technologie durchaus stark kritisiert wird. Denn dafür gibt es auch viele Gründe. Damit befassen sich aber auch verschiedene Wissenschaftler und Autoren im Buch „Gott Spielen – Wie Chatbots und KI Sprache, Denken und Handeln automatisieren“ des Dittrich-Verlags. Doch was wird genau kritisiert?
Ein großes Problem ist laut der päpstlichen Enzyklika, dass „kleine, sehr einflussreiche Gruppen Informationen und Konsum lenken, demokratische Prozesse bestimmen und die wirtschaftliche Dynamik beeinflussen können.“ Der Papst wünscht sich deswegen: „Es ist unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“. Leo schlägt, wie die deutsche Presse-Agentur (dpa) berichtet, einen „Ethik-Kodex“ vor. Allerdings nütze auch das nichts, „wenn diese Moral von einigen wenigen bestimmt wird“.
Die Hauptkritik ist klar: eine unheimliche Macht ist in den Händen von wenigen Tech-Oligarchen, die zumeist in den USA sitzen. Doch es gibt kein wirkliches Zurück mehr, berichtet der Professor für Psychologie und Neurowissenschaften, Gary Marcus, im Buch „Gott spielen“, das aus Artikeln von verschiedenen Wissenschaftlern und Autoren besteht.
„Der Geist lässt sich allerdings leider nicht mehr zurück in die Flasche stopfen“, erklärt er, unter anderem, weil MetaAI ihren Code anfänglich veröffentlicht und somit für jeden zugänglich gemacht hat.
Die KI habe drei zentrale Probleme, so Marcus: Erstens sind Sprachmodelle „von Haus aus unzuverlässig“, zweitens können sie manipuliert werden und Falschinformationen in enormen Umfang produzieren und drittens kosten sie fast nichts. Daher können unter anderem russische Trollfabriken, wie er erklärt, fast unendlich viele Falschmeldungen erstellen.
Enorme Kosten für die Umwelt
Dem letzten Statement würde die Autorin Claudia Hamm wohl widersprechen. Denn, wie sie in „Gott spielen“ ausführt, mag die KI zwar für viele Stellen finanziell wenig kosten, ökologisch kostet sie jedoch enorm viel. Sie schreibt: „Die „Washington Post“ hat gemeinsam mit der University of California berechnet, wie viel Wasser es kostet, sich von einem Chatbot (…) eine Mail mit 100 Wörtern schreiben zu lassen. Liegt das Datenzentrum in Illinois, würden dafür etwa 0,5 Liter benötigt, in Arizona knapp 1 Liter, in Washington sogar 1,5 Liter. Ein durchschnittliches Rechenzentrum braucht täglich so viel Wasser wie 100.000 Haushalte.“
Sie erklärt weiter, dass „im Jahr 2027 die KI weltweit bis zu sechs Mal so viel Wasser wie Dänemark verbrauchen“ wird. Sie fragt sich in ihrem Text, warum KI überhaupt so gefördert wird. „Eine (…) Vermutung: Weil Menschen an etwas glauben wollen. Es ist erstaunlich, an was Menschen alles glauben wollen. Selbst an die Behauptung, eine Maschine könne ihre sozialen Probleme wegrechnen“.
Ein große Plünderung
Damit die KI macht, was sie macht, braucht sie jedoch nicht nur enorme Rechenzentren, sondern auch menschliche Texte. Die Schriftstellerin Nina George schreibt in „Gott spielen“ auch: „(Die) generative Text-robotik (…) beruht (…) auf einer seit über zehn Jahren stattfindenden Urheberrechtsverletzung in einem Ausmaß, das die Welt so bisher nicht kannte“. Denn die Tech-Unternehmen greifen auf existierende Texte zurück, lesen sie aus und nutzen die Ergebnisse wiederum für die KI.
Und wofür wird das Ganze getan? Goerge beschreibt es als „zusammengeklaute Textklotze“, die vor allem kreative Arbeit ersetzt und den Menschen die restliche Arbeit überlässt.
Das Menschliche nicht den Maschinen überlassen
Auch der Autor Mircea Cărtărescu kritisiert indirekt diese „Textklotze“ im Gespräch mit der Nachrichtenseite rfi: „Ich habe nichts gegen Maschinen, wir benutzen sie ständig, wir toasten unser Brot damit, wir fahren mit dem Aufzug, wir fahren mit dem Zug. Aber es gibt auch ein kleines Forschungsgebiet, das sich mit dem Menschsein beschäftigt, also damit, was uns zu biologischen Wesen macht, aber gleichzeitig auch zu spirituellen. Was uns wirklich einzigartig und interessant macht. Ich möchte diese Einzigartigkeit des Menschen nicht in die Hände von Maschinen legen.“ Damit meint er vor allem literarische, durchdachte Texte von echten Menschen.
Bei KI geht es jedoch genau „um die Auslagerung von Denken und Entscheiden, Scheiben und Übersetzen an Chatbots und Co.“, schreibt auch Claudia Hamm, die Herausgeberin von „Gott spielen“.
Dabei kann die KI menschliches Denken nur simulieren (basierend auf den Daten/Texten, die sie gefüttert bekommt) und wird niemals wirklich menschlich denken können.
Wir werden alle ausgelesen
Und woher kommen die Daten für die KI? Aus Büchern, dessen Urheberrechte missachtet werden, von Internetseiten und von den Nutzern im Netz. „Inzwischen sind die meisten Menschen mit ihren Spuren im Internet zu permanenten Daten- und Intelligenzlieferanten (…) geworden“, so Claudia Hamm.
Sie erklärt weiter, die Großen Sprachmodelle, „die auf der Basis echter menschlicher Äußerungen wahrscheinliche Äußerungen (genauso wie plausibel klingende Unwahrheiten) generieren, können ebenso benutzt werden, um persönliche Daten aus Internetbewegungen, E-Mails und Social-Media-Beiträgen zu klassifizieren und Voraussagen über menschliches (Wahl-, Kauf-, Kampf-) Verhalten zu treffen“.
Das führt ihr zufolge dazu, dass: „die Logik der Wette inzwischen nicht nur von Textgeneratoren und Werbetreibenden auf Internetplattformen, sondern auch von staatlichen Behörden und den Armeen dieser Welt genutzt (wird), die damit Entscheidungen nicht mehr aufgrund von geprüften Realitäten, sondern von Prognosen treffen.“
Der unmenschliche Krieg
Schon jetzt wird KI in der modernen Kriegsführung, unter anderem im Ukrainekrieg, eingesetzt. Dies kritisiert auch insbesondere der Papst. Mit KI-gestützten autonomen Waffensystemen seien Kriege „durchführbarer“ gemacht worden, heißt es in dem päpstlichem Schreiben. Die KI müsse „entwaffnet“ werden. Keinesfalls dürften Maschinen allein über Leben und Tod entscheiden.
Warum?
Abschließend bleibt eigentlich nur die Frage: Warum überhaupt? Warum wird die KI ohne Kontrolle an der Weltbevölkerung getestet? Warum wird sie überhaupt so stark gefördert (insbesondere in den USA), obwohl die positiven Folgen – außer, dass sie in manchen Situationen praktisch sein kann/lästige Arbeiten abnehmen kann und bei der Medizintechnik womöglich helfen kann – bisher komplett überschaubar, beziehungsweise größtenteils ungewiss, bleiben. Die negativen Folgen und Risiken sind schon jetzt riesig, wie das Buch „Gott spielen“ eindrücklich zeigt, das noch viel tiefer in die Thematik abtaucht.
Viele Tech-Faszinierte, die sich „dem Fortschritt nicht entgegenstellen wollen“, unterstützen eine Technologie, die kaum einen offensichtlichen Wert für die Zukunft und die Menschheit an sich hat. Wäre es nicht an der Zeit, diesem gigantischem Experiment den Riegel vorzuschieben und, zuallererst, ihm ein gesetzliches Korsett aufzusetzen? Dieses müsste verhindern, dass noch mehr Menschen ausspioniert, noch mehr Wasser/Ressourcen verschwendet, noch mehr Kriege damit geführt und noch mehr Kulturgut geklaut wird. Die europäischen Staaten könnten immer noch reagieren, auch wenn es eigentlich zu spät ist.
