Die künstliche Intelligenz ist auf dem Vormarsch. Milliarden investieren Tech-Konzerne in die neue Technik, die die Welt revolutionieren soll. Doch so sehr die Euphorie über ihre Möglichkeiten fast ins Grenzenlose schreitet, die Gefahren, die sie birgt, sind nicht außer Acht zu lassen. Nicht nur einstige KI-Pioniere warnen vor dem unkontrollierten Einsatz dieser Technik. Ein Blick in die Geschichte zeigt, wie sich verstandesmäßiges und vernünftiges Denken einerseits und die Macht des technischen Fortschrittes andererseits immer weiter voneinander losgelöst haben und die Technik letztendlich die Vernunft unter ihr Kuratel gestellt hat. Von Stefan Groß-Lobkowicz.
In der Antike und im Christentum war es der immaterielle Geist Gottes, der die Menschen adelte und sie zu Bildern des göttlichen Absoluten oder des christlichen Gottes werden ließ. Durch die Teilhaftigkeit an der göttlichen Vernunft, die dem oberen Seelenteil des Menschen, seiner endlich-unendlichen Vernunft als Teil seiner geschöpflichen Gegenwart gegeben war, blieb dieser nicht als geistloses Wesen, das nur der Materie und den Sinnen verhaftet war, sondern partizipierte am göttlichen Nous (Plotin) oder an der Allmacht des allwissenden Gottes (Christentum). Durch diese Teilhabe, der Analogia entis („Verhältnismäßigkeit des Seienden“), erhielt alles endliche Sein, Denken und Sinn. Die geistige Produktivität des Göttlichen war es, die die produktive Geistigkeit der Menschen beflügelte und nur Gott war es, der die Vernunft übertrumpfte und in die Schranken wies.
Die Vernunft in der Aufklärung
Die Aufklärung hatte bekanntlich der transzendenten Begründung der Vernunft quasi den Stecker gezogen, sie von der ursprünglichen Quelle aller Jenseitigkeit entkoppelt und buchstäblich in die Vernunft des Menschen hineinverlagert. Um eines moralisch fundierten Glücks willen sind wir moralisch verpflichtet, so der Aufklärer Immanuel Kant, an die Existenz Gottes zu glauben, wenngleich sich dieser nicht beweisen lässt. Religion beruht für ihn allein auf der Vernunft und verweigert sich der transzendenten Rückkopplung an das Absolute. Mehr noch: […] „alles, was, außer dem guten Lebenswandel, der Mensch noch tun zu können vermeint, um Gott wohlgefällig zu werden, ist bloßer Religionswahn […].“ In der Aufklärung waren es Verstand und Vernunft des Menschen, die diesen durch Kants kopernikanische Wende in den Mittelpunkt stellten.
Die Vernunft kippt, die Rationalität schlägt in den Mythos um
Im 20. und 21. Jahrhundert sind es Verstand und Vernunft gewesen, die der Menschheit verhalfen, den Höhenflug zu starten, sie buchstäblich in exorbitante Höhen, in das Weltall schleuderte. Dank des menschlichen Denkens vermochten Krankheiten geheilt, Epidemien bekämpft und durch Impfstoffe tödlich grassierende, die Menschheit plagende Pandemien beendet werden; Wissenschaft und Fortschritt liefen mit Meilenstiefeln in die Zukunft, die verheißungsvoll war. Doch neben den gewaltigen Errungenschaften, die Verstand und Vernunft als die geistige Fähigkeit des Menschen, Einsichten zu gewinnen, sich ein Urteil zu bilden sowie die Zusammenhänge und die Ordnung des Wahrgenommenen zu erkennen und sich in seinem Handeln nicht impulsiv oder irrational danach zu richten, können beide auch in ihr Gegenteil verkehren. Die Vernunft als unvernünftige, ist befähigt, dem Menschen zu schaden – Unrecht, Kriege und Schrecken die Folge.
Für Max Horkheimer und Theodor W. Adorno offenbarte nach den Schrecken des Ersten und des Zweiten Weltkrieg sowie des Holocaust die Vernunft ihren Herrschaftscharakter. Als instrumentelle Vernunft hatte sie sich zu einer bedrohlichen Kraft entwickelt und sich als Macht über die äußere und innere Natur letztendlich in Form der institutionalisierten Herrschaft von Menschen über Menschen verfestigt. Horkheimer und Adorno attestierten dieser Herrschaftsvernunft einen Aufschwung zur Mythologie hin, zur „Rückkehr der aufgeklärten Zivilisation zu Barbarei. Wie der Philosoph Jürgen Habermas konstatierte, habe diese „Verschlingung von Mythos und Aufklärung“ nicht einen zu einem Befreiungs-, sondern zu einem universellen Selbstzerstörungsprozess der Aufklärung geführt. Das Gebot der Stunde sei nun, diesem Prozess durch „Selbstbesinnung“ und Selbstkritik der Aufklärung Einhalt zu gebieten. Und in der Tat hatte die Dialektik der Aufklärung ihre desaströsen Schatten aufgerichtet, eine gigantische Maschinerie des Todes erschaffen – und die Vernunft in ihr Gegenteil kippen, sie zur großen Brandstifterin werden lassen, die die Flammen des Sterbens weltweit immer wieder entfachte. Die Vernunft, die einst die Siegeskrone trug, als Ausweis ihrer produktiven und kreativen Schaffens- und Schöpfungsmacht, hat einen Bund mit den modernsten Vernichtungstechnologien geschlossen, die letztendlich den Triumpf des technisch Möglichen über das moralische Gute feierten.
Günter Anders – Das Wesen der Technik ist die Überbietung des Menschen
Für den Philosophen Günther Anders ist es das Wesen der Technik, die Menschheit zum Verschwinden zu bringen. Ihr sei eine Logik immanent, deren Zieles es sei, den Menschen zu überbieten. Deutlich sah Anders jene Spaltung der menschlichen Unvollkommenheit einerseits und den immer größeren, einflussreichen und machtvoller werdenden perfekten Maschinen andererseits. Diese Diskrepanz nannte er als das prometheische Gefälle. Mit der Technik, so hatte er einmal bemerkt, ginge alles leichter – sowohl der Alltag als auch das große Verbrechen, denn je komplexer die eingesetzte Technik ist, desto geringer seien die moralischen Hemmschwellen, was sich darin zeige, dass der nur mit Mühe industriell betriebene Massenmord der Nazis uns ungleich schlimmer als die „elegante“ in Sekundenschnelligkeit vollzogene Auslöschung ganzer Städte durch eine Atombombe zu sein scheint.
Frank Schirrmacher – Die Algorithmen nehmen uns unsere Freiheit
Vor den Gefahren einer technisierten Welt, die im digitalen Zeitalter mit dem Internet Einzug hielt, hatte bereits Frank Schirrmacher, der damalige Mitherausgeber der „Frankfurter Allgemeinen Zeitung“, im Jahr 2009 in einem bemerkenswerten Buch gewarnt: „Payback: Warum sind wir im Informationszeitalter gezwungen zu tun, was wir nicht tun wollen, und wie gewinnen wir die Kontrolle über unser Denken zurück?“ Die Diagnose, die Schirrmacher ausstellte: die Autonomie des Menschen, seine Fähigkeit als vernünftiges Wesen, seine Entscheidungen zu treffen, ist bedroht. Anstatt die Technik zu regieren, sie zu regulieren, verselbständige sich diese und stelle den Menschen in ihre Verfügungsgewalt. Der rationale Mensch unterwerfe sich aus Freiheit dem Joch der Algorithmen, werde zum Getriebenen einer Welt, die ihn samt seiner Autonomie in die Knie zwingt. Das Internet verändere nicht nur die neuronale Struktur des Gehirns, sondern mache den Menschen zum Informationsfresser, verkürzt seine Rationalität auf das pure Abspeichern von Informationen sowie Daten und beraubt ihm damit seiner Kreativität. So beugen sich Vernunft und Verstand dem Diktat der Technik und geben mit jedem Klick ein Stück weit das Selbstdenken auf. Immer häufiger wird in einer derartig strukturierten digitalen Welt nur noch das im Menschen gefordert und gefördert, was mit den Rechnern kompatibel ist. Und so führe, so Schirrmacher, die pure Koexistenz von Menschen und Computer schließlich zum Sieg der Künstlichen Intelligenz. Computer, so prophezeite er damals, werden zu Dingen fähig sein, die heute noch unvorstellbar scheinen. Sie werden unsere Wünsche besser kennen als wir selbst – und sie werden sogar die Fähigkeit besitzen, unsere Assoziationen in Software zu übersetzen. Wir rufen, so Schirrmachers Kritik, unsere ganze Lebensbahn immer stärker wie Informationen ab und zerstören so unsere Fähigkeit, mit Unerwartetem umzugehen. Und die große Frage lautet, ob wir bereits begonnen haben, uns selbst wie Computer zu behandeln, und ob wir damit Gefahr laufen, den Menschen in mathematische Formeln zu verwandeln?
Der Mensch selbst steht auf dem Spiel
Der Mensch hat die Gabe, seine Vernunft zum Guten, Schlechten und Bösen zu gebrauchen, aber er ist es selbst, der diese Entscheidung fällt. Allein der Mensch als vernünftiges und fühlendes Wesen vermag Verantwortung für sein Tun zu übernehmen und die Folgen seiner Handlung abzuschätzen. Dabei prüft er seine Gesinnung, ob die Maximen allgemein gültig sind und ob dieser Imperative (Kants kategorischer Imperativ fordert, dass Handlungen aus Pflicht und nicht aus Eigennutz erfolgen sollen) für eine Verantwortung für künftige Generationen tragfähig ist. Gesinnungs- und Verantwortungsethik obliegen allein Menschen, der Autor seiner Entscheidungen, Quelle seines Denkens und Handelns und im vollumfänglichen Sinne autonom ist. Doch diese Autonomie steht derzeit durch die künstliche Intelligenz auf dem Spiel, wenn Maschinen, vom Menschen entkoppelte Systeme, per generativer KI menschliches Wissen weiterentwickeln, gar zu einer Bedrohung für ihn werden und ihn in seiner Einmaligkeit ablösen.
Stephen Hawking „Sie bringt Gefahren mit sich“
Während die USA seit Jahren Milliarden in die KI-Forschung investieren, wächst seit geraumer Zeit auch die Zahl der Kritiker. In seiner Ansprache auf dem Web Summit 2017 in Lissabon warnte der britische Physiker und Astrophysiker Stephen Hawking vor der KI: „Computer können theoretisch menschliche Intelligenz emulieren und sie übertreffen.“ […] „Erfolgreiches Schaffen einer effektiven künstlichen Intelligenz könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das Schlimmste. Wir wissen es nur nicht. Wir können also nicht wissen, ob uns die künstliche Intelligenz unendlich helfen wird, ob sie uns ignoriert und beiseite schiebt oder ob sie uns möglicherweise zerstört.“ Und er fügt hinzu: „Sie bringt Gefahren mit sich, wie mächtige autonome Waffen oder neue Wege für die wenigen, die vielen zu unterdrücken. Sie könnte unsere Wirtschaft stark zerstören“.
Selbst KI-Pioniere warnen
2023 hatte der KI-Forscher und Turing-Award-Preisträger Geoffrey Hinton seine Position beim US-Konzern Google aufgegeben, um besser auf Risiken der KI-Technologie aufmerksam zu machen. „Die Menschheit ist nur eine vorübergehende Phase in der Entwicklung von Intelligenz“, warnte er. 2024 betonte er, dass er inzwischen Grund zur Annahme habe, dass die KI außer Kontrolle geraten könnte. „Wir sollen sehr ängstlich sein“, mahne er warnt. Flankiert wird diese kritische Sicht auch vom ehemaligen Google-Chef Eric Schmidt. Was die Fortentwicklung künstlicher Intelligenz betreffe, werde er immer besorgter.
Wenn, was als sicher gilt, Computer bald in der Lage sein „von selbst zu laufen und entscheiden, was sie tun wollen“, spätestens dann sei es aber an der Zeit, dass die Menschen ihnen den Stecker ziehen müssten. Wie Schmidt betonte, haben die sozialen Medien den globalen Zeitgeist in einer rasanten Kürze verändert – „und jetzt stellen Sie sich eine viel intelligentere, viel stärkere Art vor, Nachrichten zu senden, Dinge zu erfinden, die Innovationsrate, die Entdeckung von Medikamenten und all das, plus all die schlechten Dinge, wie Waffen und Cyberangriffe.“
Die gängige Neutralitätsthese besagt, dass technische Artefakte im Prinzip für beliebige Zwecke einsetzbar, also neutral sind. Wie jedes vom Menschen erdachte Werkzeug gibt es zwei Facetten: die positiven, aber auch die negativen. Einerseits schenkte der technische Fortschritt der Menschheit unendlichen Fortschritt und Wohlstand, andererseits barg die Technik auch dunkle Mächte, wenn sie in die falschen Hände geriert und dann als dunkle Kraft die Menschen in die Abgründe von Barbarei und Terror warf. Aus der Keule wurden Pfeil und Bogen, später das Gewehr. Auf der nächsten Stufe des technischen Fortschrittes, schufen der Homo Technicus und der Homo Faber, letzterer, der daran glaubte, das Leben allein mit Rationalität meistern zu können, immer schrecklichere Instrumente des Tötens und der Massenvernichtung. Der technische Fortschritt kletterte unaufhaltsam seinen Möglichkeiten entsprechend voran: Aus Bomben, Panzern und Kampfflugzeugen war es nur ein Katzensprung hin zu Atombombe. Heute sind es nicht mehr die Flugzeuge, die tödliche Angriffe fliegen, sondern Drohnen, die per Joystick das Grauen über die Welt bringen. Doch bei allen Grausamkeiten, die der Mensch über die Welt schickte, er selbst stand in der Verantwortung seiner Taten.
Der Heilige Stuhl und die Note „Antiqua et Nova“
Diese Verantwortung jetzt den Maschinen zu überlassen, die selbständig über Leben und Tod entscheiden, hat der Heilige Stuhl in einer Note mit dem Titel „Antiqua et Nova“ zum Anlass genommen, über die Vorteile und Nachteile von KI-Systemen abzuwägen. Neben den großen Potentialen sieht der Vatikan zwar positiv, dass die KI bei der Vervollkommnung der Schöpfung mitwirken kann, da sie „in manchen Gebieten menschliche Fähigkeiten sogar zu übertreffen vermag. Kritisch hingegen vermerkt das Papier, dass die künstliche Intelligenz „bestimmte Entscheidungen selbstständig“ zu treffen vermag, „wobei sie sich an neue Situationen anpasst und von ihren Programmierern nicht vorhergesehene Lösungen bietet.“ Daraus ergeben sich „erhebliche Probleme der ethischen Verantwortung und Sicherheit, die sich auf die gesamte Gesellschaft auswirken“. Wie die Note betont, warnt der Heilige Stuhl ausdrücklich davor, die menschliche Verantwortung an die KI abzugeben. Das Prinzip der menschlichen Verantwortung bleibt unantastbar. Damit verbleibt jeder, der die neue Technik benutzt, um Entscheidungen zu treffen, in jeder Phase der Entscheidung letztverantwortlich. Auch ob ihrer derzeit nicht auszulotenden Möglichkeiten muss darauf geachtet werden, dass die künstliche Intelligenz immer dem Menschen und dem Allgemeinwohl diene.
So sehr die vatikanische Note die positiven Akzente der KI würdigt, sind es doch grundsätzliche Punkte, in denen Rom kritische Potentiale sieht. Zum einen liege die neue Technik in den Händen weniger Großkonzerne, was das Risiko für Diskriminierung und Armut berge. Durch diese Machtkonzentration könne sich die „digitale Kluft“ sowie soziale Ungleichheiten verschärfen. Zum anderen bewerten die beiden Dikasterien, die vatikanische Glaubensbehörde sowie die Behörde für Kultur und Bildung, die Bedrohung, die von KI-gesteuerten autonomen Waffensystem ausgehen als besonders gefährlich. Wenn diese in der Lage sind, „Ziele ohne direktes menschliches Eingreifen zu identifizieren und zu treffen“, ist die Büchse der Pandora geöffnet. Vor derartigen Systemen, die eine reale Bedrohung für das Überleben der Menschheit oder ganzer Regionen“ bedeuten“, warnt Papst Franziskus schon seit Monaten und forderte ein ausdrückliches Verbot des Einsatzes derartiger Waffen. Es sei unvorstellbar, wenn die Menschheit in eine „Spirale der Selbstzerstörung“ gerate. Dann sei es höchste Pflicht, „gegen alle Anwendungen von Technologien Stellung zu beziehen, die das Leben und die Würde des Menschen an sich bedrohen“.
Was der KI laut dem Dokument aus Rom generell fehle, sei die existenzielle Dimension der körperlichen Erfahrung und der persönlichen Entwicklung. Im Unterschied zum Menschen sind Maschinen unfähig, Beziehungen einzugehen, Relationen zu stiften – ganz zu schweigen, dass sie die Wahrheit und das Gute erkennen können. Wenn sie nicht mehr von Menschen, sondern von Maschinen lernten, würden menschliche Beziehungen und Empathie zu kurz kommen. Wer also vermeint, ,,die die menschliche Intelligenz mit den Fähigkeiten der KI gleichzusetzen, läuft in die Gefahr, eine rein funktionale Sicht zu entwickeln. Im Unterschied zu den Maschinen basiert die Würde des Menschen aus seiner Gottesebenbildlichkeit. Wenn diese Würde auf dem Spiel steht, wenn die KI zu einer Bedrohung für die Unverletzlichkeit des menschlichen Lebens wird, muss man ihr den Stecker ziehen.
Mit Blick auf die Bildung junger Menschen zieht der Vatikan eine Negativbilanz, da die KI-Programme „lediglich Antworten“ liefern. Sie tragen weder zur Entwicklung selbstständigen Denkens bei, noch zu einer kritischen Reflexion über die Wirtlichkeit. Auch mit Blick auf die menschliche Gottesbeziehung hält die neue Note fest, dass KI „verführerischer“ als „herkömmliche Götzen“ sein könne, was sich darin spiegele, „Gott durch ein Werk der eigenen Hände zu ersetzen“.
Fazit
Ob in den Medien oder in der Bildung – die künstliche Intelligenz ist zur Herausforderung der Stunde geworden. In den Händen von Despoten und Diktatoren könnte sie zur tödlichen Waffe werden, die die Menschheit an die Abgründe führt. Für Kinder und Jugendlliche sind die Verlockungen durch sie zu groß; statt zu denken, wird möglicherweise nur noch abgeschrieben, Texte einfach generiert und auf das künstlich erzeugte Geschriebene vertraut. Der mögliche Geistestod durch die KI scheint vorprogrammiert. Dieser Trend ist höchstgefährlich gerade für die Jugendlichen. Mittlerweile erreichen 43 Prozent der Kinder beim Lesen und beim Hörverständnis nicht einmal den Mindeststandard und ein Drittel kommt bei der Rechtschreibung nicht auf das Mindestniveau. Mit dem Einsatz der KI wird dieser Negativ-Trend nicht besser, eher noch schlechter. Schon ohne KI verliert das menschliche Miteinander, weil man sich nur durch Handyoberflächen durch das Leben manövriert. Was bleibt, ist eine Generation, die auf die neue Technik vertraut und diese wie ein Gottesgeschenk behandelt – was die jungen Menschen aber vergessen; Bildung bleibt ein Prozess der Aneignung, des Spiegel von Verstand und Vernunft, einer, der einen immer wieder an die Grenzen des eigenen Wissens führt. Wer all diese Mühen des Bildens auslässt, lernt letztendlich gar nichts über sich und die Welt – und vermeint im schlimmsten Falle sogar selbst der Weisheit letzter Schluss zu sein. Eine Selbstüberschätzung, die nicht gut ist.
