Was Papst Leo in „Magnifica humanitas“ über Künstliche Intelligenz und Krieg schreibt

Mit Spannung wurde die am Pfingstmontag veröffentlichte Enzyklika Magnifica humanitas von Papst Leo XIV. über die Künstliche Intelligenz erwartet – speziell auch zur Frage von KI und Krieg. Tatsächlich sind mehrere Abschnitte des ersten großen päpstlichen Lehrschreibens von Leo dieser Thematik gewidmet.

„Der Heilige Stuhl hat kürzlich festgestellt, dass die zunehmende Leichtigkeit, mit der operationell autonome Waffensysteme eingesetzt werden können, Krieg ‚durchführbarer‘ macht und ihn weniger der menschlichen Kontrolle unterwirft, was dem Grundsatz widerspricht, dass der Einsatz von Waffengewalt nur als letzte Option in Fällen legitimer Verteidigung erfolgen sollte“, erinnerte der Papst.

„Aus diesem Grund“, so forderte er, „müssen die Entwicklung und der Einsatz von KI auf dem Gebiet der Kriegsführung strengsten ethischen Auflagen hinsichtlich der Achtung der Menschenwürde und der Unantastbarkeit des Lebens unterliegen, ohne dass es zu einem Wettrüsten kommt“.

„Manchmal ist von ‚künstlichen moralischen Agenten‘ die Rede, so als ob eine Maschine die Unterscheidung zwischen Gut und Böse mit größerer Kohärenz garantieren könne als ein Mensch“, fuhr er fort. „Doch das moralische Urteil lässt sich nicht auf eine Berechnung reduzieren: Es beinhaltet Gewissen, persönliche Verantwortung und die Anerkennung des anderen als Person.“

„Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen“, unterstrich Papst Leo. „Es existiert kein Algorithmus, der Krieg moralisch vertretbar machen könnte. KI mindert nicht die dem bewaffneten Konflikt innewohnende Unmenschlichkeit; sie kann ihn lediglich schneller und unpersönlicher machen, die Schwelle für den Rückgriff auf Gewalt senken und Verteidigung in operative Vorhersage verwandeln, wobei Opfer zu Daten reduziert werden. So gewöhnt sie uns an den Gedanken, dass Gewalt unvermeidlich ist und lediglich optimiert werden muss.“

Es sei „außerordentlich wichtig, in die Programmierung der von uns entwickelten künstlichen Systeme Werte und umsichtiges Urteilsvermögen einfließen zu lassen, die zu einem moralischen Gefüge beitragen können, innerhalb dessen Menschen besser in der Lage sind, auf ihr Gewissen zu hören, und KI-Modelle angemessene Einschränkungen vorsehen“.

Der Pontifex formulierte „einige unverzichtbare Ankündigungen“ für den Umgang mit KI im Rahmen von Krieg: „Zuallererst muss bei jedem System, das zu Kriegszwecken eingesetzt wird, die Rückverfolgbarkeit und die Möglichkeit gewährleistet sein, Entscheidungsprozesse nachzuvollziehen, damit sich Verantwortlichkeiten und eventuelle Verschuldungen nicht ‚in der Maschine‘ verlieren.“

„Zweitens darf die Entscheidung über den Einsatz tödlicher Gewalt nicht an undurchsichtige oder automatisierte Prozesse delegiert werden, sondern muss unter effektiver, bewusster und verantwortlicher menschlicher Kontrolle bleiben“, so Leo. „Schließlich müssen gemeinsame Regeln festgelegt werden, auch auf internationaler Ebene, die den Wettlauf um hochtechnisierte Waffensysteme bremsen und einen besonderen Schutz für Zivilisten und die für ihr Überleben wesentlichen Infrastrukturen gewährleisten.“