Papst Leo XIV. warnt vor Macht der Künstlichen Intelligenz – Verbot autonomer Waffen gefordert

Papst Leo XIV. hat die Staats- und Regierungschefs der Welt aufgerufen, der Künstlichen Intelligenz keine Entscheidungen über Menschenleben, Waffeneinsätze oder individuelle Freiheiten zu überlassen. Bei einem Treffen mit Experten im Vatikan am 30. Oktober warnte er, dass der Mensch durch algorithmische Entscheidungen leicht zu einem bloßen Datensatz in einer Datenbank werden könne. Staaten, die sich im November in Genf versammeln, forderte er auf, konkrete Schritte für ein Verbot tödlicher autonomer Waffen zu unternehmen. Zudem verlangt der Papst die Schaffung wirksamer internationaler Regeln, unabhängiger Kontrollen und klarer Verantwortlichkeiten für durch Künstliche Intelligenz verursachte Schäden.

Maschinen dürfen nicht über Leben und Tod entscheiden

Der Papst sprach auf dem Treffen „Die Zukunft der Künstlichen Intelligenz: Dialog zwischen Vatikan und Wissenschaft über die Entwicklung und Nutzung intelligenter Technologien“. Die Veranstaltung fand im Apostolischen Palast statt und wurde von der Päpstlichen Akademie für das Leben gemeinsam mit dem Future of Life Institute organisiert.

In seiner Ansprache betonte Leo XIV., dass technologischer Fortschritt große Chancen biete, aber ebenso immer ernsthaftere Fragen zur Menschenwürde aufwerfe. Die Gesellschaft sei sich zwar annähernd einig, in welche Richtung die Entwicklung der Künstlichen Intelligenz gehen solle, bislang werde jedoch zu wenig zur tatsächlichen Umsetzung dieser Prinzipien getan.

Besonders hob er jene Situationen hervor, in denen Algorithmen Entscheidungsgewalt über Leben, Freiheit oder den Einsatz von Gewalt erhalten. Als Beispiele nannte er das Listen von Menschen als potenzielle militärische Ziele oder ihre Aufnahme in Datenbanken zur Grenzkontrolle.

Nach Ansicht des Papstes besteht in solchen Fällen die Gefahr, dass der einzelne Mensch auf einen bloßen Datensatz reduziert wird, ohne Berücksichtigung seiner eigentlichen Situation. Entscheidungen mit schwerwiegenden Konsequenzen müssten deshalb stets unter wirksamer, informierter und verantwortlicher menschlicher Kontrolle bleiben.

Papst fordert Verbot tödlicher autonomer Waffen

Einer der markantesten Appelle seiner Rede war die Forderung nach einem weltweiten Verbot autonomer Waffensysteme, die in der Lage sind, selbständig Ziele zu suchen, zu identifizieren und in einem bestimmten Moment ohne menschliche Entscheidung anzugreifen.

Leo XIV. erklärte, Künstliche Intelligenz müsse „entwaffnet“ werden. Staaten, die sich im November in Genf treffen, rief er auf, gezielte Maßnahmen zur Ächtung solcher Systeme zu ergreifen.

In Genf ist vom 16. bis 20. November 2026 eine Verhandlung im Rahmen der UN-Konvention über bestimmte konventionelle Waffen geplant. Ein zentrales Thema wird die internationale Regulierung autonomer Waffensysteme sein.

Die Debatte behandelt das Grundproblem: Darf die endgültige Entscheidung über die Tötung eines Menschen einer Technologie überlassen werden, die kein eigenes moralisches Bewusstsein hat und für ihr Handeln keine persönliche Verantwortung trägt?

Die Antwort des Papstes ist eindeutig: Über den Einsatz tödlicher Gewalt darf kein automatisiertes System entscheiden – die Verantwortung hierfür müssen Menschen übernehmen.

KI ist kein eigenständiges Subjekt, sondern Werkzeug

Leo XIV. stellte fünf Grundsätze vor, an denen sich die weitere Entwicklung von Künstlicher Intelligenz orientieren solle. Erstens sei die Zukunft der KI nicht vorgezeichnet, sondern hänge von den Entscheidungen jener ab, die sie entwickeln, finanzieren, regulieren und anwenden.

Der Papst unterstrich, dass die entscheidende Frage nicht allein das technisch Machbare sei, sondern wofür KI letztlich eingesetzt werden solle. Ein einseitiges Wettrennen um immer leistungsfähigere Systeme dürfe die Folgen nicht unbeachtet lassen.

Zweitens seien Maschinen Werkzeuge, keine Personen. Künstliche Intelligenz hat weder eigene menschliche Erfahrungen, noch einen Körper oder die Fähigkeit, Freude, Schmerz oder Beziehungen zu empfinden. Liebe, Freundschaft, Arbeit oder Verantwortung können von KI nicht so verstanden werden wie vom Menschen.

Zugleich warnte der Papst davor, KI-Systemen Rechte oder gar Rechtsfähigkeit zuzugestehen, da dies die Verantwortung jener verschleiern könnte, die diese Technologien entwickeln oder einsetzen. Wer durch Fehlentscheidungen eines Algorithmus’ geschädigt wird, könnte sonst in Ungewissheit über die tatsächliche Verantwortlichkeit geraten.

Technologien sollen dem Gemeinwohl dienen

Drittens müsse die menschliche Kontrolle über Entscheidungen, die Leben, Freiheit und Sicherheit betreffen, bewahrt werden. Viertens solle technologischer Fortschritt dem Gemeinwohl dienen und nicht nur einer privilegierten Minderheit oder großen Unternehmen Vorteile verschaffen.

Leo XIV. hob hervor, dass Gerechtigkeit einen Zugang zu Innovationsgewinnen erfordert. Künstliche Intelligenz solle Solidarität fördern und Chancen weltweit erweitern, nicht jedoch die Kluft zwischen Nutznießern moderner Technik und Ausgeschlossenen vergrößern.

Das fünfte und laut Papst vielleicht dringendste Thema sei die Frage der Institutionen. Ethische Grundsätze existierten bereits, aber es fehle an ausreichend wirksamen Mechanismen zu deren Durchsetzung.

Er rief daher zur Entwicklung gemeinsamer internationaler Standards, unabhängiger Aufsicht und klarer Regelungen zur Verantwortung auf. Entscheidungen über Entwicklung und Einsatz von KI müssten überprüfbar sein und im Schadensfall effektive Klagemöglichkeiten bieten.

Warnung in Fortsetzung der Enzyklika „Magnifica Humanitas“

Die Rede am Freitag war keine Einzelmeinung: Leo XIV. knüpfte an seine Enzyklika „Magnifica Humanitas“ an, die er am 15. Mai 2026 veröffentlichte und dem Schutz der menschlichen Person im Zeitalter der Künstlichen Intelligenz widmete.

Das Dokument befasst sich detailliert damit, wie neue Technologien Gesellschaft, Wirtschaft, Arbeitsmarkt und sogar Kriegsführung verändern.

Auch warnt Leo XIV. hier vor der wachsenden Macht privater Technologiekonzerne. Diese verfügten oft über finanzielle und technologische Ressourcen, die in bestimmten Bereichen die Möglichkeiten einzelner Staaten übertreffen. Deshalb dürfe die Entwicklung von KI nicht allein kommerziellen Akteuren überlassen werden.

Die Enzyklika behandelt auch autonome Waffensysteme. Der Papst lehnt darin die Vorstellung ab, dass Algorithmen die moralische Verantwortung für den Einsatz tödlicher Gewalt übernehmen könnten. Schnellere, effizientere Entscheidungsprozesse bedeuten nicht automatisch mehr Gerechtigkeit oder Sicherheit.

Risiken der KI betreffen auch Sicherheit und Militär

Die Diskussion über autonome Waffen erhält durch die Einführung moderner Militärtechnologien zusätzliche Brisanz. Künstliche Intelligenz wird zunehmend für die Auswertung von Geheimdienstinformationen, Bewegungsanalysen, Steuerung unbemannter Systeme und Einsatzplanung genutzt.

Militärischer Einsatz von KI kann schnellere Datenverarbeitung und höhere Präzision bringen, birgt jedoch das Risiko, dass Entscheidungsbefugnisse über Gewalteinsätze allmählich auf automatisierte Systeme übergehen.

Solch einer Entwicklung will der Papst entschieden entgegenwirken. Er betont, dass Entscheidungen über Angriffe schwer nachvollziehbar werden können, wenn sie automatisiert ablaufen – und dann die Zurechnung der Verantwortung erschwert wird.

Über die wachsende Bedeutung von KI im militärischen Bereich berichten wir auch im Artikel „NATO stellt neue Strategie vor. Drohnen, KI und neue Technologien spielen Schlüsselrollen“.

KI-Kontrolle wird auch in der Slowakei zum Thema

Die Frage der KI-Regulierung betrifft nicht nur technische Großmächte. Schrittweise führen auch europäische Staaten, darunter die Slowakei, neue Regelungen ein.

Die Slowakei bereitet ein Aufsichtssystem für Künstliche Intelligenz im Einklang mit europäischen Vorgaben vor. Das Ministerium für Investitionen, Regionalentwicklung und Digitalisierung soll die Koordination übernehmen. Zum System gehört auch eine kontrollierte Testumgebung, in der Unternehmen neue Technologien unter staatlicher Aufsicht erproben können.

Mehr über die geplanten Maßnahmen erfahren Sie im Beitrag „Slowakei schafft KI-Regeln: MIRRI überwacht den Markt und richtet kontrollierten Sandbox ein“.

Der Unterschied zwischen dem europäischen Ansatz und dem päpstlichen Appell besteht vor allem im Umfang: Europäische Gesetze regulieren den KI-Einsatz je nach Risikograd, während Leo XIV. auf die Notwendigkeit internationaler Regeln auch für Technologien pocht, die Entscheidungen von Leben und Tod treffen könnten.

November bringt wichtige Debatte über autonome Waffen

Das nächste bedeutende Ereignis ist die Genfer Konferenz im November, bei der sich Staaten mit autonomen Waffensystemen beschäftigen werden. Der Appell des Papstes erfolgt in einer Zeit, in der die internationale Gemeinschaft nach gemeinsamen Lösungsansätzen für den militärischen Einsatz sich rasch entwickelnder Technologien sucht.

Noch ist offen, ob die Gespräche zu einer verbindlichen Vereinbarung führen. Dafür ist die Zustimmung zahlreicher Staaten nötig und eine Einigung darüber, welche Systeme und Methoden verboten oder eingeschränkt werden sollen.

Leo XIV. sendet jedoch eine klare Botschaft: Technologischer Fortschritt darf den Menschen nicht von seiner Verantwortung entbinden – insbesondere nicht bei Entscheidungen mit unabsehbaren Folgen. Künstliche Intelligenz könne ein wertvolles Werkzeug sein, dürfe aber niemals darüber bestimmen, wer leben darf, wer als Bedrohung gilt oder wann tödliche Gewalt eingesetzt wird.

LESEN SIE AUCH

Bill Gates warnt: Missbrauchte KI könnte das Leben von Milliarden Menschen gefährden

Dieser Artikel wurde mit Unterstützung von KI aus der slowakischen Originalfassung übersetzt.