Papst Franziskus nimmt zum ersten Mal am G7-Gipfel teil und warnt vor den Gefahren der KI

Papst Franziskus hat auf dem G7-Gipfel in Süditalien als erster Pontifex zu den Staats- und Regierungschefs gesprochen.

In seiner Rede am Runden Tisch forderte er sie auf, bei der Entwicklung und Nutzung künstlicher Intelligenz die Menschenwürde in den Vordergrund zu stellen. Er warnte davor, dass eine so leistungsfähige Technologie das Risiko birgt, menschliche Beziehungen selbst zu Algorithmen zu machen.

"Angesichts der Wunderwerke der Maschinen, die scheinbar selbstständig entscheiden können, sollten wir uns darüber im Klaren sein, dass die Entscheidungsfindung, auch wenn wir mit ihren manchmal dramatischen und dringenden Aspekten konfrontiert sind, immer dem Menschen überlassen bleiben muss", sagte er.

Papst Franziskus mit Italiens Ministerpräsidentin Giorgia Meloni am zweiten Tag des Gipfels in Borgo Egnazia, 14. Juni 2024 Christopher Furlong/2024 Getty Images

"Wir würden die Menschheit zu einer Zukunft ohne Hoffnung verdammen, wenn wir den Menschen die Fähigkeit nehmen würden, Entscheidungen über sich selbst und ihr Leben zu treffen, indem wir sie dazu verdammen, von den Entscheidungen von Maschinen abhängig zu sein".

Franziskus brachte seine moralische Autorität in die Gruppe der Sieben ein, die von Gastgeber Italien eingeladen wurde, um in einer Sondersitzung über die Gefahren und Versprechen der KI zu sprechen.

Dabei bot er eine ethische Sichtweise auf ein Thema, das zunehmend auf der Tagesordnung internationaler Gipfeltreffen, der Regierungspolitik und der Unternehmensvorstände steht.

Franziskus sagte, dass Politiker die Führung übernehmen müssen, um sicherzustellen, dass KI menschenzentriert bleibt, so dass Entscheidungen über den Einsatz von Waffen oder sogar weniger tödlichen Werkzeugen immer von Menschen und nicht von Maschinen getroffen werden.

Er nahm auch autonome Waffen ins Visier und sagte, es dürfe niemals Maschinen überlassen werden, zu entscheiden, ob sie einen Menschen töten oder nicht.

Keine Maschine sollte sich jemals entscheiden, ob sie einem Menschen das Leben nimmt.

Papst Franziskus

"Angesichts der Tragödie, die bewaffnete Konflikte darstellen, ist es dringend erforderlich, die Entwicklung und den Einsatz von Geräten wie den so genannten 'tödlichen autonomen Waffen' zu überdenken und letztendlich ihren Einsatz zu verbieten. Dies beginnt mit einer wirksamen und konkreten Verpflichtung zur Einführung einer immer stärkeren und angemessenen menschlichen Kontrolle. Keine Maschine sollte sich jemals dafür entscheiden, das Leben eines Menschen zu nehmen", sagte er.

Die Abschlusserklärung der G7 spiegelt weitgehend seine Bedenken wider. Die Staats- und Regierungschefs versprachen, die Governance und den regulatorischen Rahmen für die KI besser zu koordinieren, um sie "menschenzentriert" zu halten.

Gleichzeitig erkannten sie die möglichen Auswirkungen von Maschinen, die menschliche Arbeitskräfte ersetzen, auf den Arbeitsmarkt und von Algorithmen, die Rückfälle vorhersagen, auf das Justizsystem an.

"Wir werden eine integrative, auf den Menschen ausgerichtete digitale Transformation anstreben, die das Wirtschaftswachstum und die nachhaltige Entwicklung unterstützt, den Nutzen maximiert und die Risiken beherrscht, und zwar im Einklang mit unseren gemeinsamen demokratischen Werten und der Achtung der Menschenrechte", erklärten sie.

Mit seiner Teilnahme am Gipfeltreffen schloss sich Franziskus einem Chor von Ländern und globalen Gremien an, die nach dem Boom der generativen KI, der durch den Chatbot ChatGPT von OpenAI ausgelöst wurde, auf strengere Leitplanken für KI drängen.

In Bezug auf das Waffenthema erklärten die G7-Staats- und Regierungschefs, dass sie die Auswirkungen von KI im militärischen Bereich "und die Notwendigkeit eines Rahmens für eine verantwortungsvolle Entwicklung und Nutzung" anerkennen. Sie forderten die Staaten auf, dafür zu sorgen, dass "die militärische Nutzung von KI verantwortungsvoll ist, mit dem geltenden Völkerrecht, insbesondere dem humanitären Völkerrecht, übereinstimmt und die internationale Sicherheit verbessert".