Rom (2mind) – Um ethische Perspektiven auf die KI-Entwicklung und den KI-Einsatz geht es bei der gestern von Papst Leo XIV. im Vatikan vorgestellten Enzyklika „Magnifica Humanitas“. Darin schreibt der Papst: „Der Einsatz von KI ist niemals eine rein technische Angelegenheit: Wenn sie in Prozesse eingebunden wird, die das Leben der Menschen beeinflussen, kommt sie mit Rechten, Chancen, gutem Ruf und Freiheit in Berührung.“ Einen Schwerpunkt des Textes bildet der Einsatz von KI (Künstlicher Intelligenz) in Waffensystemen.
Leo XIV. beschreibt eine Machtverschiebung: Im Blick auf digitale Anwendungen liege die Kontrolle in vielen Fällen nicht in der Hand des Staates, sondern von wirtschaftlichen Akteuren. Das birgt Risiken: „Wie es bei jeder großen technologischen Wende der Fall ist, so neigt auch die KI dazu, vor allem die Macht derjenigen zu stärken, die bereits über wirtschaftliche Ressourcen, Kompetenzen und Zugang zu Daten verfügen“, heißt es in der Enzyklika, die auf die Themenbereiche Bildung, Arbeit, Familie und Verteidigung der Freiheit eingeht.
Als Leitkriterium formuliert Leo XIV.: „Es reicht nicht aus, dass KI uns effizienter oder vernetzter macht; sie muss dazu dienen, jene universale Menschheitsfamilie mit gemeinsamen Rechten und Pflichten aufzubauen, in der digitale Nähe zu einer echten Chance für Begegnung und gegenseitige Fürsorge wird.“
Angesichts eines neuen Wettrüstens geht die Enzyklika ausführlich auf den KI-Einsatz im Krieg ein. „Zuallererst muss bei jedem System, das zu Kriegszwecken eingesetzt wird, die Rückverfolgbarkeit und die Möglichkeit gewährleistet sein, Entscheidungsprozesse nachzuvollziehen, damit sich Verantwortlichkeiten und eventuelle Verschuldungen nicht „in der Maschine“ verlieren“, fordert Leo XIV. Die Entscheidung über den Einsatz tödlicher Gewalt dürfe nicht an undurchsichtige oder automatisierte Prozesse delegiert werden. Und es brauche international festgelegte Regeln, die den Wettlauf um hochtechnisierte Waffensysteme bremsen.