Wie Papst Franziskus zum bevorzugten KI-Ethiker für Weltführer und Technologiegiganten wurde

Er Papst Francisco Er ist ein Achtzigjähriger, der sagt, er könne keinen Computer benutzen, aber an einem Februarnachmittag im Jahr 2019 betrat ein hochrangiger amerikanischer Big-Tech-Diplomat die päpstliche Residenz und suchte Rat zur Ethik einer sich entwickelnden Technologie: künstliche Intelligenz.

Der Präsident von Microsoft, Brad Smithund der Papst habe über die rasante Entwicklung der Technologie gesprochen, sagte Smith in einem Interview mit Washington Post, und Francisco schien die Risiken zu verstehen. Als Smith ging, gab der Papst eine Warnung heraus. „Behalte deine Menschlichkeit“drängte er, als er Smiths Handgelenk packte.

In den fünf Jahren seit diesem Treffen ist KI unvermeidlich geworden, wie der Papst letztes Jahr selbst herausfand, als virale Bilder von ihm in einer Balenciaga-Jacke eine neue Ära der Fälschungen einläuteten. Und mit der Verbreitung der Technologie hat sich der Vatikan als das Gewissen von Unternehmen wie Microsoft positioniert und ist zu einer überraschend einflussreichen Stimme in der Debatte über die globale KI-Governance geworden.

Am Freitag hielt Franziskus in Süditalien als erster Papst eine Ansprache vor einem Forum weltweit führender Vertreter der Gruppe der Sieben. Bereitstellung einer moralischen Abhandlung über die „kognitiv-industrielle Revolution“, die KI darstelltin dem Versuch, das Thema auf die gleiche Weise zur Sprache zu bringen, wie er es beim Klimawandel getan hat.

In einer umfassenden Rede erläuterte der Papst die Auswirkungen eine Technologie „ebenso faszinierend wie erschreckend“Er sagte, es könne „die Art und Weise verändern, wie wir unsere Identität als Menschen wahrnehmen“. Er prangerte an, dass KI die Dominanz der westlichen Kultur festigen und die Menschenwürde untergraben könne.

KI, so sagte er, werde als Werkzeug dargestellt, das Wissen demokratisieren, die Wissenschaft „exponentiell“ vorantreiben und die menschliche Situation erleichtern könne, da Menschen „mühsame Aufgaben an Maschinen“ abgeben. Er warnte jedoch davor, dass es auch die Macht habe, zu zerstören, und forderte ein „dringendes“ Verbot tödlicher autonomer Waffen. Als Geist aus der Zukunft bezog er sich auf den dystopischen Roman „Herr der Welt“ aus dem Jahr 1907, in dem Technologie die Religion und den Glauben an Gott ersetzt.

„Keine Maschine sollte sich jemals dafür entscheiden, einem Menschen das Leben zu nehmen.“sagte der Papst.

Er hat bereits darauf bestanden, dass KI-Risiken durch einen globalen Vertrag gemanagt werden müssen, und am Freitag befürwortete er die Notwendigkeit einer Reihe vereinheitlichender globaler „Grundsätze“, um die KI-Entwicklung zu leiten.

Der „Rome Call for the Ethics of Artificial Intelligence“ – ein Dokument, zu dessen ursprünglichen Unterzeichnern im Jahr 2020 der Vatikan, Microsoft und IBM zählten – wird zum Goldstandard für KI-Best Practices. Es diente als Grundlage für die G7-Gespräche über die Entwicklung eines Verhaltenskodex. Und am Freitag kündigten die Staats- und Regierungschefs der G-7 – mit Unterstützung des Vatikans – an, dass sie eine Art Ehrenabzeichen schaffen würden: ein neues Label für Unternehmen, die sich bereit erklären, KI-Tools sicher und ethisch zu entwickeln und befolgen Sie die Richtlinien für die freiwillige Risikoberichterstattung und -überwachung. In Anlehnung an die Bedenken des Vatikans forderten die Staats- und Regierungschefs außerdem einen „verantwortungsvollen militärischen Einsatz von KI“.

Das KI-Problem hat der Kirche, die durch den Umgang mit Skandalen um sexuellen Missbrauch durch Geistliche geschwächt wurde, eine Gelegenheit geboten, ihre moralische Autorität wieder zu behaupten. Microsoft und zumindest einige andere Technologieunternehmen scheinen bestrebt zu sein, das Gütesiegel der Kirche zu erhalten, da die Branche mit den PR-Herausforderungen einer Technologie konfrontiert ist, die Arbeitsplätze automatisieren, Fehlinformationen verstärken und neue Cybersicherheitsrisiken schaffen könnte.

Der Vatikan hat sich einen Platz am Tisch der großen Technologien verdient. Eine alte Institution mit einer uneinheitlichen Geschichte auf dem Gebiet der Wissenschaft – siehe den Prozess gegen Galileo – entsendet nun Vertreter zu großen Technologieveranstaltungen.

Der Priester Paolo Benanti – der führende Experte des Vatikans für künstliche Intelligenz, ein Franziskanerpriester und ausgebildeter Ingenieur, dem die Prägung des Begriffs „Algoretik“ zugeschrieben wird – sicherte sich letztes Jahr eine Position im Beratungsgremium der Vereinten Nationen für künstliche Intelligenz und ist zu einem wichtigen Akteur in der Entwicklung geworden einer nationalen Politik zur künstlichen Intelligenz für Italien, ein G-7-Land. Auf Ersuchen des Vatikans veranstaltete IBM ein globales Gipfeltreffen von Schulen an der Universität Notre Dame, um die KI-Ethik in den Vordergrund der Lehrpläne zu rücken.

Die Meinungen des Vatikans haben bestimmte Geschäftsentscheidungen beeinflusst. Smith von Microsoft sagte gegenüber der Post: „Wir haben unsere eigene Technologie entwickelt, die es jedem ermöglichen würde, in nur wenigen Sekunden jede Stimme zu reproduzieren. Und wir haben beschlossen, es nicht preiszugeben.“ Die Rom-Prinzipien, fügte er hinzu, seien „sicherlich Teil dessen, was uns bei Microsoft dabei geholfen hat, einen breiten Ansatz für die KI-Entwicklung zu verfolgen, auch innerhalb unserer eigenen vier Wände.“ Ich denke, es hat uns einen breiten humanistischen und intellektuellen Rahmen gegeben.“

Der Schwerpunkt des Engagements auf Inklusion beeinflusste auch die Entscheidung des Unternehmens, ein Stipendium ins Leben zu rufen, das Forscher und Führungskräfte der Zivilgesellschaft, hauptsächlich aus dem globalen Süden, zusammenbringt, um die Auswirkungen der Technologie zu bewerten, sagte er. Natasha Crampton, verantwortlicher Direktor für Künstliche Intelligenz bei Microsoft. Die Praktikanten haben dem Unternehmen bei der Entwicklung mehrsprachiger Bewertungen von KI-Modellen geholfen und sichergestellt, dass das Unternehmen bei der Entwicklung neuer Produkte den lokalen Kontext und die kulturellen Normen versteht.

Nicht alle Unternehmen sind mit den Rom-Prinzipien einverstanden. Einige haben KI-manipulierte Audiodaten eingesetzt, von denen Forscher warnen, dass sie dazu verwendet werden könnten, Wähler vor der Wahl in die Irre zu führen.

Es wurde auch nicht jedem gestattet, dem Rom-Club beizutreten. Das chinesische Unternehmen „Huawei“ habe nachgefragt, sagte der Erzbischof Vincenzo Paglia, Präsident der Päpstlichen Akademie für das Leben. „Und wir sagten nein, weil wir nicht wirklich wissen, was sie denken [los responsables de allí]“.

Unterdessen ist der Vatikan weiterhin besorgt über den Missbrauch von Open-Source-KI. Die Technologie könnte große Vorteile im Gesundheitswesen und im Bildungswesen bringen, sagte Benanti. „Aber es kann auch viele schlechte Elemente in der Gesellschaft vermehren, und wir können KI nicht ohne politische Entscheidung überall verbreiten, denn morgen könnten wir mit einem Multiplikator der Ungleichheit und der biologischen Waffen aufwachen“, sagte er.

Beamte des Vatikans haben bereits Alarm geschlagen darüber, welche Verwendungen ihrer Meinung nach potenziell unethisch sindeinschließlich Gesichtserkennungssystemen, die bei der Niederschlagung von Demonstranten in Hongkong in den Jahren 2019–2020 eingesetzt wurden, sowie Algorithmen für die Flüchtlingsbearbeitung wie in Deutschland, wo KI-gestützte Sprachtests eingesetzt wurden, um festzustellen, ob Asylbewerber über ihre Identität lügen Herkunftsort.

Die Beziehung zwischen dem Vatikan und den KI-Innovatoren hatte ihren Ursprung in einer Rede, die Benanti 2018 über die Ethik der KI hielt. Ein hochrangiger Microsoft-Vertreter in Italien war im Publikum gewesen, und die beiden begannen, sich regelmäßig zu treffen. Sie holten Paglia hinzu, der daran interessiert war, den Umfang seines Stipendiums über Kernthemen wie die Ethik der Stammzellenforschung hinaus zu erweitern.

Vor Smiths Besuch beim Papst begleitete Paglia ihn zu Michelangelos „Jüngstem Gericht“ in der Sixtinischen Kapelle und zeigte ihm Galileis Darstellungen der Erde, die sich um die Sonne dreht, eine Theorie, die ihm nach einem kirchlichen Prozess lebenslangen Hausarrest einbrachte.

Jedoch, Das Verhältnis des Vatikans zur Wissenschaft war nicht immer lächerlich. Im Mittelalter gründeten katholische Gelehrte in Europa einige seiner größten Universitäten. Und obwohl einige Geistliche es ins Visier nahmen, wurde Darwins Evolutionstheorie vom Vatikan nie offiziell in Frage gestellt.

Die Kirche erklärt offiziell, dass „Glaube und Vernunft“ nicht im Widerspruch stehen.

„Die Bibel sagt uns nicht, wie der Himmel funktioniert, sondern wie wir dorthin gelangen.“Sagte Paglia und zitierte Galileo. Der Erzbischof unternahm offizielle Reisen zur Microsoft-Zentrale in der Nähe von Seattle und zu den IBM-Büros in New York.

Dank seiner aggressiven Investitionen in künstliche Intelligenz ist Microsoft mit einem Wert von mehr als 3 Billionen US-Dollar zum wertvollsten Unternehmen der Welt geworden. Ihr anhaltender Erfolg hängt jedoch von der Eindämmung negativer Wahrnehmungen von KI ab. Bedenken, dass diese Technologie Arbeitsplätze verdrängen, Ungleichheiten verschärfen, die Überwachung verstärken und neue Arten der Kriegsführung einleiten könnte, veranlassen Regierungen auf der ganzen Welt, strenge Vorschriften in Betracht zu ziehen, die die Ambitionen des Unternehmens bremsen könnten.

Die Europäische Union bereitet ein historisches Gesetz vor könnte fortschrittlichere generative KI-Modelle einschränken. Die Federal Trade Commission untersucht einen Deal, den Microsoft mit dem KI-Startup Inflection geschlossen hat, um festzustellen, ob der Technologieriese die Investition absichtlich inszeniert hat, um einer Fusionsprüfung zu entgehen. Und die US-Behörden haben eine Einigung erzielt, die das Unternehmen einer genaueren Prüfung darüber aussetzen wird, wie es seine Macht zur Beherrschung der künstlichen Intelligenz ausübt, einschließlich seiner milliardenschweren Investitionen in OpenAI, dem Hersteller von ChatGPT. Diese Beziehung hat Microsoft auch neuen Reputationsrisiken ausgesetzt, da der CEO von OpenAI, Sam Altman, häufig zu Kontroversen führt.

Unter Smiths Leitung hat Microsoft eine der raffiniertesten Lobbyorganisationen der Welt gegründet, um seine Regulierungsprobleme zu entschärfen und zu versuchen, die Menschen davon zu überzeugen, dass es der technologische Gigant ist, dem die Welt bei der Entwicklung von KI vertrauen kann. Smith trifft sich regelmäßig mit Staatsoberhäuptern und letzten Monat nahm er zusammen mit Präsident Biden an der Einweihung einer Fabrik teil. Um ein effektives Unternehmen zu sein, müsse Microsoft Wege finden, mit Regierungen zusammenzuarbeiten und sicherzustellen, dass seine Technologie diese übertreffen kann, sagte Smith.

Die „älteste globale Organisation der Welt“ könne dabei ein Lehrmeister und ein einzigartiger Partner sein, sagte er und bezog sich dabei auf den Vatikan. Der Katholizismus und andere Religionen unterliegen keinen Landesgrenzen, ebenso wenig wie die Anwendungen, die Microsoft weltweit verkauft.

„Einerseits könnte man denken, wir seien seltsame Bettgenossen“, sagte Smith. “Andererseits, Es ist eine perfekte Kombination.“

© 2024, The Washington Post