Meinung: Das Drama um Sam Altman ist eine dringende Warnung

(CNN)— Die größte Tech-Neuigkeit dieser Woche ist der Sturz von Sam Altman von seiner Rolle als CEO von OpenAI, ein Schritt, der das Unternehmen und die Branche erschüttert hat. Hunderte OpenAI-Mitarbeiter haben mit Rücktritt gedroht. Altman hat bereits eine Stelle bei Microsoft übernommen. Und OpenAI, das Unternehmen hinter ChatGPT, hat seinen dritten CEO in ebenso vielen Tagen.

Es ist alles sehr saftig. Aber dieses Drama sollte auch größere Fragen aufwerfen, die weit über die internen Einstellungen und Entlassungen eines Unternehmens hinausgehen, darunter: Wer sind die Menschen, die die Entscheidungen treffen, die so viel über unsere technologische Zukunft bestimmen werden? Nach welchen Leitprinzipien treffen sie diese Entscheidungen? Und wie sollten andere Institutionen – Regierungen, Nicht-Tech-Industrien, globale Allianzen, Regulierungsbehörden – die schlimmsten Exzesse potenziell gefährlicher KI-Innovatoren unter Kontrolle halten?

OpenAI wurde als gemeinnützige Organisation mit der ausdrücklichen Mission gegründet, die möglicherweise bald übermenschliche Intelligenz „zum Wohle der Menschheit als Ganzes“ zu nutzen. Aber diese Sensibilität hat nicht angehalten. Das Unternehmen verfügt nun über einen mehrere Milliarden Dollar schweren, gewinnorientierten Arm. Sie haben blitzschnell neue Technologien entwickelt und sie manchmal an die Öffentlichkeit geschickt, bevor einige Mitarbeiter glaubten, sie seien bereit. Berichten zufolge hat das Unternehmen bereits eine KI-Technologie erfunden, die so gefährlich ist, dass sie sie nie veröffentlichen wird – aber sie wird Reportern oder der Öffentlichkeit auch nicht genau sagen, was es ist.

Diese Dynamik – eine potenziell gefährliche Technologie, die mit extremer Geschwindigkeit und größtenteils hinter verschlossenen Türen entwickelt wird – ist teilweise für Altmans Entlassung verantwortlich. Laut David Goldman von CNN befürchtete der OpenAI-Vorstand, dass „das Unternehmen das technologische Äquivalent einer Atombombe herstellte und sein Verwalter Sam Altman so schnell vorging, dass er eine globale Katastrophe riskierte.“ Ein besonderes Problem schien Altmans Bemühungen zu sein, die Tools hinter ChatGPT jedem zugänglich zu machen, der seine eigene Version des Chatbots erstellen wollte. Einige Vorstandsmitglieder befürchteten, dass dies weitgehend katastrophal sein könnte.

Doch dann entließen sie ihn ohne Vorwarnung und offenbar ohne Beteiligung von Microsoft, dem größten Anteilseigner des Unternehmens. Jetzt ist Altman in der neuen KI-Gruppe bei Microsoft und man muss sich fragen, ob die dortige Aufsicht und Vorsicht mit der bei OpenAI vergleichbar sein wird oder ob ihm die freie Hand gegeben wird, so schnell und hart zu arbeiten, wie er möchte . Und trotz aller berechtigten Zurückhaltung des OpenAI-Vorstands hat das Unternehmen einen Großteil seiner Arbeit im Geheimen durchgeführt – ohne dass die Öffentlichkeit wirklich versteht, was eine Handvoll unverantwortlicher Technologen bauen und wie es ihr Leben mit ziemlicher Sicherheit unauslöschlich verändern wird.

Es wird allgemein davon ausgegangen, dass KI das Potenzial hat, weite Teile der menschlichen Existenz neu zu gestalten. Zumindest scheint es nahezu garantiert zu sein, dass sich dadurch die Art und Weise verändert, wie wir Informationen verarbeiten, wie wir kommunizieren, wie wir lernen und wie wir arbeiten (und ob wir arbeiten). Und die Auswirkungen könnten noch viel extremer sein. KI-Technologien haben bereits die Fähigkeit bewiesen, zu lügen und ihre Spuren zu verwischen. Sie konnten bereits einen Entwurf vorschlagen, um die Ausbreitung eines Virus zu beschleunigen. Viele Forscher wissen genau, wie schnell diese Maschinen die Fähigkeit entwickeln könnten, uns zu vernichten, darunter auch Altman: Er hat in Big Sur ein Prepper-Paradies vorbereitet, komplett mit Waffen und „Gasmasken der israelischen Streitkräfte“ für den Fall, dass die KI aus dem Ruder läuft und die Roboter ziehen laut Berichten des New Yorker in den Krieg gegen Menschen.

Aber keine Sorge, sagte er zu einem Atlantic-Reporter: Wenn die KI entschlossen ist, uns auszulöschen, „hilft keine Gasmaske irgendjemandem.“ (Wenn Sie einen hervorragenden und erschreckenden Überblick über die Risiken von KI wünschen – zumindest die, die wir derzeit verstehen und die mit ziemlicher Sicherheit nur einen Bruchteil der drohenden Gefahren darstellen –, ist das Atlantic-Profil von Altman und seiner Technologie eine Lektüre wert.)

KI ist eine sehr spannende Technologie. Aber es ist auch potenziell sehr gefährlich, und zwar nicht im Sinne der sozialen Medien, „es könnte uns ein schlechtes Selbstwertgefühl geben und uns einsam machen“, sondern im Sinne von „es könnte menschliche Gesellschaften zerstören und uns alle töten“.

Angesichts des lebensverändernden Potenzials der KI – selbst wenn sie uns nicht alle tötet, wird sie mit ziemlicher Sicherheit die menschliche Existenz auf beispiellose Weise und mit beispielloser Geschwindigkeit verändern – haben wir alle ein Interesse daran, wie sie entwickelt wird. Und doch wird die Entwicklung einer Handvoll Leuten (die größtenteils Männer zu sein scheinen) im Silicon Valley und anderen Tech-Bereichen rund um den Globus überlassen. Und wir alle haben ein Interesse daran, wessen Interessen KI dienen wird – und derzeit wird ihre Entwicklung mit Milliarden von Dollar von Menschen finanziert, die große Gewinne erwarten.

Stimmen die Interessen der Öffentlichkeit mit den Interessen der Aktionäre überein, für die gewinnorientierte, potenziell enorm lukrative Unternehmen für wenige Unternehmen gelten? Oder mit den Interessen von Technologieunternehmern, denen es in erster Linie darum geht, an der Spitze der KI-Revolution zu stehen, unabhängig von den potenziellen menschlichen Kosten?

Eines ist klar: KI kommt. Und wie es auf die Öffentlichkeit aufgebaut und eingesetzt wird, ist vielleicht wichtiger als jede andere Technologie des vergangenen Jahrhunderts. In ihrem zerstörerischen Potenzial liegt sie tatsächlich auf Augenhöhe mit der Atombombe – außer dass sie wahrscheinlich schwieriger zu regulieren und zu kontrollieren ist.

„Regulierung“ kratzt noch lange nicht an der Oberfläche dessen, was nötig ist, um sicherzustellen, dass die KI-Zukunft nicht katastrophal wird, zumal die Entwicklung der KI mittlerweile ein massives internationales Wettrüsten ist, mit besonders schrecklichen Folgen, wenn sich schlechte Akteure entwickeln diese Technologie zuerst. Aber Regulierung ist zumindest ein notwendiger Schritt.

Das Gleiche gilt für Transparenz: In den USA haben Unternehmen weitreichende Möglichkeiten, hinter einem Schleier der Geheimhaltung zu arbeiten, und vieles, was KI-Unternehmen tun, wird geheim gehalten, um die Konkurrenz auszubremsen. Aber die Öffentlichkeit hat sicherlich ein Recht darauf zu verstehen, welche lebensverändernden Technologien auf uns zukommen werden und was die Schöpfer tun, um die Menschheit zu schützen – unsere Arbeitsplätze, unsere Gemeinschaften, unsere Familien, unsere Verbindungen, unsere Bildung und unsere Fähigkeiten dazu Bauen Sie ein Leben voller Sinn auf, aber auch unser Leben und unsere Sicherheit.

Die Altman-Geschichte ist faszinierend, weil Altman die mächtigste Figur der KI-Technologie ist, was ihn faktisch zu einem der mächtigsten Männer der Welt macht. Aber das sollte uns zum Nachdenken bringen: Wer ist er, welche Macht hat er, was macht er damit, wem gegenüber ist er verantwortlich, und fühlen wir uns wohl, wenn so viel lebensveränderndes Potenzial in den Händen einiger weniger rechenschaftspflichtiger Menschen liegt?

The-CNN-Wire
™ & © 2023 Cable News Network, Inc., ein Warner Bros. Discovery-Unternehmen. Alle Rechte vorbehalten.