Der neu ernannte Interims-CEO von OpenAI, Emmett Shearhat auch seine Besorgnis über ein mögliches Katastrophenszenario zum Ausdruck gebracht, in dem die Künstliche Intelligenz (KI) Es könnte sich unkontrolliert und ohne menschliches Eingreifen so weit entwickeln, dass es eine echte Bedrohung für die Existenz der Menschheit darstellt.
Shear, der sich selbst proklamiert hat „Techno-Optimist“warnt davor, dass der technologische Fortschritt zwar größtenteils Vorteile mit sich bringt, die Möglichkeit, dass sich die KI in Richtung autonomer Verbesserung bewegt, jedoch eine Herausforderung darstellt Eigengefahr.
Tatsächlich wäre es eine Wahrscheinlichkeit, die zwischen liegt 5 % und das fünfzig% dass dies geschieht, erkennt jedoch an, dass diese Schätzungen immer noch mit Unsicherheiten behaftet sind. Die genannte Bedrohung ist so schwerwiegend, dass sie mit einer vergleichbar sein könnte „Universum zerstörende Bombe.“
Diese Aussagen wurden im Rahmen eines Interviews mit dem Investor im Juni gemacht Logan Bartlettwo Shear warnte, dass „diese Art von Intelligenz etwas von Natur aus sehr Gefährliches ist“, „weil Intelligenz ist Macht” er schloss.
Shears Sorge, das Ergebnis seiner optimistischen Vision des technologischen Fortschritts, liegt in der Angst davor, was eine KI mit sich bringt überlegene Fähigkeiten in allen Bereichen des Wissens und Schaffens.
Er verglich diese Möglichkeit mit der Leichtigkeit des Schaffens „Fusionsbomben“ enorm zerstörerisch mit einfachen und gewöhnlichen Materialien. Dieses Szenario wird durch die exponentielle Geschwindigkeit, mit der künstliche Intelligenz das schließen könnte, noch verschärft Selbstverbesserungszykluswas eine Kontrolle praktisch unmöglich macht.
„Dieser Kreislauf wird sich immer mehr und immer schneller schließen, bis er sich vollständig verbessern kann. „An diesem Punkt wird es sehr schnell gehen“, sagte Shear.
Der Gründer und ehemalige CEO von OpenAI, Sam Altmanteilt ähnliche Bedenken wie sein Nachfolger, nachdem er zuvor davor gewarnt hatte, dass künstliche Intelligenz eine Vielzahl von Arbeitsplätzen verdrängen könnte.
-Altman versicherte sogar, dass KI-Tools das sein könnten „potenziell erschreckend“. Diese Alarme trugen zur Ausarbeitung eines vom Unternehmer und Experten gemeinsam unterzeichneten Briefes bei, in dem gefordert wird, dass die Verhinderung eines durch diese Technologie verursachten Risikos des Aussterbens in Betracht gezogen wird Priorität.
„Die Eindämmung des Risikos des Aussterbens von KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein“, erklärten sie.
Emmett Shear, Mitbegründer der Streaming-Plattform Zuckenwurde nach der überraschenden Entlassung von Altman zum Interims-CEO ernannt, dem der OpenAI-Vorstand vorwarf, dies nicht getan zu haben „konsequent aufrichtig in seiner Kommunikation“, ohne nähere Angaben zu machen.
Als Shear nach der Umsetzung der Regeln für diese neue Technologie gefragt wird, glaubt er, dass dies zwar der Fall ist Es ist verfrüht, über Vorschriften nachzudenken Angesichts der rasanten Entwicklung des Sektors könnten künftig wirksame Regulierungsbestimmungen erforderlich sein.
Dies geschieht in einem Kontext, in dem das Unternehmen weiterhin ein Protagonist in der globalen Diskussion über die Zukunft der KI und ihrer Anwendungen, wie etwa des generativen Modells, ist. ChatGPT und die Plattform Dall-Ebeide wurden unter der Leitung von Altman entwickelt.
Obwohl die genauen Einzelheiten, die zu Altmans Entlassung führten, ungewiss bleiben, deutet alles auf eine Spannung zwischen a Akzelerationistische Vision Altman und ein Vorstand tendieren zu einem vorsichtigeren Ansatz.
Tatsächlich ging die Ankündigung von Emmett Shear (Mitbegründer von Twitch) als Interims-CEO von OpenAI mit einer Verpflichtung einher selbstständig nachforschen die Umstände, die zu Altmans Entlassung führten.
Shear räumte bereits ein, dass die Abwicklung der Entlassung schwer beschädigt den Ruf des Unternehmens und hat mit bedeutenden Veränderungen am Horizont gerechnet.
