OpenAI-Mitarbeiter warnen vor den Risiken von KI und mangelnder Aufsicht

OpenAI-Mitarbeiter warnen vor den Risiken von KI und mangelnder Aufsicht
OpenAI-Mitarbeiter warnen vor den Risiken von KI und mangelnder Aufsicht
-

Die angebliche Rücksichtslosigkeit von Sam Altman an der Spitze von OpenAI, dem Erfinder des künstlichen Intelligenztools ChatGPT, kostete ihn bereits Ende letzten Jahres vorübergehend seinen Posten.

Doch nach einer Säuberung des Vorstands des Unternehmens, die ihm den Weg ebnete, das Geschäft über Sicherheitsbedenken und die mögliche Bedrohung der Menschheit zu stellen, kehrte er als Sieger zurück.

Der innere Sturm lässt jedoch nicht nach. Eine Gruppe interner Mitarbeiter schlägt erneut Alarm wegen der ihrer Meinung nach rücksichtslosen und verschwiegenen Kultur des Unternehmens aus San Francisco, das darum kämpft, die leistungsstärksten KI-Systeme zu entwickeln, die je gebaut wurden. Diese kritische Gruppe, zu der neun aktuelle und ehemalige Mitarbeiter gehören, hat gestern einen Brief veröffentlicht, in dem sie weniger Geheimhaltung fordert und die Priorität von OpenAI auf wirtschaftlichen Vorteilen anprangert, indem sie sich einer allgemeinen künstlichen Intelligenz zuwendet, die in der Lage ist, alles zu entwickeln, was Menschen tun.

Sie beschweren sich auch darüber, dass das von Altman geführte Unternehmen mit absoluter Macht sehr harte Taktiken anwendet, um die Arbeitnehmer daran zu hindern, ihre Besorgnis über diese Technologie zu äußern, wie etwa die restriktiven Stillschweigevereinbarungen, die diejenigen, die dieses Unternehmen verlassen, unterzeichnen müssen. Schweigen gilt nicht, wenn diejenigen, die gehen, gut reden.

„OpenAI freut sich sehr über den Aufbau von IAG und konkurriert heftig darum, als Erster dorthin zu gelangen“, sagte Daniel Kokotajlo, ein ehemaliger Forscher dieser Firma Die New York Times . Er gehört zu den Mitgliedern der kritischen Gruppe und seiner Version zufolge haben zahlreiche Mitarbeiter seinen Brief unterzeichnet, allerdings anonym aus Angst vor Repressalien.

Lindsey Held, Sprecherin von OpenAI, antwortete: „Wir sind stolz auf unsere Erfolgsbilanz und darauf, in unserem wissenschaftlichen Ansatz zur Bewältigung potenzieller Risiken die leistungsfähigsten und sichersten Dienste bereitzustellen.“

Vor ein paar Tagen verließ Ilya Sutskeyer, Mitbegründer und einer derjenigen, die für Altmans Entlassung gestimmt hatten, das Unternehmen, nachdem er vor der potenziellen Gefahr künstlicher Intelligenz gewarnt hatte.

-