Einmal, Joanne McNeil reiste nach Phoenix, der Hauptstadt von Arizona und einer der Städte, in denen Waymo, ein Transportunternehmen, ansässig ist. angeblich autonome Fahrzeuge in dem Benutzer eines dieser Autos auf die gleiche Weise anrufen können, wie sie es tun würden Uber. Der Dienst funktionierte jedoch nicht ordnungsgemäß. „In dieser Woche hat es geregnet“, sagt McNeil per Videokonferenz aus Los Angeles. „Und selbst wenn es leicht regnen würde, werden diese Autos unter diesen Umständen enorm unsicher, weil sie beispielsweise Probleme haben, die Tiefe einer Pfütze vorherzusagen.“
Jedes Mal, wenn er einen Waymo buchte, saß also immer ein Fahrer auf dem Vordersitz, der ihn wie ein normales Fahrzeug fuhr, ohne jegliche Automatisierung. „Ich fragte einen von ihnen und er erzählte mir, dass sie sich normalerweise in einer Art „Callcenter“ befinden, wo sie aus der Ferne interagieren und bei einer Fehlerdiagnose Tasten drücken. Dies stellt die Vorstellung in Frage, dass es sich um eine Fluidtechnologie handelt: Tatsächlich es ist unglaublich kompliziert und Es braucht viele Menschen, um ein autonomes Auto fahren zu lassen. Das ist ein Beispiel für die Unterschicht der Künstlichen Intelligenzgenau wie Content-Moderatoren auf Facebook oder solche, die Skripte für Chatbots erstellen.
McNeil hat darüber in seinem Aufsatz „Lurking“ (mit dem Untertitel „Wie eine Person zum Benutzer wird“) und in seinem Roman „Wrong Way“ gesprochen, der in einem dieser Unternehmen für autonome Fahrzeuge spielt und von „Wrong Way“ zu einem der besten Bücher des Jahres 2023 gekürt wurde. Magazin „New Yorker“. „Die Arbeit dreht sich um die ‚Gig Economy‘ und Arbeitsplätze auf niedrigem Niveau von ihr geschaffen, die beinhalten eine menschliche Aktivität, getarnt als das, was Kunden für KI halten“, erläutert der Autor.
Er wird diesen Freitag über diese Funktionsstörung sprechen Sonar +Ddie Plattform für die neuesten Trends in der digitalen Kultur im Rahmen des Advanced Music Festivals, das am Wochenende stattfindet und Auftritte von bietet Air, Kaytranada, Jessie Ware, Vince Staples, Laurent Garnier entweder Richie Hawtinunter anderen.
McNeil sagt, dass er 2018 mit dem Schreiben von „Wrong Way“ begonnen habe und dass „damals Die meisten Vorhersagen über selbstfahrende Autos waren sehr optimistisch“, obwohl sie noch nicht auf der Straße waren. “Mein Roman ist ein Science-Fiction-Roman, in dem die Arbeiter die meiste Zeit am Steuer sind. Und die Wahrheit ist, ich hätte nicht gedacht, dass beide Dinge, Buch und Realität, gleichzeitig Wirklichkeit werden würden.
Für den Autor: „Alle diese Unternehmen stellen eine Farce dar„Die Strategie, eine Technologie anzubieten, die nicht so funktioniert, wie sie verkünden, besteht darin, die Gesellschaft dazu zu bringen, sich so zu verändern, dass sie eines Tages „durch die Magie eines optimistischen Wunsches“ endlich funktioniert. „Aber die Dinge ändern sich und sogar so.“ Dieses KI-Proletariat existiert weiterhin. Ihre Vorhersagen sind unrealistisch; „Alles ist Betrug“, sagt er und greift auf seine eigene Erfahrung zurück: „Ich habe vor etwa 15 Jahren in einem Callcenter gearbeitet. Meine Arbeit beschränkte sich darauf, Skripte am Computer zu lesen, wenn jemand anrief. Und wenn dieser jemand das sagen würde, würde ich diese andere Sache beantworten. das wurde aufgeschrieben.“ Sie versuchte, vom Drehbuch abzuweichen, aber es war ein Job, der, in ihren Worten, „die Seele zerschmetterte: Bei Menschen konnte nichts Menschliches sein“, selbst wenn sie mit einer Person telefonierte. „Etwas wirklich Entfremdendes.“
Ein weiteres Beispiel: der von Amazon gegründete Lebensmittelladen, in den man eintrat und sich nahm, was man wollte. Letztlich, erinnert sich McNeil, waren es einfach nur viele Leute, die das Geschäft im Auge behielten. “In diesen Berufen gibt es auch eine Überwachungskomponente, die sie mit dem Drohnenpiloten in Verbindung bringt.„Ihre Beobachtungsfähigkeit ist sehr klar, aber gleichzeitig ist die Erfahrung, jemanden so nah zu sehen, der keine Ahnung hat, dass Sie existieren (oder der die Lösung seiner Probleme in der Hand hat), sehr beunruhigend.“
Dafür neue KI-Jobs, so führt er seine Argumentation fort, es bedarf lediglich eines angemessenen Stundenlohns. Das Problem besteht darin, dass, wenn man sich ansieht, was mit Uber-Fahrern oder Instacart-Käufern (einem Lebensmittellieferdienst) passiert ist, diese Jobs relativ gut bezahlt werden, wenn sie entstehen. Viele Leute beginnen, viel zu verdienen, es ist ein flexibler Job und es hört sich gut an. „Aber mit der Zeit wird es immer weniger profitabel.“ „Und das gleiche Geld zu bekommen, wird zunächst kompliziert“, sagt McNeil. „Es ist ein zweischneidiges Schwert, denn diese Flexibilität bringt die Schwierigkeit mit sich, noch einmal neu anzufangen und einen anderen Job zu finden, wenn man schon eine Weile dort ist.“ Unternehmen wollen diese Art von Gewohnheiten in Städten aufbauen und dass die Nutzung dieser Dienste für die Kunden zur Gewohnheit wird“, wie im Fall der Lebensmittellieferung.
Daher besteht der Wunsch nach einer größeren, organisierten Reaktion der Gewerkschaften auf KI. Wie beim Streik der WGA (Writers Guild of America), der Aus Protest gegen die drohende Robotisierung des Schreibens hörte er auf zu filmen..
Dies ist jedoch nicht die einzige Ausbeutung, die künstliche Intelligenz mit sich bringt. „Die Kommerzialisierung Ihrer persönlichen Daten, der Ihrer Familie und Ihrer Freunde, ist unmenschlich“, warnt McNeil. “Nehmen wir an, Sie haben nach dem Tod Ihrer Mutter eine Reihe von Tweets geschrieben.. Ein Thread mit mehreren hundert Wörtern, der vor zehn Jahren erschien. Es war ein wirklich aufregender Moment für Sie und die Leute reagierten mit unglaublichem Mitgefühl – es gab eine echte Verbindung über Twitter. Aber Jetzt befinden sich diese Tweets in einem ChatGPT-Trainingstool. Und stellen Sie sich vor, jemand schreibt diesem virtuellen Assistenten und fragt, was er jemandem sagen kann, der um den Verlust seiner Mutter trauert. Und was dabei entsteht, ist eine unglaublich persönliche Variation der Worte, die jemand zu Ihnen gesagt hat. „Es ist äußerst ausbeuterisch und desensibilisierend.“
„All diesen Unternehmen mangelt es an Empathie und Seele“, sagt der Autor. „Sie entstehen durch Menschen, die nicht wissen, wie sie sich verbinden sollen. Wir können das darin sehen.“ Mark Zuckerbergs Sicht auf den Menschen, die zu einer viel asozialeren Kultur geführt hat. Denn er braucht Mathematik, um zu verstehen, wie viel Menschen wert sind. Ohne die Algorithmen könnten Sie es nicht alleine erreichen. „Wir werden also in dieses groteske Durcheinander menschlicher Beziehungen gezwungen, nur weil er das Geld und die Investoren hatte, die er für dieses seltsame Produkt ausgeben konnte, das niemals hätte existieren dürfen.“
Menschen teilen ihre Gefühle in sozialen Netzwerken, aber sie können auch ein Raum sein, um Ideen und tiefe Gefühle auszudrücken, sagt der Autor von „Wrong Way“. „Was passiert, ist, dass ihnen die Infrastruktur gehört. Daher müssen die Rechte an den Informationen, die wir auf dieser Infrastruktur bereitstellen, ganz klar sein, damit sie sich ihren Verpflichtungen nicht entziehen können.“ McNeil würde gerne Änderungen auf Protokollebene sehen, anstatt sich auf den robots.txt-Ausschlussstandard zu verlassen, der überträgt dem Benutzer die volle Verantwortung dafür, ob sein eigenes Material entsorgt wird oder nicht..
McNeil verweist auch auf einen aktuellen Tweet von Sam Altman, der CEO von OpenAI und Förderer von ChatGPT, in dem nur „sie“ stand, eine Anspielung auf den Film Spike Jonze aus dem Jahr 2013, in dem sich ein Mann (gespielt von Joaquin Phoenix) in die Stimme seiner virtuellen Assistentin (Scarlett Johansson) verliebte. Altmans Aussage knüpft an ein beliebtes Meme mit folgendem Text an: „Science-Fiction-Autor: ‚In meinem Buch habe ich Nexus Torment als ernüchternde Fabel erfunden.‘ Technologieunternehmen: ‚Wir haben endlich Nexus Torment erschaffen, aus dem Klassiker der Science-Fiction.‘ „Du glaubst der Nexus-Qual nicht.“
„Sam Altman verfügt nicht über die grundlegendsten Fähigkeiten zur kritischen Analyse“, prangert McNeil an. „Wenn Sie sich den Film ‚Her‘ ansehen, ist es nichts Subtiles daran, zu zeigen, wie gefährlich diese Technologie sein kann.“. Aber wenn Sie jemand sind, der für KI ist und die Idee liebt, Menschen durch diese künstliche Menschheit zu ersetzen, dann sehen Sie keine Gefahr, sondern ein Ziel.
„Die Menschen im Silicon Valley haben keine originellen Ideen“, verschärft die Autorin ihre Kritik. „Also nähern sie sich der Literatur, um einen Blick darauf zu werfen, und suchen nach Dingen, die sie stehlen können, wie jemand, der sich eine Straßenkarte oder eine Speisekarte anschaut. Nicht der Künstler, sie wollen es nur ausnutzen. Sie fragen sich: ‚Was erfinde ich heute?‘ „Und sie blättern einfach weiter, ohne sich darum zu kümmern, ob das, was sie finden, gut oder schlecht ist, denn ihr Buch ist keine Reaktion auf die Kultur.“ Es sieht einfach aus, sagt er, mit Elon Musk: „Er ist weder ein Leser noch ein wirklich tiefer Denker; er ist nur jemand, dessen Ziel die Schaffung und Anhäufung von Reichtum für sich selbst ist. Also wandert er durch diese Bände, auf der Suche nach etwas, das cool klingt und dich sehr stark machen kann. Das Buch selbst spielt überhaupt keine Rolle..
Entmutigend? Nun, wir haben den schlimmsten Teil noch nicht erreicht. „Es ist außerordentlich schrecklich für die Umwelt“, bestätigt McNeil. Wenn wir das Internet nur als World Wide Web und andere Anwendungen betrachten, erklärt er, könne man sagen, dass es eine spezifische Kommunikationsfunktion für die Gesellschaft habe: Heute nutzen wir E-Mail und Webseiten als zentrale globale Kommunikation. “Jedoch, KI hat sich in keinem Bereich als notwendig erwiesen. Heute zerstört es also die Umwelt, ohne eine Gegenleistung zu bieten.. Es gibt noch keine Entschädigung, und es produziert nur Negatives: Es füllt das Web und die sozialen Netzwerke mit Müll und verschmutzt sie, und der Vorteil besteht nicht darin, dass sie noch sichtbar bleiben, sondern darin, dass es nicht wahrscheinlich ist, dass sie auftauchen .“ Daher verfolgt seine Arbeit in Büchern und Konferenzen ein Ziel: „Mein Traum ist, dass wir ein umweltfreundlicheres Internet erreichen.“
