„Technologiemagnaten sind eine sehr ernste Bedrohung“

César Antonio Molina (A Coruña, 1952) sagt gern, dass die Wissenschaft aus der literarischen Fiktion hervorgegangen sei. Jahrhundertelang – erzählt er El Cultural – habe er seine sprachlichen und metaphorischen Ausdrücke verwendet. Die Literatur diente als Schutzschild gegen staatliche und religiöse Mächte, die ihr nie viel Zuneigung entgegenbrachten. Auch durch Utopien oder Science-Fiction-Geschichten war die Literatur jahrhundertelang voraus, was mit ihrer Entwicklung im Guten wie im Schlechten erreicht werden sollte. Dieser parallele Weg dauerte bis zur Mitte des 19. Jahrhunderts. Zu diesem Zeitpunkt kann man sagen, dass die Wissenschaft ihre Unabhängigkeit erlangte und sich in ein fast völlig autonomes Subjekt mit eigener Sprache verwandelte.

Nach Wie schön ist es, ohne Kultur zu leben! der ehemalige Minister und Autor von Werken wie Wo die Ewigkeit alt wird Und Die Jagd nach Intellektuellen (alle in Destino) geht in der Analyse von l noch einen Schritt weiterzur digitalen Realität -und die Situation, in die uns Technologien wie künstliche Intelligenz bringen Was machen wir mit Menschen? (Deusto), ein aufschlussreicher Titel, der einen transzendenten Scheideweg unserer Tage thematisiert: „Warum Roboter, künstliche Intelligenz und Algorithmen eine Bedrohung für das Überleben des Menschen darstellen.“

Fragen. Warum stand ein Literaturautor wie Sie vor der Herausforderung, Aspekte der Wissenschaft und neuer Technologien zu studieren? Welche Kompatibilität sehen Sie zwischen beiden Welten?

Antwort. Italo Calvino, einer der größten Schriftsteller des 20. Jahrhunderts, ging sogar so weit zu behaupten, dass Galileo Galilei nicht nur einer der besten italienischen Schriftsteller, sondern auch universell sei, da er die Realität als Fiktion ausgab. Francis Bacon, in Das neue Atlantis, Er schrieb einen der großen utopischen Roman-Geschichten. Er erzählte die angebliche Geschichte von Besalém, dem Inselstaat, der zum Scheitern verurteilt ist, weil gute Absichten nicht ausreichen. Descartes, ebenfalls ein guter Schriftsteller, war einer der Vorläufer des modernen wissenschaftlichen Jargons. Ich sage Jargon ohne böse Absichten. Und der neapolitanische Philosoph Giambattista Vico verteidigte stets die Vereinbarkeit von Natur- und Geisteswissenschaften.

Und schon haben zeitgenössische Dichter und Erzähler wie unser Galdós oder Pío Baroja und Ausländer wie Eliot, Yeats, Orwell und viele andere viele Seiten ihrer Werke der Reflexion über die Vereinbarkeit beider Themen gewidmet. Das Gleiche passiert mir, wenn ich die Distanz spare, und deshalb habe ich dieses Buch geschrieben, das sich im Wesentlichen damit beschäftigt existenzielles Risiko in dem wir leben. Manche Forscher sprechen sogar von einem „existenziellen Völkermord“. Denn wie Adorno bereits schrieb, kann die Idee des Fortschritts nicht ohne die der Menschlichkeit existieren (in Dialektik der Aufklärung). Und Einstein warnte uns, indem er darauf hinwies, dass die Perversion der Wissenschaft eine Sünde gegen den Geist sei.

Q. Glauben Sie, dass Menschen angesichts der zunehmenden Bedeutung der künstlichen Intelligenz in Gefahr sind?

R. Vollständig. Mark Zuckerberg, Gründer von Facebook, machte 2010 eine schreckliche Aussage. Für ihn gab es keine Privatsphäre mehr eine gesellschaftliche Norm, ein Recht. Privatsphäre war schon immer gleichbedeutend mit Freiheit. Deshalb stellte er dieses unveräußerliche Recht des Einzelnen in Frage. Und so ist es. Wir werden überall beobachtet. Zuckerberg verteidigte wie die Faschisten, Nazis, Maoisten und Sowjets einen neuen Totalitarismus, in diesem Fall den technologischen. Er zeigte eine Art Eigentumsrecht über jeden Einzelnen.

Elon Musk hat immer darauf hingewiesen Humankapitalismus ist gestorben und wir befinden uns bereits im technologischen Kapitalismus. Sogar bedeutende Gelehrte wie Kaczynski fordern inzwischen einen Verzicht auf Technologie, einen Stopp des Fortschritts bei der Analyse der Zukunft und die Aufgabe bestimmter Arten von Forschung, die uns auf den falschen Weg führen. Im Jahr 1971, vor langer Zeit, gründete der US-Kongress eine Nationale Kommission zum Schutz des Menschen. Und heute gibt es an Universitäten wie Oxford, Cambridge, Berkeley oder Boston Studienzentren, die sich der Zukunft der Menschheit oder existenziellen Risiken widmen. Wir sind uns bereits bewusst, dass die Gefahr besteht und real ist.

Q. Sind Sie der Meinung, dass wir, wie einige Stimmen warnen, umso mehr von der Technologie abhängig sein werden und umso mehr Unwissenheit über uns selbst haben werden, je mehr Technologie vorhanden ist?

R. So ist das. Wir sind bereits praktisch darauf angewiesen. Aber Technologie ist nichts Abstraktes, sie hat ihre Eigentümer, ihre Eigentümer, ihre Unternehmen, ihre Macht, und in diesem Netzwerk ist der Mensch bereits gefangen. Es wird sehr schwierig sein, dorthin zurückzukehren Freiheit gewinnen. Wir erleben gleichzeitig mehrere Revolutionen: Genetik, Nanotechnologie und Robotik. Bald werden wir uns die folgenden Fragen stellen dürfen. Sind Roboter eine Rasse verbesserter Menschen? Sind Menschen eine Rasse unmenschlicher Menschen? Yuval Harari, Autor von Homo Deus, sagt, dass wir bereits am Anfang der Vereinigung von Homo Sapiens mit künstlicher Intelligenz stehen, die superintelligente, starke und unsterbliche Nachkommen hervorbringen wird. Beendet die Homo sapiens und spricht darüber Homo Deus. Und es erinnert uns auch daran, dass Homo ErectuJa das Homo Habilis und viele andere. Dass wir uns durch diese bedingungslose Hingabe an die Maschinen von der Erkenntnis unserer selbst entfernen. Offensichtlich werden sie uns am Ende aufgrund unserer eigenen Mängel und Bedürfnisse kontrollieren.

Q. Sehen Sie eine unmittelbare Gefahr in unserem Zusammenleben?

R. Da ist ein digitale Brutalisierung Das untergräbt nicht nur den Einzelnen, sondern auch die Gesellschaft und unsere Demokratien. Unsere Gefühle, Zuneigungen, Wünsche, Liebe, Glück, Tod, Schicksal, freier Wille und andere existenzielle Grundlagen bis jetzt, warum werden sie ersetzt? Welche anderen Gründe werden erfunden, um dem Leben einen Sinn zu geben? Werden sie ausgerottet und werden es nicht mehr sein? Wird es für uns notwendig sein? Wird es keine Individuen mehr geben, sondern nur noch eine Masse, die wieder „manipuliert“, „orientiert“ und „gelenkt“ wird? Der Mensch ist zunehmend von Objekten umgeben, die ihn beherrschen. Es muss die Welt bereits mit Wesen teilen, die nicht irrational sind (Tiere), aber uns immer ähnlicher werden. Ja, angeblich hat Gott uns nach seinem Bild und Gleichnis erschaffen, das Gleiche wollen wir auch mit Robotern machen. Und welche generische und rechtliche Kategorie werden sie dann haben (oder werden wir haben)?

Q. Was kann die Gesellschaft inmitten dieser Revolution tun?

R. Sie müssen bei all diesen Prozessen sehr präsent sein und feststellen, ob jeder von ihnen notwendig ist oder nicht. Und vor allem: den Einzelnen schützen. Ein Ethikkodex muss für alle Personen gelten, die an dieser Arbeit mit künstlicher Intelligenz beteiligt sind. Hier gilt es mehrere wichtige Fragen zu beantworten: Hört ein durch Technologie veränderter Mensch auf, ein Mensch zu sein? Wo soll die Trennlinie gezogen werden? Schaffen wir neue Arten? Es gibt noch viele weitere Themen, die ebenfalls juristisch untersucht werden müssen.

Q. Ist der Mensch auf dem Weg zur Obsoleszenz?

R. Ja. Novotny, emeritierter Professor an der Columbia University und Autor eines sehr interessanten Buches mit dem Titel Glaube an künstliche Intelligenz sprich darüber ‘Koevolution’. Wir müssen bereits lernen, in unserem täglichen Leben beispielsweise mit Robotern zusammenzuleben. Oder lebe mehrere Leben gleichzeitig durch das Metaversum oder Avatare. All dies wird jenseits unserer greifbaren, physischen und bekannten Grenzen liegen. Ja, zuerst gab es die darwinistische Evolution und jetzt befinden wir uns in der Koevolution von Mensch und Maschine.

Q. Sind Technologiemagnaten eine Gefahr für Demokratien?

R. Ja, sie stellen eine sehr ernste Bedrohung dar. Ihre Unternehmen sind genauso mächtig oder mächtiger als viele Staaten. Sie zahlen keine Steuern, sie drohen, sie können das Leben und Arbeiten stoppen, wann immer sie wollen. In den USA gab es sie vor den Ereignissen um die Twin Towers ein großer rechtlicher Konflikt zwischen dem nordamerikanischen Staat und diesen Unternehmen. Als sich solch schreckliche Ereignisse ereigneten, musste sich die CIA an sie wenden, weil sie diejenigen waren, die über die besten Informationen verfügten. Damit endete der Rechtsstreit. Technologieunternehmen wurden über Nacht von Kriminellen zu Helden, weil sie zur Rettung der Menschheit beitrugen. Sie wurden mit dieser Absicht geboren, aber Tatsache ist, dass alle ihre Besitzer heute die Besitzer der größten Vermögen der Welt sind. Heute liegt die Gefahr nicht in der noch immer großen Unwissenheit, sondern in unkontrolliertem Wissen.

Q. Sehen Sie das Internet als ein Gebiet ohne Kontrolle?

R. In gewisser Weise ja. Ein Gebiet, das sich mental nur schwer spezifizieren lässt. Hier sind zwei großartige und einzigartige Alternativen. Entweder ist es absolut frei und außerhalb aller rechtlichen Zuständigkeiten, oder es ist entsprechend dem Rest der Gesellschaft legalisiert und normalisiert. Ich bevorzuge, dass Piraten strafrechtlich verfolgt werden, ebenso wie diejenigen, die ohne Zustimmung persönliche oder öffentliche Dokumente offenlegen. Für mich sollte auch im Internet Ordnung und nicht Anarchie herrschen.

Q. Hat sich die Wertschätzung der Wissenschaft in unserem Land verändert?

R. Ja, heute hat es viel Prestige und großartige Forscher. Doch noch fehlt es an der nötigen finanziellen Unterstützung durch den Staat und sogar private Stiftungen. Es gibt keine Anti-Wissenschaftler wie Unamuno oder Pro-Wissenschaftler wie Galdós und Pío Baroja mehr. Jeder ist sich der Bedeutung der Wissenschaft bewusst. Die Wissenschaft in Spanien wurde von den politischen und religiösen Mächten stark verfolgt, obwohl es Disziplinen wie Mathematik, Geographie, Botanik oder Medizin gab, die davon betroffen waren ein weniger beschwerlicher Weg. Aber es gab keine Wissenschaftler wie Galileo, Descartes, Newton oder Bacon.

R. Sehr lebendig. Obwohl ich heute glaube, dass die verstörendste literarische Präsenz für mich weiterhin das Werk von B. F-Skinner ist, Walden Zwei. Ein Roman, in dem Freiheit und das Individuum auf dem Altar der Wissenschaft geopfert werden. Diejenigen, die dieses Paradies betreten, gewinnen alles außer dem freien Willen. Es ist bekannt, dass Microsoft das Nutzerverhalten seit Jahren für eigene Zwecke überwacht. Skinner, ein amerikanischer Professor für Psychologie, war einer der Befürworter des Behaviorismus: Dem Menschen musste das Gehirn „entfernt“ werden, um ihn vor dem Bösen, vor dem Schmerz und vor allem zu bewahren Wünsche und Emotionen, und zahmes Glück schaffen. Unsere Gesellschaft ist seit mehreren Jahrzehnten auf dem Weg dorthin. Walden Zwei (1948) erschien ein Jahr vor Orwells 1984. Skniner ist auch Autor eines Aufsatzes mit dem Titel Jenseits von Freiheit und Würde (1971). In diesem Buch wird alles gerechtfertigt, was er in seinem Roman fiktionalisiert hat. Er glaubte an alles, was er schrieb. Wäre es vor dem Totalitarismus entstanden, wäre es ein guter Präzedenzfall gewesen.

Q. Er beendet sein Buch mit einer Hommage an die Stille …

R. Ja, denn angesichts all dessen, was auf vierhundert Seiten beschrieben und meditiert wurde, musste ich nur eine Weile schweigen. Im Kern ist es eine Hommage an Tanizaki, Handke, Wenders und Ozu. Ich glaube, in Finnland gibt es ein Sprichwort, das besagt, dass Schweigen einem massiven Goldbarren gleichkommt, während Sprechen Silber von nicht sehr guter Qualität ist …