Was ist das Gesetz der unbeabsichtigten Folgen und wie mächtig ist es (im Guten wie im Schlechten)

Als die Pioniere der sozialen Netzwerke sie gründeten, taten sie dies in der Hoffnung, Räume für die Vernetzung von Menschen und Gemeinschaften zu schaffen..

Sie erkannten bald, dass nicht jeder Austausch freundlich sein würde, aber das war angesichts der menschlichen Natur nicht völlig unerwartet.

Was sie kaum vorhersehen konnten, ist, dass die Netzwerke innerhalb weniger Jahre zu hochentwickelten Werkzeugen werden würden, um den Kurs der Demokratie an den einen oder anderen Trend anzupassen.

Oder dass die Führer sich hinter ihnen verstecken würden und behaupten, dass sie über diese Mittel direkt mit den Regierten kommunizierten und ihnen so das Recht verweigerten, sie zu befragen.

Und das ist es Jede Innovation, egal in welchem ​​Bereich, bringt unvorhergesehene Folgen mit sich, manchmal positiv; andere, negativ und oft überraschend.

Es handelt sich um ein Phänomen, das Sozialbeobachter aus verschiedenen Disziplinen seit der Antike beobachten.

Der Philosoph Platon hat dies beispielsweise im Dialog „Phaedros“ wunderschön veranschaulicht.

Darin erzählt Sokrates, dass der ägyptische Gott Teut, der unter anderem die Buchstaben erfunden hatte, König Tamus alle seine Werke zeigte und ihn um eine Erklärung bat, wie nützlich sie seien.

„Als sie zur Schrift kamen, sagte Teut: ‚O König! Diese Erfindung wird die Ägypter weiser machen und ihrem Andenken dienen; „Ich habe ein Heilmittel gegen die Schwierigkeit des Lernens und Behaltens entdeckt.“

Der König antwortete, dass der geniale Erfinder nicht der beste Richter sei und dass er dem Schreiben „das komplette Gegenteil seiner wahren Wirkungen“ zuschreibe.

„Es wird nur Vergessenheit in den Seelen derer hervorrufen, die es kennen, und sie dazu bringen, ihre Erinnerungen zu verachten; sie werden auf äußere Schriften vertrauen und sich nicht selbst erinnern.“

„Was Sie entdeckt haben, ist keine Hilfe für das Gedächtnis, sondern für die Erinnerung; und Du gibst deinen Jüngern nicht die Wahrheit, sondern nur den Anschein der Wahrheit; Sie werden viele Dinge hören und nichts gelernt haben; Sie werden allwissend erscheinen und im Allgemeinen nichts wissen; „Sie werden eine langweilige Gesellschaft sein und den Anschein von Weisheit ohne Realität erwecken.“

Für Platon wurde wahres Wissen durch sokratischen Dialog erlangt: die Suche nach Antworten durch die Anstrengung des Nachdenkens und Denkens.

Auch wenn Sie seiner Meinung zum Schreiben nicht zustimmen, zeigt die Geschichte, wie selbst die wertvollsten Technologien unvorhergesehene Folgen haben können.

Adam Smith, der als Vater der modernen Ökonomie gilt, gab einer der berühmtesten von ihnen den Namen „die unsichtbare Hand“..

Der schottische Philosoph des 18. Jahrhunderts argumentierte, dass jeder Einzelne, der nur seinen eigenen Nutzen anstrebt, „von einer unsichtbaren Hand geführt wird, um ein Ziel zu verfolgen, das nicht Teil seiner Absicht war“, was weitreichenden Nutzen bringt.

Mehrere Denker diskutierten über das, was man heute „das Gesetz der unvorhergesehenen Folgen“ nennt, aber es war der amerikanische Soziologe Robert K. Merton, der 1936 die erste Analyse des Konzepts veröffentlichte.

Merton beginnt seinen einflussreichen Artikel „Die unvorhergesehenen Folgen beabsichtigten sozialen Handelns“ mit der Bemerkung, dass bis zu diesem Zeitpunkt keine systematische wissenschaftliche Analyse des Themas durchgeführt worden sei.

Er nimmt an, dass dies vielleicht daran lag, dass das Unerwartete in der gesamten Menschheitsgeschichte „den Göttern“, dem „Schicksal“ oder göttlichem Eingreifen zugeschrieben wurde.

Mit dem Zeitalter der Vernunft begannen wir zu glauben, dass das Leben verstanden werden könne.

In seiner Studie identifizierte Merton fünf Hauptursachen für diese unerwarteten Ergebnisse.

Unwissenheit ist das Erste: Sie sind unvorhersehbar, daher wäre es in manchen Fällen, egal wie sehr man es gewollt hätte, sehr schwer zu erraten, dass das, was passiert ist, passieren würde.

Diejenigen, die in den 1880er und 1890er Jahren das moderne Fahrrad entwickelten, hatten nicht vor, ein Mittel zur Frauenbefreiung zu schaffen.

Es förderte nicht nur die Verwendung „rationaler Kleidung“, sondern hatte auch tiefgreifende Auswirkungen auf die Rechte und Rollen der Frauen in der Gesellschaft.

„Lassen Sie mich Ihnen sagen, was ich über das Fahrradfahren halte“, sagte die Suffragette Susan B. Anthony 1896 in einem Interview.

„Ich denke, es hat mehr zur Emanzipation von Frauen beigetragen als alles andere auf der Welt. Es gibt Frauen ein Gefühl von Freiheit und Selbstständigkeit. Es gibt ihnen das Gefühl, unabhängig zu sein (…) und es verschwindet, das Bild davon.“ eine freie und uneingeschränkte Weiblichkeit.“

So zeigen unzählige Beispiele, dass, wie Merton schrieb, „die offensichtlichste Einschränkung einer korrekten Vorhersage der Folgen einer Handlung durch den vorhandenen Wissensstand gegeben ist.“

Was unter anderem manchmal dazu führte, dass einige „das Argument unterstützten, das im Wesentlichen besagt: „Wenn wir es gewusst hätten, hätten wir es gewusst““er fügte hinzu.

Die zweite Hauptursache war der Fehler: Manchmal schlägt die Analyse fehl oder in der Vergangenheit erfolgreiche Handlungen werden in neuen Situationen wiederholt, ohne sie zu überdenken.

Die überzeugende Unmittelbarkeit des Interesseswas dazu führt, dass die Berücksichtigung langfristiger Folgen vernachlässigt wird, da es in erster Linie um die zu erwartenden unmittelbaren Auswirkungen geht, ist die dritte Ursache.

Der vierte ist „oberflächlich gesehen dem Unmittelbarkeitsfaktor ähnlich“, aber deutlich anders: der Grundwerte.

Diese können dazu führen, dass wir nach Grundüberzeugungen handeln, ohne die Konsequenzen zu berücksichtigen.

Um diesen Punkt zu veranschaulichen, führte Merton die protestantische Ethik und den Geist des Kapitalismus an.

Die protestantischen Moralvorstellungen von harter Arbeit und Askese „führen paradoxerweise zu ihrem eigenen Verfall durch die Anhäufung von Reichtum und Besitz.“

Und zum Schluss noch ein Anliegen, das esoterisch klingt: die selbstzerstörerische Prophezeiungin dem Sie aus Angst vor negativen und unvorhergesehenen Folgen nicht handeln oder vor einem zukünftigen Problem warnen und das dazu führt, dass es nicht eintritt.

„Um ein konkretes soziales Beispiel zu nennen“, bemerkte Merton: „(Karl) Marx‘ Vorhersage der fortschreitenden Konzentration des Reichtums und des zunehmenden Elends der Massen beeinflusste genau den vorhergesagten Prozess.“

„Zumindest eine der Folgen der sozialistischen Predigt im 19. Jahrhundert war die Ausweitung der Arbeitsorganisation, die (…) die von Marx vorhergesagten Ereignisse verlangsamte, wenn nicht sogar beseitigte.“

In seinem Buch „The Logic of Chance“ verwendete der Mathematiker und Philosoph John Venn den farbenfrohen Begriff „Selbstmordprophezeiungen„ um diese fünfthäufigste Ursache für unvorhergesehene Folgen zu nennen.

Im Laufe der Zeit kamen weitere Denker hinzu, beispielsweise der Ökonom Kenneth Arrow, der eine Warnung beisteuerte: „Die meisten Menschen unterschätzen die Unsicherheit der Welt.“

Merton klassifizierte außerdem drei Arten unvorhergesehener Folgen:

• unerwartete Vorteilewie die vielen Fälle zufälliger wissenschaftlicher Entdeckungen;
• unerwartete Unannehmlichkeitenin dem das Gewünschte zwar erreicht werden kann, aber mit negativen Aspekten einhergeht;
• perverse Effektedie das Gegenteil von dem bewirken, was beabsichtigt war.

Denn wir stehen an der Schwelle einer neuen Phase für die Menschheit, wahrscheinlich einer der bedeutsamsten überhaupt..

Das schnelle Aufkommen einer neuen Generation künstlicher Intelligenzsysteme, die Urteile und Entscheidungen treffen und Ideen generieren können, ist eine der größten Herausforderungen der Gesellschaft.

Künstliche Intelligenz ist ein großer Sprung ins Unbekannte in verschiedenen Bereichen unseres Lebens, vom Gesundheitswesen bis zur Bildung, vom Militär bis zur Justiz, von den Künsten bis zum Transportwesen.

Es wird unser Leben auf eine Weise verändern, die wir uns noch nicht vorstellen können.

Aber wir können es uns nicht leisten, es nicht zu tun.Denn hinter der spannenden Innovation und der Begeisterung für KI stecken grundlegende Fragen, die wir uns, den Technologieführern und unseren Herrschern jetzt stellen müssen.

„Wenn es um KI geht, gibt es viele, die es als etwas Magisches betrachten oder glauben, dass es einen bevorstehenden Kampf zwischen Menschen und Robotern geben wird, und die Art von Fragen sind wie Science-Fiction: ‚Kann man einem Roboter vertrauen?‘“ .

„Als Sozialwissenschaftler möchte ich darauf aufmerksam machen, dass es wirklich so ist.“ Es geht nicht darum, ob wir einem Roboter vertrauen, sondern darum, ob wir den Menschen vertrauen, die hinter den Technologien stehen“.

Es sind diese KI-Unternehmer und Innovatoren, die die Macht haben, unsere Zukunft radikal zu gestalten.

Aber wir alle sind heute mehr oder weniger diejenigen, die an der Entscheidungsfindung beteiligt werden müssen.

Künstliche Intelligenzsysteme werden mit großen Informationsmengen trainiert und lernen, die darin enthaltenen Muster zu erkennen, um Aufgaben auszuführen.

Die Anwendungsmöglichkeiten scheinen endlos und reichen von der Unterstützung von Ärzten bei der Brustkrebserkennung bis hin zur Entscheidung, was wir in sozialen Netzwerken zeigen möchten, oder Kaufempfehlungen.

Was wir bisher gesehen haben, ist nur die Spitze des Eisbergs; Doch bei fast jedem Schritt wurden neben den Wundern auch die Gefahren deutlich und die Schwierigkeit, sie zu bekämpfen.

Nehmen wir die generative KI – eine, die wie ChatGPT und DALL-E Texte oder Bilder generiert, die aussehen, als wären sie von Menschen erstellt worden – sie hat eine Legion von Anhängern.

Aber unter ihnen sind Ersteller von Inhalten zum sexuellen Missbrauch von Kindern die ihre Gewinne vervielfachen, ohne dass die Behörden viel dagegen tun können.

Eine unvorhergesehene Konsequenz?

Vielleicht, aber die Frage ist, welcher Art, denn ob aus Versehen oder aus zwingendem Interesse, sie sind schwer zu entschuldigen.

Aus diesem Grund plädieren selbst große Namen wie Elon Musk für eine Pause in der Entwicklung, obwohl die jüngsten Fortschritte in der KI als revolutionär gefeiert werden.

Ähnliche Befürchtungen haben zwei der drei Wissenschaftler, die aufgrund ihrer bahnbrechenden Forschung als Paten der KI gelten, Geoffrey Hinton und Yoshua Bengio, dazu veranlasst, sich diesbezüglich zu äußern.

Stilgoe, der sich als RAI-Forscher darauf konzentriert, wie wir die Entwicklung von KI zum Nutzen von Menschen, Gemeinschaften und der Gesellschaft gestalten sollten, ist besorgt über „das Interesse derjenigen, die die Technologie entwickeln, die Konsequenzen nicht vorherzusehen“.

In ihrem Bestreben, ihre Kreationen zu monetarisieren, „entwickeln KI-Menschen ihre Systeme und geben sie in die Welt, und dann liegt es an der Gesellschaft, die Konsequenzen herauszufinden und mit ihnen umzugehen.“

“Es besteht eine massive Asymmetrie, weil wir Innovatoren von der Verantwortung befreien“.

Der Sozialwissenschaftler bekräftigt, dass es Fälle gibt, in denen KI eindeutig Vorteile bringt, glaubt aber, dass sie im Kontext verlässlicher Institutionen entwickelt werden muss, die sich „nicht nur dafür interessieren, was gut für den Einzelnen, sondern für die Gesellschaft im Allgemeinen“ ist.

Somit bestehe die Chance, dass „KI nicht nur effektiv, sondern auch fair“ sei..

Nun, wie Platon uns vor dem Schreiben warnte, hat jede Technologie, egal wie wunderbar sie ist, ihre Mängel.

Und denken Sie daran, dass Sie in unserer App Benachrichtigungen erhalten können. Laden Sie die neueste Version herunter und aktivieren Sie sie.