Der Autor ist Mitbegründer und Chefwissenschaftler von Dionysus Health
Heute wurden Sie bei einem Job übergangen. Ihnen wurde ein Kredit verweigert. Sie oder vielleicht Ihr Kind wurden von einer Spitzenuniversität abgelehnt. Und du wusstest nicht einmal, dass es passiert ist. Jeden Tag treffen Algorithmen in einigen der tiefsten und verfassungsrechtlich geschütztesten Bereiche unseres Lebens Entscheidungen, die kein Mensch jemals von Angesicht zu Angesicht rechtfertigen könnte.
Unter Druck diskutieren Unternehmen über ethische Rahmenbedingungen und richten Beiräte ein. Wir brauchen kein Manifest zur künstlichen Intelligenz – wir brauchen eine Verfassung. So wie sie heute eingesetzt wird, ist KI schlicht nicht mit Bürgerrechten vereinbar.
Als leitender Wissenschaftler eines der ersten Unternehmen, das KI bei der Personalbeschaffung einsetzte, habe ich das System entwickelt, das Sie für diesen Job übergangen hat. Die großen Arbeitgeber, die unsere Kunden waren, mussten nicht auf Ihre Bewerbung warten; Wir haben uns tatsächlich für Sie beworben, ob Sie es wussten oder nicht. Aber wenn die KI entscheidet, wer eingestellt wird, werden Sie nie erfahren, warum Sie es nicht waren. Wenn ein Mensch Sie während des Einstellungsprozesses nach Ihrem Alter, Ihrer Politik oder Ihrer Familienplanung fragt, wäre dies eine strafbare Verletzung Ihrer Bürgerrechte. Eine KI, die ohne Ihr Wissen dasselbe tut, ist genauso falsch, aber völlig verborgen.
Über die Neueinstellung hinaus experimentieren einige Arbeitgeber mit Systemen zur automatischen Entlassung von Arbeitnehmern mit geringer Produktivität. Aber warum sollte man Leute entlassen, wenn man ihnen „helfen“ kann, sich für den Abschied zu entscheiden? Andere Unternehmen entwickeln auf maschinellem Lernen basierende Persönlichkeitsbewertungen, die Bewerber aussortieren, von denen man annimmt, dass sie sich für höhere Löhne einsetzen, eine gewerkschaftliche Organisierung unterstützen oder Job-Hopping-Trends aufzeigen.
Kredite fördern die wirtschaftliche Mobilität in Amerika, auch wenn sie in der Vergangenheit ein wirksames Instrument zur Diskriminierung waren. Ich habe an mehreren Projekten gearbeitet, um diese Tendenz mithilfe von KI zu reduzieren. Was ich jedoch gelernt habe, ist, dass ein Algorithmus, selbst wenn er genau wie beabsichtigt funktioniert, immer noch ausschließlich darauf ausgelegt ist, die finanziellen Erträge für den Kreditgeber zu optimieren, der ihn bezahlt hat. Der Kreditantragsprozess ist für die meisten bereits undurchschaubar, und jetzt sterben Ihre Hoffnungen auf ein Eigenheim oder eine Kleinunternehmensfinanzierung in einer 50-Millisekunden-Berechnung.
Jede Woche kommt es im Gesundheitswesen und in der Biotechnologie zu KI-gesteuerten Durchbrüchen. Im Gesundheitsbereich soll es unvoreingenommen sein, aber wenn Sie ein Ausreißer sind, kann es sein, dass dieses erstaunliche neue Diagnosetool Sie nicht genau diagnostiziert. Wie würden Sie wissen, ob der proprietäre Algorithmus eines unbekannten Unternehmens auf Patienten wie Sie trainiert wurde? Und wenn alle Ärzte in Ihrer Region das gleiche Tool verwenden, können Sie nirgendwo eine zweite Meinung einholen. Wenn ein KI-gestützter Arzt Ihnen sagt, dass Sie nur hysterisch sind, wird die KI-gestützte Versicherungsgesellschaft wahrscheinlich nicht widersprechen.
Rechtlich gesehen sind das Recht auf einen Anwalt und eine gerichtliche Überprüfung in den USA eine Verfassungsgarantie und in weiten Teilen der Welt ein etabliertes Bürgerrecht. Dies sind die Grundlagen Ihrer bürgerlichen Freiheiten. Wenn Algorithmen als Sachverständige fungieren, die gegen Sie aussagen, aber vor einem Kreuzverhör immun sind, werden diese Rechte nicht einfach ausgehöhlt – sie hören auf zu existieren.
Menschen sind nicht perfekt. Weder eine Ethikschulung für KI-Ingenieure noch die Gesetzgebung völlig uninformierter Politiker können diese einfache Wahrheit ändern. Ich muss nicht davon ausgehen, dass die CEOs von Big Tech schlechte Schauspieler sind oder dass große Unternehmen böswillig sind, um zu verstehen, dass das, was in ihrem Eigeninteresse liegt, nicht immer in meinem Interesse liegt. Die Verfasser der US-Verfassung erkannten diese einfache Wahrheit und versuchten, die menschliche Natur für ein größeres Wohl einzusetzen. Die Verfassung ging nicht einfach davon aus, dass die Menschen immer für das größere Wohl handeln würden. Stattdessen definierte es einen dynamischen Mechanismus – Eigeninteresse und Machtgleichgewicht –, der Engagement und gute Regierungsführung erzwingen würde. Seine Vision, Menschen als echte Akteure und nicht als bessere Engel zu behandeln, schuf einen der großartigsten Rahmen für Regierungsführung in der Geschichte.
Stellen Sie sich vor, Ihnen würde ein KI-gestützter Test für postpartale Depressionen angeboten. Mein Unternehmen hat genau diesen Test entwickelt und er hat die Macht, Ihr Leben zu verändern, aber Sie können sich entscheiden, ihn nicht zu verwenden, aus Angst, wir könnten die Ergebnisse an Datenmakler oder aktivistische Politiker verkaufen. Sie haben ein Recht darauf, dass unsere KI ausschließlich für Ihre Gesundheit handelt. Aus diesem Grund habe ich eine unabhängige gemeinnützige Organisation, The Human Trust, gegründet, die alle Daten speichert und alle Algorithmen in alleiniger treuhänderischer Verantwortung Ihnen gegenüber ausführt. Keine Mutter sollte sich zwischen einem lebensrettenden medizinischen Test und ihren Bürgerrechten entscheiden müssen.
KI kann wunderbare Dinge tun. Aber Bürgerrechte können in einer Welt versteckter Berechnungen nicht existieren. Genau wie ein Anwalt oder ein Arzt brauchen wir eine KI, die in unserem Eigeninteresse handelt. KI braucht eine Verfassung – oder genauer gesagt, wir brauchen eine Verfassung, die den Zugang zu künstlicher Intelligenz, die ausschließlich in unserem Namen handelt, als Bürgerrecht definiert.
