Künstliche Intelligenz (KI) ist zweifellos in aller Munde und es scheint, dass niemand außen vor bleiben möchte. Heutzutage verbreiten Portale und soziale Netzwerke Nachrichten über neue innovative Anwendungen, die durch den Einsatz von KI-Modellen Beratung und Betreuung in Fragen der psychischen Gesundheit versprechen.
Um den Leser zu veranschaulichen, erinnern wir uns daran, dass laut einer 2015 von der WHO und dem Gesundheitsministerium durchgeführten Studie in unserem Land jeder Dritte ab dem 20. Lebensjahr ein psychisches Problem hat.
Daher sprechen wir von einer riesigen Öffentlichkeit, und die kreolische Lebendigkeit, sich dieser Welle anschließen zu wollen, ist nicht ausgenommen, sie wird nur mit einem neuen Slogan verschleiert: der Demokratisierung des Zugangs zur Gesundheit unter Nutzung der enormen Reichweitenvorteile der KI.
Möglicherweise haben viele von uns den Fehler gemacht, in einer Internet-Suchmaschine nach einem Symptom oder einer Beschreibung eines medizinischen Ergebnisses zu suchen, ohne vorher einen Fachmann zu konsultieren, und wir haben die Auswirkungen von Angst oder Angst erlebt, die das Ergebnis hervorrufen kann, wenn wir habe nicht den richtigen Rat.
Stellen wir uns nun vor, dass dasselbe passiert, aber jetzt mit einem Konversationschat, der KI-Modelle verwendet und daher über bestimmte Daten verfügt, die es ihm ermöglichen, die Antwort vorherzusagen, die er uns bieten wird.
In beiden Fällen führt uns der Weg zu derselben Schlussfolgerung: Nichts ersetzt die direkte Intervention eines medizinischen Fachpersonals, das darin geschult ist, das Problem und die Dringlichkeit des Falles zu erkennen.
Hinzu kommt, dass es in unserem Land keine spezifischen Regelungen zu KI gibt und wir daher unter anderem nicht wissen, wer an der Entwicklung und am Lebenszyklus dieser Systeme beteiligt ist und welche Daten sie benötigen, um Ergebnisse zu erzielen . Hören”; wie die Algorithmen trainiert wurden und daher die Zuverlässigkeit der von ihren Benutzern bereitgestellten Vorhersageantworten.
Erinnern wir uns daran, dass es sich in diesem öffentlichen Fall um Patienten mit psychischen Problemen handelt, die so weit gehen, sich an eine KI zu wenden, um ihre Bedürfnisse zu befriedigen.
In diesem Sinne warnen wir davor, dass diese Dienste den Benutzer/Patienten nicht nur in eine potenzielle Risikosituation bringen, die seinen Gesundheitszustand im Sinne der Verbraucherrechte verschlechtern könnte, sondern ihn auch in eine Situation der Hypervulnerabilität versetzen, da die gesundheitlichen Probleme noch verstärkt werden , wird mit hoher Wahrscheinlichkeit zum Nutzer dieses KI-Modells und ist sich der Funktionsweise dieses Dienstes und damit seiner Ergebnisse nicht bewusst.
Hier kann die Wirkung verheerend sein, und deshalb haben wir in unserem Land im Gesundheitsbereich besondere Schutzstandards wie: die Konvention über die Rechte von Menschen mit Behinderungen und ihr Protokoll, das Nationale Gesetz über Patientenrechte, Regeln zur Vertraulichkeit der Krankengeschichte und Bestimmungen zur strafrechtlichen und zivilrechtlichen Haftung der beteiligten Fachkräfte sowie ein Gesetz zur psychischen Gesundheit, das die Bedeutung einer interdisziplinären Perspektive und insbesondere das Recht auf eine Pflege auf der Grundlage wissenschaftlicher Grundlagen hervorhebt, die an ethische Grundsätze angepasst sind.
Die KI schreitet weltweit rasant voran (nicht umsonst heißt es, dass wir uns in der vierten industriellen Revolution befinden). In letzter Zeit sind wir Zeuge der ersten Regulierungen, wie im Fall Europas, und es beginnen Diskussionen darüber zu beginnen, wie sichergestellt werden kann, dass diese Technologien die Menschenrechte und damit die Würde der Person als Achse des Lebens nicht außer Acht lassen System.
Hand in Hand mit diesen Fortschritten beobachten wir auch die Entwicklung der Forschung darüber, wie wir unsere Rechte im Lebenszyklus der KI garantieren können; Richtlinien zur Datenverwaltung; der Schutz personenbezogener Daten; Gewährleistung des Zugangs zu Informationen und Meinungsfreiheit gegenüber bestimmten KIs, von denen wir nicht wissen, wie sie ihre Algorithmen trainieren; Ethik gegen Vorurteile und Diskriminierung einiger Sprachmodelle; Geschäftsrolle und Verantwortung; die Ersetzung und Automatisierung von Aufgaben und damit eine endlose Liste an Herausforderungen.
Die Dienste, die KI in der psychischen Gesundheit einsetzen, dienen uns heute als Testfall, um die Bedeutung der Einbeziehung künstlicher Intelligenz als staatliche Politik sichtbar zu machen, denn sie ist bereits unter uns und wird bleiben, und Ethik darf dabei nicht außer Acht gelassen werden Dasselbe.
Deshalb müssen wir über Werkzeuge nachdenken, die ihre enormen Vorteile nutzen, aber auf dem Weg zu ihrer Entwicklung unsere Rechte nicht außer Acht lassen.
*Rechtsanwalt mit Spezialisierung auf Verfassungsrecht und Technologie.
