Der technologische Fortschritte in der künstlichen Intelligenz (KI) expandiert weiterhin in schwindelerregendem Tempo. Aber Vorsicht: Sein Einsatz kann Nutzen bringen oder Risiken für die Gesellschaft mit sich bringen. Was passiert mit der Anwendung von KI für den Zugriff auf öffentliche Informationen? Was sind die Risiken und Vorteile? Diese Fragen waren eine der Achsen von Debatte in „#Zur Zukunft. AI in the world of information“, die erste Diskussion über neue Technologien und Perspektiven auf öffentliche Informationen, die diese Woche gemeinsam vor großem Publikum im Leonardo Favio Auditorium in der Bibliothek des Nationalkongresses stattfand mit den Vereinten Nationen in Argentinien. Außerdem wurde es per übermittelt Streaming von YouTube.
„Heute stehen wir vor einer neuen Herausforderung: KI. Wir glauben fest daran, dass es um Hilfe geht an diejenigen von uns, die die Verantwortung haben, Informationen in der Gesellschaft zu überprüfen“, erklärte er Alejandro Santa, Generalkoordinierungsdirektor der Library of Congress of the Nationin der Eröffnung.
„Künstliche Intelligenz und Desinformation. Wichtigste ethische Fragen, Chancen und Herausforderungen“ eröffnete die Debatte mit einem Panel bestehend aus Matias Ponce (Vertreter des Regionalbüros der UNESCO Montevideo) und Eduardo Ceccotti (Kommunikationsdirektor von Geprüft).
Zugang zu öffentlichen Informationen
Das Positive ist, dass Künstliche Intelligenz vorhanden ist das Potenzial, das Leben der Menschen zu revolutionieren: „Von der Verbesserung der Effizienz verschiedener Sektoren bis hin zu bieten innovative Lösungen an auf komplexe Probleme”, sagte er. Tamar HahnRegisseur vonl Informationszentrum der Vereinten Nationen für Argentinien und Uruguay in seiner Rolle als Moderator.
„Was sind die vielversprechendsten Möglichkeiten, die KI bietet, um die öffentliche Information zu verbessern? „Wie können wir seine positiven Auswirkungen maximieren und was wären die größten Risiken?“ fragte er.
„Für diejenigen von uns, die sich mit Fragen der öffentlichen Information befassen, ergeben sich aus verschiedenen Blickwinkeln die Chancen, die uns die KI bietet. Das erste ist die Möglichkeit dazu Verbesserung des Zugangs zu öffentlichen Informationen“, bemerkte Matías Ponce.
Nach Angaben des UNESCO-Mitglieds ist die aktive Online-Transparenzprozesse; die Einführung von Chatbots bzw virtuelle Assistenten Sie sind Teil der durch KI geschaffenen Vorteile, sodass Benutzer mit Hilfe von KI schneller auf Informationen zugreifen können, um potenzielle Probleme wie die Suche nach öffentlichen Informationen im Internet zu lösen.
Der Personalisierung von Informationen in der öffentlichen Verwaltung Dies ist eine weitere positive Tendenz, die der Einsatz von KI nicht nur beim Zugang zu Informationen im Sinne einer aktiven Online-Transparenz mit sich bringt, sondern auch bei der Generierung von Inhalten bei der Gestaltung öffentlicher Richtlinien, die für die Nutzer öffentlicher Dienste stärker personalisiert sind. .
„Da haben wir eine weitere Chance, wenn Algorithmen Informationen speichern und den Nutzer des öffentlichen Dienstes besser kennen können. Daher KI-Technologie kann denjenigen, die sich an den Staat wenden, persönlichere Erlebnisse bieten und zur öffentlichen Politik“, fügte Ponce hinzu.
Die UNESCO hat Kommunikations- und Informationsnotizbücher in Lateinamerika und der Karibik erstellt, die sich auf die Einführung von KI in Nachrichtenredaktionen beziehen. „Wir prüfen alle Möglichkeiten, die eine Nachrichtenredaktion bieten kann, vor allem die neue Arbeitshorizonte für diejenigen, die die soziale Realität des Journalismus zusammenfassen“, betonte Ponce.
Dafür sind Bildung und Ausbildung nötig die Gesellschaft mit besseren Werkzeugen versorgen, um deren Nutzung zu maximieren. „Wir nennen es Information Media Literacy (AMI), ein Werkzeug oder einen Handlungsraum, um die Fähigkeiten der Bürger zu verbessern, diese Werkzeuge kritisch zu nutzen. „Bei diesem ersten Ansatz liegt der Schwerpunkt stark auf Bildung“, betonte Ponce.
Kann der Einsatz von KI reguliert werden?
„Ja, das lässt sich regulieren. Bei den nationalen Plänen für die öffentliche Politik im Bereich KI können Fortschritte erzielt werdenerstellen Regulierungsrahmen aber sie müssen einen Multi-Akteurs-Ansatz haben: das heißt den gleichen Ansatz, den die UNESCO für die Medienregulierung in kommunikationspolitischen Fragen vorgeschlagen hat.“
“Das ist: Alle Schauspieler müssen am Tisch sitzen. „Die Ausarbeitung der von den 193 Mitgliedsstaaten gebilligten ethischen KI-Empfehlung ist ein klarer Ansatz für die gemeinsame Nutzung übergreifender Vereinbarungen über den Horizont, um an diesem Thema zu arbeiten“, schloss Ponce.
Was sind die Hauptrisiken?
Es gibt große Herausforderungen Fragen des Datenschutzes und der Datensicherheit. „Es gibt keinen Regulierungsrahmen, der dies verhindern kann, denn Technologie geht immer vor allen Anstrengungen“, erklärte Ponce.
Wenn es um Bosheit geht, Künstliche Intelligenz, insbesondere generative KI, kann solche ernsten Aspekte hervorbringen und vertiefen wie Online-Hassreden aus der Konstruktion von Vorurteilen.
„Ein anderer Horizont könnte vielleicht noch schlimmer sein: der Einsatz von KI mit Vorurteilen, insbesondere im Rahmen von Verfügbarkeitsrichtlinien: wenn es keinen klaren Regulierungsrahmen gibt.“ könnte ein Alarm sein“, er erklärte.
Neben dem Content-Moderation mit KI in sozialen Netzwerken könnte in Prozessen der Einschränkung enden freie Meinungsäußerung„warnte das UNESCO-Mitglied.
Drittens ist die technologische Abhängigkeit. „Wenn wir keinen gleichberechtigten Zugang zu KI-Tools haben, Zugangslücken werden reproduziert „Das gibt es schon“, sagte Ponce.
Es gibt auch die Desinformationsprozesse als Risikofaktor. Vor allem bei der Verwendung von Video-, Bild- oder Sprachdateien, die durch KI-Software so manipuliert werden, dass sie originell, authentisch oder echt wirken. Das nennt man Deepfake.
Neben der Nutzung öffentlicher Debatten, die in den Netzwerken stattfinden können, „Was passiert wann?“ A Deepfake mischt sich in ein Gerichtsverfahren ein und es wird mitten in diesem Prozess als Beweis vorgelegt?“ fragte Ponce.
Zwischen Fehlinformation und Hassrede
Chequeado, die NGO, die sich auf die Überprüfung öffentlicher Reden und den Kampf gegen Desinformation über ihre Website spezialisiert hat, warnt davor Der böswillige Einsatz von KI könnte in demokratischen Systemen negative Folgen haben und in der Gesellschaft.
„Wenn wir über Desinformation sprechen, sagen wir, dass es so ist ein Risiko für die Gesundheit der Demokratie. Desinformation berührt ein Grundrecht: das Recht auf Information, damit wir als Bürger klare, transparente und überprüfte Informationen erhalten, um unsere Entscheidungen treffen zu können“, sagte Eduardo Ceccotti, Kommunikationsdirektor von Chequeado.com.
Das hat er auch gesagt Die Technologie beschleunigte und erleichterte die Verbreitung von Fehlinformationen: „KI ist bisher das Tüpfelchen auf dem i, aber das Menü wird folgen.“ „KI stellt im Zusammenhang mit der Technologie, die Fehlinformationen beschleunigt, ein Problem für die Gesundheit von Demokratien und für die Bürger dar.“
Wie können die Auswirkungen abgemildert werden?
Checcotti wies darauf hin, dass Chequeado und andere internationale Organisationen seit langem künstliche Intelligenz einsetzen Instrument zur Bekämpfung von Desinformation.
„Seit 2016 experimentieren wir mit KI, um unsere eigene Entwicklung zu generieren. Wir haben beispielsweise einen KI-Hub namens CheqeaBot entwickelt: ermöglicht es uns, unsere Arbeit schneller zu erledigeneine größere Reichweite haben, Fehlinformationen schneller erreichen und diese schneller überprüfen können, sodass sich unsere Journalisten auf diese Technologie verlassen können schneller prüfen“, sagte der Kommunikationsdirektor.
Ceccotti hob auch die Zusammenarbeit und Organisation zwischen verschiedenen Sektoren hervor. Der Kampf gegen Desinformation erfolgt gemeinschaftlichinsbesondere wenn KI vorhanden ist, um die Fähigkeit zur Produktion von Desinformation (Deepfakes) zu erhöhen.
„Wir fingen an, Audios anzuhören, an denen wir zu zweifeln begannen, Bilder und Videos … Das größte Risiko besteht darin, an allem zu zweifeln, dass wir aufhören, an alles zu glauben, dass uns nichts mehr wahr erscheint. Wenn wir nicht schnell oder kooperativ handeln, könnten wir entlarvt werden.“
Neben dem bereits erwähnten ChequeaBot nutzt Chequeado weitere KI-Tools, um automatische Transkriptionen von Reden und öffentlichen Präsentationen zu erstellen.
„Wir haben mit dem zusammengearbeitet Automatische Transkription von Debatten und Reden des Präsidenten. In der letzten Ausgabe konnten wir es dank der Weiterentwicklung der KI der Community auf unserer Website zur Verfügung stellen, sodass Journalisten, Forscher, Wissenschaftler oder diejenigen, die diese Transkription benötigen, schnell darauf zugreifen können und keine eigenen Investitionen tätigen müssen Zeit in der klassischen Aufnahme. Dadurch können wir auch schnell eingreifen und dazu beitragen, Fehlinformationen zu stoppen“, betonte er.
Andererseits die Geschwindigkeit, mit der die KI voranschreitet und Seine böswillige Nutzung hat in den sozialen Netzwerken rasant zugenommen, was eine viel stärkere Frequenz in Bezug auf Fehlinformationen darstellt. Diejenigen, die gegen Desinformation kämpfen, bleiben wachsam und suchen nach Möglichkeiten, falsche Nachrichten oder die berühmten „Fake News“ zu beseitigen.
“Zunahme die Viralitätsfähigkeit von Desinformation und das verstärkt letztendlich seine negativen Auswirkungen auf die Bürger und trägt daher dazu bei, die Gesundheit von Demokratien in Frage zu stellen“, warnte Ceccotti.
“Für uns Es ist eine große Sorge Und das ist der Schwerpunkt, mit dem Faktenprüfer auf der ganzen Welt den Kampf gegen Desinformation betrachten: Wir arbeiten daran, die Gesundheit der Demokratie zu bewahren“, schloss er.
