Die Zunahme von Materialien zum sexuellen Missbrauch von Kindern, die durch erzeugt werden Künstliche Intelligenz (KI) stellt eine neue und herausfordernde Front im Kampf gegen diese digitale Epidemie dar. Forscher der Universität in Stanfordwarnen in einem am Montag, 22. April 2024, veröffentlichten Bericht vor der wachsenden Bedrohung, die diese neuen Technologien für Behörden darstellen, die bereits durch veraltete Technologien und veraltete Gesetze eingeschränkt werden.
Die Wirksamkeit von Nationales Zentrum für vermisste und ausgebeutete Kinder (NCMEC)Die Kommission, die für die Koordinierung der Bekämpfung dieser Art von Inhalten zuständig ist, wird durch den Mangel an Ressourcen, die für die Bekämpfung dieser neuen Form der Kriminalität erforderlich sind, ernsthaft beeinträchtigt, wie bereits erwähnt Die New York Times.
Der Bericht hebt hervor, dass im letzten Jahr Fortschritte erzielt wurden KI-Technologien Sie haben Die Erstellung expliziter Bilder von Minderjährigen wurde erheblich vereinfachtwodurch die Menge an Material über sexuellen Kindesmissbrauch exponentiell zunimmt (CSAM) Im Umlauf.
Shelby Grossmaneiner der Autoren der Studie, warnt davor, dass „ohne Zweifel in den kommenden Jahren die CyberTipline wird mit KI-Inhalten überschwemmt, die sehr realistisch aussehen, was es für die Strafverfolgungsbehörden noch schwieriger macht, die echten Kinder zu identifizieren, die gerettet werden müssen.“
Der CyberTiplinegegründet 1998, fungiert als primärer Bundesspeicher für alle Berichte über CSAM online, die von Sicherheitskräften bei der Untersuchung dieser Verbrechen verwendet werden. Es steht jedoch vor großen Herausforderungen, da viele der erhaltenen Ratschläge unvollständig oder voller Ungenauigkeiten sind.
Seine geringe Mitarbeiterzahl hatte Mühe, mit der Menge an Meldungen Schritt zu halten, die im Jahr 2022 weniger als die Hälfte „umsetzbar“ waren, weil es an ausreichenden Informationen der meldenden Unternehmen mangelte oder weil sich das Bild in einer Beschwerde schnell online verbreitet hatte und dies auch nicht der Fall war zu oft gemeldet.
Den Daten des Berichts zufolge wurde an einem einzigen Tag Anfang dieses Jahres die CyberTipline erhielt eine Rekordzahl von einer Million Meldungen CSAM, was die Reaktionsfähigkeit der Forscher vorübergehend überlastet. Es stellte sich heraus, dass dieser ungewöhnliche Anstieg hauptsächlich mit der Verbreitung eines Bildes innerhalb eines Memes zusammenhängt, das auf geteilt wurde Plattformen um Empörung auszudrücken, nicht mit böswilliger Absicht.
Technologische Herausforderungen erhöhen die Komplexität zusätzlich NCMEC. Entsprechend Alex Stamosein weiterer Autor des Berichts, der NCMEC und seine Auftragnehmer sind durch Vorschriften eingeschränkt, die sie daran hindern, Cloud-Computing-Anbieter zu nutzen, und stattdessen verlangen, dass Bilder lokal auf Computern gespeichert werden.
Diese Einschränkung erschwert den Aufbau und die Verwendung der speziellen Hardware, die zum Erstellen und Trainieren von Simulationsmodellen erforderlich ist. KI für Ihre Recherche. „Eine Million identischer Bilder ist schon schwierig genug, eine Million separate Bilder erstellt von KI „Ich würde sie brechen“, sagte er. Stamos.
Angesichts der wachsenden öffentlichen Empörung über die Verbreitung von Bildern von sexuellem Missbrauch von Kindern im Internet hat sich die Prüfung der Verantwortung großer Unternehmen in letzter Zeit verschärft technologische Plattformen im Jugendschutz. Während einer Anhörung mit den Geschäftsführern von Ziel, Schnapp, Tick Tack, Zwietracht Und Xkritisierten die Gesetzgeber diese Unternehmen scharf dafür, dass sie nicht genug unternahmen, um Kinder im Internet zu schützen.
Gesetzgebung zur Erhöhung der Mittel für NCMEC und den Zugang zu fortschrittlicherer Technologie zu gewähren, wurde sowohl vom Zentrum als auch von den Forschern verteidigt Stanfordder Interviews mit Mitarbeitern und Systemen im Zentrum zustimmte, um die Schwachstellen der Systeme aufzuzeigen, die aktualisiert werden müssen.
Die Organisation betonte, dass sich „die Komplexität der Berichterstattung und die Schwere von Verbrechen gegen Kinder im Laufe der Jahre immer weiter entwickeln“ und plädierte für die Einführung von neue technologische Lösungen während des gesamten Prozesses CyberTipline um mehr Kinder zu schützen und Kriminelle zur Rechenschaft zu ziehen.
Der Bericht von Stanford Es unterstreicht auch die Notwendigkeit Nationales Zentrum für vermisste und ausgebeutete Kinder Passen Sie Ihre Hinweiszeile an, damit die Strafverfolgungsbehörden feststellen können, welche Meldungen Inhalte betreffen, die von erstellt wurden KI. Darüber hinaus werden Unternehmen dringend aufgefordert, potenziell missbräuchliches Material in ihrem Unternehmen zu melden Plattformen um die Formulare vollständig auszufüllen.
