Microsoft hat seine Entscheidung bekräftigt, US-Polizeibehörden den Einsatz generativer künstlicher Intelligenz zur Gesichtserkennung über den Azure OpenAI Service zu verbieten, die Plattform des Unternehmens, die speziell für die Unternehmensumgebung entwickelt wurde und OpenAI-Technologien integriert. Am Mittwoch wurde den Nutzungsbedingungen des Azure OpenAI-Dienstes eine Formulierung hinzugefügt, die die Verwendung von Integrationen mit dem Dienst „durch oder für“ Polizeibehörden für die Gesichtserkennung in den USA ausdrücklich verbietet, einschließlich Integrationen mit der aktuellen – und möglicherweise zukünftigen – Bildanalyse von OpenAI Modelle.
Ein neuer Zusatzpunkt verbietet ausdrücklich den Einsatz von „Echtzeit-Gesichtserkennungstechnologie“ in mobilen Kameras wie Körperkameras und Dashcams, um zu versuchen, Menschen in „unkontrollierten und Outdoor“-Umgebungen weltweit zu identifizieren.
Diese Richtlinienänderungen erfolgen eine Woche, nachdem Axon, ein Unternehmen, das Technologie- und Waffenprodukte für das Militär und die Strafverfolgung herstellt, ein neues Produkt angekündigt hat, das das generative Textmodell GPT-4 von OpenAI verwendet, um den Ton von Körperkameras zusammenzufassen. Kritiker wiesen schnell auf potenzielle Probleme hin, wie zum Beispiel Halluzinationen (selbst die besten generativen KI-Modelle von heute erfinden Fakten) und rassistische Vorurteile, die aus Trainingsdaten herrühren, was besonders besorgniserregend ist, da farbige Menschen viel häufiger von der Polizei angehalten werden als ihre weißen Kollegen.
Es ist unklar, ob Axon GPT-4 über den Azure OpenAI Service nutzte und ob die Richtlinienaktualisierung eine Reaktion auf die Produkteinführung von Axon war. OpenAI hatte zuvor die Verwendung seiner Modelle zur Gesichtserkennung über seine APIs eingeschränkt. Wir haben Axon, Microsoft und OpenAI kontaktiert und werden diesen Beitrag aktualisieren, wenn wir etwas hören.
Die neuen Bedingungen lassen Microsoft etwas Spielraum. Das vollständige Verbot der Nutzung des Azure OpenAI-Dienstes gilt nur für die USA, nicht für internationale Strafverfolgungsbehörden. Und es deckt nicht die Gesichtserkennung ab, die mit stationären Kameras in kontrollierten Umgebungen, wie zum Beispiel einem Backoffice, durchgeführt wird (obwohl die Bedingungen jede Verwendung der Gesichtserkennung durch die US-Polizei verbieten).
Dieser Schritt steht im Einklang mit dem jüngsten Ansatz von Microsoft und seinem engen Partner OpenAI bei KI-bezogenen Strafverfolgungs- und Verteidigungsverträgen.
Im Januar enthüllte ein Bloomberg-Bericht, dass OpenAI bei mehreren Projekten mit dem Pentagon zusammenarbeitet, darunter Cybersicherheitsfunktionen. Dies stellt eine Änderung gegenüber dem vorherigen Verbot des Startups dar, seine KI dem Militär zur Verfügung zu stellen. Andererseits hat Microsoft laut The Intercept vorgeschlagen, das Imaging-Tool DALL-E von OpenAI zu verwenden, um das Verteidigungsministerium (DoD) bei der Entwicklung von Software zur Durchführung militärischer Operationen zu unterstützen.
Der Azure OpenAI-Dienst wurde im Februar in Microsofts Azure Government-Produkt verfügbar und bietet zusätzliche Compliance- und Verwaltungsfunktionen für Regierungsbehörden, einschließlich Strafverfolgungsbehörden. In einem Blogbeitrag versprach Candice Ling, Senior Vice President der regierungsorientierten Abteilung von Microsoft, Microsoft Federal, dass der Azure OpenAI-Dienst für Workloads, die DoD-Missionen unterstützen, „zusätzlichen Genehmigungen“ unterliegen würde.
Was halten Sie von den neuen Beschränkungen von Microsoft für den Einsatz von KI in der Strafverfolgung?
