Microsoft sperrt KI-Gesichtserkennungs-Tools für US-Polizei
Besonders in den USA werden von jedem Polizisten Bodycams genutzt.
In den USA gehört KI-gestützte Gesichtserkennung mittlerweile zum Alltag im Kampf gegen das Verbrechen. Microsoft hat am Donnerstag bekräftigt, dass solche Gesichtsdaten nicht mehr in Kombination mit dem hauseigenen Azure OpenAI Service genutzt werden dürfen, der beispielsweise Zugriff auf OpenAI-Modelle wie GPT-4 oder Dall-E 3 erlaubt. Um hier Missverständnissen vorzubeugen, wurden sogar die Nutzungsbedingungen von Microsoft umgeschrieben.
Sperre gilt für alle Polizeibehörden
Am Mittwoch fand sich in den Nutzungsbedingungen von Azure OpenAI Service eine neue Formulierung, die ein Verbot der Software “von oder für” Polizeidienststellen in Verbindung mit Gesichtserkennung ausspricht. Impliziert in dem neuen Absatz sind neben aktuellen auch zukünftige Bildanalysemodelle von OpenAI. Derzeit wird von der US-Polizei zum Beispiel auf den Bodycams eine Gesichtserkennungs-Software genutzt, die in Kombination mit KI-gestützter Software effizienter sein soll.
Man will aufseiten von Microsoft verhindern, dass Personen in “unkontrollierten und öffentlichen” Bereichen mit Unterstützung der eigenen Software identifiziert werden können. Während in der ursprünglichen Textänderung von “jeglicher Polizeibehörde” die Rede war, korrigierte sich Microsoft kurz darauf in einem Statement, das auf Techcrunch veröffentlicht wurde. Die Sperre gelte tatsächlich nur für US-Behörden. Es sei keine generelle Sperre für Polizeibehörden, die den Service nutzen.
Stationäre Kameras ausgenommen
Der Zeitpunkt für die Änderung der Nutzungsbedingungen ist nicht zufällig gewählt. Vor wenigen Tagen hatte Axon, Hersteller von Waffentechnologien für das Militär und die Strafverfolgungsbehörden, ein neues Produkt angekündigt, das GPT-4 von OpenAI nutzt. Im neu vorgestellten Gadget werden vor allem Audioaufnahmen von Bodycams zusammengefasst. Sofort wurde Kritik laut, da generative KI-Modelle noch immer mit falschen Fakten und rassistischen Verzerrungen zu kämpfen haben. Ein Einsatz in solch einem heiklen Gebiet wäre deshalb derzeit ein großer Fehler, so die Kritiker.
Weiterhin genutzt werden kann der Azure OpenAI Service für stationäre Kameras und kontrollierte Bereiche, etwa Tiefgaragen oder Büros. Die neuen Nutzungsbedingungen sind auch keine generelle Abkehr von Microsoft beziehungsweise OpenAI in der Zusammenarbeit mit Behörden. Im Jänner wurde bekannt, dass OpenAI bereits mit dem Pentagon an mehreren Projekten zusammenarbeitet, und die Bildgenerierung Dall-E wird offenbar bereits zusammen mit dem US-Verteidigungsministerium für militärische Operationen weiterentwickelt. (red, 5.4.2024)