Künstliche Intelligenz im Kampf gegen Kindermissbrauch
![Foto von Andreas Kleinknecht, Senior Director Public Sector bei Microsoft](../renderingassets/personas/andreas-kleinknecht.jpg)
veröffentlicht am
Lange Zeit war Künstliche Intelligenz ein Versprechen auf die Zukunft. Heute erleben wir, wie KI ganz konkret zu Durchbrüchen in der medizinischen Forschung oder zu Fortschritten beim Klimaschutz führt. Tatsächlich lassen sich mithilfe von KI inzwischen wirtschaftliche, wissenschaftliche und gesellschaftliche Herausforderungen lösen, die der Mensch alleine bisher kaum bewältigen konnte. Ein aktuelles Beispiel dafür liefert ein gerade erfolgreich abgeschlossenes Forschungsprojekt von Microsoft, dem Ministerium der Justiz des Landes NRW, der Zentral- und Ansprechstelle Cybercrime (ZAC) der Staatsanwaltschaft Köln zu Bekämpfung von Kinderpornographie.
Hohe Trefferquote: Erkennungsrate der KI liegt bei 92 Prozent
Missbrauchsdarstellungen von Kindern und Jugendlichen finden im Internet immer größere Verbreitung. Allein 2020 stieg die Zahl der Verdachtsfälle in Deutschland um mehr als 50 Prozent. Gleichzeitig wird die Aufklärung solcher Delikte immer aufwendiger, weil in kurzer Zeit eine Fülle von Beweismaterialen auszuwerten ist – eine zeitraubende und zudem psychisch sehr belastende Aufgabe. Das jetzt erfolgreich abgeschlossene Gemeinschaftsprojekt belegt eindrucksvoll, dass KI an dieser Stelle einen wertvollen Beitrag leisten kann. Entwickelt wurde ein Assistenzsystem zur automatisierten Erkennung und Kategorisierung von Kinder- und Jugendpornografie, das bereits heute Bilder in 92 Prozent korrekt kategorisiert. Nur noch die möglicherweise strafbaren Bilder müssen von den Ermittlern Beamten selbst gesichtet werden. Über die finale Auswertung und mögliche Maßnahmen entscheidet am Ende aber immer der Mensch und nicht die KI.
Strenge Rechtsvorschriften: Abstraktion sorgt für Sicherheit
Eine der größten Herausforderungen des Projekts war das Einhalten der strengen Rechtsvorschriften, die verbieten, dass kinderpornografisches Material in die Hände Dritter gelangt. Zudem darf bei der Auswertung der Bilder deren Beweiswert nicht verändert werden. Für die Lösung hat Microsoft ein weltweit einzigartiges Verfahren entwickelt: Über einen so genannten Abstraktions-Layer werden die konkreten Bildinhalte vollständig und irreversibel abstrahiert und anonymisiert (dekonstruiert). Für das menschliche Auge sind nach dieser Dekonstruktion keine Bildinhalte mehr erkennbar. Trotzdem sind die im Rahmen des Projekts entwickelten und speziell für diese Aufgabe trainierten Algorithmen von Microsoft in der Lage, in den dekonstruierten Bilddateien relevante Inhalte zu erkennen und korrekt zu klassifizieren. Menschliche „Schwarmintelligenz“ sorgt dafür, dass die KI in Zukunft noch intelligenter wird: Alle Nutzer der Plattform, können Falschklassifizierungen kennzeichnen. Diese Daten laufen kontinuierlich und in abstrahierter Form zurück in die zentrale ZAC NRW Cloud Instanz. Dort wird dann in regelmäßigen Abständen die KI neu trainiert und verbessert sich damit stetig.
Digitale Souveränität: Justiz behält stets die Datenhoheit
Der hybride Cloud-Ansatz ermöglicht den Strafverfolgungsbehörden die Lösung direkt vor Ort zu nutzen und dennoch auf die Rechenpower von Azure zuzugreifen. Die Trennung von sensiblem Material, das ausschließlich in den Rechenzentren der Behörden anonymisiert wird, und der Auswertung durch die Analysealgorithmen in der Microsoft-Cloud sorgt für die notwendige Rechtssicherheit. Damit hat das Projekt den Beleg erbracht, dass Microsoft zuverlässige Lösungen auch in einer hybriden Umgebung bereit stellen kann. Gleichzeitig ist das Gemeinschaftsprojekt auch ein hervorragendes Beispiel dafür, wie digitale Souveränität funktionieren kann: Durch die irreversible Dekonstruktion der Bilderdateien vor der Überspielung in die Cloud behält die Justiz in NRW stets die Datenhoheit.
Innovative Lösung: Anschlussfähig und immer auf dem neuesten Stand
Die passgenau auf die individuellen Anforderungen der Behörden zugeschnitten Lösung bietet außerdem eine freie Skalierbarkeit der Rechenressourcen für die Auswertung der umfangreichen Beweismittel - ohne notwendige zusätzliche Investitionen in teure Hardware. Neben den bestehenden Funktionen profitieren Ermittlungsbehörden dauerhaft von weiteren Neuerungen, Verbesserungen sowie Erweiterungen bestehender Dienste. Diese werden regelmäßig über die Cloud bereitgestellt und kommen sofort allen angeschlossenen Behörden zugute. Dank ihrer offenen Architektur kann die Cloud-basierte KI-Lösung in Zukunft auch von nationalen wie internationalen Behörden leicht genutzt werden – das sichert die Handlungsfähigkeit der Staaten im gemeinsamen Kampf gegen international organisierte Kriminalität im Netz.
Einzigartige Allianz: Staatliche wie private Partner bringen Stärken ein
Unter dem Strich ist das Projekt eine auf Bundesebene bisher einzigartige Allianz, um gesellschaftliche Herausforderungen gemeinsam anzugehen - und steht beispielhaft für eine gelungene Kooperation unterschiedlichster Partner auf Augenhöhe: In der gesamten Pilotphase haben das Ministerium der Justiz NRW, die Staatsanwaltschaft Köln mit der angesiedelten Zentral und Ansprechstelle Cybercrime (ZAC NRW), sowie wissenschaftliche Berater, Juristen und IT-Sicherheitsexperten der Universität des Saarlandes eng und kontinuierlich zusammen gearbeitet. In dem erfolgreichen Abschluss dieses hoch komplexen Entwicklungsprojekts sehen wir eine echte Blaupause für die zukünftige Zusammenarbeit zwischen staatlichen und privaten Partnern, bei der alle Parteien ihre jeweiligen Stärken gewinnbringend einbringen können - und dabei von einer Künstlichen Intelligenz bestmöglich unterstützt werden.