KI und die Entwicklung von Überwachungssystemen

Jun 21, 2023

In diesem Help Net Security-Interview spricht Gerwin van der Lugt, CTO bei Oddity, über die Zukunft der Überwachung und den Einfluss von KI. Er befasst sich auch damit, wie Organisationen verhindern können, dass ihre Systeme Vorurteile aufrechterhalten oder individuelle Rechte verletzen.

Oddity ist ein relativ junges Unternehmen und wir konnten von Anfang an datenschutzrechtliche und ethische Softwarepraktiken berücksichtigen. Wir praktizieren die Grundsätze „Privacy by Design“. Beispielsweise speichert unsere Software in den Standardeinstellungen überhaupt keine Videodaten, da die vorhandenen Videomanagementsysteme bereits über diese Funktionalität verfügen.

Darüber hinaus nutzen wir Kundendaten nicht für Schulungszwecke. In den meisten Fällen sind unsere Anlagen nicht mit dem Internet verbunden und wir benötigen für Wartung und Fehlerbehebung physischen Zugang. Wir glauben, dass es sich trotz dieser Unannehmlichkeiten lohnt. Besonders wenn es um sensible Bereiche wie Haftanstalten geht, in denen die überwachten Personen kaum Kontrolle über ihre Privatsphäre haben. Letztendlich soll unsere Software den Menschen helfen und sie schützen, und unser Ziel ist es, dies mit möglichst geringen Auswirkungen auf die Privatsphäre zu tun.

Erfolgreiche Kameraüberwachungseinsätze erfordern ein sorgfältiges Zusammenspiel zwischen den Sicherheitskameras, Sensoren und anderer Hardware, dem Videomanagementsystem und dem Netzwerk selbst. Die größte Herausforderung besteht darin, eine Netzwerkinfrastruktur aufzubauen, die den ständig steigenden Bandbreitenanforderungen moderner Kameras gerecht wird.

Überwachungsinstallationen neigen dazu, mit der Zeit zu wachsen, und mit zunehmender Anzahl von Kameras wird die Bandbreitengrenze des Netzwerks erreicht. Der Austausch einer defekten Kamera ist eine einfache Wartungsaufgabe, da nur eine einzelne Kamera betroffen ist. Der Austausch der Netzwerkinfrastruktur, um die Bandbreite zu verdoppeln oder zu verdreifachen, ist viel schwieriger und erfordert die Überprüfung und den Austausch der Netzwerkhardware während der gesamten Installation.

Wir sehen oft, dass Integratoren versuchen, dies zu umgehen, indem sie die Bildraten- oder Bitrateneinstellungen der Kameras verringern, um die benötigte Bandbreite zu reduzieren. Auch wenn es zunächst wie eine praktikable Lösung für die KI-gestützte Überwachung erscheint, kann es Probleme verursachen. Modelle des maschinellen Lernens reagieren empfindlich auf geringfügige visuelle Unterschiede, die das menschliche Auge kaum erkennen kann. Insbesondere wenn der Algorithmus auf qualitativ hochwertige Eingaben trainiert wurde, kann es bei Videostreams mit geringer Qualität zu Problemen kommen.

Daher ist es beim Aufbau einer Überwachungsnetzwerk-Infrastruktur von Grund auf eine gute Idee, im Voraus zu planen und sie mit ausreichend Spielraum für die Bandbreitenkapazität aufzubauen. Das spart langfristig Kosten und stellt sicher, dass die Anlage für die KI-gestützte Zukunft gerüstet ist!

Was die physische Hardware angeht, ist entsprechend meiner obigen Empfehlung die Reservierung ausreichender Bandbreite ein entscheidender Faktor.

Noch wichtiger ist, dass die Zukunft der Überwachung in der KI liegt und Unternehmen ihr Überwachungssystem unter Berücksichtigung der KI gestalten sollten. Während in einem typischen Kameraüberwachungszentrum die Leute immer noch auf Wände mit Matrixbildschirmen mit Videoübertragungen blicken, werden sie möglicherweise schon bald proaktiv gewarnt, wenn ein Vorfall eintritt. Bei gleicher Personalzahl sind sie wesentlich effektiver.

Der erste Schritt besteht darin, die Arten von Vorfällen zu bestimmen, die Sie am meisten interessieren. Für viele Vorfalltypen gibt es KI-Lösungen. Es ist wichtig, KI von Anfang an zu berücksichtigen und KI-Anbieter so schnell wie möglich einzubeziehen. Ab 2023 ist die KI noch nicht bereit, den Menschen vollständig zu ersetzen. Organisationen wären gut beraten, eine hybride Bereitstellung mit Human-in-the-Loop einzurichten und gleichzeitig die Lücken zu überwachen und zu schließen.

KI-Modelle werden durch die Datensätze beeinflusst, die zu ihrem Training verwendet werden. Es ist unerlässlich, dass KI-Anbieter ihre Datensätze sorgfältig abstimmen und ausbalancieren, um das Auftreten von Verzerrungen zu verhindern. Das Abgleichen von Datensätzen ist ein manueller Prozess, bei dem sichergestellt werden muss, dass die in den Datensätzen sichtbaren Menschen die Realität gut abbilden und keine Vorurteile gegenüber bestimmten menschlichen Merkmalen aufweisen. In unserem Fall verwenden wir verschiedene Gruppen von Akteuren aus der ganzen Welt, um Gewalt für unsere Trainingsdatensätze auszuspielen, um sicherzustellen, dass sie ausgewogen sind. Darüber hinaus können regelmäßige Tests auf solche Vorurteile viel bewirken.

Ein sorgfältig konzipiertes System kann Menschen schützen und helfen, ohne ihre Privatsphäre wesentlich zu beeinträchtigen. Dies erfordert die Berücksichtigung des Datenschutzes vom Entwurf bis zur Implementierung von KI-Systemen. Ich glaube, dass die Zukunft der KI-gestützten Überwachung weniger Verletzungen der Privatsphäre bewirken wird. Derzeit ist es bei großen Überwachungsanlagen immer noch erforderlich, dass Menschen ständig auf die Kameraströme schauen. In einem auslöserbasierten Arbeitsablauf, bei dem Menschen Maßnahmen ergreifen, nachdem eine KI sie alarmiert hat, ist die Menge an Überwachungskameraaufnahmen, die Menschen sehen, viel geringer und somit sinkt das Risiko einer Verletzung der Privatsphäre.

Ich bin davon überzeugt, dass die klassische Kameraüberwachungszentrale, wie sie jetzt existiert, mit viel Personal und Videowänden auslaufen wird. Stattdessen alarmieren KI-Systeme das zuständige Sicherheitspersonal proaktiv, wenn Vorfälle auftreten. Die Erkennungsrate von Vorfällen steigt auf 80 % oder sogar mehr (von 5 % auf 25 %), und Ersthelfer und Sicherheitspersonal werden in die Lage versetzt, mehr zu helfen und weniger wertvolle Zeit mit dem Betrachten von Videomaterial zu verbringen.