Schulen führen Gesichtserkennung im Namen der Bekämpfung von Covid ein

Nov 29, 2023

Gregory Barber

Anwendung

Ethik

Gesichtserkennung

Verordnung

Sicherheit

Endbenutzer

Regierung

Sektor

Ausbildung

Gesundheitspflege

Öffentliche Sicherheit

Quelldaten

Sensoren

Bilder

Video

Technologie

Maschinelles Sehen

Im Juni stand die Schulbehörde in Rio Rancho, New Mexico, vor einer Reihe von Abstimmungen über den Haushalt für einen aufwändigen und teuren Wiedereröffnungsplan. Zu den hochpreisigen Artikeln gehörte ein Tablet, mit dem Studenten und Mitarbeiter auf Fieber untersucht werden sollten. Die Geräte wurden von einem Unternehmen namens OneScreen verkauft, das Schulen mit Technologie wie „intelligenten“ Whiteboards und Anwesenheits-Apps beliefert. Aber in diesem Frühjahr hatte sich alles geändert. Sein neues Produkt namens GoSafe könnte die Stirn auf erhöhte Temperaturen scannen und erkennen, wenn Schüler keine Masken tragen. Es gab auch einen Bonus: „erstklassige“ Gesichtserkennung, wie ein örtlicher Anbieter es gegenüber der Schulbehörde beschrieb.

Bezirksbeamte betrachteten dies als Verkaufsargument. Die Tablets waren teuer – 161.000 US-Dollar für 71 Geräte –, selbst angesichts der Großbestellungen des Bezirks für Händedesinfektionsmittel und Schutzausrüstung. Aber sie würden Kinder effizienter durch die Schultüren bringen als Handthermometer. Die Gesichtserkennungstechnologie bot einen weiteren Vorteil: Das Geld würde nicht unbedingt verschwendet werden, sobald es einen Covid-19-Impfstoff gäbe. Der Bezirk könnte die Geräte für andere Zwecke nutzen, etwa für die Anwesenheitskontrolle oder um Eindringlinge am Betreten von Schulen zu hindern.

Ein Schulvorstandsmitglied, Catherine Cullen, war besorgt. Gesichtserkennungstechnologie war für sie neu und die Funktionen schienen, wie sie bemerkte, für den Wiedereröffnungsplan nicht besonders relevant zu sein. Es gab viele Unbekannte, „insbesondere was die Privatsphäre der Studierenden, die Bürgerrechte sowie die Speicherung und Sicherung der Daten betrifft“, sagt sie in einer E-Mail.

Lesen Sie hier unsere gesamte Berichterstattung zum Coronavirus.

Die Administratoren riefen zur Eile auf. Superintendent Sue Cleveland war gesagt worden, dass die Tabletten schnell gekauft werden müssten, damit sie nicht wie Schutzausrüstung und Händedesinfektionsmittel früher im Frühjahr aus den Regalen fliegen. „Sie werden nirgendwo in diesem Land einen finden können“, sagte sie dem Vorstand auf der Grundlage dieses Ratschlags. Schulgebäude könnten bereits im August wiedereröffnet werden. Wenn der Bezirk bis dahin keine Temperaturkontrollen durchführe, bestehe die Gefahr eines Ausbruchs, der die Schulen erneut zur Schließung zwingen würde, fügte sie hinzu. Die Maßnahme wurde mit 4:1 bestanden.

Laut Interviews mit Technologielieferanten, Schulbezirken und lokalen Medienberichten gehört Rio Rancho zu den Dutzenden Schulbezirken, die Wärmebildkameras mit Gesichtserkennungsfunktionen gekauft haben. Viele Bezirke bezahlten die Geräte mit Mitteln aus dem CARES Act, dem weitreichenden Gesetz zur Pandemiehilfe, das 13,2 Milliarden US-Dollar an Hilfen zur Unterstützung von Schulen beim Fernunterricht und bei der Wiedereröffnung vorsah. Geräte zur Temperaturmessung werden oft als entscheidender Bestandteil eines Komplettpakets für den Schulanfang angesehen, wobei auf Tablets montierte Kameras im Vordergrund stehen, die Schüler schnell und mit geringem Eingreifen des Personals zur Tür bringen. Die Gesichtserkennung ist für diese Geräte nicht erforderlich und auch nicht an der Temperaturmessung beteiligt. Aber die Funktion hat sich als leistungsstarke Möglichkeit zur Vermarktung der Geräte erwiesen.

Die Käufe lösten eine landesweite Debatte über die Vorzüge der Gesichtserkennung in Schulen aus. Befürworter bürgerlicher Freiheiten sagen, dass selbst wenn die Funktionen nicht sofort genutzt werden, die Ausstattung von Schulen mit Gesichtserkennung während einer Krise die Technologie normalisiert, ohne dass eine Debatte oder ein öffentlicher Beitrag erfolgt. „Es ist ein Trojanisches Pferd“, sagt Shobita Parthasarathy, Professorin für öffentliche Ordnung an der University of Michigan, die die Einführung der Gesichtserkennung in Schulen untersucht hat. „Heute sind es Wärmebildkameras und in sechs Stunden Gesichtserkennung, und wer weiß, was als nächstes kommt.“

Vor einem Jahr war Gesichtserkennung in Schulen selten. Im Oktober 2019 identifizierte WIRED acht öffentliche Bezirke, die Teil einer frühen Avantgarde waren, die die Technologie einsetzte, unter der Prämisse, dass die Technologie dabei helfen könnte, Waffengewalt zu bekämpfen und unerwünschte Eindringlinge fernzuhalten. Bei den Anschaffungen handelte es sich in der Regel um Upgrades von Kamerasystemen, die Türen und Flure überwachten und lokale und bundesstaatliche Mittel für die Verbesserung des Schulgebäudes nutzten.

Zeitweise löste die Technologie heftige lokale Debatten aus, die eine landesweite Diskussion über die potenziellen Gefahren einer verstärkten Überwachung widerspiegelten. Bedenken, dass Gesichtserkennungsalgorithmen bei der Identifizierung der Gesichter farbiger Menschen weniger genau sind und bestehende Vorurteile bei Überwachung und Polizeiarbeit verstärken könnten, haben Städte wie San Francisco und Boston dazu veranlasst, den Einsatz der Technologie durch die Regierung zu verbieten. Im September erließ Portland, Oregon, ein umfassenderes Verbot, das auch Privatunternehmen einschließt.

Parthasarathy sagt, dass das Problem der Voreingenommenheit in doppelter Hinsicht auf Kinder zutrifft. „Diese Technologien sind bei Schülern, die in den Schulen bereits marginalisiert sind, am wenigsten zuverlässig“, sagt sie. Sie stellt fest, dass Schulbeamte oft nicht in der Lage sind, die Sicherheit und den Datenschutz der biometrischen Daten von Kindern zu gewährleisten und sicherzustellen, dass die Technologie vom Personal verantwortungsvoll genutzt wird. Letztes Jahr dokumentierte WIRED mehrere Fälle, in denen Gesichtserkennungssysteme zur Disziplinierung von Einzelpersonen eingesetzt wurden, darunter ein Elternteil, dessen Gesicht nach einer Meinungsverschiedenheit mit einem Schulverwalter gegen seinen Willen in das System einer Schule hochgeladen wurde. Außerdem gebe es kaum Belege dafür, dass mehr Überwachung tatsächlich die Sicherheit von Schülern schütze, fügt sie hinzu.

Andy Greenberg

Ngofeen Mputubwele

Julian Chokkattu

Matt Simon

Während der Pandemie, bei der ein Virus die Bedrohung darstellt, sind viele Schulen auf der Suche nach neuen Kameras, um den staatlichen Richtlinien zu entsprechen, die tägliche Fieberkontrollen für Schüler empfehlen; andere handeln im Einklang mit gesellschaftlichen Erwartungen. Dennoch sagen viele Gesundheitsexperten, dass Temperaturkontrollen bei der Verhinderung von Ausbrüchen unwirksam seien, da einige mit Covid-19 infizierte Menschen kein Fieber hätten und weil die Menschen aus anderen Gründen erhöhte Temperaturen haben könnten.

„Es ist ein Trojanisches Pferd.“

Die Gesichtserkennung spielt bei der Temperaturkontrolle keine offensichtliche Rolle. Günstige, tragbare Temperaturgeräte könnten die Aufgabe erledigen. Schulbeamte sagen jedoch, dass der Nutzen in erster Linie eine Frage der Effizienz sei. Ein Tablet, das automatisch ein Gesicht erkennt, die Temperatur misst und basierend auf den Ergebnissen sogar die Tür öffnen oder schließen kann, trägt dazu bei, die Morgenroutine zu beschleunigen und Hunderte von Schülern sicher in Schulgebäude zu bringen.

In diesem Sinne erfüllte ein solches System alle Kriterien für Trent Goff, den Schulleiter der Booneville Schools in den Bergen im Westen von Arkansas. „Es war ziemlich einfach zu bedienen und schien jedem ein angenehmeres Gefühl zu geben“, sagt er. Der Bezirk kaufte sechs Geräte im Wert von 2.500 US-Dollar, die von Zhejiang Uniview Technologies hergestellt und von einem Unternehmen namens Alibi aus Austin, Texas, verkauft wurden. Die Tablets der Marke Alibi unterstützen die Gesichtserkennung, erkennen jedoch Temperaturen über einen kleinen gelben Aufsatz, der die Handgelenke scannt. Goff bevorzugt das Gerät gegenüber tragbaren Thermoscannern, da die Mitarbeiter nicht mit einem tragbaren Thermometer in die Nähe der Schüler kommen müssen.

Andere Bezirke haben dramatischere Anstrengungen unternommen, um Kinder schnell durch die Tür zu bekommen. Fayette County, Georgia, gab 525.000 US-Dollar für ein Wärmebildkamerasystem von Hikvision aus, das aufgrund der angeblichen Rolle des Unternehmens bei Menschenrechtsverletzungen gegen Uiguren in China vom Verkauf an die US-Regierung ausgeschlossen wurde. Das System bietet die Möglichkeit, 30 Gesichter gleichzeitig zu scannen, im Gegensatz zu den Empfehlungen der US-amerikanischen Food and Drug Administration, jeweils nur eine Person zu scannen. (Der Bezirk gibt an, die Gesichtserkennungsfunktion nicht aktiviert zu haben.)

Ein häufigerer Ansatz besteht darin, Tablets an den Schuleingängen aufzustellen, die die Gesichter der Schüler erkennen und ihre Stirn mithilfe von Wärmebildern scannen. Aber selbst diese Kameras erfüllen ihre Hauptaufgabe in der Regel nicht besonders gut, sagt Erik Beall, CEO von Thermal Diagnostics und Berater, der eine Reihe der Geräte für Unternehmen evaluiert hat, die Büros und Lagerhäuser wieder eröffnen. Das Scannen der Körpertemperatur ohne Körperkontakt sei eine herausfordernde Wissenschaft, stellt er fest. Die Kameras funktionieren normalerweise, indem sie Infrarotbilder der Haut einer Person und der Umgebung aufnehmen und diese Beobachtungen verwenden, um die Innentemperatur einer Person abzuschätzen. Diese Berechnungen können jedoch durch geringfügige Änderungen in der Umgebungsluft verfälscht werden. Das bedeutet, dass sie nicht für die Personenkontrolle am Schuleingang geeignet sind, sagt Beall – genau dort, wo sie am häufigsten eingesetzt werden.

Da die Tabletten nicht von der FDA für Temperaturkontrollen zugelassen sind, sind unabhängig gesammelte Daten zu ihrer Leistung begrenzt. Doch Tests, die Beall in seinem örtlichen Schulbezirk in der Nähe von Minneapolis mit Tablets durchgeführt hat, sowie die von der Fachzeitschrift IPVM der Überwachungsbranche durchgeführte Studie haben gezeigt, dass die üblicherweise von Schulen gekauften Tablet-Geräte unter realen Bedingungen sowohl erhöhte als auch ungewöhnlich niedrige Temperaturen routinemäßig übersehen. Dadurch sind Fehler schwer zu erkennen, da die meisten Messwerte normal erscheinen. Es bedeutet auch, dass strenge Temperaturgrenzen, die bestimmen, welche Schüler eine medizinische Inhaftierung benötigen (100,4 Grad Fahrenheit ist ein üblicher Grenzwert), wenig aussagekräftig sind.

Andy Greenberg

Ngofeen Mputubwele

Julian Chokkattu

Matt Simon

Glitzernde Funktionen wie künstliche Intelligenz, Gesichtserkennung und Touchscreen-Schnittstellen könnten darauf hindeuten, dass die Geräte ihre Arbeit besser erledigen als gewöhnliche berührungslose Thermometer, sagt Beall. Aber insgesamt sind Tablets, die für Tausende von Dollar verkauft werden, im Allgemeinen nicht besser für Eingangsscans als 50-Dollar-Handthermometer, kommt er zu dem Schluss. „Nichts, was die Leute jetzt kaufen, funktioniert in der realen Welt wirklich“, sagt er.

Meredith Van Natta, medizinische Soziologin an der UC Merced, sagt, sie verstehe, warum Schulen von Geräten in Versuchung geführt werden, die thermische Technologie und Gesichtserkennung kombinieren. Den Bezirken wurde mitgeteilt, dass sie Temperaturkontrollen benötigen und dass sie auch die Personen im Auge behalten müssen, um möglicherweise die Kontakte von mit Covid-19 infizierten Personen zu ermitteln. Aber im Chaos der Vorbereitung der Schulen auf die Wiedereröffnung denken die Beamten nicht unbedingt darüber nach, ob diese Tools die richtigen für den Job sind. „Es gibt bessere Möglichkeiten, den Gesundheitszustand von Schülern einzuschätzen, und es gibt bessere Möglichkeiten, Schüler aufzuspüren, als Fotoaufzeichnungen zu verwenden“, sagt sie. „Die Leute greifen nach Strohhalmen.“

Unabhängig davon, ob Schulen die Gesichtserkennungsfunktionen zunächst nutzen oder nicht, birgt laut Van Natta das Risiko, solche Einkäufe während einer Krise überstürzt zu tätigen. In Rio Rancho googelten Vorstandsmitglieder Artikel über Voreingenommenheit und Gesichtserkennung, während die Gruppe darüber debattierte, ob sie einen Kauf tätigen sollte. In der Regel ist dies der Zeitpunkt, um kritische Fragen dazu zu stellen, wie die Geräte die persönlichen Daten der Schüler speichern, wie man mit Vorurteilen gegenüber Schülern umgeht oder wie man die Genauigkeit des Systems richtig untersucht. Auch blieb der Öffentlichkeit nicht viel Zeit, sich über die Ethik einer verstärkten Überwachung zu äußern. „Dies ist nicht der Moment, in dem wir so viel über bürgerliche Freiheiten nachdenken, wie wir sollten“, sagt Van Natta und vergleicht das Wachstum von Überwachungssoftware während der Covid-19-Pandemie mit der Zunahme des „Sicherheitstheaters“ nach dem 11. September .

„Nichts, was die Leute gerade kaufen, funktioniert in der realen Welt wirklich.“

Bezirke hätten in der Regel auch mehr Zeit, ihre Optionen abzuwägen. Viele der Tablet-Hersteller sind sowohl im Bereich der Wärmebildtechnik als auch der Gesichtserkennung neu. Die Geräte gibt es unter Dutzenden von Markennamen zu unterschiedlichen Preisen, obwohl sie nur von wenigen Herstellern tatsächlich hergestellt werden. In einem Bericht von IPVM wurden 14 Marken identifiziert, die alle von einem einzigen Hersteller in China, Guangzhou Bems, stammten. Diese Produkte wiederum können von lokalen Anbietern mit Beziehungen zu Schulen verkauft werden, die die Kameras als ihre eigenen vermarkten: eine Neuetikettierung einer Neuetikettierung. Das Ergebnis ist, dass Aussagen über die Genauigkeit und Sicherheit der Systeme für Kunden schwer zu überprüfen sind. „Jeder hat ein ähnliches Produkt“, sagt Shawn Howell, CEO von Arkansas Complete Technology and Security, das Alibi-Tablets an Booneville und andere Bezirke in Arkansas verkauft hat. „Ich denke, der Markt wurde durch die Corona-Krise überschwemmt, und es liegt nun an den Unternehmen, verantwortungsvoll voranzukommen.“

Einige Tablet-Hersteller sehen im Fieber-Screening ein potenzielles Standbein auf dem Sicherheitsmarkt. Sufian Munir, CEO von OneScreen, sagt, das Unternehmen habe seine Geräte an mehr als 30 Schulbezirke, darunter Rio Rancho, verkauft, die Gesichtserkennungsfunktionen seien jedoch vorerst generell deaktiviert. „Viele Schulen waren nicht bereit, diesen Vertrauensvorschuss sofort zu wagen“, sagt er, obwohl einige die Temperaturkontrollen mit Schlössern an Schultüren verbunden haben. Aber er beschreibt die Wärmebildtabletts als den ersten Schritt einer „aggressiven Roadmap“, die Kamerasysteme beinhalten würde, die über die Eingangskontrollen hinausgehen und Schulflure auf unerwünschte Gesichter und möglicherweise Waffen überwachen.

Von Eve Sneider

OneScreen gehörte zu den 14 Unternehmen, die von IPVM als Umetikettierer von Guangzhou Bems identifiziert wurden, wobei festgestellt wurde, dass die Geräte ein identisches Gehäuse und andere Hardwarekomponenten haben. Doch Munir bestreitet die Charakterisierung und weist darauf hin, dass OneScreen die einzige Marke ist, die einen Qualcomm-Prozessor in ihrem Tablet anbietet, und er sagt, das Unternehmen habe weitere Modifikationen an seiner Software vorgenommen. (OneScreen bietet auch eine Version des Geräts an, die denselben Prozessor wie die anderen verwendet.)

Aber Munir sagt, er wisse wenig über die „erstklassigen“ Gesichtserkennungsalgorithmen, die den Kern seiner Expansionspläne bilden. „Das ist fast wie eine Blackbox für das OneScreen-Team“, sagt er. „Wir verlassen uns auf die Technologie, die uns gegeben wird.“ Er verwies WIRED an Qualcomm, den Hersteller des Prozessors des Geräts, um weitere Fragen zu den Gesichtserkennungsfunktionen und deren Genauigkeitstests zu beantworten. Sanjeet Pandit, ein Vizepräsident von Qualcomm, bestätigt, dass OneScreen der einzige Anbieter von Wärmebildkameras ist, der zur Verwendung seiner Chips lizenziert ist, sagt jedoch, dass Qualcomm die in den Tablets verwendete Gesichtserkennungstechnologie nicht bereitstellt. Auf eine Folgefrage, wer die in dem Gerät verwendeten Gesichtserkennungsalgorithmen entwickelt habe, antwortete Munir nicht direkt.

Es ist unklar, wie viele Bezirke die jetzt erworbenen Gesichtserkennungsfunktionen aktivieren werden. Während eine Reihe von Bezirken eine Zukunft für die Geräte nach der Pandemie vorgeschlagen hat, ist das Chaos der Wiedereröffnung auch eine schwierige Zeit, um mit der tatsächlichen Nutzung dieser Systeme zu beginnen. Rio Rancho beispielsweise beschloss, die Gesichtserkennungskomponente auf den OneScreen-Tablets zu deaktivieren, nachdem Cullen ihre Bedenken geäußert hatte. Kurzfristig hätten die Kameras ohnehin keinen großen Nutzen gehabt. Bis November hat der Bezirk nur etwa die Hälfte seiner Grundschüler in die Klassenzimmer zurückgebracht. Der Rest bleibt wegen des Virus zu Hause.