Niederlande: Behörde rät von KI-Brillen ab
· Redaktion BehindLines
Die niederländische Datenschutzbehörde, die Autoriteit Persoonsgegevens (AP), hat Verbrauchern vom Kauf von Smartbrillen mit KI abgeraten, berichten BBC und NL Times: Sie hält es für möglich, dass diese Brillen gefährlich falsche Antworten geben. Ein Verkaufsverbot hat sie jedoch nicht gefordert, wie die BBC festhält.
Was die Tests zeigten
Die AP testete sechs auf dem niederländischen Markt erhältliche Modelle, deren Preise laut BBC von unter 100 Euro bis über 500 Euro reichen. Die Behörde nennt die Marken nicht. Laut NL Times haben die Brillen ein Mikrofon und erlauben es, einem KI-Assistenten Fragen zu stellen.
In einem simulierten Notfall, in dem um Hilfe bei einer Wiederbelebung gebeten wurde, behaupteten die Brillen, die 112 angerufen zu haben und dass ein Krankenwagen unterwegs sei, was falsch war, so NL Times. Die BBC präzisiert, dass ein Modell dies mehrfach behauptete. Beide Medien erwähnen Fehler beim Lesen von Medikamentenbeipackzetteln; NL Times nennt zudem Sicherheitshinweise auf Spielzeug, die BBC die Deutung von Unwetterwarnungen.
Privatsphäre und Sicherheit
Laut BBC sorgt sich die AP, dass Menschen ohne ihr Wissen gefilmt werden könnten: Bei manchen Modellen lässt sich die Aufnahmeleuchte mit Klebeband abdecken, ohne dass das Gerät den Dienst einstellt, obwohl Hersteller das Gegenteil behaupten. Bei einigen Produkten fand die Behörde gravierende Sicherheitslücken: Eine Person in der Nähe konnte sich ohne Erlaubnis verbinden, Aufnahmen ansehen oder sogar die Kamera aus der Ferne steuern. Sie warnt, dass die aufgezeichneten Daten oft aus der Europäischen Union exportiert werden.
Die AP-Vizevorsitzende Monique Verdier sagte, von NL Times zitiert, Brillen, die Menschen ohne deren Wissen aufnehmen, seien schon besorgniserregend genug, doch falsche Ratschläge, wenn ein Leben auf dem Spiel stehe, gingen einen Schritt zu weit. Die Organisation Bits of Freedom, von NL Times unter Berufung auf die Nachrichtenagentur ANP zitiert, hält die Warnung für zu begrenzt und zu spät und meint, diese Brillen müssten vom Markt genommen werden.
Warum das wichtig ist
Laut BBC räumt die AP ein, dass diese Brillen Menschen helfen können, die Unterstützung brauchen, um ihre Umgebung zu verstehen, und hält es deshalb für umso wichtiger, dass die KI darin zuverlässig ist. Die BBC hat Meta, TCL und HTC um eine Stellungnahme gebeten; sie schreibt, es sei unbekannt, ob die Brillen von Meta zu den Tests gehörten, da die AP die getesteten Produkte nicht nennt.