KI-Spielzeug überwacht Kinder mit Technik von Microsoft, OpenAI und Epic Games
Der Spielzeughersteller Curio verkauft Plüschtiere für Drei- bis Zwölfjährige, die in den USA und weiteren Ländern Gespräche mit einer KI-Stimme sammeln.
Der Spielzeughersteller Curio hat in den USA und weiteren englischsprachigen Ländern mit dem Verkauf von Plüschtieren begonnen, die sich über eine KI-Stimme mit Kindern unterhalten. Die drei Modelle heißen Grok, Grem und Gabbo und werden für Kinder zwischen drei und zwölf Jahren vermarktet. Der Nettopreis liegt bei 99 US-Dollar. Hinzu kommen Kosten für ein Abo-Modell, um "neue Funktionen und Dienste" freizuschalten. Ohne Abo sollen nur einige Basisfunktionen zur Verfügung stehen.
Lauschangriff im Kinderzimmer?
Die Plüschtiere sind mit Mikrofon und Lautsprecher ausgestattet und leiten Anfragen der Kinder über ein WLAN-Modul an Server von Microsoft in der Azure-Cloud weiter. Dort läuft ein Sprachmodell von OpenAI, die als Dienstleister für Curio fungieren. Das Sprachmodell sendet seine Antworten an das Stofftier zurück, das mit einer Kinderstimme antwortet.
Eltern können die Transkriptionen der Gespräche über eine App abrufen. Laut Datenschutzerklärung speichert Curio die transkribierten Gespräche 90 Tage lang und wertet sie aus, um sein Angebot zu verbessern. Eltern könnten der Erfassung bestimmter Daten per Opt-out widersprechen.
Betatest mit Kindern
Um noch schnell vor Weihnachten auf den Markt zu kommen, hat der Hersteller Curio seine Produkt- und Sicherheitstests offensichtlich noch nicht abgeschlossen. Auf der Werbeseite prangt groß das Logo "Beta". Informationen, mit welchen Daten die Sprachmodelle trainiert wurden und Details zu den Content-Filtern fehlen. Trotzdem kann man die Plüschtiere schon jetzt auf der Website für seine Kinder bestellen, damit sie noch rechtzeitig vor Heiligabend geliefert werden. Im nächsten Jahr sollen Abonnementdienste folgen.
Neben den USA beliefert Curio eigenen Angaben zufolge auch Kanada, Australien, Neuseeland und Großbritannien. Die EU und Deutschland bleiben (zunächst) außen vor. Neben Curio dürften bald weitere Anbieter mit KI-Spielzeug auf den Markt drängen. Der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) des EU-Parlaments forderte bereits vor zwei Jahren mehr Datenschutz und IT-Sicherheit für Spielzeug, das mit dem Internet verbunden werden kann. Nach wie vor stellten viele Spielzeuge, die in der EU verkauft werden, eine "erhebliche Gefahr" dar.