KI-Warnung für Kinder

Foto: Wikimedia Commons / Phillips, Tom M. -- Photographer, Public domain

Ein ehemaliger Google-Manager schlägt Alarm: Tom Siegel, früher bei Google für Nutzersicherheit zuständig, sieht in der rasanten Entwicklung von KI-Systemen erhebliche Risiken für Kinder und Jugendliche. Gegenüber Reuters forderte er, das Tempo zu drosseln und Schutzmaßnahmen nicht länger aufzuschieben.

Siegel meint, die Tech-Branche drohe gerade, bekannte Fehler aus der Zeit der sozialen Netzwerke zu wiederholen. Aus seiner Sicht könnten die Folgen für Minderjährige sogar noch gravierender ausfallen. Er verweist auf mögliche Schäden, die von Suizid und Psychosen bis hin zu einem Rückgang des kritischen Denkens reichen könnten.

Neue Rolle, klare Forderungen

Seit dieser Woche leitet Siegel das neu gegründete Youth AI Safety Institute der Kinderschutzorganisation Common Sense Media. Von dort aus fordert er konkrete Schritte von großen KI-Anbietern und Plattformen. Sein Appell richtet sich unter anderem an Anbieter von Chatbots und an Suchmaschinenbetreiber.

• Anthropic und OpenAI sollen strengere Altersprüfungen für ihre Chatbots einführen.
• Google solle eine leicht erreichbare Option anbieten, um KI-Übersichten in der Suche abzuschalten.
• Unternehmen müssten jetzt handeln, statt erst auf Klagen oder neue Regeln zu reagieren.

Warnung an die Unternehmen

Siegel macht auch klar, dass mehr Schutz kurzfristig wirtschaftliche Nachteile bringen könnte. Trotzdem hält er den Schritt für notwendig. Wer untätig bleibe, riskiere aus seiner Sicht nicht nur politischen Druck, sondern auch juristische Folgen und schärfere Regulierung.

Im Zusammenhang mit Berichten über mögliche Suizide gilt besondere Vorsicht: Solche Inhalte können Menschen in Krisen zusätzlich belasten. In Österreich ist die Telefonseelsorge rund um die Uhr unter 142 erreichbar, für Jugendliche und junge Erwachsene gibt es außerdem Rat auf Draht unter 147.

Quelle: ORF