Meta erweitert die Sicherheitsfunktionen seiner KI-Anwendungen und führt weltweit neue Schutzmechanismen für minderjährige Nutzer ein. Künftig sollen Eltern oder Erziehungsberechtigte informiert werden, wenn Chats ihres Kindes mit Meta AI Hinweise auf Suizidgedanken oder Selbstverletzung erkennen lassen. Zusätzlich arbeitet das Unternehmen an einer Funktion, die bei akuter Gefährdung Rettungsdienste verständigen kann.
Warnmeldungen für Eltern
Die neue Benachrichtigungsfunktion startet zunächst in den USA, Großbritannien, Kanada und Australien. Voraussetzung ist, dass das Jugendkonto über das Family Center mit dem Konto der Eltern oder Erziehungsberechtigten verbunden ist. Erkennt Meta AI potenziell kritische Inhalte in einer Unterhaltung, wird eine Warnung an die hinterlegte Aufsichtsperson gesendet.
Laut Meta werden verdächtige Chats vor dem Versand einer Benachrichtigung von menschlichen Prüfern bewertet. Im Zweifel wolle das Unternehmen jedoch zugunsten der Sicherheit handeln und Eltern auch dann informieren, wenn sich ein Verdacht später als unbegründet herausstellt. Für die Entwicklung der Funktion habe Meta mit mehr als 75 Experten für die psychische Gesundheit von Jugendlichen zusammengearbeitet. Der weltweite Rollout ist bis Ende des Jahres geplant.
Rettungsdienste sollen automatisch verständigt werden
Darüber hinaus entwickelt Meta eine weitere Sicherheitsfunktion für akute Krisensituationen. Besteht auf Basis eines KI-Chats der Verdacht auf eine unmittelbare Suizidgefahr, sollen künftig automatisch Rettungsdienste alarmiert werden können.
Ein ähnlicher Mechanismus kommt bereits auf Facebook und Instagram zum Einsatz. Nach Angaben des Unternehmens wurden im vergangenen Jahr weltweit mehr als 19.000 Hinweise auf glaubhafte Suizidgefahren an zuständige Notfalldienste weitergeleitet.
Strengere KI-Einstellungen für Jugendliche
Parallel weitet Meta die bereits auf Instagram verfügbare Einstellung „Limited Content“ auf Meta AI aus. Aktivieren Eltern diese Funktion, werden auch die KI-Unterhaltungen ihrer Kinder stärker eingeschränkt. Die KI lehnt in diesem Modus zusätzliche sensible Anfragen ab und soll so das Risiko unangemessener Gespräche reduzieren.
Grundsätzlich gelten für Jugendkonten bereits altersabhängige Schutzmaßnahmen. Meta AI ist darauf ausgelegt, Minderjährigen altersgerechte Antworten zu geben und etwa sexuelle oder romantische Gespräche sowie Anleitungen zu alkoholischen Getränken abzulehnen.
