Meta ще предупреждава родителите, ако тийнейджърите общуват с AI чатботовете за самоубийство.
Това съобщи ABC News.
Новата функция „Известия за родители“ ще започне да се разпространява в четвъртък за потребителите на родителски контрол в Instagram в САЩ, Великобритания, Австралия и Канада, като плановете са тя да бъде пусната в световен мащаб до края на годината.
Meta съобщи, че заедно с уведомлението родителите ще получат информационни материали, разработени с участието на специалисти, които ще помогнат за разговора с тийнейджърите относно самоубийството и самонараняването.
Компанията заяви, че нейната система, задвижвана от изкуствен интелект, за идентифициране на потенциално опасните разговори е разработена в консултация с родители и експерти по психично здраве, за да се определи какви видове взаимодействия трябва да задействат предупреждение. Като допълнителна мярка за безопасност, всеки разговор, маркиран от ИИ системата, ще бъде прегледан от човек, преди съобщението да бъде изпратено. Meta също така заяви, че ако намеренията на тийнейджъра останат неясни, компанията ще „прояви допълнително ниво на предпазливост“.
Според настоящите насоки, минималната възраст за използване на социалните мрежи на Meta, като Facebook и Instagram, е 13 години. Компанията отбелязва, че потребителите под 18 години автоматично получават настройки за съдържание „тийнейджърски акаунт“ (13+), които се отнасят и за взаимодействията с Meta AI.
Освен това, Meta обяви, че разработва функция за свързване със службите за спешна помощ, ако разговор с Meta AI показва непосредствена заплаха от самоубийство.
За да подобри отговорите на Meta AI при запитвания, свързани със самоубийства и самонараняване, компанията потърси обратна връзка от експерти, специализирани в психичното здраве на подрастващите.
Миналата година OpenAI обяви въвеждането на родителски контрол с функция за известяване на тийнейджърите. Компанията също така заяви, че използва модел за оценка на възрастта в ChatGPT, който позволява на потребителите под 18 години автоматично да прилагат специален тийнейджърски режим. Той не включва реклами и допълнителни защити срещу чувствително или неподходящо за възрастта съдържание. В момента, според OpenAI, ChatGPT е достъпен за деца на 13 и повече години, като децата на възраст от 13 до 18 години трябва да получат родителско съгласие, преди да използват ChatGPT.