Компания OpenAI анонсировала внедрение новой системы безопасности, предназначенной для защиты несовершеннолетних пользователей. ChatGPT научится определять, не достиг ли владелец аккаунта 18 лет, и в случае выявления пользователя-ребёнка автоматически активирует для него строгий защитный режим.
Механизм будет использовать алгоритмы для прогнозирования возраста на основе анализа поведения в чате. Ключевыми факторами станут темы разговоров и время суток, когда пользователь наиболее активен. Если система определит, что аккаунт, вероятно, принадлежит несовершеннолетнему, для него будет автоматически ограничен доступ к широкому спектру потенциально вредного контента.
В список заблокированных тем войдут:
- Контент, связанный с насилием и жестокостью.
- Вирусные челленджи, пропагандирующие опасное поведение.
- Сексуальные, романтические или жестокие ролевые игры.
- Материалы, продвигающие экстремальные стандарты красоты, нездоровые диеты и бодишейминг.
OpenAI признает, что алгоритм может ошибаться. Если совершеннолетний пользователь столкнется с необоснованными ограничениями, он сможет подтвердить свой возраст. Для этого планируется использовать сервис Persona, который потребует предоставления селфи в реальном времени и удостоверения личности.
Это обновление является частью растущих усилий компании по обеспечению безопасности своих продуктов. Оно происходит на фоне других важных изменений. Ранее стало известно, что в бесплатную версию ChatGPT будет внедрена реклама. На первом этапе ее увидят тестовые группы пользователей в США. Рекламные блоки будут четко обозначены и изолированы от ответов нейросети, что, по заявлению OpenAI, не повлияет на качество или содержание генерируемых ответов.
Таким образом, OpenAI пытается балансировать между расширением доступности своих инструментов (включая монетизацию через рекламу) и повышением ответственности, внедряя сложные системы для защиты самой уязвимой части аудитории.
Больше новостей о стиле жизни в Телеграм-каналеПодписаться
