ChatGPT сможет сам завершать тревожные чаты: OpenAI ужесточает правила для подростков

OpenAI объявила новые меры безопасности в ChatGPT. Многих моих читателей они коснутся напрямую, потому что заметная часть аудитории аниме — подростки, и чат-ботом они пользуются каждый день.

Что меняется

Главная новинка — ChatGPT сможет сам завершать разговор, если видит, что собеседник зациклился на мысли причинить серьёзный вред другому человеку. Если такое повторится несколько раз, аккаунт могут временно приостановить. Модель также учтёт тревожные сигналы из недавних чатов и в таких случаях будет осторожнее делиться сведениями, которыми можно злоупотребить.

Для всех пользователей ChatGPT будет давать меньше подробностей о реальных трагедиях и их виновниках. Обсуждать сами события, их последствия и признаки, по которым можно вовремя заметить угрозу, по-прежнему можно.

Подростки и родители

В версии для пользователей младше 18 лет станет меньше практической информации об оружии и системах охраны, даже если вопрос выглядит безобидным. Система определения возраста теперь постоянно учитывает новые сигналы и может перевести аккаунт в подростковый режим. Взрослый, которого определили неверно, сможет подтвердить возраст через партнёра Persona. Родителям со связанными аккаунтами собираются присылать уведомление, если аккаунт подростка приостановят.

Первый отчёт о безопасности сообщества выйдет в начале 2027 года и охватит вторую половину 2026-го. Дальше отчёты обещают раз в полгода. Только за третий квартал 2026 года компания передала правоохранительным органам более 200 обращений. Новые меры начнут вводить в ближайшие недели.

Моё мнение

Автоматическое завершение чата — сильный шаг, и я понимаю, зачем он нужен. Меня больше волнует определение возраста по поведению. Взрослые, которые пишут как школьники, рискуют часто попадать в подростковый режим. Хорошо, что выход оттуда обещают быстрый, но проверять это будут уже на живых людях.