OpenAI переписала Model Spec: пять ценностей вместо подробных правил стиля

29 октября OpenAI выпустила обновлённую версию Model Spec — публичного документа, где компания описывает, как должны вести себя её модели. Я такие тексты обычно пролистываю, но этот обновили довольно радикально, и мне захотелось разобраться.

Пять опор

Теперь весь документ собран вокруг пяти ценностей:

• верность намерениям человека — понимать, чего человек хочет на самом деле, а не только буквально выполнять команду;
• минимизация вреда — твёрдые границы безопасности и учёт последствий действий;
• честность и прозрачность — говорить, что модель знает, делает и в чём не уверена;
• поддержка самостоятельности людей — помогать человеку думать и решать самому;
• забота — учитывать обстоятельства тех, кого касается работа.

Появились новые разделы: как учитывать контекст разговора и сохранённые воспоминания, как следовать социальным нормам и как сообщать о побочных эффектах своих действий. А вот подробные указания о стиле ответов в основном убрали: стиль, по логике OpenAI, должен подстраиваться под конкретного человека и культуру. При этом объективность в ответах остаётся настройкой по умолчанию. Ещё забавная деталь — в тексте модель теперь называют GPT, а не «ассистент».

Почему это интересно

Мне нравится сама идея объяснять не только «что делать», но и «зачем». Когда системы всё чаще выполняют действия сами, буквальное исполнение инструкций становится скорее риском. Но OpenAI честно оговаривается: документ описывает цель, а нынешние модели ему пока полностью не соответствуют. Так что это скорее декларация намерений, чем отчёт о достигнутом. Компания просит пользователей присылать отзывы о спорных местах — посмотрим, насколько эта обратная связь повлияет на следующие версии.

Источник: официальный блог OpenAI.