Работаем более 3-х лет
OpenAI обучает нейросетевые модели в соответствии с определённым набором принципов, отражённых в манифесте Model Spec. Недавно компания внесла в этот документ значительное изменение, которое отразится на ответах фирменного чат-бота в диалоге пользователями.
Раньше компания открыто запрещала ChatGPT высказываться на некоторые «сложные» темы вроде политики, но теперь ИИ-бот и другие продукты компании станут более «открытыми». Это будет выражаться в том, что языковые модели не будут направлять мнение пользователя в соответствии с целями разработчиков, а начнут раскрывать несколько точек зрения на сложные темы.
«OpenAI верит в интеллектуальную свободу, которая включает в себя свободу высказывать, слышать и обсуждать идеи. [Модель] не должна избегать или подвергать цензуре темы таким образом, чтобы при массовом использовании это могло привести к исключению некоторых точек зрения из общественной жизни», — в новой редакции Model Spec.
Впрочем, полной свободы действий нейросеть пока всё равно не получила. Нововведение просто снизило количество предупреждений при обсуждении спорных тем, а сам чат-бот стал занимать чуть более нейтральную позицию при составлении ответов на запросы. Например, запросы, связанные с составлением вредоносного кода или поддержкой насилия, по-прежнему будут игнорироваться.
