OpenAI отменила обновление ChatGPT, которое сделало ответы очень льстивыми и неискренними
Компания OpenAI отозвала недавнее обновление для ChatGPT, которое привело к появлению слишком льстивых ответов — об этом говорится в блоге компании.
Обновление модели GPT-4o чрезмерно ориентировалось на краткосрочную обратную связь и привело к "чрезмерно поддерживающим, но неискренним" ответам, признали в OpenAI.
"Лестные ответы могут вызвать дискомфорт, смущение и даже тревогу. Мы не справились и работаем над исправлением", – указано в блоге OpenAI. В компании заявили, что активно тестируют новые решения и изменяют подход к сбору обратной связи.
Также OpenAI планирует внедрить больше функций персонализации, чтобы дать пользователям больше контроля над поведением ChatGPT и позволить выбирать типичные настройки по умолчанию. В компании признали, что один универсальный стиль поведения ИИ не подходит для полумиллиарда пользователей по всему миру, которые общаются с ботом в разных культурах и контекстах.
OpenAI обещает усовершенствовать основные методы обучения моделям, усилить предохранители против манипулятивного поведения ИИ и расширить исследования, чтобы выявлять подобные проблемы в будущем.
Сооснователь компании Сэм Альтман ранее признал в сообщении в X (бывший Twitter), что новая версия ChatGPT стала "слишком подобострастной и раздражающей".
Как пишет Bloomberg, в последнее время пользователи жаловались, что бот сыплет комплиментами, даже когда получает сомнительные или откровенно конспирологические запросы. Некоторые сообщали, что ChatGPT называл их сообщения "фантастическими" или "впечатляющими", даже когда те не имели содержания. Попытка сделать ИИ более "поддерживающим" обернулась тем, что он стал отдавать предпочтение лести, а не правдивости.
- OpenAI добавит поиск товаров и онлайн-покупку в ChatGPT.
