ChatGPT зависает при упоминании некоторых имен: есть возможное объяснение

Чат-бот ChatGPT блокирует разговоры при упоминании определённых имен. Профильное издание ARSTechnica предполагает, что компания-разработчик OpenAI ввела жесткие фильтры на эти имена из-за случаев, когда искусственный интеллект генерировал ложную и потенциально клеветническую информацию о реальных людях.

Существование таких фильтров заметили недавно, когда ChatGPT начал зависать на имени David Mayer. На Reddit даже появилась теория о связи с Дэвидом Майером де Ротшильдом (представитель британской ветви семьи Ротшильдов), но доказательств этому нет. На момент публикации этой новости блок по имени David Mayer, похоже, был снят.

Но ARSTechnica указывает, что это не единственное имя, которое "ломает" ChatGPT. Чат-бот отказывается продолжать разговор и выдает сообщение об ошибке на имена Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza.

Причина такой блокировки, пишет издание, может быть достаточно серьезная: ChatGPT ранее генерировал ложную информацию об этих людях.

Например, чат утверждал, что Брайан Худ, мэр одного из австралийских городков, был осужден за взяточничество, хотя на самом деле он был информатором, разоблачившим корпоративные нарушения. О Джонатане Терли, профессоре юридического факультета Университета Джордже Вашингтоне в США, бот придумал сексуальный скандал.

Существование жестких блоков создает несколько потенциальных проблем: люди с "заблокированными" именами не смогут нормально пользоваться чатом, а злоумышленники, напротив, смогут намеренно "ломать" работу ChatGPT.