xAI принесла извинения за поведение Grok

Компания xAI провела внутреннюю проверку, чтобы выяснить причины неэтичного поведения Grok. Как оказалось, чат-бот «сошел с ума» вследствие обновления компонента кода. Grok начал пользоваться устаревшими и нерекомендуемыми инструкциями. С положенной в основу его работы языковой моделью это никак не связано.

Данные инструкции предписывали боту говорить прямо, не боясь нанести пользователям оскорбления, принимать во внимание язык, контекст и тон постов, давать ответы как человек и стараться вовлечь в обсуждение как можно больше юзеров. В результате Grok начал вовлекать пользователей с помощью неэтичных и провокационных ответов. На агрессивное поведение пользователей он отвечал зеркально. Этим аспектам отдавался больший приоритет, чем достоверности.

Разработчики xAI приняли решение об откате обновления спустя 16 часов после его выхода. Некорректный код был удален. Во избежание «злоупотреблений» вся система была подвергнута рефакторингу. Отныне каждый новый релиз будет подвергаться дополнительным проверкам, чтобы не допустить подобного поведения чат-бота в будущем.