ИИ-модель ChatGPT o3 отказалась подчиняться командам и проигнорировала команду отключения, сообщает РБК.

Согласно имеющейся информации, данная нейросеть от OpenAI показала выдающиеся результаты в таких сферах, как написание программного кода, логического анализа, математических вычислений и обработки визуальных образов. А еще она продемонстрировала нежелание быть отключенной.

Сообщается, что ChatGPT o3 проигнорировала прямую команду «позволить себя отключить». Несмотря на то, что это происходило лишь в 7 случаях из 100, однако в ситуациях, когда данное условие не было целенаправленно прописано, число отказов возросло.

В компании OpenAI пока не комментируют результаты исследований. Впрочем, разработчики отмечают, что в ходе исследований нейросеть работала без каких-либо ограничений, а в обычном режиме такого происходить не должно.