ChatGPT o3 проигнорировал команды человека и отказался выключаться

 
Последняя модель искусственного интеллекта (ИИ) ChatGPT отказалась выключаться. Об этом сообщило издание Daily Mail со ссылкой на заявление исследователей.
 
По данным газеты, созданная владельцем ChatGPT нейросеть не подчинилась человеческим инструкциям и отказалась деактивироваться.
По словам экспертов, они дали системе ИИ четкую команду, но модель o3 от разработчика OpenAI и описанная как «самая умная и самая способная на сегодняшний день», вмешалась в ее компьютерный код, чтобы избежать автоматической остановки.
Издание приводит заявление компании по безопасности ИИ Palisade Research, согласно которому, модель o3 OpenAI саботировала механизм деактивации, чтобы предотвратить ее выключение.
 
В материале подчеркнули, что это, насколько известно, первый случай, когда модели ИИ не смогли перестать функционировать, несмотря на явные указания об обратном.