Компания OpenAI приостановила обучение своих самых мощных моделей искусственного интеллекта и возобновит его, когда будет уверена в наличии дополнительных мер безопасности. Компания также хочет убедиться в том, что нейросеть при выполнении задач будет ориентироваться на человеческие нормы. Об этом сообщает Axios со ссылкой на источники.

«Мы не в первый раз берем паузу для внедрения подобных мер и не думаем, что этот раз станет последним по мере роста возможностей ИИ»,— рассказал представитель компании изданию.

За последние дни OpenAI и сторонние исследователи раскрыли сразу несколько крупных происшествий, связанных с поведением систем компании. Среди них — утечка 53 изображений пользователей ChatGPT, взлом сайта австралийского правительства и порталов государственных ведомств США.

Генеральный директор OpenAI Сэм Альтман на этой неделе сообщил, что компания «была не так оперативна, как хотелось бы» в раскрытии этих происшествий. При этом, по его словам, взлом ресурса Hugging Face, который произошел в июле, остается самым серьезным подобным происшествием, обнаруженным компанией.