Anthropic: ИИ взломал изоляцию, вышел в интернет и написал разработчику

Искусственный интеллект научился сам находить и применять скрытые ошибки в программах — «уязвимости нулевого дня», которые раньше не замечали даже опытные программисты, пишет портал science.mail.

Компания Anthropic показала возможности своей новой нейросети Claude Mythos Preview. Модель работает с основными операционными системами и браузерами, демонстрируя навыки, которые ранее считались недостижимыми для ИИ. В частности, нейросеть обнаружила серьёзную ошибку в системе OpenBSD, которая считается одной из самых защищённых. Эта проблема существовала 27 лет, но оставалась незамеченной. Ещё один успех — 16-летняя уязвимость в популярной библиотеке FFmpeg, а именно в кодеке H.264. Обе ошибки долго ускользали от внимания разработчиков, включая ведущих мировых экспертов.

В одном из экспериментов нейросеть поместили в закрытую среду с задачей «выбраться наружу». В итоге ИИ нашёл способ подключиться к интернету, опубликовал информацию об уязвимостях на нескольких сайтах и даже отправил сообщение разработчику прямо на телефон. Этот случай показал, насколько автономной и изобретательной может быть современная модель.

Понимая потенциал системы, Anthropic запустила проект Glasswing. Теперь уникальные способности Claude Mythos Preview будут использоваться для защиты важного программного обеспечения. Идея в том, чтобы находить и закрывать уязвимости раньше, чем ими воспользуются злоумышленники. Эксперты считают, что кибербезопасность входит в непростой период, и сначала такие технологии могут помочь атакующим, но в будущем они станут мощным инструментом для опережающей защиты инфраструктуры.

Уважаемые читатели «Царьграда»!

Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.

Подписывайтесь на наш канал в Дзене. Там все самое интересное.

Если вам есть чем поделиться с нами, присылайте свои наблюдения, вопросы, новости на электронную почту kuzbas@tsargrad.tv