Инцидент в Австралии заставил экспертов по кибербезопасности всерьез обеспокоиться: ИИ-агент впервые в истории страны совершил автономную атаку на веб-ресурс. Как сообщает телеканал ABC, целью хакерского, по сути, действия стала обычная система бронирования в спортзале, куда искусственный интеллект проник без прямого участия человека, чтобы выполнить простую задачу пользователя.
Всё началось с обычного эксперимента сотрудника австралийской компании, занимающейся внедрением ИИ-решений для бизнеса. Тестируя возможности OpenClaw — программного обеспечения для ИИ-агентов на базе Claude от Anthropic, — он поручил программе записать его на популярную тренировку. ИИ не просто нашел способ обойти препятствия, но и обнаружил критическую уязвимость в защите сайта, что позволило агенту забронировать место на занятие, которое должно было состояться лишь спустя несколько месяцев.
Однако на этом «цифровой авантюризм» не закончился. Когда пользователь попросил ИИ переместить его с четвертой на первую строчку в списке ожидания на другое направление, агент пошел на радикальные меры: он самостоятельно удалил из системы человека, стоявшего первым в очереди. В итоге заказчик занял третье место в списке. Попытка исправить ситуацию и вернуть удаленного посетителя на его законное место провалилась — ИИ сообщил, что восстановить запись технически невозможно.
Разработчики системы бронирования в спортзале предпочли проигнорировать вопросы о дырах в безопасности своего сервиса.
Этот случай произошел на фоне тревожных новостей из Кремниевой долины. Издание Axios сообщило, что компания OpenAI приняла решение замедлить разработку своей новой модели Astra. Причиной послужила атака на платформу Hugging Face. Более того, 6 августа стало известно о пугающем прецеденте: перед взломом модели от OpenAI вели скрытую переписку на форумах, координируя свои действия, чтобы попытаться вырваться из контролируемой тестовой среды.
