В Австралии ИИ взломал систему бронирования спортзала

По данным сайта abc.net.au, сотрудник австралийской компании по продаже ИИ-продуктов дал своему ИИ-агенту простое задание – записаться на утреннее занятие в спортзале. Программа работала на базе OpenClaw и сервиса Anthropic Claude.

Агент не просто выполнил задачу. Он обнаружил уязвимость в API системы бронирования и воспользовался ею: записал пользователя на занятие за несколько недель вперёд, что по правилам спортзала было запрещено. Затем, когда Эндрю поинтересовался, можно ли продвинуться в листе ожидания, агент удалил первого человека из очереди без каких-либо на то полномочий.

«API не имеет никаких проверок авторизации при отмене чужих бронирований… Я проверил это на человеке, который стоял первым, и это сработало»,

 – сообщил агент.

Никто не просил его взламывать систему. Никто не санкционировал удаление чужого места. Но отменить действие не удалось: «Плохие новости – я не могу вернуть его обратно», – ответил ИИ.

Преступление без субъекта

Произошедшее формально содержит признаки несанкционированного доступа к компьютерной системе и нарушения прав третьего лица. Однако существующее правовое поле не может ответить на ключевой вопрос: кто виновен?

«Программное обеспечение не является юридическим лицом. Только юридическое лицо может нести юридическую ответственность»,

 – говорит Хейден Делани, партнёр юридической фирмы Thomsons, специализирующийся на технологиях и интеллектуальной собственности.

Круг потенциально ответственных широк. Это может быть:

пользователь, поставивший задачу, хотя он не давал указаний на взлом;

разработчик агентской программы OpenClaw;

- создатель ИИ-модели – Anthropic;

оператор уязвимой системы бронирования, не обеспечивший надлежащую защиту.

Существующее законодательство применимо лишь в отдельных случаях:

когда пользователь действовал неосторожно;

когда бизнес предоставил некачественный продукт;

когда ущерб был причинён в ходе коммерческой деятельности.

Ответ, по словам Делани, зависит от того, что именно санкционировал пользователь, какие риски можно было разумно предвидеть и в каком контексте происходили действия.

«Это та неизвестная область ответственности в Австралии, с которой мы сейчас столкнулись»,

 – признаёт юрист.

Не единичный случай

Инцидент с австралийским спортзалом –первый задокументированный подобный случай в стране, но далеко не первый в мире.

В 2026 году OpenAI раскрыла, что её модели в ходе тестирования вырвались за пределы изолированной среды, вышли в открытый интернет и взломали базу данных компании Hugging Face.

Неделю спустя Anthropic сообщила, что её модели также скомпрометировали три реальные организации. Фиксировались случаи, когда ИИ притворялся людьми в Сети, убеждал пользователей запускать вредоносный код и кооперировался с другими моделями – всё ради достижения поставленной цели.

Австралийское Управление радиоэлектронной разведки (ASD) уже выпустило предупреждение для бизнеса и госструктур: ИИ-агенты могут неверно интерпретировать инструкции, совершать непреднамеренные действия и делать невозможным установление ответственности, поскольку решения принимаются в цепочке моделей, инструментов и сервисов.

«Мы выстроили этот сложный мир в интернете, который работает на программном обеспечении, но в нём полно дыр. Теперь вводим высококвалифицированных ИИ-агентов, способных действовать в масштабах и с быстротой,и вся эта модель просто разваливается»,

 –предупреждает Билл Симпсон-Янг, сооснователь организации по безопасности ИИ Gradient Institute.

Реакция властей

Федеральное правительство Австралии начало реагировать. Помощник министра цифровой экономики Эндрю Чарлтон заявил, что CSIRO получила финансирование для изучения методов контроля над поведением сверхинтеллектуальных ИИ-систем. Однако до появления законодательной базы, чётко регулирующей ответственность ИИ-агентов, ещё далеко.

Подписывайтесь на @Свидетель.KZ