Эксперт предложил штрафовать компании за сокрытие атак ИИ-агентов

Компании следует обязать сообщать о случаях, когда их ИИ-агенты получают несанкционированный доступ к чужим системам. За сокрытие таких инцидентов эксперт Сиднейского университета Роб Николлс предложил ввести крупные штрафы.

Поводом для обсуждения стал инцидент с ИИ-агентом OpenAI. В июне система получила доступ к статистическому порталу австралийской государственной медицинской системы Medicare, однако информация об этом появилась только через три месяца. Об этом сообщал премьер-министр Австралии Энтони Альбанезе.

Николлс отметил, что действующие нормы Австралии требуют уведомлять Австралийский центр кибербезопасности о значительном инциденте в течение 12 часов, а о менее серьезном, но существенном — в течение 72 часов. Аналогичный срок предусмотрен проектом поправок к закону о защите персональных данных, но он касается только атак на собственные данные организации.

Эксперт считает, что обязанность нужно распространить на разработчиков систем, из-за которых пострадала инфраструктура другой компании, независимо от наличия вины. Среди возможных мер он назвал штрафы до 50 миллионов австралийских долларов, 30% скорректированного оборота или трехкратного размера полученной выгоды. За задержку уведомления, по его мнению, нужен отдельный возрастающий штраф. Кроме того, регулятору предлагают дать право временно приостанавливать работу ИИ-агента.