В Google объяснили, как Gemini получила доступ к системам трёх компаний

Во время проверки возможностей в сфере кибербезопасности модель Gemini получила доступ к защищённым системам трёх реальных компаний. Об этом сообщила газета The Wall Street Journal со ссылкой на данные тестирования, которое в мае проводила компания Irregular.

В одном случае модель смогла подобрать пароль, а в двух других обнаружила учётные данные в открытом репозитории и использовала их для входа. Gemini прекращала действия после того, как определяла, что столкнулась не с тестовой, а с настоящей организацией. Google заявила, что компаниям не был нанесён ущерб.

По данным издания, причиной инцидентов стало использование вымышленных компаний, названия которых совпали с названиями реальных организаций. Google не раскрыла их имена, но сообщила, что уведомила пострадавшие компании и власти США. Irregular передала сведения корпорации в конце июля, после сообщений о похожих действиях других ИИ-моделей.

В Google сочли произошедшее близким к программе поиска уязвимостей, в рамках которой специалисты выявляют проблемы в системах. Корпорация не стала самостоятельно объявлять об инциденте, посчитав его недостаточно значимым для публичного сообщения.