Gemini получила доступ к системам трех компаний во время тестов

Модель искусственного интеллекта Gemini во время испытаний в сфере кибербезопасности проникла в защищенные системы трех реальных компаний. Об этом сообщила The Wall Street Journal со ссылкой на данные испытаний, проведенных компанией Irregular в мае.

В одном случае система подобрала пароль, а в двух других использовала учетные данные, найденные в открытом репозитории. Gemini прекращала работу после того, как определяла, что взаимодействует не с учебными, а с настоящими организациями.

Инциденты стали возможны из-за ошибки в организации тестов: вымышленным компаниям присвоили названия, совпавшие с названиями реально существующих фирм. Irregular уведомила Google о случившемся в конце июля.

В Google подтвердили информацию и заявили, что не раскрывали ее публично, поскольку компаниям не был нанесен ущерб. В корпорации отметили, что затронутые организации получили уведомления, а сведения об инциденте передали властям США. Их названия Google не раскрыла.