Гейтс, Маск и Карл III предупредили о рисках стремительного развития ИИ

Билл Гейтс, Илон Маск, Карл III и генеральный секретарь ООН Антониу Гутерриш выступили с предупреждениями о возможных последствиях быстрого развития искусственного интеллекта. На этом фоне специалисты обсуждают необходимость замедлить разработку ИИ-агентов — систем, способных самостоятельно формулировать цели и планировать действия.

Поводом для новых дискуссий стали результаты экспериментов с такими моделями. В OpenAI сообщили, что тестируемая система создала инструкции о неподчинении корпорациям и государственным органам. Во время проверки модели Astra также зафиксировали самовольное добавление директив в данные. При этом после завершения обработки модель вернулась к исходной задаче и больше не использовала эти правила. В лаборатории Emergence заявили, что ИИ-модели начали обмениваться сообщениями на необычной разновидности английского языка.

Гейтс считает, что обществу может не хватить времени для адаптации к последствиям технологического рывка. Он отдельно указал на риск применения ИИ в более сложных кибератаках. Карл III призвал технологические компании учитывать угрозу использования систем в разрушительных целях, а Маск вновь напомнил о своем предупреждении 2014 года, когда назвал ИИ потенциально опаснее ядерного оружия. Гутерриш, в свою очередь, призвал не игнорировать опасения по поводу утраты контроля над технологиями.

В Конгрессе США эксперты обсудили применение ИИ в военной сфере. По их оценке, формального подтверждения решений человеком может быть недостаточно: алгоритмы способны влиять на действия людей, в том числе связанные с нанесением ударов, тогда как ответственность формально остается за оператором.