Конгрессвумен Луна хочет отключать военный ИИ в экстренных случаях

Член палаты представителей США Анна Паулина Луна призвала Пентагон предусмотреть возможность мгновенного отключения всех систем искусственного интеллекта, подключённых к оборонной инфраструктуре страны. Республиканка от Флориды заявила об этом в интервью Fox News.

По мнению Луны, в военные ИИ-системы необходимо заранее встроить защитные механизмы, которые позволят вывести их из строя при возникновении угрозы. Инициатива прозвучала на фоне дискуссии о рисках разработки более мощных моделей искусственного интеллекта.

Глава Anthropic Дарио Амодей ранее выступил за замедление таких разработок. Исследователь компании Джейкоб Коксон покинул отрасль, заявив об опасности технологической гонки. Руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер оценил в 10% вероятность того, что искусственный интеллект уничтожит человечество в ближайшие десять лет.