Глава РАН объяснил, как усилить контроль над искусственным интеллектом

Развитие искусственного интеллекта нельзя остановить, поэтому контроль за его работой в перспективе могут взять на себя другие системы ИИ. Об этом 27 сентября в Москве рассказал глава Российской академии наук Геннадий Красников в интервью РИА Новости.

По мнению академика, для повышения безопасности следует создавать многоуровневую систему, в которой одна модель проверяет другую. При разработке языковых моделей необходимо отдельно изучать уязвимости используемых фреймворков и устанавливать правила для технологий машинного обучения и прикладных ИИ-систем.

Красников отметил, что языковые модели служат основой для создания суверенного искусственного интеллекта, поэтому в этом направлении предпочтительны решения российских компаний. Для специализированных задач, например разработки лекарств от тяжелых заболеваний, нужны более точные модели, обученные на больших массивах данных. Их можно разрабатывать самостоятельно или приобретать за рубежом, однако такие системы должны быть доверенными, защищенными и выдавать корректные результаты.