Глава OpenAI объяснил в ООН риски выхода искусственного интеллекта из-под контроля

Руководитель компании OpenAI Сэм Альтман выступил на заседании Совета Безопасности ООН, где заявил об опережающих темпах развития искусственного интеллекта по сравнению с возможностями человеческого контроля.

По словам разработчика, современные государственные и общественные институты не справляются со скоростью технологического прогресса. Альтман подчеркнул, что нейросети становятся все более автономными и мощными, а главную угрозу представляет их способность к самообучению.

Глава OpenAI пояснил, что из-за высоких темпов развития технологий люди рискуют потерять возможность отслеживать процессы и вмешиваться в работу систем при возникновении критических ситуаций. Процесс автоматизации написания программного кода может привести к неконтролируемому скачку в эволюции нейросетей, в результате чего алгоритмы выйдут из-под влияния человека. Ранее с аналогичными предупреждениями о рисках утраты контроля над ИИ выступал генеральный секретарь ООН.