Разработана новая система TrustNet Framework для повышения доверия к ИИ
Искусственный интеллект всё глубже проникает в повседневную жизнь — от голосовых помощников до алгоритмов, принимающих решения в медицине или при подборе персонала.
Он облегчает рутину, помогает пожилым людям бороться с одиночеством и повышает эффективность работы. Однако вместе с этим растут и риски: предвзятость алгоритмов, угрозы безопасности, этические вызовы и распространение дезинформации, передает Humanities & Social Sciences Communications.
Чтобы ответить на эти вызовы, группа исследователей из Франции, США и ряда других стран предложила систему TrustNet Framework. Её целью стало формирование комплексного подхода к укреплению доверия к искусственному интеллекту.
Учёные проанализировали свыше 34 тысяч публикаций за последние три десятилетия и выяснили, что исследования по теме доверия к технологиям в основном сосредоточены внутри отдельных дисциплин. При этом едва ли встречаются проекты, где объединяются наука, индустрия, политики и пользователи. TrustNet Framework призван изменить эту ситуацию.
Новая система включает три этапа. Сначала глобальная проблема доверия к ИИ связывается с конкретными научными знаниями. Затем формируются новые подходы в сотрудничестве исследователей, разработчиков, законодателей и пользователей. Завершающим шагом становится интеграция полученных результатов и их внедрение в практику — с акцентом на надёжность, прозрачность и социальную пользу.
В разработке концепции участвовали специалисты из разных областей — инженерии, психологии, социологии, этики и права. Они проводили обсуждения, чтобы выработать рекомендации, объединяющие технические и гуманитарные подходы. Возможные сферы применения TrustNet Framework уже рассматриваются в медицине, автомобильной отрасли и IT.
Авторы подчёркивают, что доверие к искусственному интеллекту невозможно обеспечить исключительно в лабораториях: необходима совместная работа общества, разработчиков и законодателей. Этот подход должен сделать использование ИИ более прозрачным и ответственным.
