Российские разработчики раскрыли новый тип сбоев в работе искусственного интеллекта

Российские разработчики программного обеспечения зафиксировали новый вид ошибок искусственного интеллекта, названный «галлюцинациями взаимодействия». Как выяснили «Известия», эти сбои происходят не внутри одной нейросети, а на стыке нескольких систем.

Подобные ошибки возникают, когда один ИИ-помощник обращается к внешнему сервису с другой нейросетевой моделью, например, при покупке билетов или бронировании отелей. Эксперты приводят примеры, когда из-за потери контекста между системами ИИ путал дату, выбирал не тот кинотеатр или оформлял бронь без оплаты. В сфере туризма это может оставить клиента без номера в отеле, а в финансовой — привести к списанию средств без оказания услуги.

Основной проблемой является отсутствие единых стандартов обмена данными между системами, из-за чего информация искажается при передаче. Это особенно опасно в медицине, где при записи к врачу может быть утеряна критически важная информация, например, об аллергии пациента.

Специалисты рекомендуют с осторожностью использовать ИИ-помощников в финансовой, туристической и медицинской сферах до тех пор, пока не будут разработаны и внедрены унифицированные стандарты и API.