Эксперт Лещенко объяснил причины ошибок нейросетей

Ошибочные и выдуманные ответы нейросетей могут быть связаны сразу с несколькими причинами, рассказал эксперт в сфере искусственного интеллекта и управления знаниями Владимир Лещенко в интервью «360».

По словам специалиста, на точность ответов влияют данные, использованные для обучения модели. Если в них содержится ошибка, нейросеть может принять недостоверные сведения за правильные. Дополнительными факторами становятся архитектура самой системы, особенности обработки информации и изменение формулировки пользовательского запроса.

При недостатке данных модель начинает восполнять пробелы и генерировать информацию, которой не было в исходных материалах. Такие ответы называют галлюцинациями нейросетей.