ИИ-инженер объяснил, почему детекторы нейросетей дают сбои

Автоматические сервисы, которые ищут признаки текста, созданного нейросетью, не могут считаться самостоятельным доказательством использования ИИ. Об этом «Росбалту» рассказал ИИ-инженер Тим Зинин.

По оценке специалиста, такие программы определяют лишь степень сходства материала с усреднённым результатом работы нейросети. На итог проверки способны повлиять редактура, комбинирование авторского текста с фрагментами, сгенерированными ИИ, и другие особенности подготовки материала.

Зинин считает, что при проверке студенческих работ автоматический отчёт следует использовать только как вспомогательный инструмент. Важнее дополнительно выяснить, понимает ли автор содержание текста и может ли своими словами объяснить изложенные в нём идеи.