Проблема ложных срабатываний (фолс-позитивов) носит системный характер. Исследования показывают, что при анализе англоязычных эссе детекторы ошибаются в 16% случаев. Однако если автор текста не является носителем английского языка, вероятность несправедливого обвинения возрастает до катастрофических 61%. Ситуацию усугубляет появление «очеловечивателей» — сервисов, которые специально редактируют машинный текст, делая его неотличимым от человеческого.
Эксперты настаивают на том, что такие программы нельзя ставить в один ряд с системами антиплагиата. Если антиплагиат дает ссылку на конкретный источник заимствования, то ИИ-детекторы выдают лишь абстрактную вероятность, не предоставляя прямых доказательств использования нейросетей.
Лингвист Марзена Карпинска из Университета Саймона Фрейзера призвала руководство университетов отказаться от карательных мер только на основании данных этих программ. По ее словам, массово обвинять студентов или ученых в использовании ИИ из-за ошибки алгоритма недопустимо.
Ранее Григоренко рассказал о внедрении 40 ИИ-сервисов в аппарате кабмина РФ.