Google DeepMind представила инструмент для проверки текстов на ИИ

Исследователи Google DeepMind и University of Pennsylvania представили DetectorScope. Инструмент определяет, написан ли текст искусственным интеллектом, и объясняет, какие именно признаки повлияли на вывод и где они находятся в тексте.

Обычные детекторы ИИ-текстов работают как «черный ящик»: выдают итоговую оценку, но не объясняют ее. DetectorScope раскладывает каждое решение на понятные признаки с описанием. Например, это может быть характерное употребление отдельных слов или повторяющиеся фразы и последовательности.

У каждого признака есть вес, который показывает, насколько сильно он сдвинул оценку в сторону ИИ или человека. Так, разговорные вставки вроде «как я уже говорил» наоборот снижают вероятность того, что текст написала нейросеть. В демоверсии на Hugging Face можно навести курсор на текст и увидеть фрагменты, на которые опирается детектор.

Пользователь может сам выбирать баланс между прозрачностью и точностью. При строгой настройке детектор использует меньше признаков, но каждый из них хорошо описан и легко проверяется. При мягкой настройке точность растет, а объяснения становятся менее четкими. По данным авторов, такая прозрачность почти не снижает качество распознавания.

В основе инструмента лежит открытая модель Gemma 2 от Google. Основная версия обучена на новостях, эссе, отзывах и других текстах, созданных 40 разными нейросетями. Еще две версии распознают рецензии на научные статьи, написанные GPT-4o и Llama. Разработчики также предлагают способ превратить любой существующий детектор в прозрачный.

Авторы предупреждают, что DetectorScope остается исследовательским инструментом и не является официальным продуктом Google. Он ошибается, в том числе на текстах, написанных людьми, поэтому его результаты нельзя использовать для решений о конкретных людях — например, при проверке студенческих работ, найме или отборе публикаций.

Код открыт под лицензией Apache 2.0, модели доступны на Hugging Face. Исследование представят на конференции EMNLP 2026 в Будапеште.

Источник: GitHub Google DeepMind