Экспертиза
Детекторы ИИ-контента: почему им нельзя доверять
Автоматическая проверка даёт вероятность, а не факт, и ошибается в обе стороны. Что это значит на практике.
Коротко
Детектор возвращает вероятность, а не установленный факт. Ошибки идут в обе стороны, и цена ложного обвинения выше цены пропуска.
Что делает детектор
Оценивает статистические свойства изображения и сравнивает с тем, что характерно для генерации. На выходе — вероятность.
Вероятность не является установлением факта. Это первое и главное, что нужно понимать.
Две ошибки, и они неравноценны
Ложное срабатывание. Настоящий снимок помечен как сгенерированный. Чаще всего страдают: сильно отретушированные портреты, обработанные фильтрами кадры, пересжатые изображения из мессенджеров, скриншоты.
Пропуск. Сгенерированное изображение не распознано. Чаще всего: свежие модели, которых детектор не видел; изображения, прошедшие обработку после генерации; кадры, пересохранённые несколько раз.
Цена этих ошибок разная. Пропуск означает, что вы чего-то не заметили. Ложное срабатывание означает обвинение человека в подделке — с последствиями.
Поэтому при сомнении детектор должен молчать, а не угадывать.
Почему точность падает
Детектор учится на генерациях известных ему моделей. Выходит новая — и он про неё не знает.
Любая обработка после генерации сбивает статистику: пересохранение, кадрирование, наложение текста, публикация в мессенджере со сжатием.
Это гонка, в которой детекторы структурно отстают.
Наш замер
Мы планируем прогнать фиксированный набор — пятьдесят сгенерированных и пятьдесят снятых изображений — через несколько публичных детекторов и опубликовать точность каждого вместе с исходными данными.
Результатов пока нет, и цифр мы не приводим. Замер запланирован; до его проведения любые числа о точности детекторов на этом сайте отсутствуют.
Как пользоваться детектором правильно
Как одним сигналом из нескольких, наряду с визуальными признаками и происхождением файла.
Никогда — как единственным основанием для вывода о человеке.
При важных последствиях — искать первоисточник, а не увеличивать число прогонов через детекторы.
Частые вопросы
- Насколько точны детекторы ИИ-изображений?
- Мы не приводим цифр, потому что своего замера ещё не проводили. Известно, что точность падает на новых моделях и на изображениях, прошедших обработку.
- Почему детектор считает мою фотографию сгенерированной?
- Типовая причина ложного срабатывания — сильная ретушь, фильтры или пересжатие. Статистика такого снимка похожа на статистику генерации.
- Можно ли использовать детектор как доказательство?
- Нет. Он возвращает вероятность, а не факт, и ошибается в обе стороны.