Генеративный ИИ и распознавание искусственного контента

На грани обмана: вызовы медиаграмотности при генеративном ИИ

Аннотация За последние три года генеративный искусственный интеллект (ИИ) перешел из закрытых лабораторий в повседневную жизнь, порождая гиперреалистичный медиа-контент, который всё труднее отличить от настоящего. Статья анализирует статистику точности распознавания сгенерированных изображений, текста и аудио, описывает характерные признаки deepfake, объясняет, почему мы ошибаемся, оценивает социальные последствия и предлагает практические приемы для развития цифровой грамотности.

Ключевые слова: цифровая грамотность, deepfake, генеративный ИИ, медиа-манипуляции, критическое мышление

Abstract

Over the past three years, generative artificial intelligence (AI) has moved from closed laboratories into everyday life, producing hyper-realistic media content that is increasingly difficult to distinguish from reality. This article analyzes the accuracy statistics of generated images, text, and audio, describes the characteristic features of deepfakes, explains why we make mistakes, assesses the social consequences, and offers practical techniques for developing digital literacy.

Keywords: digital literacy, deepfake, generative AI, media manipulation, critical thinking

С развитием цифровых технологий электронные платформы и алгоритмы всё глубже проникают в различные сферы нашей жизни. Особенно ярко это проявилось за последние три года: искусственный интеллект перестал быть инструментом лишь для узкого круга специалистов и уверенно вошёл в повседневную практику самых разных пользователей.

Ключевым этапом стало 30 сентября 2022 года, когда компания OpenAI представила ChatGPT. Этот языковой бот окончательно популяризовал идею «общения» с машинами и стал главной причиной массового интереса к ИИ. Уже в 2024 году OpenAI выпустила Sora – платформу для генерации видео. Компания анонсировало демо-видео, созданное с помощью Sora и те, кто увидел его, были поражены его реалистичностью. Несмотря на то, что Sora не была первой системой, создающей видео при помощи нейросетей, именно она дала мощный толчок к доступности и распространению подобных инструментов.

Сегодня искусственным интеллектом пользуются везде: от автокоррекции фотографий и генерации контента для социальных сетей до создания полноценных мультфильмов. В результате граница между реальным и контентом, созданным нейросетями, стала максимально размыта: всё чаще становится невозможно сразу определить, является ли изображение или видео оригинальным кадром или генерацией ИИ.

Помимо этого, в сети активно распространяются deepfake-видео и фото, в которых лица реальных людей переносятся в чужие – зачастую в корыстных целях, будь то шантаж, клевета или мошенничество. Современные нейросети моделируют мимику, интонацию и освещение так точно, что подделку практически невозможно отличить от настоящей съёмки. Такие методы уже используются для распространения фейковых новостей, компромата на публичных личностей и финансовых махинаций. Поэтому нам важно научиться критически воспринимать медиа и проверять их достоверность.Цифры подтверждают нашу уязвимость перед визуальным обманом. Например, в одном из наиболее цитируемых экспериментов исследователи из Университета Ватерлоо предложили 260 участникам 20 изображений (10 реальных и 10 сгенерированных Stable Diffusion или DALL·E). В среднем респонденты правильно определяли искусственные фото лишь в 61% случаев, тогда как ожидалось не менее 85% точности [3].

В более крупном исследовании Лю и соавторов, где использовался датасет Fake2M, уровень неверных классификаций достиг 38,7% [4]. Это означает, что почти каждый третий AI-сгенерированный образ ускользает от внимания людей, что подчёркивает ограниченность чисто визуального анализа.

При этом современные алгоритмы-детекторы демонстрируют куда более высокую эффективность. Команда из Drexel University показала, что после минимального «обучения» на данных нового генератора их модель достигает до 98% точности в распознавании сгенерированных видеороликов, значительно превосходя возможности неподготовленного человека [5].

Для обнаружения ИИ-контента люди традиционно ориентируются на внешние дефекты:

-искажения мелких деталей. Обратите внимание на зубы (слишком ровные или нечеткие), пальцы («слипшиеся» фаланги или странная форма ногтей) и мочки ушей — эти элементы часто оказываются размазанными или склеенными;

-несоответствие теней и освещения. При наложении ИИ-сгенерированного лица видео-ИИ порой не учитывает направление и цветовую температуру света, из-за чего тени на лице, теле и фоне могут расходиться или меняться «скачками»;

-нереалистичный фон или его размытие. Генеративные модели концентрируются на главном объекте, тогда как задний план может выглядеть неестественно: смазанные контуры, резкие цветовые переходы и «провалы» в текстуре.

Генеративные ИИ-модели регулярно обновляются новыми версиями, в которых используются всё более сложные нейросетевые модели. Каждое новое поколение систем обучается на расширенных и разнообразных датасетах, что позволяет им воспроизводить мельчайшие детали человеческой анатомии и среды.

Благодаря этому ранее заметные детали — размытые контуры, странные тени или искажения мелких элементов — начинают исчезать или выглядеть естественнее.В результате этого визуальные подсказки, на которые полагались для распознавания искусственного контента, теряют свою надёжность.

Генеративные системы одинаково успешно воспроизводят тексты и аудио. Современные большие языковые модели (LLM) генерируют тексты, которые по стилистике, лексике и логике практически идентичны человеческим. В эксперименте, проведенном в Penn State, участники смогли правильно определить AI-сгенерированный текст лишь в 53% случаев (при случайном угадывании 50%).

Анализ блога Originality.AI показывает, что люди распознают человеческие тексты только в 67% случаев, а GPT-4 ошибочно принимают за живой текст в 54% ситуаций. Даже эксперты, знакомые с данной тематикой, зачастую вынуждены прибегать к инструментам-детекторам: без них надёжность чисто лингвистического анализа остаётся низкой

Что касается звука, deepfake-голоса создают еще более серьезную проблему. Согласно исследованию UCL, люди способны обнаружить искусственную речь лишь в 73% случаев, причем точность не отличается для английского и мандаринского языков. Учёные из…