Выявление контента, созданного с помощью ИИ: Пособие для журналистов

Мы приближаемся к моменту, когда соотношение сигнал-шум стремится к единице: становится практически невозможно сказать, что реально, а что нет, поскольку темпы распространения ложной и правдивой информации почти сравнялись. Из этого пособия журналисты узнают, как в условиях нехватки времени распознавать контент, созданный ИИ. Ниже вы найдёте один инструмент и семь продвинутых методов обнаружения, которые должен освоить каждый репортёр.

Моя работа заключается в том, чтобы помогать редакциям бороться с ложной информацией, и теперь я не сплю по ночам, потому что традиционная проверка фактов занимает часы или дни, а генерация ложной информации с помощью ИИ занимает минуты.

Ложная информация в формате видео существует очень давно –– десятки лет до появления ИИ. Даже несмотря на базовые технические ограничения оборудования для видеозаписи в те времена, искажённая информация могла создавать ложные впечатления с катастрофическими последствиями. В 2003 году няня Клаудия Муро провела 29 месяцев в тюрьме, потому что из-за низкой частоты кадров камеры видеонаблюдения мягкие движения выглядели насильственными, а проверить видеозапись никто не подумал. В январе 2025 года британская учительница Шерил Бенетт была вынуждена скрываться после появления дипфейк-видео, на котором она якобы делает расистские заявления.

Изображение, созданное ИИ, показывающее Папу Франциска I якобы в пуховике Balenciaga. Изображение: Midjournery, Пабло Ксавье.

Это вирусное изображение Папы Фрациска I в белом пуховике Balenciaga ввело в заблуждение миллионы пользователей соцсетей, прежде чем выяснилось, что его сгенерировал ИИ Midjourney на основе текстового запроса. Одним из основных признаков истинного происхождения изображения стало распятие на груди, которое необъяснимым образом парит над белым пуховиком там, где должна быть вторая половина цепочки. Создатель изображения, Пабло Ксавье, сказал BuzzFeed News: «Я просто подумал, что было бы смешно увидеть Папу в забавной куртке».

Порой самые эффективные фейки вообще не требуют применения ИИ. В мае 2019 года видео с Ненси Пелоси, спикеркой Палаты представителей, замедлили до 75% и изменили тон голоса, чтобы она выглядела пьяной. В ноябре 2018 года Белый дом обнародовал ускоренную видеозапись взаимодействия корреспондента CNN Джима Акосты со стажёром Белого дома, на которой кажется, что он двигает рукой более агрессивно, чем в реальности.

Недавно я создал целый фальшивый политический скандал — с ведущими новостей, возмущенными гражданами, кадрами протестов и несуществующим мэром — на всё это у меня ушло всего лишь 28 минут обеденного перерыва. Общая стоимость? Восемь долларов. Двадцать восемь минут. Один полностью сфабрикованный политический кризис, который мог одурачить загруженных редакторов накануне дедлайна.

Не так давно я наблюдал, как опытный фактчекер уверенно объявил изображение, созданное ИИ, «подлинным», потому что оно показывало идеальную руку с пятью пальцами вместо шести. Но сегодня это практически не работает.

Это суровая правда о выявлении ИИ: методы, которые раньше приносили надёжные результаты, теряют актуальность у нас на глазах. На ранних этапах разработки генераторов изображений плохо нарисованные руки — лишние или сросшиеся пальцы — были обычным явлением, и часто использовались для обнаружения изображений, сгенерированных ИИ. Вирусные фейки, например, изображение «ареста Трампа» в 2023 году, разоблачались частично благодаря таким очевидным ошибкам с руками. Однако к 2025 году крупные модели ИИ, такие как Midjourney и DALL-E, значительно усовершенствовались в отрисовке анатомически правильных рук. В итоге руки больше не позволяют достоверно обнаруживать изображения, созданные ИИ, и те, кто хочет их выявлять, должны искать другие, более тонкие признаки для обнаружения контента, сгенерированного ИИ.

Революция в создании текстов произошла ещё быстрее. Когда-то созданные ИИ протестные плакаты содержали искажённые сообщения, такие как «STTPO THE MADNESSS» и «FREEE PALESTIME», но некоторые современные модели производят просто безупречные тексты. Организация OpenAI специально натренировала модель DALL-E 3 на точность и аккуратность текстов, а в Midjourney V6 «правильный текст» добавлен как ходовая функция. То, что некогда было надёжным методом обнаружения, больше не работает.

Теперь редко увидишь несовпадающие уши, неестественно асимметричные глаза и нарисованные зубы, которые когда-то отличали лица, созданные ИИ. Портретные изображения, созданные в январе 2023 года, постоянно содержали заметные ошибки. Сегодня с помощью тех же запросов можно создавать вполне правдоподобные лица.

Это представляет фундаментальную проблему для редакций. У журналиста, который обучен методам обнаружения 2023 года, может появиться ложная уверенность и он будет объявлять очевидно сгенерированный ИИ контент подлинным просто потому, что он проходит устаревшие проверки. Такая неадекватная уверенность опаснее честной неуверенности.

Знакомьтесь: «заклинатель изображений»

Анализ созданного ИИ изображения, якобы показывающего девочку, спасённую после наводнения в США. Изображение: Хенк ван ЭссЯ задумался, смогу ли для этой статьи создать помощника для выявления созданного ИИ контента. И начал писать специалистам. Учёные увели меня в глубины физики, которых я совсем не ожидал: преобразования Фурье, квантовая механика нейронных сетей, невидимые человеческому глазу сигнатуры. Один физик объяснил, что артефакты ИИ — это не просто визуальные глюки — это следы ИИ в частотной области.

Но затем пришлось вернуться в реальность. «Не создавай инструмент сам», — предупредил один специалист. «Тебе понадобятся огромные вычислительные мощности и команда людей уровня Ph.D. Без такой инфраструктуры ты с позором провалишься».

Вот тогда меня осенило. Почему бы не противостоять ИИ с помощью ИИ, но по-другому? Вместо воссоздания систем обнаружения стоимостью в миллиард долларов я бы мог для выполнения тяжёлой работы использовать существующую инфраструктуру ИИ.

Анализ созданного ИИ изображения, якобы показывающего президента Беларуси с пакетиком картофеля фри. Изображение: Хенк ван Эсс

Из этого инсайта родился «заклинатель изображений» (Image Whisperer, которого мы сначала назвали Detectai.live). Инструмент запускает параллельный анализ большой языковой модели наряду с обработкой Google Vision, применяя принципы физики, которым меня научили эти эксперты, при этом используя уже доступную вычислительную мощность. Самое важное, что, в отличие от большинства инструментов ИИ, когда он не знает чего-то, он прямо говорит об этом, а не пытается угадывать.

Он не стремится быть идеальным инструментом –– он стремится быть самым честным.

Семь категорий обнаружения ИИ

Гонка вооружений между создателями ИИ и теми, кто выявляет ИИ, продолжается, и создатели пока опережают. Процесс выявления дипфейков превращается в игру в кошки-мышки с разработчиками, которые улучшают технологии. Чтобы успешно идентифицировать дипфейки, нужно комбинировать различные методы обнаружения, не терять бдительности и принимать, что идеальное обнаружение не всегда возможно. Для журналистов, ищущих точные ответы, цель сместилась от точной идентификации к оценке вероятности и обоснованному редакторскому суждению.

Но журналистика всегда адаптировалась к меняющимся технологиям. Когда инструменты для создания вебсайта стали общедоступными, мы научились проверять источники. Когда каждый стал «репортёром» в социальных сетях, мы разработали протоколы их верификации. Теперь мы должны разработать стандарты для эпохи, когда любой может создать убедительные аудиовизуальные материалы.

Категория 1: Анатомические ошибки и ошибки в объектах: когда совершенство становится уликой

Пост, которым поделился журнал Copy Magazine (@magazinecopy)

Посмотрите в Инстаграм этот пост, которым поделился журнал Copy Magazine (@magazinecopy).

30-секундная проверка тревожных сигналов (экстренные новости)

Когда времени совсем нет и вам нужно мгновенно оценить подозрительно идеальные материалы, прислушайтесь к своей интуиции, которая подсказывает, что это выглядит «неправдоподобно идеально». Взгляните на эстетику журнального качества там, где такой уровень «вылизанности» был бы невозможен или неуместен. Лидер протеста с безупречным макияжем, жертва катастрофы с идеальной причёской или момент политического откровения, когда все выглядят профессионально стилизованными –– такие материалы должны сразу вызвать подозрение.

1. Интуитивная проверка на идеальность. Выглядит ли этот человек слишком глянцевым/идеальным для этой ситуации?
2. Проверка на несоответствие контексту. Красота уровня глянцевого журнала в зоне кризиса/конфликта?
3. Проверка на реальность кожи. Отретушированная идеальная кожи там, где должна быть природная текстура?
4. Общая оценка «вылизанности». Соответствует ли внешний вид происходящему?

Пятиминутная техническая верификация (стандартные истории)

Это более глубокое исследование уделяет внимание техническим деталям, которые выдают искусственную генерацию. Современный ИИ создаёт анатомически правильные изображения, но они часто демонстрируют жуткое совершенство, которое не встречается в реальных визуальных материалах. На лицах реальных людей присутствует небольшая асимметрия, естественные морщины и следы влияния окружающей среды, которые ИИ не может достоверно воссоздавать.

1. Рассмотрите лица на 100% масштабе. Обратите внимание на естественную текстуру кожи, поры, небольшую асимметрию.
2. Анализ физических свойств одежды. Естественные складки, текстура тканей, признаки износа?
3. Анализ прядей волос. Видны ли отдельные пряди или они отрисованные?
4. Реалистичность украшений/аксессуаров. Выглядят трёхмерными или как плоская компьютерная графика.
5. Исследование зубов. Есть ли природные несовершенства или все зубы одинаково идеальны?
6. Общая проверка идеальности. Соответствует ли уровень ухоженности заявленному контексту и обстановке?

Глубокое исследование (стратегические репортажи)

Такой комплексный анализ нужен для историй, где точность имеет первостепенное значение. Здесь изображение рассматривают как доказательство, требующее криминалистической экспертизы. Цель состоит в том, чтобы на основе множества точек верификации оценить вероятность и признать: хотя однозначно доказать искусственное происхождение часто невозможно, обоснованное суждение вполне реально.

1. Сравнительный анализ. Найдите другие фотографии того же человека и сравните его естественный вид и искусственное совершенство.
2. Техническое увеличение. Используйте профессиональные инструменты, чтобы изучить текстуру кожи на уровне пикселей для обнаружения математических паттернов.
3. Верификация контекста. Исследуйте и сравните с другими изображениями, чтобы определить, выглядит ли обычно человек в подобных условиях настолько идеально.
4. Профессиональная консультация. Свяжитесь с экспертами по цифровой криминалистике, например, с Фаридом Хани, чтобы провести глубокий анализ.
5. Верификация под разными углами. Ищите другие фотографии/видео с того же события, чтобы проверить соответствие.
6. Историческое сравнение. Сравните с верифицированными фотографиями этого человека из примерно того же времени и контекста.

Категория 2: Нарушения геометрической физики — Когда ИИ игнорирует законы природы

Созданное ИИ изображение железнодорожных путей рядом с корректным изображением перспективы из реальной жизни. Изображения: Хенк ван Эсс

Нарратив. ИИ собирает изображения как художник-коллажист, а не фотограф. Он понимает визуальные элементы, но не геометрические и физические правила, которым подчиняется перспектива, свет и тени в реальном мире. Эти фундаментальные сбои физики для ИИ сложнее исправить, потому что они требуют понимания трёхмерного пространства и света.

Реальные проблемы с физикой в изображениях ИИ. Хотя мы всё ещё находимся на раннем этапе развития генеративного ИИ, созданные ИИ изображения в перспективе правильно отображают тени и отражение. Типичный пример, созданный с использованием DALL-E 2 от OpenAI, показывает неуместные тени и нелогичные отражения, и тени в отражении в абсолютно неправильном направлении.

Анализ точки схода. Настоящие здания следуют законам перспективы — параллельные линии сходятся к одной точке на горизонте. ИИ часто создаёт здания, где линии крыш указывают влево, а линии окон указывают вправо –– это физически невозможно и поэтому раскрывает алгоритмическую сборку, а не фотографическую съёмку. Чтобы схватить суть перспективы в реальных изображениях, абсолютно необходимы точки схода, а созданные изображения часто демонстрируют несоответствия, где линии не пересекаются в правильной точке схода.

Проверка согласованности теней. Где есть свет, есть и тени. Рассчитать геометрическое соотношение между объектом, его тенью и источником света несложно, но на обработанном или сфабрикованном изображении –– на удивление сложно. В ситуации, когда есть только один источник света (например, солнечный свет), все тени должны падать в направлении от этого источника. ИИ часто показывает людей, которые отбрасывают тени в нескольких направлениях несмотря на то, что солнце одно. Это нарушает базовые законы физики.

Валидация исследований. Научные исследования подтвердили эти нарушения геометрии. Исследования с применением анализа GradCam показывают, что на изображениях вне помещений тени от транспортных средств направлены в разные стороны и около точек схода есть структурные искажения, а на изображениях в помещении объект и его тень не согласуются, как и линии в геометрии комнаты.

Этот тип тонкого обнаружения не для слабонервных. Привыкайте к мысли в первую очередь смотреть на линии.

30-секундная проверка тревожных сигналов

1. Найдите любую фотографию прямых железнодорожных путей (погуглите «railroad tracks perspective»).
2. Откройте MS Paint или любой базовый редактор изображений.
3. Используйте инструмент «линия», чтобы проследить оба рельса, продлевая их до горизонта.
4. Проверьте, чтобы они сходились в одной точке — так ДОЛЖНО быть.

Теперь у вас есть визуальный шаблон того, как выглядит правильная перспектива.

Пятиминутная техническая верификация (стандартные истории)

Проверка перспективы.

1. Выберите на изображении ОДНО здание.
2. Воспользуйтесь любым редактором изображений, чтобы продлить линии крыш и рядов окон.
3. Проверьте, сходятся ли линии от одного здания в одной точке.
4. Множественные точки схода для одной структуры = ошибка сборки ИИ.

Анализ теней:

1. Определите первичный источник света (самые яркие блики).
2. Нарисуйте линии от источника света через верхушки объектов к концам теней.
3. Проверьте, указывают ли все тени в одном направлении.
4. Разнонаправленные тени = нарушение законов физики.

Глубокое исследование (стратегические репортажи)

Верификация отражений. Когда объекты отражаются на плоской поверхности, линии, соединяющие точку на объекте с соответствующей точкой в отражении, должны сходиться к одной точке схода.

1. Найдите на изображении отражающие поверхности (вода, стекло, зеркала)
2. Проведите линии, соединяющие объекты с их отражениями
3. Проверьте, встречаются ли линии с отражающей поверхностью под прямыми углами
4. Невозможные позиции отражений = геометрический сбой

Категория 3. Анализ технических следов и пикселей –– математическая ДНК

Вирусная фотография американского солдата 2004 года, обработанная цифровыми инструментами. К изображению добавлена нашивка «DOING THE WORK OF», а также российский, немецкий и французский флаги. Инструмент показывает возможную область изменения и вероятность того, что оно изменено. Изображения: Хенк ван Эсс

Нарратив. Когда изображение создаёт ИИ, в файле остаются скрытые улики — математическая сигнатура, похожая на невидимые отпечатки пальцев, которые можно обнаружить с помощью специальных инструментов. Эти улики содержатся в расположении пикселей и сжатии файла. Воспринимайте это как ДНК, подтверждающее, что это изображение создано с помощью ИИ, а не снято на камеру.Обнаружение паттерна шума. Реальные камеры захватывают изображения с естественными бессистемными изъянами — например, крохотные случайные пятнышки от сенсора камеры. На изображениях, созданных ИИ, вместо этого неестественно совершенные паттерны. Когда эксперты анализируют эти паттерны с помощью специального программного обеспечения, они видят характерные звездообразные формы, которые никогда не появились бы на реальной фотографии. Это похоже на разницу между действительно случайным статическим электричеством на старом телевизоре и компьютером, пытающимся сымитировать эту случайность — в фальшивой версии есть скрытый порядок, который, при наличии нужных инструментов, выдаёт её.

Обнаружение копирования-вставки. Когда ИИ или люди дублируют области изображения, это создаёт необычные взаимосвязи пикселей. Разные участки изображения становятся подозрительно похожими, больше естественной пространственной избыточности, и это создает обнаруживаемые паттерны или математические сигнатуры.

Анализ артефактов сжатия. Созданный ИИ контент часто показывает неестественные паттерны сжатия, которые отличают его от необработанных файлов, полученных с камеры, что раскрывает алгоритмическое, а не оптическое происхождение.

Профессиональные инструменты обнаружения. С помощью технологии TrueMedia.org можно анализировать подозрительные материалы и идентифицировать дипфейки в аудио, изображениях и видео. Примеры недавних дипфейков, отмеченных TrueMedia.org: мнимое фото ареста Дональда Трампа и мнимое фото президента Байдена с высшими военными офицерами.

30-секундная проверка «красных флагов»

Прежде чем проводить анализ подозрительных изображений, попрактикуйтесь на чём-то надёжном:

1. Загрузите свою фотографию в ассистент верификация фотографий.
2. Инструмент предложит оценку вероятности подделки.
3. Если вероятность подделки более 70%, продолжайте исследовать изображение.

Пятиминутная техническая верификация (стандартные истории)

1. Визуальная проверка текстуры. Увеличьте масштаб изображения до 100% на таких участках, как кожа или небо. Посмотрите внимательно на текстуру — есть ли там случайное, бессистемное качество реальной жизни или она выглядит слишком гладкой и математически совершенной? Настоящие фотографии содержат естественный хаос; ИИ часто создаёт паттерны, которые подозрительно однородны.
2. Автоматизированный инструмент обнаружения. Загрузите изображение на TrueMedia.org (бесплатный веб-сайт). Этот инструмент прогоняет изображение через программу обнаружения ИИ, которая анализирует те скрытые математические сигнатуры, о которых мы говорили ранее. Он даёт вероятность того, что изображение создано с помощью ИИ.
3. Проверьте скрытую информацию файла. Щёлкните правой кнопкой мыши на файле изображения и выберите «Свойства» (на ПК) или «Информация» (на Mac). Посмотрите на метаданные — они показывают, в каком программном обеспечении и когда создан файл. Изображения ИИ часто содержат временные метки программного обеспечения редактирования или инструменты создания, которые не соответствуют заявленной истории о том, когда/как была сделана фотография.
4. Анализ гладкости поверхности. Это не то же самое, что проверка текстуры. Здесь нужно рассмотреть поверхности, которые в реальности должны быть несовершенными –– стены, ткань или вода. У ИИ есть тенденция ретушировать эти поверхности и делать их неестественно гладкими там, где на реальной фотографии были бы небольшие неровности, изменения или следы носки.

Каждый шаг позволяет поймать разные типы ошибок ИИ — воспринимайте это как использование нескольких проверок, чтобы удостовериться в своем выводе.

Глубокое исследование (стратегические репортажи)

Forensically — Это набор бесплатных, комплексных инструментов анализа шума с визуализацией частотной области.

Анализ частотной области — Техническое обнаружение  уникальных для ИИ математических паттернов.

Категория 4. Голосовые и аудио артефакты — Когда синтетическая речь выдаёт себя

Анализ созданного ИИ аудио дипфейка речи Дональда Трампа. Изображение: YouTube, Хенк ван Эсс

Нарратив. Технология клонирования голоса может воспроизвести голос любого человека на основе нескольких секунд аудио, но она оставляет следы искусственной генерации, которые можно обнаружить в речевых паттернах, подлинности эмоций и акустических характеристиках. Хотя синтетические голоса уже достигли впечатляющей точности, им всё ещё не удаётся воспроизводить тонкие элементы, характерные для настоящей человеческой речи.

Реальные случаи аудио обмана. В марте 2019 года генеральному директору британской энергетической компании позвонил его «босс» и с идеальным немецким акцентом запросил большой денежный перевод. Обман ИИ раскрылся только из-за подозрительного второго звонка с австрийского номера. Совсем недавно политический консультант Стивен Крамер заплатил 150 долларов США, чтобы сделать дипфейковый роботизированный звонок, имитирующий президента США Джо Байдена, который призывал людей не голосовать на праймериз Демократической партии Нью-Гэмпшира 2024 года.

Скорость и стоимость аудио фейков. В соответствии с иском против Крамера, создание дипфейка заняло менее 20 минут и стоило всего 1 доллар. Крамер сказал CBS News, что за свои усилия он получил «освещение на 5 миллионов долларов».

«Красные флаги» речевых паттернов

Как сказала Линдси Горман, которая изучает появляющиеся технологии и дезинформацию, в разговоре с NBC News, дипфейки часто содержат характерные признаки: «Каденция (интонация), особенно к концу, казалась неестественной, как у робота. Это один из признаков потенциально поддельного аудио-контента».

• Неестественный темп без нормальных колебаний или дыхания.
• Безупречное произношение, лишённое несовершенств естественной речи.
• Роботизированная модуляция на определённых словах или фразах.
• Отсутствие фонового шума, который должен там быть.
• Фразы или термины, которые человек никогда бы на самом деле не использовал.

Ошибки в языковой логике. Более ранний случай дипфейка: неестественное построение фразы «pounds 35,000» — то есть название валюты перед числом –– выдало генерацию с помощью ИИ.

30-секундная проверка «красных флагов»

Обратите внимание на Hiya Deepfake Voice Detector, простой плагин в Chrome (его можно использовать 20 раз в месяц). Он прошёл проверку на примере видео с Трампом и Байденом.

Это расширение Chrome, которое в режиме реального времени анализирует аудио и определяет: это реальный человеческий голос или нечто, сфабрикованное с помощью ИИ.

Вот как оно на самом деле работает:

• Анализирует голоса на видео и аудио, которые вы проигрываете в браузере Chrome.
• Действует моментально: ему достаточно аудио длительностью всего одну секунду.
• Функционирует на любом вебсайте — в социальных сетях, на новостных сайтах, видео платформах.
• Выявляет речь, похожую на человеческую, созданную с помощью одного из распространённых инструментов синтеза речи.
• Поддерживает много языков.
• Работает в режиме реального времени, пока вы проигрываете трек.

Оговорка: поскольку плагин использует вероятностные алгоритмы, он не будет давать 100% точность во всех случаях.

Пятиминутная техническая верификация (стандартные истории)

1. Прислушайтесь с точки зрения естественности –– есть ли ощущение, что это нормальная человеческая скорость и произношение?
2. Проверьте доступность –– мог ли этот человек действительно сделать такое заявление в заявленное время?
3. Проверьте эмоциональную подлинность — соответствует ли эмоция содержанию и контексту?
4. Перезвоните на официальный номер и проверьте наличие срочных аудио-запросов.
5. Задавайте контекстуальные вопросы, которые знал бы только реальный человек.

Глубокое исследование (стратегические репортажи)

• Скачайте полный фрагмент аудио.
• Скормите его Notta.ai –– пусть он сделает транскрипт.
• Пока ждёте, скормите Claude пять-шесть проверенных фрагментов аудиозаписей того же человека или их транскриптов.
• Попросите его сделать семантический анализ и категоризировать темы, речевые паттерны, использование грамматики, стиль, тон голоса.
• Затем загрузите транскрипт аудио, которому вы не доверяете, и попросите Claude сравнить его на предмет отклонений от нормы.

Категория 5. Временная и контекстная логика. Когда ИИ упускает общую картину

Изображение, созданное с помощью ИИ, которое, по утверждениям, якобы показывало кадр новостной трансляции о климатическом протесте в Париже. Изображение: Хенк ван Эсс

Нарратив. ИИ генерирует контент на основе визуальных паттернов без понимания реального контекста, временной логики или ситуационной уместности. В результате он создаёт контент, который выглядит убедительным в вакууме, но не выдерживает разумной проверки.Обман в видео иранской тюрьмы. Сложное видео, созданное с помощью ИИ, по утверждениям показывающее израильский ракетный удар по тюрьме в Ирвине, созданное однако на основе фотографии 2023 года. Ключевые улики для обнаружения –– это, например, сезонные несоответствия (кусты без листьев в предполагаемых летних кадрах), идеальное совпадение деталей вразрез вероятности, и невозможные сроки.

30-секундная проверка «красных флагов»

ИИ создаёт правдоподобный визуальный контент, но часто упускает фундаментальные логические отношения между временем, местом и обстоятельствами. Что касается экстренных новостей, доверяйте своему знанию мира, замечайте противоречия, которые для верификации позже потребовали бы сложного анализа.

1. Проверка на здравый смысл соответствия сезона/погоды. Соответствует ли растительность, одежда или освещение предполагаемой дате и местоположению?
2. Проверка времени создания технологий. Есть ли какие-то устройства, транспортные средства или инфраструктура, которые не соответствуют этому периоду?
3. Интуитивная проверка географии. Соответствует ли архитектура, вывески и ландшафт заявленному местоположению?
4. Быстрая оценка достоверности источника. Соответствует ли происхождение контента его сложности и требованиям доступа?

Пятиминутная техническая верификация (стандартные истории)

Это более глубокий анализ, где вы используете свои исследовательские навыки для перекрёстной сверки утверждений с проверяемыми фактами. ИИ сложно даётся взаимосвязь природы реальных событий, он создает контент, который проходит визуальную инспекцию, но не проходит логическую проверку при сопоставлении с внешними источниками данных.

1. Верификация исторической погоды. Проверьте архивные данные о погоде для заявленной даты/места и сравните с изображением.
2. Перекрёстная проверка архитектурных ориентиров. Проверьте, существуют ли видимые здания, знаки и инфраструктура в заявленном месте.
3. Аудит культурных элементов. Убедитесь, что стили одежды, поведение и социальная динамика соответствуют географическому/культурному контексту.
4. Оценка вероятности совпадения во времени. Исследуйте, могли ли заявленные события происходить одновременно.
5. Анализ паттерна источника. Сопоставьте, как распространяется контент, по сравнению с типичными паттернами распространения для подобных событий.
6. Поиск с разных ракурсов. Ищите другие упоминания о том же событии в независимых источниках.

Глубокое исследование (стратегические репортажи)

Для особо важных историй рассматривайте контекстные улики как элементы криминалистического паззла, каждая из которых требует систематической верификации против установленных фактов. Такой комплексный подход создаёт матрицу вероятности на основе множественных логических несоответствий, а не единичных фиксированных подтверждающих доказательств.

1. Всестороннее восстановление хронологии событий. Детально простройте последовательность заявленных событий и сопоставьте все визуальные элементы.
2. Проверка данных географической разведки. Используйте спутниковые снимки, просмотр улиц и местных специалистов для подтверждения деталей локации.
3. Криминалистическая экспертиза сезона и окружающей среды. Свяжитесь с ботаниками, метеорологами и местными источниками по поводу условий окружающей среды.
4. Оценка культурной подлинности. Опросите региональных экспертов о нормах поведения, манере одеваться и социальных обычаях, которые присутствуют в материале.
5. Анализ на предмет анахронизма технологий. Убедитесь, что все устройства, транспортные средства и инфраструктурные объекты существовали в заявленном месте и в это время.
6. Расследование цепочки источников. Проследите полную историю распространения материала и сравните с известными паттернами для подобных подлинных событий.
7. Сеть консультаций экспертов. Привлекайте местных журналистов, учёных и чиновников, знакомых с заявленным местом или ситуацией.
8. Построение матрицы вероятностей. Проанализируйте все логические элементы и выполните всестороннюю оценку подлинности контента.

Категория 6. Распознавание поведенческих паттернов — когда ИИ ошибается по поводу людей

Изображение, созданное с помощью ИИ, которое якобы показывало протестующих на городской улице. Изображение: Хенк ван Эсс

Нарратив. ИИ может воссоздавать человеческую внешность, но испытывает трудности с воссозданием поведения, социальной динамики и естественных паттернов взаимодействия. Это создаёт заметные несоответствия в сценах толпы, групповой динамике и индивидуальном поведении, которые обученные наблюдатели могут выявить.

30-секундная проверка «красных флагов» (экстренные новости)

ИИ может создать толпу, которая на первый взгляд выглядит правдоподобно, но неестественные паттерны поведения выдают искусственность. Когда вы имеете дело с экстренными новостями, обратите внимание на поведение людей –– как действовали бы реальные люди, а не запрограммированные цифровые актёры, при данных обстоятельствах?

1. Проверка на однородность толпы. Не слишком много людей похожего возраста, внешности или стиля одежды?
2. Проверка паттерна внимания. Все смотрят в одном направлении/на камеру, или есть естественные вариации направления взглядов?
3. Интуитивная проверка эмоциональной подлинности. Соответствуют ли выражения лица предполагаемому настроению и напряженности события?
4. Оценка правдоподобия движений. Естественные расстояния и язык тела или искусственные позы?

Пятиминутная техническая верификация (стандартные истории)

В процессе этого анализа опирайтесь на своё понимание социальной динамики для идентификации неточностей ИИ в воспроизведении подлинного группового поведения. Настоящая толпа демонстрирует сложные социальные паттерны, которые обученный ИИ не может схватить в полной мере, и создаёт в предположительно спонтанных собраниях искусственную однородность.

1. Аудит демографического разнообразия. Обратите внимание на диапазоны возрастов, стили одежды, этническое разнообразие либо искусственную однородность.
2. Картирование социального взаимодействия. Сопоставьте подлинные разговоры, отношения и групповую динамику и постановочное позиционирование.
3. Верификация реакции на окружающую среду. Как люди в норме реагируют на погоду, освещение, уровни шума?
4. Проверка культурных особенностей поведения. Соответствуют ли социальные нормы, личное пространство и стили взаимодействия заявленной обстановке?
5. Анализ выражений лиц отдельных людей. Обратите внимание на лица: насколько они уникальны и выражают подлинные эмоции, либо наоборот –– шаблонные.
6. Оценка паттернов движения. Есть ли естественные асимметрии и личные особенности либо движения неестественно плавные?

Глубокое исследование (стратегические репортажи)

Для особо важных историй рассматривайте человеческое поведение как антропологическое доказательство, требующее систематического анализа социальных паттернов. Благодаря этому комплексному подходу можно установить, могла ли в предполагаемых обстоятельствах действительно произойти такая сложная сеть человеческих взаимодействий.

1. Социологический анализ толпы. Проконсультируйтесь с экспертами по психологии толпы для верификации реалистичной групповой динамики предполагаемого типа события.
2. Верификация культурной подлинности. Опросите региональных специалистов о соответствующем социальном поведении, манере одеваться и паттернах взаимодействия.
3. Оценка демографической вероятности. Исследуйте, соответствует ли состав толпы типичным паттернам посещения для подобных событий.
4. Криминалистика индивидуального поведения. Проанализируйте конкретных людей на предмет непротиворечивости личности, отношений и подлинности эмоциональных реакций.
5. Изучение адаптации к окружающей среде. Проверьте, соответствуют ли реальным моделям поведения реакции толпы на погоду, акустику и логистику.
6. Историческое сравнительное исследование. Сравните с проверенными кадрами или фотографиями из подобных подлинных событий в том же регионе или культурном контексте.
7. Сеть консультаций экспертов. Привлеките антропологов, социологов и местных журналистов, знакомых с региональной социальной динамикой.
8. Анализ микро-выражений. Проконсультируйтесь с экспертами для изучения выражений лиц на предмет подлинности эмоциональных реакций либо наоборот –– искусственной генерации.
9. Картирование социальной сети. Проследите отношения между людьми для верификации подлинности формирования группы либо наоборот –– искусственной сборки.

Категория 7. Интуитивное распознавание паттернов — древняя система обнаружения

Анализ созданного ИИ изображения, якобы показывающего президента Беларуси с неуместным во время официальной встречи пакетиком картофеля фри. Изображение: Хенк ван Эсс.

Нарратив. Наш мозг за миллионы лет эволюции научился распознавать паттерны. Паттерны ИИ создаются из обучающих данных и алгоритмических процессов. Когда что-то нарушает естественные ожидания, встроенные в человеческое восприятие, это интуитивное чувство часто представляет самый быстрый и надёжный первичный детектор перед техническим анализом.

Реальные истории успеха. В 2019 году пользователи социальных сетей сразу отметили вирусное изображение «уличной акулы» во время урагана Флоренс. Несмотря на техническую состоятельность изображения, зрители почувствовали его неуместность в этой ситуации. Их интуиция не ошиблась — обратные поиски выявили цифровую вставку. Точно так же опытные журналисты могут почувствовать, когда любительские кадры выглядят подозрительно кинематографично или когда есть прекрасный визуальный материал, документирующий предположительно спонтанные события.

Забавный факт: кажется, утверждения о подобных происшествиях распространялись во время многих ураганов на протяжении более десяти лет, но проверку выполнили для одного из них.

30-секундная проверка «красных флагов»

Когда времени в обрез, доверяйте своему природному распознаванию паттернов. Ищите парадокс качества видеопроизводства, когда любительские источники производят контент голливудского уровня, или поразительное удобство синхронизации, где хаотичные события идеально задокументированы. Наша древняя система обнаружения часто замечает эти несоответствия до того, как их подтвердит технический анализ.

1. Реакция первого впечатления. Как это ощущается: как нечто подлинное или «произведённое»? (Доверяйте своему чувству беспокойства к искусственным представлениям людей, его также называют чувством «зловещей долины».)
2. Парадокс производственных затрат. Соответствует ли любительский источник кинематографическому качеству (сегодня состряпать профессионально выглядящий политический скандал можно за 8 долларов)?
3. Проверка удобства синхронизации. Происходит ли идеальная документация событий слишком быстро?
4. Проверка на эмоциональные манипуляции. Для чего создан контент: чтобы вызвать эмоциональные реакции и быстрое распространение или для информирования читателя?

Пятиминутная техническая верификация (стандартные истории)

Преобразуйте то, что вам подсказывает интуиция, в систематическую верификацию путём исследования конкретных элементов, которые вы заметили благодаря своей способности распознавания паттернов. Когда вы интуитивно чувствуете, что здесь что-то не то, определите, что именно нарушает естественные ожидания и найдите логические объяснения.

1. Глубокая проверка логики контекста. Есть ли в этом сценарии практический смысл, учитывая знания реального мира?
2. Расследование достоверности источника. Соответствует ли происхождение контента его сложности и требованиям доступа?
3. Анализ удобства нарратива. Есть ли слишком удачное совпадение истории с текущим политическим или социальным напряжением?
4. Аудит технического несоответствия. Соответствует ли качество, освещение или звук предполагаемым обстоятельствам?
5. Каталог нарушения паттернов. Документируйте конкретные элементы, которые вызывают подозрительные чувства или несоответствие контексту.
6. Оценка несоответствия источника и контента. Отмечайте сложный контент от любителей или анонимных источников без объяснения.

Глубокое исследование (стратегические репортажи)

Для особо важных историй рассматривайте интуитивное обнаружение как отправную точку для дальнейшей всесторонней верификации. С помощью способности распознавать паттерны вы определили аномалии; теперь системно исследуйте каждый подозрительный элемент, чтобы сделать оценку на основе доказательств.

1. Интуитивная криминалистика. Каталогизируйте каждый элемент, который чувствуется «неправильным», и исследуйте, чем именно он нарушает естественные ожидания.
2. Расследование парадокса производства. Подсчитайте необходимые реальные ресурсы и сравните с предполагаемыми возможностями аматора.
3. Анализ несоответствия контексту. Сопоставьте сценарии с реальными знаниями и мнениями экспертов.
4. Оценка манипуляции эмоциями. Проанализируйте структуру контента: содержит ли он специальные элементы для вирусности или создан в результате органического обмена информацией.
5. Глубокое погружение в техническое несоответствие. Кадр за кадром проанализируйте несоответствия качества, освещения и звука.
6. Верификация подлинности источника. Исследуйте реалистичность того, что у контента действительно заявленное происхождение.
7. Обнаружение конструирования нарратива. Исследуйте структуру истории: она удивительно удобная или это естественное развития событий.
8. Консультация экспертов по нарушению паттернов. Привлеките к интуитивным оценкам опытных независимых расследователей.
9. Анализ порога доверия. Записывайте случаи, когда многие элементы кажутся «неправильными», и обоснуйте отклонение контента, несмотря на его техническую состоятельность.

Когда доверять интуиции:

• Если многие элементы кажутся «неправильными», даже если вы не можете определить, что конкретно не так.
• Когда контент вызывает мгновенную эмоциональную реакцию, он создан для того, чтобы не допустить анализа.
• Если есть вопросы по поводу источника, времени событий или контекста.
• Когда техническое качество контента не соответствует уровню опыта его создателя.
• Если ваш мозг обнаруживает парадокс качества производства или удобства синхронизации, которое продемонстрировал ваш эксперимент.

Реальность. Идеальных решений не существует

Подводя итоги. Эти семь категорий обнаружения ИИ и новый инструмент — анатомические сбои, нарушения законов физики, технические следы, голосовые артефакты, контекстная логика, поведенческие паттерны и интуитивное распознавание — дают журналистам комплексный набор инструментов для оценки подлинности контента в сжатые сроки. В сочетании с профессиональными инструментами обнаружения и обновлёнными редакционными стандартами это поможет сохранять доверие аудитории. Вышибать клин клином. Использовать ИИ для обнаружения ИИ. И помогать сохранять то, что осталось от нашей общей реальности.

Уроженец Нидерландов Хенк ван Эсс пользуется инструментами на основе искусственного интеллекта, чтобы находить в данных истории. Он применяет ИИ и OSINT в расследованиях и создаёт инструменты для публичного использования, такие как SearchWhisperer и AI Researcher. Проводит тренинги для редакций по всему миру, в том числе для Washington Post, Axel Springer, BBC и DPG, управляет проектом Digital Digging, где разведка по открытыми источникам сочетается с ИИ. Он служит оценщиком для Международной сети проверки фактов Пойнтера (IFCN) и Европейской сети стандартов проверки фактов (EFCSN).