Фейк: В Киеве в метро ехала женщина с чемоданом, на котором была наклейка «Тайвань – не Китай»

Чэнь Пэй-хуань

Оригинал публикации можно прочитать здесь.

В последнее время в соцсетях и медиа распространяют фотографию, якобы сделанную «в киевском метро, ​​в Украине, где женщина сидит с чемоданом с наклейкой Taiwan is NOT CHINA» («Тайвань – не Китай»). На самом деле это изображение не подлинное, оно сгенерировано с помощью искусственного интеллекта.

1. Шэн Ву-сун, живущий в Тайване украинец корейского происхождения, обратил внимание, что схема метро на фоне распространяемого изображения не соответствует реальной схеме киевского метро, ​​что свидетельствует о вероятном использовании ИИ.

2. Сравнение с официальным туристическим путеводителем Киевской городской администрации подтверждает, что схема линий метро на распространяемом изображении не соответствует официальной версии и содержит грамматические ошибки. Наклейка с лозунгом на чемодане выглядит неестественно гладкой, без деформаций или морщин вдоль рифленой поверхности чемодана, что не соответствует физическим свойствам реального трехмерного объекта — это выразительный признак изображения, сгенерированного ИИ. Кроме того, анализ, проведённый с помощью инструментов для обнаружения ИИ-изображений Is it AI? и Hive Moderation показывает, что это изображение с большой вероятностью было создано искусственным интеллектом.

3. Специалисты по кибербезопасности предостерегают, что современные технологии ИИ сталкиваются с проблемой, когда «обнаружение отстает от генерации». Они рекомендуют пользователям полагаться на обратный поиск изображений и отслеживание источников, обращаясь к базовым принципам проверки происхождения информации и перекрестной проверке.

Итак, распространенное изображение является ложным, ведь оно сгенерировано ИИ.

Предыстория

Тайваньские медиа, в частности SETN (Sanli News Network), FTV News и Liberty Times, 30 января сообщили, что ссылаются на сообщение и изображение от 29 января в аккаунте Elena Chan на платформе X (бывшем Twitter). В описании говорилось, что украинская инфлюэнсерка, якобы живущая в Японии, обнародовала фотографию женщины в киевском метро с чемоданом, на котором присутствует наклейка «Taiwan is NOT CHINA».

Кроме публикаций в СМИ, этим изображением поделилась и фейсбук-страница China’s Absurdities, где отмечалось: «В метро в Украине элегантная тайваньская девушка едет с чемоданом, на котором написано “Taiwan is not CHINA”». Изображения также распространялись на других онлайн-платформах, в частности, Threads и на YouTube.написано “Taiwan is not CHINA”». Зображення також поширювали на інших онлайн-платформах, зокрема в Threads і на YouTube.

Фактчек

Фактчекер с помощью обратного поиска обнаружил, что изображение, распространяемое тайваньскими медиа и пользователями соцсетей, создано из двух фотографий в сообщении от 29 января в аккаунте «Elena Chan» на платформе X. Текст сообщения на японском языке «ほんとうですね» переводится как «Именно так».

Схема маршрутов метро на распространяемом изображении не соответствует официальной версии, а наклейка на чемодане имеет четкие признаки монтажа.

1. Александр Шин, основатель медиа Voice of Ukraine и живущий в Тайване украинец корейского происхождения, в интервью отметил, что это изображение сгенерировано ИИ. Он отметил, что схема метро за спиной женщины полностью отличается от реальной схемы киевского метро. Также Шин отметил, что написание «Киев метро» на изображении является некорректным, ведь там сочетаются два существительных — «Киев» и «метро», хотя правильно было бы – «Киевское метро».
2. Фактчекер обратился к официальному туристическому путеводителю Киевской городской администрации и выяснил, что конфигурация линий метро там полностью отличается от схемы на распространяемом изображении. Кроме того, наклейка с лозунгом на изображении выглядит так, будто «плавает» над поверхностью чемодана. Если бы настоящую наклейку поместили на чемодан с рельефной поверхностью, она должна была бы повторять рельеф, проваливаться в желобки или образовывать морщинки. Наклейка выглядит как ровный лист, уложенный сверху, без ощущения объема — это типичный признак смонтированного изображения.
3. TFC применил бесплатные онлайн-инструменты для обнаружения ИИ-изображений, таких как Is it AI? и Hive Moderation. Результаты показали, что распространенное изображение с большой вероятностью является сгенерированным ИИ.

Эксперт по кибербезопасности: из-за стремительного развития технологий генеративного ИИ следует обращаться к обратному поиску и отслеживанию источников информации

Дай Юй-чэнь, исследователь Института исследований информационной безопасности, отметил, что, сталкиваясь с изображениями, сгенерированными ИИ и распространенными в соцсетях, пользователи прежде всего должны выработать привычку осуществлять обратный поиск этих изображений. Хотя отдельные ИИ-изображения все еще можно определить визуально, с усовершенствованием генеративных моделей распознавать их становится все труднее.

По словам Дай Юй-чэня, нынешнее развитие ИИ сопровождается проблемой, когда технологии обнаружения отстают от технологий генерации. Поскольку индустрия вкладывает значительные ресурсы в разработку и оптимизацию новых моделей, методы обнаружения таких моделей часто можно тренировать и настраивать только после появления большого массива соответствующих изображений. Это создает разрыв между появлением новой модели и достижением зрелости инструментов для обнаружения, из-за чего кажется, будто технологии обнаружения постоянно «догоняют» генеративные.

Исследователь также предостерегает, что не стоит чрезмерно полагаться на один-единственный «инструмент для выявления ИИ». В условиях, когда технологии непрерывно развиваются, а модели постоянно обновляются, одних только инструментов недостаточно для точного вывода; обращение к базовым принципам отслеживания происхождения информации и перекрестная проверка из разных источников являются самым надежным способом защиты в эпоху цифровизации.

Перепубликовано с вебсайта TFC в сотрудничестве со StopFake в рамках Ukraine – Taiwan Initiative for Election Information Resilience.