В течение последних нескольких месяцев Тайваньский центр проверки фактов (TFC) разоблачил несколько созданных с помощью искусственного интеллекта видео, включая утверждения о том, что Тайвань выиграл чемпионат в «Олимпийском соревновании социального доверия и безопасности», что «датский принц и испанская принцесса, страдающие редкими заболеваниями, приехали на Тайвань и удивительном образом были вылечены» и что недавно, после тайваньских учений Hanguang, онлайн распространялись видео с утверждением, что «Южная Корея была ошеломлена тайваньскими учениями Hanguang и срочно отправила людей на Тайвань».
Среди них видео «Южная Корея была ошеломлена тайваньскими учениями Hanguang и срочно отправила людей на Тайвань» получило 400 000 просмотров и более 900 комментариев всего за 9 дней онлайн, а некоторые интернет-пользователи писали: «Я плакал, глядя на это; тайваньцы очень серьезные и очень сплоченные, что бы они ни делали». Очевидно, что большинство видевших это поверило, что показанное является правдой, поэтому сила его распространения и влияния не должна недооцениваться.
Дай Ю-чень, исследовательница Национального института кибербезопасности, проанализировала тенденцию производства в онлайн-медиа: использование технологии преобразования текста в звучащую речь (Text-To-Speech, TTS), соединенной с генеративными ИИ-изображениями или видео, где подмонтируются имеющиеся онлайн-визуальные материалы. Основная особенность этой модели производства состоит в том, что авторы не должны проводить интервью, профессиональную съемку или репортажи на месте; им нужно лишь собрать общедоступную информацию из интернета, и они могут быстро создать аудиовизуальный контент с помощью профессиональных инструментов ИИ.
Тайваньский центр проверки фактов (TFC) заметил, что эти сфабрикованные видео в большинстве своем обсуждают Тайвань с перспективы «иностранцев», с ИИ озвучкой, большим количеством синтетических изображений и некоторыми реальными, но не обязательно релевантными кадрами, создавая впечатление, что «страны всего мира хвалят Тайвань». После дальнейших исследований было обнаружено, что эти сфабрикованные истории, похоже, массово копируются и даже имеют «шаблоны».
Шаблонные слухи: История чуда «Королевская семья приезжает на Тайвань для лечения»
TFC провел онлайн-поиск, используя в качестве ключевых слов фразу «королевская семья приезжает на Тайвань для лечения», и нашел более 10 подобных видео:
| Дата загрузки | Аккаунт YouTube | Название видео |
| 22.02.2025 | Korean Girl TV | Парализованная арабская королевская особа становится свидетелем чуда на Тайване за 30 минут! «Я хочу пожертвовать 1 миллиард тайваньских долларов». |
| 23.02.2025 | Korean Student в Тайване TV | Изгнанная арабская принцесса с неизлечимой болезнью приехала на Тайвань, и чудо произошло всего за 1 час (видео начинается с отметки «адаптированная история») |
| 24.02.2025 | Time Explorer | Высокомерный принц смотрит свысока на Тайвань? Тайвань – это просто маленькое место; он изменил свое мнение за 30 минут! Оказалось: Тайвань спас ему жизнь! |
| 2025/3/5 | Korean в Тайвань | «Я люблю Тайвань, он спас мне жизнь!» Тайвань слишком велик! Принц ОАЭ поначалу презирал Тайвань! Но его спасли тайваньские врачи! Медицинская помощь на Тайване слишком сильна! Эмоционально объявил: «Я готов пожертвовать 1 миллиард. Тайвань заслуживает уважения!» |
| 20.2.2025 | Today Tomorrow | Смотришь свысока на Тайвань? 10-минутный опыт шокировал всех! Член семьи миллиардера приехал на Тайвань и откровенно сказал: «Мы должны были приехать сюда раньше! Это номер один в мире! Я хочу пожертвовать 6 миллиардов тайваньских долларов! |
| 2025/4/5 | Taiwan-Style Coffee | Назвав Тайвань «трущобами», член королевской семьи Дубая получил от тайваньцев оплеуху. Со слезами на глазах он признался: «Тайванцы спасли меня», и заявил, что хочет инвестировать сотни миллиардов. |
| 2025/4/9 | Observe Taiwan | Испанская принцесса страдала неизлечимой болезнью, через полчаса после приезда на Тайвань произошло чудо, она хочет пожертвовать миллиарды Тайваню и даже хочет выйти замуж на Тайване |
| 2025/4/13 | Time Explorer | Датская королевская особа полагала, что Тайвань — это просто отсталый маленький остров. Став свидетелем чуда через 10 минут после приезда на Тайвань, он сказал: Тайвань чувствуется больше, как дом, чем дворец |
| 19.04.2025 | Time Explorer | Испанская принцесса, страдающая неизлечимой болезнью, приехала на Тайвань для выздоровления, но через 30 минут полностью изменила свою жизнь: «Я хочу остаться жить на Тайване!» |
| 11.05.2025 | Time Explorer | Африканский принц внезапно серьезно заболел – его жизнь висит на волоске! Тайваньский врач-стажер решил это одним приемом, королевская семья была шокирована, и даже королева со слезами поблагодарила Тайвань! |
| 21.05.2025 | Formosa Little North | Африканский принц внезапно серьезно заболел – его жизнь висит на волоске! Тайваньский врач-стажер вылечил это с помощью одного приема — королевская семья была шокирована, и даже королева со слезами поблагодарила Тайвань! |
| 21.06.2025 | Little Flower Dating | Принц Дубая, страдающий неизлечимой болезнью, — известные врачи всего мира бессильны! Тайный чартерный рейс на Тайвань для «последней попытки», чудесным образом спасенный «уникальной технологией» в больнице Национального Тайваньского университета! |
| 27.07.2025 | Amy в Тайвань | Тайский королевский врач привез сложный медицинский случай на Тайвань в поисках помощи. Результат диагноза тайваньского врача китайской медицины заставил его решить стать учеником на месте. |
Уже прямо из названий видео можно заметить схожесть. Что касается содержания, большинство описывает принцев, принцесс или миллиардеров из определенной страны, страдающих серьезной болезнью, которые приезжают на Тайвань для медицинского лечения, чудесным образом излечиваются и влюбляются в Тайвань. Это выглядит как похвала качеству медицинской помощи Тайваня, но некоторые утверждения могут навредить его имиджу, например о том, что медики Тайваня оказывали специальное отдельное лечение королевским лицам и состоятельным людям.
Из списка видно, что конкретные аккаунты часто публикуют такие видео, например, Time Explorer публикует по меньшей мере 4 подобных материала; «Korean Girl tv» помимо публикации историй чудес, произошедших с королевскими особами, приезжающими на Тайвань для исцеления, также распространял видео «Южная Корея была ошеломлена тайваньскими учениями Hanguang и срочно отправила людей на Тайвань»; «Formosa Little North» и «Taiwan-Style Coffee» появились в отчете номер 3618.
Amy in Taiwan — это аккаунт, зарегистрированный на YouTube 25 июля 2025 года, и по состоянию на 28 июля уже опубликовавший 7 видео, включая истории о марокканских принцах, сыне индийского технологического миллиардера, приезжающих на Тайвань учиться, чилийского магната горной промышленности, который берет такси на Тайване и увлекается страной.
Предупреждение экспертов
Мотивы и предпочтения по фальшивым историям
Относительно намерений этих аккаунтов в социальных сетях, публикующих искусственно созданные видео, Ли Ичжи, доцент кафедры журналистики Национального университета Ченгчи, считает, что это, скорее всего, коммерческое намерение. Из-за специфики алгоритма люди, которые любят смотреть такой тип контента, будут продолжать видеть подобный контент, плюс затраты на создание ИИ низкие, и с точки зрения трафикового бизнеса это неплохо; что касается других мотивов, их трудно угадать, но, судя по тому, что некоторые каналы также работают со взрослым контентом, трафик является основной целью.
Международные исследования обнаружили, что аккаунты социальных сетей, распространяющие фальшивые истории исцеления, иногда делают это для продажи конкретных продуктов с целью экономической выгоды, тогда как некоторые пользователи используют эти видео с фальшивыми историями как «входную точку», чтобы стимулировать людей нажимать на другой, более экстремальный, более конспирологический контент.
Британская газета Daily Telegraph сообщила, что онкологические больные умерли от приема поддельных лекарств, продававшихся онлайн, а другие пациенты отказались от методов лечения врачей, потому что верили в диетические терапии, которые распространялись онлайн. Стивен Повис, национальный медицинский директор NHS, заявил, что «чудодейственное лекарство» и «сказки» в интернете ставят жизнь людей под угрозу. Он сказал, что социальные сети могут предоставить поддерживающее сообщество онкологическим больным, но также распространяют шокирующую дезинформацию. Он призвал людей относиться скептически к любому «чудодейственному лекарству» в социальных сетях и использовать только источники, заслуживающие доверия и являющиеся надежными.
Влияние на информационную среду Тайваня может усилить поляризацию
Большое количество искусственно созданных ИИ-видео появляется на YouTube, Facebook, LINE и других платформах и обычно очень быстро распространяется тайванцами. Исследовательница Национального института кибербезопасности Дай Ю-чень анализирует, что этот тип искусственно созданных ИИ-видео может оказать три основных вида влияния на информационную среду Тайваня:
1. Реконструкция медиаэкологии: роль гейткипера в традиционных медиа ослабляется. Механизм выбора информации, ранее контролируемый профессиональными журналистами и редакторами, теперь заменяется алгоритмическими рекомендациями и личным выбором.
2. Увеличенная когнитивная нагрузка: аудитория испытывает значительное увеличение когнитивной нагрузки при оценке подлинности информации. Каждый фрагмент информации требует от отдельных лиц проведения предварительных оценок подлинности, что является значительным вызовом для широкой общественности, особенно для групп с более низкой цифровой грамотностью.
3. Усиленная поляризация: контент, созданный ИИ, может легко соответствовать конкретным позициям или предубеждениям. Эффект эхо-камеры алгоритмов может усилить социальную оппозицию, создавая дополнительные вызовы для и без того сложной политической и социальной дискуссионной среды Тайваня.
Ли И-чжи заявил, что большое количество сфабрикованного контента может привести к тому, что у аудитории создастся несуществующий идеальный образ Тайваня. Как только они сталкиваются с другим контентом, описывающим Тайвань менее положительно, они могут почувствовать когнитивный диссонанс и разочарование. Некоторые люди выберут верить в образ, который они построили на основе фальшивой информации, отступая в более плотный фильтр-пузырь, что затрудняет общение с реальностью. Но некоторые люди станут более разочарованными реальностью и разовьют большее чувство лишения, что приведет к апатии относительно общественных дел.
Ли И-чжи отметил, что все эти видео массово созданы ИИ с низкокачественной озвучкой, но аудитория все еще смотрит и верит, что этот контент является правдой; пока существует эта аудитория с более низкими требованиями к качеству информации, будут и те, кто воспользуется этим, чтобы зарабатывать на трафике. Он предлагает, чтобы те, кто понимает, что этот контент — фейковый, сгенерированный ИИ, сообщали об этом платформам, оставляли жалобы и тем самым помогали уменьшить распространение такого контента.
Дай Ю-чень предлагает, чтобы в таких видео аудитория обращала внимание на то, не выглядят ли глаза, зубы и детали рук людей аномально, имеются ли ошибки в тексте, искажения шрифта или нераспознанные символы. На изображениях, созданных ИИ, часто появляются ошибки в логотипах брендов и нелогические структуры предметов, такие как деформированная и скрученная сетчатая часть микрофона, кнопки в неправильных позициях и т.д. Кроме того, можно наблюдать за звуковыми характеристиками видео, например, есть ли звуки вдоха-выдоха и другие естественнее признаки подлинной человеческой речи.
Чжан Цзя, Чэнь Вэй-тин
Перепубликация с вебсайта TFC в сотрудничестве со StopFake в рамках Ukraine–Taiwan Initiative for Election Information Resilience.
