Фейки военного времени, сюрпризы от Tesla и Netflix и как обезопасить свои Google Docs

Тема выпуска — как соцсети превратились в информационное оружие

С началом войны между Израилем и ХАМАС соцсети снова превратились в театр военных действий и сервисы для распространения фейков. Их неконтролируемый поток приводит к реальным политическим последствиям, а инструментов реагирования у IT-компаний, как доказала прошедшая неделя, практически нет.

Что случилось

7 октября: на видео боевики ХАМАС на парашютах летят к земле. Спустя несколько минут они начнут расстреливать безоружную молодежь, приехавшую на музыкальный фестиваль на границе с сектором Газа. 8 октября: Газа в огне — на видео из окна одного из домов повсюду пожары, звучат выстрелы. В тот же день президент США Джо Байден подписывает указ о предоставлении Израилю военной помощи на $8 млрд. И все эти «новости» — фейки.

Видео с парашютистами — это ролик с египетскими десантниками, видео из Газы — отредактированный ролик с фейерверками из Алжира, снятый после победы местного футбольного клуба, а указ Байдена — отредактированный файл июльского указа о предоставлении помощи Украине на $400 млн.

После начала войны Израиля и ХАМАС СМИ и пользователи по всему миру каждый день находят и развенчивают десятки и сотни связанных с войной фейков. В их числе — ролики и сообщения, собирающие миллионные охваты. Вот лишь несколько примеров:

• Bloomberg писал о видео из Twitter, на котором якобы запечатлены палестинцы, убивающие еврейских поселенцев в собственных домах. Его распространил малайзийский стример Ян Майлз Чонг, лично общающийся с Илоном Маском. Прежде чем выяснилось, что на кадрах старая запись операции израильских правоохранителей, ролик на X посмотрели 12,7 млн раз. Сначала платформа его не удалила, а только пометила community note — сообщением о потенциально вводящих в заблуждение постах. Сейчас оригинальный ролик удален, но остались его перезалитые версии.
• Внушительные охваты получил и фейк о желании «Талибана» (признан в России террористической организацией) вступить в конфликт.
• Пост об оружии, якобы полученном ХАМАС из Украины, посмотрели 7 млн раз.
• Несколько миллионов просмотров собрал и ролик, на котором якобы запечатлено, как Израиль снимает фейки: подросток лежит в луже крови, вокруг люди в форме, похожей на израильскую, камеры и съемочная команда. Но на самом деле это кадры со съемки палестинского короткометражного фильма.
• Кроме того, сразу после жестокой атаки боевиков ХАМАС на Израиль в соцсетях стали распространяться ролики, демонстрирующие эвакуацию израильской армии и захват ее генералов.
• Некоторые фейки оказывались довольно нелепыми: например, видео о том, как боец ХАМАС сбивает израильский вертолет, на самом деле оказалось кадрами из игры Arma 3. Или фото Криштиану Роналду, размахивающего палестинским флагом, которое на самом деле оказалось скриншотом из записи ЧМ-2022 с марокканским футболистом Джавадом Эль-Ямиком.

Но настоящей кульминации война фейков достигла на этой неделе после взрыва в больнице Аль-Ахли в Газе (подробно о том, что о нем известно, мы писали здесь). За прошедшее время появилось много свидетельств того, что причиной взрыва стала ракета, запущенная с территории Газы. Но ХАМАС продолжает настаивать на том, что больницу атаковал Израиль. Соцсети с первых же минут наводнили фейки. Например, пользователь X, утверждающий, что он журналист «Аль-Джазиры» в секторе Газа, опубликовал сообщение о том, что у него есть видео попадания «ракеты ХАМАС в больницу», но затем телеканал предупредил пользователей в соцсетях, что этот аккаунт не имеет никакого отношения к службе новостей.

ХАМАС утверждала, что жертвами бомбардировки стали сотни человек. Проверенных данных по числу жертв также нет, но многочисленные видео с места событий спровоцировали массовые протесты в арабском мире. После этого глава Палестины Махмуд Аббас отказался от встречи с президентом Джо Байденом, а Иордания отменила запланированный на 18 октября четырехсторонний саммит по ситуации в секторе Газа.

Фейки во время войны — явление не новое. Но такого потока дезинформации и насильственного контента, как тот, что наводнил соцсети после 7 октября, эксперты еще не видели. При этом отличить фейки от достоверной информации стало почти невозможно. Размах дезинформации стал требовать непропорциональных усилий даже от специалистов по OSINT, писал Platformer.

X-Files

Больше всего за вал фейков достается одной конкретной соцсети. Речь, конечно, про X (бывший Twitter) Маска. Сразу после начала новой войны западные СМИ начали единодушно винить соцсеть в том, что она перестала быть ресурсом фактов и новостей, а стала сборищем мнений и фейков.

Фейков о войне Израиля с ХАМАС было много и на других платформах, но на X они перешли в новое качество, утверждает исследователь теорий заговоров Майк Ротшильд. «Отличить факты от слухов, троллинга или конспирологии стало почти невозможно, — говорит исследователь. — Внесенные Маском изменения сделали X в кризис не просто бесполезным, а намного хуже».

Главная проблема в том, что после покупки Маском Twitter сильно ослабил модерацию. Соцсеть сильно сократила штат и стала больше полагаться на автоматизацию и волонтеров. Это привело к тому, что в X стал в большом количестве появляться контент с хейтспичами и фейками. Недавно ЕС назвал бывший Twitter главным рассадником российской пропаганды (это особенно удивительно, если учитывать, что в России Twitter — соцсеть с аудиторией меньше 1 млн пользователей). Теперь, во время нового кризиса, X за собой такую репутацию только закрепил.

Значительная часть фейков продвигалась анонимными аккаунтами с синей галочкой. В «старом» Twitter этот знак служил ориентиром качества, в новом стал только признаком платной верификации аккаунта за $8 в месяц. Одновременно фактчекинг на платформе все больше отдается волонтерам через сервис Community Notes. Самих пользователей постить как можно чаще без достаточной проверки информации стимулирует программа шеринга рекламной прибыли, которую X в июле ввел для аккаунтзов с большим охватом.

«Дело в его [Маска] поведении на платформе — он считает, что конспирология — это нормально, и сам ее распространяет, — цитирует FT директора исследований в Media Matters Кайла Гогарти. — Это был первый большой тест для X в концепции Маска. И платформа его провалила».

Из-за фейков о войне Израиля с ХАМАС Евросоюз уже начал собственное расследование против соцсети по недавно принятому Digital Services Act. Если ЕС удастся доказать вину компании, то ей грозят штрафы до 5% суточного оборота за каждое нарушение. «Наша политика состоит в open source и прозрачности — что, как я знаю, поддерживает ЕС. Прошу Вас перечислить нарушения X, на которые Вы ссылаетесь, так, чтобы их могли видеть и пользователи. Merci beaucoup», — ответил Маск еврокомиссару Тьерри Бретону. Теперь компания всерьез рассматривает возможность ухода X из Европы.

А пока X все еще пытается как-то повлиять на ситуацию (а заодно — заработать). Последняя идея компании — бороться с ботами с помощью годовой подписки за символическую плату в $1. Новая модель подписки под названием «Не бот» (Not A Bot) уже заработала в тестовом режиме в Новой Зеландии и Филиппинах. Чтобы оплатить подписку, пользователям нужно будет указать свои данные, в том числе телефон и данные карты. Все это, по задумке Маска, должно осложнить создание ботов, потому что это станет дорого и неудобно. Проблема в том, что большое число ботов, прошедших платную верификацию за $8, вряд ли от этой новой подписки куда-то денутся.

Справедливости ради, надо отметить, что за распространение фейков и слабую модерацию контента о войне достается не только X. Главной платформой для общения и распространения информации для ХАМАС в этой войне называют Telegram. Если на других крупных платформах ХАМАС запрещен (и даже в Twitter), то в Telegram основной канал боевиков Gaza Now существует вполне легально и уже набрал 1,4 млн подписчиков.

Павлу Дурову даже пришлось объяснять, почему он не блокирует каналы, связанные с группировкой. По его словам, модераторы Telegram и ИИ-инструменты и так удаляют миллионы «явно вредных материалов». Но ХАМАС перед ракетными ударами «использует Telegram, чтобы предупреждать мирных жителей, что им нужно покинуть район». «Поможет ли закрытие этого канала спасти жизни людей или поставит их под угрозу?» — задавался вопросом Дуров.

Достается и другим: комиссар ЕС по вопросам внутреннего рынка ЕС Тьерри Бретон вместе с X обвинил и Meta, TikTok и YouTube в том, что никто из них не сделал достаточно для сдерживания потоков дезинформации после начала войны.

Кровавый SMM

Вместе с фейками соцсети заполонил кровавый и шокирующий контент. И, кажется, обе стороны конфликта довольно успешно используют алгоритмы соцсетей, чтобы с помощью демонстрации насилия и убийств формировать общественное мнение.

Неделю назад в аккаунте премьер-министра Израиля Биньямина Нетаньяху в X появились ужасные кадры младенцев, убитых и сожженных боевиками ХАМАС. Кадры опубликовал и МИД Израиля с подписью: «Это самое тяжелое из того, что мы когда-либо публиковали. Когда мы пишем это, нас трясет». С этой же цитатой фотографии быстро разошлись по соцсетям и медиа.

Израиль использовал фотографии для того, чтобы выиграть онлайн-войну против ХАМАС, пишет Politico. Распространение и платное продвижение шокирующего контента в соцсетях — часть его стратегии, утверждает издание. За эти дни Израиль запостил 30 рекламных постов. Причем таргетировалась эта реклама на очень конкретных пользователей — взрослых старше 25 лет в Брюсселе, Париже, Мюнхене и Гааге. В рекламе ХАМАС называется «порочной террористической группой», похожей на ИГ, и демонстрируются ужасающие снимки и ролики — в том числе видео с Шани Лук, полуобнаженной девушкой, лежавшей в увозившем ее пикапе боевиков.

Еще 75 рекламных роликов правительство Израиля опубликовало на YouTube. На одном из них на фоне радуги играет колыбельная, а по экрану летает единорог. А затем авторы ролика говорят: «Мы знаем, что ваш ребенок не сможет это прочитать», — и призывают родителей сочувствовать тем, чьи дети погибли во время нападения на Израиль. «Раньше мы бы никогда не публиковали такие материалы», — сказал собеседник Politico в миссии Израиля в ЕС. Но теперь «война идет не только на земле».

ХАМАС тоже развернул масштабную кампанию в соцсетях. С одной стороны, группировка пытается посеять страх, демонстрируя убийства и пытки. С другой — стремится убедить мир в том, что ее боевики — борцы за свободу. Например, в одном из видео, опубликованном в связанном с группировкой телеграм-канале, показано, как люди в камуфляже с автоматами толкают коляску с плачущим ребенком рядом с разграбленным израильским домом, пишет The Washington Post. Таким образом ХАМАС пытался продемонстрировать сострадание к детям, говорилось в сообщении.

Стиль продвижения контента ХАМАС после атаки на Израиль сильно изменился, говорят исследователи. Если раньше группировка публиковала в основном фото с запусками ракет и посты памяти погибшим боевикам, то теперь их соцсети превратились в круглосуточный поток видео, созданных в основном для запугивания и психологической войны.

ХАМАС использует возможности для продвижения, которые доступны ему в самых популярных глобальных соцсетях — например, все те же премиум-аккаунты в X, которые дают приоритеты в алгоритмическом ранжировании. С их помощью группировка распространяет пропаганду и создает собственные бот-фермы. В израильской компании по мониторингу ботов Cyabra насчитали 40 тысяч заранее подготовленных фейковых аккаунтов с поддерживающим ХАМАС контентом.

Что делать

Поток дезинформации и фейков, с которыми плохо справляются даже специалисты по работе с открытыми данными, — это большая проблема для любого пользователя соцсетей. Практически каждое сообщение, связанное с войной, может оказаться ложным. И на эту уловку попадаются не только обычные пользователи, но иногда и СМИ.

Что делать? Использовать OSINT-инструменты, о которых каждую неделю рассказывает спецкор The Bell Ирина Панкратова в рубрике «Онлайн-расследование». Например, здесь она объясняла, как можно проверить подлинность видео, тут — как проверять аудиофайлы, а вот здесь — как работать с метаданными. А еще очень полезно знать, как отличить сгенерированный нейросетью контент от настоящего. Ну и главное — не принимать на веру никакие шокирующие новости, даже если они очень четко укладываются в ваше представление о мире. Лучше дождаться или искать самим независимых подтверждений.

ИГРЫ

Путин поручил разместить серверы онлайн-игр в России

На ситуацию с интернет-играми, в том числе которые «пропагандируют антигосударственные ценности», обратил внимание глава исполнительного комитета Федерации бокса Умар Кремлев — человек, по итогам предыдущих актов госрегулирования уже получивший контроль над российским букмекерским рынком. Кремлев предложил изменить законодательство так, чтобы серверы и офисы игровых компаний, которые хотят работать в России, располагались на ее территории, а также регистрировали свои игры в домене ru. В противном случае их мог бы блокировать единый регулятор, который еще предстоит создать. Инициативу поддержал и призвал «сделать конкретные шаги» Владимир Путин.

Кремлев не впервые выступает автором реформы. Несколько лет назад он предложил кардинально изменить букмекерский рынок. «Обелить» его также планировалось с помощью единого регулятора. Реформа совпала с масштабной зачисткой российского рынка платежей в пользу нелегальных букмекеров и онлайн-казино. О том, как была устроена эта индустрия и кто такой Умар Кремлев, мы рассказывали здесь.

ОНЛАЙН-РАССЛЕДОВАНИЕ

Как обезопасить работу с Google Docs

В августе Google начал блокировать свои сервисы для попавших под санкции российских компаний, в том числе Google Docs — популярный инструмент для текстовых файлов, заменивший многим привычный Word. В этом выпуске рубрики «Онлайн-расследование» рассказываем, какие облачные хранилища можно использовать как альтернативу сервисам Google, если компания решит расширить ограничения, как повысить безопасность работы с Google Docs и как использовать искусственный интеллект в работе с сервисами Google.

БИГТЕХИ

Не все так однозначно? О чем говорят квартальные результаты Tesla и Netflix

На этой неделе стартовал сезон отчетности бигтехов, который открыли Tesla и Netflix — результат для них оказался противоположным. Котировки Netflix на следующий день после выхода отчета выросли на целых 16%, а акции Tesla, наоборот, рухнули на 9%. Так ли все хорошо у Netflix и плохо у Tesla на самом деле? Разбираемся вместе с аналитиком компании БКС и автором телеграм-канала «Знай свои инвестиции» Денисом Буйволовым.

READ LATER

• В Аргентине на этих выходных — судьбоносные выборы: за президентский пост там борется либертарианец Хавьер Милей, набравший большинство голосов на праймериз и объявивший войну политическому истеблишменту страны. Среди его сторонников — работники гиг-экономики: курьеры и водители агрегаторов такси, которые агитировали за кандидата прямо во время работы.
• История MIT Technology Review про то, что пока в США продолжается забастовка Гильдии актеров (в том числе против использования студиями ИИ), Meta и другие ИИ-компании нанимают оставшихся без работы исполнителей, чтобы обучать нейросети точнее понимать эмоции людей.
• К чему приведет новый виток обострения техновойны США с Китаем за чипы для ИИ — и при чем здесь закон Мура.