TikTok продвигает старые и ложные новости как «срочные» оповещения

По данным Financial Times, популярная социальная медиа-платформа TikTok, как сообщается, предоставляет своим пользователям устаревший и фактически неточный контент в виде новостных оповещений.

Оповещения включали предупреждение с надписью «СРОЧНО» о недельном цунами в Японии, опубликованное почти через месяц после того, как произошло фактическое цунами. Другие оповещения содержали неточности, например, звезда LA Dodger Сёхей Отани была отстранена от MLB на пять лет за азартные игры или Тейлор Свифт отменила свой тур в «Расистской Флориде». В случае с оповещением Отани платформа, по-видимому, изъяла контент из первоапрельской шутки, а затем снова опубликовала его позже в том же месяце, сбивая зрителей с толку. Аналогичным образом оповещение Тейлор Свифт почти идентично сатирическому посту, опубликованному The Dunning-Kruger Times в мае. Она играет в Майами в октябре.

Оповещения будут всплывать на экране и представлять персонализированную видеорекомендацию, формат, который, как было показано, повышает вовлеченность пользователей, но который, как предупреждают некоторые исследователи, может сделать зрителей более восприимчивыми к кампаниям по дезинформации. Оповещения, по-видимому, чаще всего исходят из постов, которые, по расчетам алгоритма, получат высокий уровень вовлеченности.

«Уведомления имеют дополнительный штамп авторитетности», — сказала Лора Эдельсон, исследователь из Северо-Восточного университета в Бостоне. Ars Technica. «Когда вы получаете уведомление о чем-то, часто предполагается, что это что-то, что было отобрано платформой, а не просто случайная вещь из вашей ленты». TikTok удалил конкретные оповещения, обнаруженные Financial Times, но отказался рассказать, как на самом деле работает его система оповещений на основе уведомлений.

Это открытие произошло на фоне спорного года выборов в США, в течение которого наблюдалось безудержное использование дезинформации, созданной ИИ, и усиленный контроль за платформами социальных сетей, которые используются для ее распространения. Более 50 стран по всему миру, по сути, проведут собственные выборы, включая Индию, Мексику и Южную Африку. Но хотя в последние годы усилия по распространению дезинформации с использованием ИИ в социальных сетях резко возросли, эти платформы неоднократно подрывали, если не полностью устраняли, усилия по ее сдерживанию. Например, в сентябре прошлого года генеральный директор Twitter/X Илон Маск уничтожил команду компании по дезинформации и честности выборов. В феврале этого года Meta прекратила финансирование усилий по проверке фактов в WhatsApp.

Со своей стороны, TikTok неоднократно заверял правительства, включая США и ЕС, что он работает над противодействием кампаниям по дезинформации на своей платформе с миллиардом пользователей по всему миру. В мае TikTok стал первой социальной сетью, которая автоматически маркировала изображения, созданные с помощью ИИ, хотя и только некоторые из них.

Источник: Financial Times через Ars Technica