, 
В соцсетях стали востребованы правила III рейха
Термин “фейковые новости” стал эпитетом, которым Президент США Дональд Трамп наделяет любую неблагоприятную статью. Но это также аналитический термин, который описывает преднамеренную дезинформацию, представленную в виде обычного новостного репортажа.
Проблема не совсем нова. В 1925 году журнал Harper's Magazine опубликовал статью об опасностях “фейковых новостей”. Но сегодня две трети взрослых американцев получают часть своих новостей из социальных сетей, которые опираются на бизнес-модель, подверженную внешним манипуляциям и где алгоритмы могут легко обходить правила, чтобы либо получить прибыль, либо в пагубных целях.
Независимо от того, являются ли они любительскими, криминальными или правительственными, многие организации – как отечественные, так и зарубежные – преуспели в инженерном анализе того, как технические платформы анализируют информацию. Надо отдать должное России, ее правительство одним из первых поняло, как превратить социальные сети в оружие и использовать американские кампании против нее самой.
Перегруженным огромным количеством информации, доступной в сети, людям сложно понять, на чем сосредоточить свое внимание. Внимание, а не информация - это то малое, что надо заполучить. Большие данные и искусственный интеллект позволяют осуществлять микротаргетинг связи таким образом, чтобы информация, получаемая людьми, ограничивалась “фильтрующим пузырем” единомышленников.
“Бесплатные” услуги, предлагаемые социальными сетями, основаны на модели прибыли, в которой информация и внимание пользователей фактически являются продуктами, которые продаются рекламодателям. Алгоритмы разработаны для того, чтобы узнать, что удерживает пользователей вовлеченными, чтобы им можно было предложить больше рекламы и получать больше доходов.
Практика показывает, что эмоции, такие, как негодование, стимулируют вовлечение, а скандальные, но недостоверные новости привлекают больше зрителей, чем достоверная информация. Согласно данным одного исследования, у подобной лжи в Твиттере было на 70% больше шансов быть ретвитнутой, чем у точной информации. Аналогичным образом изучение демонстраций в Германии в начале этого года показало, что алгоритм YouTube систематически направлял пользователей к экстремистскому контенту, потому что именно там было наибольшее количество “кликов” и, соответственно, доходов. Проверка фактов со стороны обычных средств массовой информации зачастую не поспевает, а иногда даже может быть контрпродуктивной, привлекая больше внимания ко лжи.
По своей природе модель прибыли социальных медиа может стать оружием как государств, так и негосударственных субъектов. В последнее время Facebook подвергается серьезной критике за случай, связанный с бесцеремонным использованием частной информации своих пользователей. Генеральный директор Марк Цукерберг признал, что в 2016 году Facebook “не был готов к скоординированным информационным операциям, с которыми мы регулярно сталкиваемся”. Однако компания “многому научилась с тех пор и разработала сложные системы, объединяющие технологии и людей, чтобы препятствовать вмешательству выборов в наши услуги”.
Эти усилия включают автоматические программы по поиску и удалению фейковых учетных записей; выявление страниц Facebook, которые распространяют дезинформацию менее заметно, чем в прошлом; предоставление доклада в порядке транспарентности о количестве удаленных фальшивых учетных записей; проверку гражданства тех, кто размещает политическую рекламу; трудоустройство 10 000 дополнительных человек для работы в сфере безопасности; и улучшение координации с правоохранительными органами и другими компаниями для устранения подозрительной деятельности. Но проблема не решена.
Гонка вооружений будет продолжаться между компаниями социальных медиа и государственными и негосударственными субъектами, которые инвестируют в способы использования своих систем. Технологические решения, такие, как искусственный интеллект, не являются “серебряной пулей”. Поскольку зачастую они являются более сенсационными и возмутительными, фейковые новости распространяются все глубже и быстрее, чем настоящие новости. Ложную информацию в Twitter ретвитят гораздо больше людей и намного быстрее, чем достоверную информацию, а ее повторение, даже в контексте проверки фактов, может увеличить вероятность того, что человек примет ее как подлинную.
В ходе подготовки к президентским выборам в 2016 году в США, Агенство интернет-расследований из Санкт-Петербурга, Россия, потратило больше года на создание десятков аккаунтов в социальных сетях, замаскированных под местные американские новостные агенства. Иногда отчеты благоприятствовали кандидату, но зачастую они были созданы просто для того, чтобы создать впечатление о хаосе и отвращении к демократии, и подавить явку избирателей.
Когда в 1996 году Конгресс принял Закон о благопристойности коммуникаций, тогдашние социальные кампании в социальных сетях рассматривались как нейтральные поставщики телекоммуникационных услуг, которые позволяли клиентам взаимодействовать друг с другом. Но эта модель явно устарела. Под политическим давлением крупные компании начали более тщательно защищать свои сети и избавляться от очевидных фейков, включая распространяемые посредством ботнетов.
Но введение ограничений на свободу слова, защищаемую Первой поправкой к Конституции США, создает сложные практические проблемы. В то время как машины и неамериканские субъекты не имеют прав на Первую Поправку (и частные компании не подчиняются Первой поправке никоим образом), это не относится к чудовищным национальным группам и отдельным лицам, и они могут выступать в качестве посредников для внешнего влияния иностранных лиц.
В любом случае, ущерб, нанесенный внешними игроками, может быть меньше ущерба, который мы причиняем сами себе. Проблему фейковых новостей и внешнее искажение реальных источников новостей сложно решить, поскольку они предполагают компромиссы между нашими важными ценностями. Социальные медиа-компании, настороженно относящиеся к нападкам на цензуру, хотят избежать регулирования со стороны законодателей, которые критикуют их как за грехи деяния, так и недеяния.
Опыт европейских выборов предполагает, что журналистские расследования и предупреждение общественности заранее могут помочь привить избирателей против кампаний по дезинформации. Но битва с фейковыми новостями, скорее всего, останется игрой в кошки-мышки между своими поставщиками и компаниями, чьи платформы они используют. Это станет частью фонового шума выборов по всему миру. Постоянная бдительность станет ценой защиты наших демократий.
Джозеф С. Най, мл., профессор Гарварда и автор "Is the American Century Over?"
Copyright: Project Syndicate, 2018. www.project-syndicate.org
