Как спасти правду: экономике цифровых медиа объявляют войну


Offtop | 01 Марта 2018

Как спасти правду: экономике цифровых медиа объявляют войну
Существующая система онлайн-медиа глубоко порочна — к этому выводу приходят все больше экспертов. В рубрике «Смыслы» пытаемся понять, почему так происходит, и есть ли выход

Фейковые новости, комментарии и публикации от поддельных аккаунтов в соцсетях и изменяющие реальность приложения заставляют нас жить в недостоверной информационной среде. Мы все меньше понимаем, чему стоит верить, и это постепенно меняет само наше отношение к действительности. И, возможно, скоро эти перемены станут критичными.

Нас ждет инфокалипсис?

Авив Овадья, главный технолог Центра социальной ответственности социальных медиа Университета Мичигана и исследователь Knight News в Центре компьютерной журналистики в Колумбии, предупреждал об опасности бесконтрольного развития технологий еще в 2016 году. Позднее результаты президентских выборов в США подтвердили его опасения. Недавно в интервью Buzzfeed он опять произнес пугающее слово «инфокалипсис» (информационный апокалипсис) и предрек, что наступить он может очень скоро.

Как он уверен, интернет и сложившаяся вокруг него информационная экосистема сейчас больны. Настройки Facebook, Twitter и Google сосредоточены на кликах, акциях, рекламе и деньгах и допускают приоритет публикаций на основе непроверенных фактов или представляющих только одну точку зрения. Кроме того, благодаря системе перепостов эти платформы ускоряют распространение таких публикаций. Люди привыкают к обилию ложных сообщений, и это начинает считаться нормой.

Постоянно появляются новые технологии, с успехом размывающие грань между реальностью и вымыслом. Скорость возникновения новых решений намного выше, чем способность общества осознать их влияние и их регулировать. Изменения уже стали бесконтрольными — например, в сети распространяется приложение, позволяющее создавать порновидео, подставляя лицо любого человека.

Группы специалистов Стэндфордского и Вашингтонского университетов разработали программы, позволяющие монтировать видео так, что зритель уверен, что человек в кадре произносит какие-то слова, хотя он этого не делал. В доказательство своих достижений обе команды демонстрировали ролики, где мировые лидеры говорили то, чего они никогда не говорили.

Еще недавно фото, видео и аудио считались одними из документальных подтверждений какого-либо события. Теперь это в прошлом — Nvidia разработала программу, способную генерировать правдоподобные фото на основе разрозненных данных многочисленных фотобанков. Adobe создала инструменты Voco и Cloak — первый позволяет редактировать аудио, второй — удалять объекты и людей из видео.

Овадья предостерегает, что однажды может появиться видео, где глава одной из стран сообщит об объявлении войны или о ядерном ударе, и уже не важно, что это сообщение будет ложным — мировая реакция будет мгновенной и может оказаться необратимой. Управляемые искусственным интеллектом боты смогут создавать нужную атмосферу в соцсетях, манипулировать общественным мнением, инициировать ложные обращения в правительства. Фишинговые атаки перейдут от массовых к точечным воздействиям, с помощью ИИ можно будет имитировать голос друга в телефоне, встроить вредоносный код в письмо от близкого человека. Для снижения доверия к информации не обязательно массовое распространение злоупотреблений — достаточно того, что все будут знать, что такое возможно. Все это приведет к «информационной апатии» — люди перестанут обращать внимание на любую информацию, реакция их станет вялой, и ими будет легко манипулировать. Наступит инфокалипсис.

Есть ли выход?

В публикации на сайте проекта MisinfoCon по борьбе с ложной информацией Овадья приводит описание существующей онлайн-экосистемы, объясняя, что фейки питаются сочетанием способа распространения и способа монетизации публикаций. И принципы, на которых построен весь сегодняшний интернет-бизнес, потворствуют массовому появлению дезинформации.

Но Овадья надеется, что ужасного сценария удастся избежать. Вот какие действия он предлагает:

1. Мониторинг информационной экосистемы. Постоянный контроль поможет выявить слабые места и исправить нарушения, исключив распространение недостоверной информации.

2. Ответственность при исследованиях и разработках. Каждый исследователь или разработчик должен представлять себе, к чему может привести его изобретение. Для этого необходимо создание экспертного совета, которого пока не существует.

3. Внедрение инфраструктуры аутентификации для подтверждения реальности видео и других материалов. Платформы должны будут встраивать эту систему для проверки всех публикаций.

4. Изменение принципов монетизации контента — вознаграждаться будут не вирусные публикации, а наиболее достоверные.

Собственно, Овадья предлагает кардинально поменять сами основы бизнеса онлайн-платформ, справедливо отмечая, что, пока важными считаются клики, перепосты и реакции, благоприятный режим для фейковых новостей будет продолжаться.

Параллельно с Овадьей тревогу бьют отдельные исследователи и целые коллективы. Так, независимый эксперт-технолог Рене Диреста и ее сподвижник Джонатан Олбрайт уже несколько лет собирают данные о фейковых новостях в социальных сетях и публикуют результаты своих исследований.

Атака на соцсети началась и с другой стороны — бывшие ведущие сотрудники Facebook и Google решили объединиться, чтобы уменьшить вред от тех компаний, где они раньше работали. Создано объединение экспертов «Центр гуманных технологий» (Center for Humane Technology, CHT). Наряду с группой некоммерческих средств массовой информации Common Sense Media они планируют лоббировать законопроекты против ряда технологий и организовать рекламную кампанию в 55 000 школ США.

Недавно опубликован 100-страничный отчет, над которым работали 26 исследователей из 14 организаций в течение года. Ученые собрали и описали все риски, связанные с бесконтрольным развитием искусственного интеллекта.

Насколько все предлагаемые меры смогут остановить наступление инфокалипсиса или хотя бы минимизировать его вред, пока неизвестно. Новые программы и технологии возникают и распространяются мгновенно, общественно-этические и юридические институты реагировать не успевают. Удастся ли изменить сам принцип монетизации онлайн-медиа, тоже пока неясно: слишком серьезной должна стать перестройка всей системы.

А пока противников существующей модели становится все больше — так, уже глава CNN Джефф Цукер призвал власти регулировать деятельность Facebook и Google и начать искать новые способы монетизации цифрового контента, чтобы не исчезла качественная журналистика.



 

 


 

Подписывайтесь на канал «AdIndex» в Telegram, чтобы первыми узнавать о главных новостях в рекламе и маркетинге.

последние публикации

Комментарии


Возможность комментирования статьи доступна только в первую неделю после публикации.

doc id = 8945

Каталог рекламных компаний России

Talant Base. Поиск по всем специалистам, работавшим над рекламными кампаниями с 2009-2015г


Adindex Print Edition - справочный журнал, посвященный рекламе и маркетинговому продвижению.
В издании систематизированы информационные, аналитические и статистические данные по ряду важнейших направлений отрасли.
Периодичность: ежеквартально.
При поддержке Agency Assessments International.
Цель проекта — создать новый инструмент на рынке коммуникационных услуг, презентующий объективную информацию о структуре рекламной индустрии и ее основных игроках.

Новости партнеров

Кейсы

AdIndex Market

все разделы

Нестандартная Реклама