Если бы это еще не было очевидно, когда толпа обрушилась на Капитолий США 6 января — их гнев разгорелся Широко распространенная, вооруженная дезинформация – недавние разоблачения Фрэнсис Хауген, которыми поделились с новостными организациями и законодателями в США и Европе, сделали почти невозможным отрицание: основные платформы социальных сетей, в том числе Facebook, приводят к все более опасным и непредсказуемым социальным последствиям.

Более того, теперь совершенно очевидно, что ответственные компании не могут — или, в некоторых случаях, не хотят — решать социальные, политические и этические проблемы, которые порождают их платформы. Как выразилась сама Хауген: «У меня было такое глубокое расстройство, потому что я видела эти вещи внутри Facebook, и я была уверена, что это не будет исправлено внутри Facebook».

Конечно, Facebook хотел бы, чтобы мы думали иначе. Facebook, Twitter и другие потратили большую часть десятилетия, настаивая на том, что они вполне способны регулировать себя — решать проблемы, которые они создали, загонять джинна обратно в бутылку. Тем не менее, их действия мало что дают для поощрения доверия, и законодатели все больше не желают принимать их заверения. Предложения по значительному, далеко идущему законодательству для ограничения охвата и влияния гигантов социальных сетей дорабатываются и обсуждаются рядом правительств, включая Конгресс США и Европейский парламент. Однако форма, которую примет такое законодательство, и то влияние, которое оно может оказать, остается предметом интенсивных дебатов.

Тем не менее, то, что может быть легко потеряно из поля зрения среди вездесущих новостей и мыслей о том, как лучше всего обуздать Facebook, — это вопрос о том, является ли выбор между двумя различными формами регулирования тем, который мы должны быть вынуждены сделать. То есть, вместо того, чтобы спрашивать, лучше ли государственное регулирование, чем саморегулирование, мы должны спросить, является ли наш единственный вариант контроля или смягчения власти небольшого числа чрезвычайно влиятельных, высоко централизованных организаций — это надеяться, что мы можем доверять другому набору мощных, централизованных организаций, которые сделают работу за нас.

Последний вопрос указывает нам на другой выход из этого тупика. Видение децентрализованного, открытого будущего для Интернета — сети, которая не будет включать в себя ни доверия, ни получения разрешения от какого-либо централизованного органа — становится все более заметным, поскольку платформы, которые позволят ей появиться и утвердиться. Если мы сможем сделать это воображаемое будущее реальностью, то вопрос о том, как мы обуздаем катастрофические социальные последствия централизованных, монополистических платформ социальных сетей, станет спорным.

В этом посте мы обсудим, как недавние откровения Фрэнсис Хауген прозвучали смертельным звоном для попыток больших технологий к саморегулированию и как очевидной альтернативой большего вмешательства правительства может быть случай «из сковороды, в огонь». Наконец, мы рассмотрим, как Cudos зарекомендовал себя как основа формирующейся децентрализованной альтернативы, которую все чаще называют Web3.

«Файлы Facebook» и конец прозрачности

13 сентября Wall Street Journal опубликовал первую из серии статей под названием «Файлы Facebook». Материалы были основаны на кэше из более чем 10 000 внутренних документов, которыми поделилась бывшая сотрудница Facebook Фрэнсис Хауген — документы, которые показывают, сколько Facebook знает о вреде, который наносит его платформа, и как мало компания хочет или может сделать с этим.

Неудивительно, что заголовки были в лучшем случае глубоко тревожными, в худшем — откровенно убийственными. Facebook, как сообщает WSJ, тайно освободил VIP-пользователей от своих правил, позволив им безнаказанно размещать потенциально опасный контент. Собственное исследование Facebook показало, что Instagram является токсичной средой для девочек-подростков, связанной с повышенными проблемами образа тела и расстройствами пищевого поведения. Изменения в алгоритме ранжирования Facebook, предназначенном для повышения вовлеченности пользователей, привели к усилению разделяющего и вредного контента. И, наконец, Facebook используется для содействия торговле людьми и подстрекательству к этническому насилию во всем развивающемся мире.

Конечно, в некоторых отношениях в этих откровениях нет ничего нового. В последние годы публичный имидж Facebook был запятнан целым рядом тревожных разоблачений — скандал с Cambridge Analytica был только самым заметным — и другие технологические гиганты не были застрахованы от подобных проблем. К 2018 году ощущение того, что большие технологии свирепствуют, было настолько широко распространено, что OED включил «techlash» в свой шорт-лист для слова года. Термин определяется как «сильная и широко распространенная негативная реакция на растущую власть и влияние крупных технологических компаний, особенно тех, которые базируются в Силиконовой долине». В том же году генеральный директор Facebook Марк Цукерберг и генеральный директор Twitter Джек Дорси предстали перед Сенатом США, чтобы ответить на вопросы о своих платформах. В то же время Google был пустым председателем после того, как они не смогли отправить представителя , но в конечном итоге мало что изменилось.

Тем не менее, есть существенная разница с откровениями Хаугена. В то время как общественное мнение постепенно поворачивается против Facebook в течение последних нескольких лет, Facebook надежно защищает себя. Он использовал множество публичных заявлений, направленных на преуменьшение или рассеивание растущего ощущения, что его платформы оказывают разрушительное воздействие на пользователей и общество в целом. Ключом к важности документов, разоблаченных Хаугеном, является то, что они ясно дают понять, что собственные внутренние выводы Facebook прямо противоречат этим заявлениям.

Например, в марте 2021 года Цукерберг, Дорси и ныне сотрудничающий генеральный директор Google Сундар Пичаи дали показания перед слушаниями в Конгрессе США об их усилиях по борьбе с дезинформацией на платформах, которые они используют. Во время слушания Цукерберга спросили о потенциально разрушительном воздействии социальных сетей на психическое здоровье детей. Цукерберг ответил: «Я не думаю, что исследование является окончательным в этом отношении». Далее он подчеркнул положительные преимущества для психического здоровья от использования социальных сетей для общения с другими.

Тем не менее, документы, опубликованные Хаугеном, указывают на то, что в то время собственное внутреннее исследование Facebook рисовало совсем другую картину. Слайд из презентации 2019 года исследователей Facebook изложил свои выводы в резких выражениях: «Мы ухудшаем проблемы с изображением тела для каждой третьей девочки-подростка». Другой слайд гласил: «Подростки обвиняют Instagram в увеличении уровня тревоги и депрессии […] Эта реакция была непроизвоцированной и последовательной во всех группах». В еще более экстремальных случаях исследователи Facebook обнаружили, что 6% подростков США, которые сообщили о борьбе с суицидальными мыслями, напрямую приписывают это Instagram. Среди британских подростков этот показатель составил 13%.

После откровений Хаугена мы можем видеть, насколько неизменно непримиримым был Facebook в отношении своих собственных внутренних исследований — даже когда их специально просили поделиться ими. В августе этого года сенаторы США попросили Facebook прислать свои внутренние выводы о влиянии Instagram на психическое здоровье детей. Компания отправила шестистраничное письмо, но не включила в него никаких собственных исследований по этой теме.

Это поднимает фундаментальный вопрос: если Facebook не желает быть прозрачным в отношении эффектов своей платформы, как мы можем ожидать, что он предпримет шаги по их ограничению или смягчению? И если он утверждает, что предпринимает такие шаги, как мы можем верить, что они адекватно реализуются, если вообще реализуются?

Но это не просто вопрос скрытного характера практики Facebook и нежелания принимать внешний надзор — это также поднимает вопрос о том, как их бизнес-модель дестимулирует именно те изменения, которые могут принести пользу пользователям и устранить вред, который наносит платформа.

Внимание, алгоритмы и препятствия для изменений

После первоначальных разоблачений, опубликованных Wall Street Journal, Хауген начал все еще продолжающийся тур по крупным законодательным органам, которые в настоящее время рассматривают новые правила для больших технологий. Примечательно, что большая часть последующих показаний Хаугена перед политиками в США и Европе подчеркивала, что, если публичные опровержения Facebook сочетались с личным нежеланием меняться, это было не просто из-за возражения против внешнего контроля, хотя это, несомненно, было частью этого. Это также связано с тем, что это подорвет его бизнес-модель с потенциально фатальными последствиями.

Иными словами, дело не в том, что Facebook просто не хотел помогать своим пользователям в безопасности, а в том, что это поставит под сомнение то, как он генерирует доход.

Основой проблем, которые Хауген определил в Facebook, была его зависимость от алгоритмов, повышающих вовлеченность, которые отдают приоритет обслуживанию контента пользователей, который заставляет их прокручивать, комментировать, лайкать и делиться. Как все чаще подчеркивается в последние годы, пространство социальных сетей по своей сути является экономикой внимания. То есть он работает, захватывая внимание своих пользователей и продавая это внимание рекламодателям. Таким образом, максимизация времени, которое пользователи проводят на платформе, имеет жизненно важное значение. Чем больше времени пользователи тратят на прокрутку, прокрутку и вовлечение, тем больше рекламы они увидят, и тем больше доход Facebook.

В этом смысле социальные сети мало чем отличаются от коммерческого телевидения, которое также зависит от привлечения внимания зрителей к рекламодателям во время перерывов в программах и между ними. Тем не менее, что совершенно новым, так это спектр сложных — и часто непостижимых — инструментов, которые платформы социальных сетей имеют в своем распоряжении, чтобы привлечь внимание и предоставить точную правильную рекламу в идеальный момент. Алгоритмы ранжирования на основе взаимодействия, часто критикуемые Хаугеном, являются одним из самых ценных таких инструментов. Но как они работают на практике?

Конечно, Facebook очень скрытен в отношении точной природы алгоритмов, которые он использует, что делает надзор еще более трудным, а понимание неуловимым. Но, проще говоря, мы знаем, что Facebook использует набор алгоритмов для заполнения каналов пользователей контентом, который, как было установлено, имеет наибольшую вероятность их привлечения и побуждения их к взаимодействию с ним в свою очередь. Это определение основано на обширных массивах данных, накопленных как из предыдущего поведения пользователя на платформе, так и из различных аспектов самого контента, включая более ранние действия пользователя, который его разместил, а также реакции и комментарии, которые он уже накопил.

Примечательно, что такие алгоритмы не зависят от характера контента, который они оценивают — они не могут различать безобидные посты о здоровых рецептах и планах питания, с одной стороны, и активно вредные посты, пропагандирующие расстройства пищевого поведения, с другой. Они просто оценят, насколько эффективен контент для поддержания взаимодействия пользователей с платформой. Согласно этому элементарному критерию, если определенный вид контента «работает», алгоритм постарается обслуживать его больше. Как отмечает бывший сотрудник Google и технический активист Тристан Харрис, алгоритм не знает, что означает «анорексия». Он просто знает, что в конкретных случаях контент, использующий этот термин, способствует вовлечению со стороны данного пользователя — и поэтому он предлагает им больше.

Точно так же, как эти алгоритмы не знают о природе контента, который они ранжируют, они также безразличны к типу реакции, которую он генерирует — взаимодействия интерпретируются как положительные, независимо от их природы или источника, потому что они коррелируют со временем, проведенным на платформе, и вероятностью взаимодействия с рекламой. Таким образом, взаимодействие, спровоцированное тревогой, гневом или отчаянием, так же актуально и ценно, как и взаимодействие, спровоцированное счастьем или благодарностью. На самом деле, поскольку более сильные и интенсивные реакции могут привести к более высокой вовлеченности, существует тенденция отдавать приоритет первому над вторым.

Результатом этой ситуации является чрезвычайно мощный сдерживающий фактор для Facebook для внесения существенных изменений в свою платформу, даже если текущая ситуация приводит к вреду для пользователей. Хауген отметила в своих показаниях перед депутатами в Великобритании , что такие предложения, как «замедление» платформы и добавление «селективного трения» для ограничения распространения вредных материалов, не приемлемы, потому что они приведут к потере дохода. Как говорит Хауген: «Они не хотят терять этот рост. Они не хотят на 1% короче сессий, потому что это на 1% меньше дохода. Они не готовы жертвовать маленькими кусочками прибыли».

Результатом, в резких выражениях, является платформа, которая «усиливает поляризационный контент», потому что «гнев и ненависть — это самый простой способ роста». Учитывая, что эта же платформа может похвастаться почти 2 миллиардами активных ежедневных пользователей, последствия глубоко тревожны.

Смертельный звон для саморегуляции

Если становится трудно отрицать, что такие платформы, как Facebook, оказывают все более вредное социальное воздействие — хотя Марк Цукерберг, конечно, продолжает делать все возможное в этом отношении — решение, возможно, менее ясно, чем когда-либо.

За последние несколько лет технологические гиганты, в первую очередь Facebook, стремились предотвратить растущие призывы к усилению регулирования и надзора, продвигая идею о том, что они хотят и могут регулировать себя. Совсем недавно, в прошлом году, Facebook запустил свой полунезависимый Наблюдательный совет. Цукерберг описал его как своего рода «верховный суд» для Facebook, оценивающий и отменяющий решения о модерации контента и влияющий на будущие изменения в политике.

Тем не менее, такая практика саморегулирования только подчеркнула отсутствие прозрачности, которую так ясно выявили откровения Хаугена. Действительно, в своем первом отчете о прозрачности, опубликованном в прошлом месяце, Наблюдательный совет Facebook раскритиковал компанию за то, что она не «полностью открыта» в отношении одной из своих ключевых программ. Хауген, со своей стороны, была еще более убийственной: она утверждает, что Facebook неоднократно лгал Наблюдательному совету и стремился «активно ввести их в заблуждение».

Facebook не одинок в этом сочетании сильных общественных обязательств и частного нежелания в отношении саморегулирования. Генеральный директор Twitter Джек Дорси публично признал в 2018 году , что у платформы есть проблема с «токсичным» контентом, и обязался быть более «прозрачным» в отношении решений, которые она принимала о том, как работает платформа. Его замечания были удивительно открытыми и прямыми, но последствия были не такими далеко идущими, как можно было бы предположить из его слов. В то время как Twitter внес некоторые коррективы в свою платформу в последующие годы — Например, позволяя пользователям ограничивать тех, кто может отвечать на их твиты — прогресс был медленным. Внешний исследователь, привлеченный, чтобы помочь усилиям Twitter, отметил , что «впечатление, которое я оставил от этого опыта, заключается в том, что [Twitter was] более чувствителен к отражению критики, чем к решению проблемы домогательств».

По мере того, как проблемы, порождаемые Facebook и Twitter, растут в масштабах, постоянно откладываемое обещание значимых изменений изнутри становится менее убедительным — и законодатели готовятся вмешаться. Но действительно ли это изменение, на которое мы надеялись?

Централизованные решения централизованных проблем

Как мы видели, контраст между публичными заявлениями Facebook и частной практикой — и вспомним, что Цукерберг смело подтвердил приверженность компании «предоставлению [oversight] совету директоров информации и ресурсов, необходимых для принятия обоснованных решений» — лежит в основе откровений Хаугена. Это общее ощущение того, что Facebook просто нельзя доверять, чтобы быть открытым и прозрачным в отношении своей деятельности, ускорило планы во многих странах, особенно в США, Великобритании и ЕС, наложить гораздо более строгие внешние правила на Facebook.

В настоящее время, по словам The Guardian, в Конгрессе США обсуждается «множество законопроектов», каждый из которых использует свой подход к обузданию власти Facebook, и нет единого мнения о том, насколько эффективным будет любой из законопроектов. Например, комментируя поддержанный демократами законопроект, который возложит на компании ответственность за усиление вредного контента, активист за цифровые права Эван Грир описал законопроект как «благонамеренный, но […] полный беспорядок», утверждая, что это «играет на руку Facebook».

Часть проблемы в разработке законопроекта по обузданию Facebook и других технологических гигантов связана с той самой проблемой, которая вызвала нынешнее чувство готовности: их полная неспособность быть открытыми и прозрачными в отношении того, как они работают. Как говорится в недавней статье в The Atlantic, Facebook — это «черный ящик», то есть сущность, «чья внутренняя работа практически непознаваема для людей снаружи». Хотя это по-прежнему имеет место, внешние органы, пытающиеся разработать работоспособные правила, окажутся в явно выраженном и, возможно, непреодолимом невыгодном положении. В конечном счете, они будут пытаться решить проблему, масштабы и параметры которой они не могут полностью увидеть.

И это, конечно, предполагает, что законодательство может быть успешно принято во все более поляризованной политической среде — поляризации, которая, как показывают исследования, была вызвана самими социальными сетями. В то время как некоторые законопроекты, находящиеся на рассмотрении Конгресса США, имеют двухпартийную поддержку, перевести это в работоспособное большинство, достаточное для их принятия, легче сказать, чем сделать.

Между тем, ЕС и Великобритания работают над амбициозными, радикальными новыми законодательными актами для контроля онлайн-контента. Тем не менее, существует мало консенсуса относительно того, насколько эффективными они будут, а также серьезные опасения по поводу непреднамеренных последствий. Организация по свободе слова Article 19, например, резко раскритиковала предложенный законопроект Великобритании, назвав его «глубоко тревожным […] попытка регулировать совокупность человеческих коммуникаций и взаимодействий в Интернете».

Этот последний пункт раскрывает одну из фундаментальных проблем, связанных с ожиданием того, что правительства решат большие технологические проблемы, заставляя нас выбирать между двумя типами регулирования. В конечном счете, мы ищем централизованные решения проблем, фундаментально вызванных централизацией, то есть концентрацией огромной экономической и социальной власти в руках небольшого числа компаний. Компенсировать эту власть, ограничивать или контролировать ее политическими институтами, даже (номинально) демократическими, вряд ли является надежным решением — и, конечно, не тем, которое соответствует действительно радикальному видению, которое вдохновило создание Интернета.

Придумывание альтернативы – веб-сайт без доверия, без разрешений

Фонд World Wide Web Foundation, основанный сэром Тимом Бернерсом-Ли, предлагает отчет о «революционных» идеях, которые возникли в раннем веб-сообществе — идеях, которые те, чей веб-опыт был ограничен эпохой технологических гигантов, могут найти неузнаваемыми.

Это включает в себя идею о том, что Интернет должен быть децентрализован. То есть мы должны построить сеть, в которой «не требуется разрешение от центрального органа власти на публикацию чего-либо», где «нет центрального контролирующего узла» и есть «свобода от неизбирательной цензуры и наблюдения».

Хотя это, конечно, не описывает мир, в котором алгоритм Facebook каким-то таинственным и непостижимым образом определяет, какой контент появляется или не появляется в вашей ленте новостей, и не указывает на альтернативу, в которой правительства, а не компании, решают эти вопросы.

Растет признание ложного выбора между саморегулированием в технологическом секторе, с одной стороны, или сложными, навязанными извне правовыми рамками, с другой. Следовательно, альтернатива постепенно начала появляться и завоевывать видимость под различными названиями — Причем Web3 является наиболее узнаваемым из них в настоящее время.

Web3 рассматривается как полная трансформация инфраструктуры Интернета. Использование технологии блокчейн создаст пространство без доверия, без разрешения, в котором ни один центральный орган — будь то Facebook, Twitter, Конгресс США или Европейский парламент — не устанавливает условия взаимодействия или выступает в качестве привратника для способов взаимодействия людей и контента, которым они могут делиться.

Такая концепция, конечно, остается на ранних стадиях реализации, но технологии и платформы, которые будут лежать в ее основе, уже существуют и набирают обороты. С недавним запуском второго этапа нашей стимулирующей тестовой сети мы предпринимаем значительные шаги по созданию полностью децентрализованной платформы облачных вычислений. Без него ряд широко разрекламированных разработок Web3, включая широко обсуждаемую перспективу метавселенной, либо останется недостижимым, либо, что более вероятно, будет кооптирован точно такими же технологическими гигантами, которые устанавливают условия для Web 2.0, хотя, возможно, под новыми именами.

Вместо того, чтобы решать, предпочитаем ли мы саморегулирование или государственное вмешательство, давайте продолжим воображать и преследовать будущее для Интернета, которое эти очевидные альтернативы только скрывают.

Как вы можете поддержать нашу альтернативу

Самое замечательное в децентрализации заключается в том, что каждый должен сыграть свою роль. Вы можете внести свой вклад в усилия по созданию экосистемы для децентрализованной метавселенной, сотрудничая с нами.

Нам нужны центры обработки данных и поставщики облачных услуг. Если вы можете внести свой вклад в достижение этой цели, пожалуйста, свяжитесь с нами сейчас для сотрудничества.

Если вы пропустили наши последние объявления, вот некоторые из недавних партнерских отношений, которые нас волнуют.

Наконец, если у вас уже есть токены CUDOS, вы можете максимально использовать их, разместив их на нашей платформе и обеспечив безопасность нашей сети.

Давайте создадим вычислительную экосистему, которая будет децентрализованной, прозрачной и ответственной!

О Кюдосе

Cudos Network — это блокчейн и сеть вычислений и oracle второго уровня, предназначенная для обеспечения децентрализованного, не позволяющего разрешения доступа к высокопроизводительные вычислениям в масштабе и позволяет масштабировать вычислительные ресурсы до 100 000 узлов. После моста с EthereumAlgorand, Polkadot и Cosmos Cudos обеспечит масштабируемые вычисления и оракулы уровня 2 на всех мостовых блокчейнах.

Узнайте больше: Веб-сайт, Twitter, Telegram, YouTube, Discord, Medium