Эта статья является частью серии статей о |
Мета-платформы |
---|
Продукция и услуги |
Люди |
Бизнес |
В 2021 году внутренняя утечка документов из компании, тогда известной как Facebook (теперь Meta Platforms или Meta), показала, что она знала о пагубных социальных эффектах своих платформ, но продолжала отдавать приоритет прибыли, а не устранению этого вреда. Утечка, обнародованная осведомителем Фрэнсис Хоген , привела к репортажу из The Wall Street Journal в сентябре под названием серии The Facebook Files , а также Facebook Papers , опубликованным консорциумом новостных агентств в следующем месяце.
Прежде всего, отчеты показали, что, основываясь на внутренних заказных исследованиях, компания полностью осознавала негативное воздействие на подростков-пользователей Instagram и вклад активности Facebook в насилие в развивающихся странах. Другие выводы из утечки включают влияние платформ компании на распространение ложной информации и политику Facebook по продвижению подстрекательских постов. Кроме того, Facebook полностью осознавал, что вредоносный контент продвигается через алгоритмы Facebook, достигая молодых пользователей. Типы контента включали посты, пропагандирующие нервную анорексию , и фотографии членовредительства .
В октябре 2021 года Whistleblower Aid подала восемь анонимных жалоб осведомителей в Комиссию по ценным бумагам и биржам США (SEC) от имени Хауген , обвиняя компанию в мошенничестве с ценными бумагами после того, как Хауген слила документы компании в предыдущем месяце. [1] [2] [3] После публичного раскрытия своей личности в программе 60 Minutes [4] [ 5] Хауген дала показания перед Подкомитетом Сената США по торговле по защите прав потребителей, безопасности продукции и безопасности данных о содержании просочившихся документов и жалоб. [6] После того, как компания переименовала себя в Meta Platforms [7] , Whistleblower Aid подала две дополнительные жалобы на мошенничество с ценными бумагами в SEC против компании от имени Хауген в феврале 2022 года [8]
Возникали конфликты интересов между тем, что было хорошо для общественности, и тем, что было хорошо для Facebook. И Facebook снова и снова выбирал оптимизацию для своих собственных интересов, например, чтобы заработать больше денег.
Информатор Фрэнсис Хоген в программе «60 минут» , 3 октября 2021 г.
В середине сентября 2021 года The Wall Street Journal начал публиковать статьи на Facebook, основанные на внутренних документах неизвестного происхождения. Разоблачения включали сообщения о специальных скидках на посты от известных пользователей («XCheck»), сдержанные ответы на помеченную информацию о торговцах людьми и наркокартелях , иск акционеров относительно стоимости защиты личной ответственности генерального директора Facebook (теперь Meta) Марка Цукерберга при разрешении скандала с данными Cambridge Analytica , инициативу по увеличению новостей в поддержку Facebook в новостных лентах пользователей и внутренние знания о том, как Instagram усугубил негативный образ себя у опрошенных девочек-подростков. [9]
Сива Вайдхьянатан написал для The Guardian , что документы были получены от команды Facebook, «посвященной социальным наукам и анализу данных, которая должна помочь лидерам компании понять последствия их политики и технологических разработок». [10] Кейси Ньютон из The Verge написал, что это самая большая проблема компании со времен скандала с данными Cambridge Analytica . [11]
Утечка документов включает внутреннее исследование Facebook, в котором изучалось влияние Instagram на психическое здоровье подростков. [12] Хотя Facebook ранее заявлял, что его правила применяются одинаково ко всем на платформе, внутренние документы, предоставленные The Wall Street Journal, указывают на особые исключения из политики, зарезервированные для VIP-пользователей, включая знаменитостей и политиков. [13] После этого сообщения надзорный совет Facebook заявил, что пересмотрит систему. [14] [15]
3 октября 2021 года бывшая сотрудница Facebook, стоящая за утечкой, Фрэнсис Хоген , раскрыла свою личность в программе 60 Minutes . [16]
Начиная с 22 октября группа новостных агентств начала публиковать статьи, основанные на документах, предоставленных адвокатами Хаугена, которые в совокупности называются « Документами Facebook» . [17] [18]
6 января нападение на Капитолий США |
---|
Хронология • Планирование |
Фон |
Участники |
Aftermath |
The New York Times указала на внутренние обсуждения, в ходе которых сотрудники высказывали опасения, что Facebook распространяет контент о теории заговора QAnon более чем за год до выборов в США в 2020 году . После выборов специалист по обработке данных упомянул во внутренней записке, что 10 процентов всех просмотров политического контента в США составляли посты, в которых утверждалось, что выборы были мошенническими . [19] Среди десяти анонимных жалоб осведомителей, поданных Whistleblower Aid в SEC от имени Хаугена, в одной жалобе утверждалось, что Facebook ввел в заблуждение инвесторов компании и широкую общественность относительно своей роли в распространении дезинформации, связанной с выборами 2020 года и политическим экстремизмом, который стал причиной атаки на Капитолий США 6 января . [1] [4] Хауген работал в Facebook с июня 2019 года по май 2021 года, начав работу в команде Civic Integrity Team компании, которая занималась расследованием и решением проблем, связанных с выборами по всему миру на платформе, а также тем, как платформа может использоваться для распространения политической дезинформации и недостоверных сведений , подстрекательства к насилию и злоупотреблений со стороны злонамеренных правительств, пока компания не распустила команду в декабре 2020 года. [20] [21]
В течение нескольких недель после президентских выборов в США 2020 года Facebook начал отменять многие меры по обеспечению соблюдения политики в отношении контента, которые он действовал во время выборов, несмотря на внутренние данные отслеживания компании, показывающие рост нарушающего политику контента на платформе, в то время как аккаунт Дональда Трампа в Facebook был внесен в белый список в программе XCheck компании. [21] [22] В другой жалобе осведомителя, поданной Хауген в SEC, утверждалось, что компания вводила в заблуждение инвесторов и широкую общественность относительно обеспечения соблюдения своих условий обслуживания из-за такого внесения в белый список в программе XCheck. [1] [4] Хауген была опрошена в режиме видеоконференции Комитетом по выборам Палаты представителей США по нападению 6 января в ноябре 2021 года о ее пребывании в Facebook, документах компании, которые она предоставила Конгрессу, корпоративной структуре компании и ее показаниях перед Конгрессом в предыдущем месяце, но никакая информация, которую она предоставила Комитету, не была включена в его окончательный отчет. [23] [24]
Файлы показывают, что Facebook (теперь Meta) проводил внутренние исследования того, как Instagram влияет на молодых пользователей в течение последних трех лет. Хотя результаты указывают на то, что Instagram вреден для большой части молодых пользователей, девочки-подростки оказались среди наиболее пострадавших. Исследователи в компании сообщили, что «мы усугубляем проблемы с телом для каждой третьей девочки-подростка». Кроме того, внутренние исследования показали, что мальчики-подростки также страдают от негативного социального сравнения, ссылаясь на 14% мальчиков в США в 2019 году. [25] Был сделан вывод о том, что Instagram способствует проблемам, более характерным для использования его приложения, таким как социальное сравнение среди подростков. [26] Facebook опубликовал некоторые из своих внутренних исследований 29 сентября 2021 года, заявив, что эти отчеты неверно характеризуют цель и результаты его исследования. [27]
Файлы показывают, что Facebook сформировал команду для изучения детей предподросткового возраста, поставил трехлетнюю цель создать больше продуктов для этой демографической группы и заказал стратегические документы о долгосрочных бизнес-перспективах привлечения демографической группы предподросткового возраста. В документе Facebook за 2020 год говорится: «Почему мы заботимся о подростках?» и отвечает на этот вопрос, говоря, что «они являются ценной, но неиспользованной аудиторией». [28]
Внутренняя записка, с которой ознакомилась Washington Post, показала, что Facebook знает о разжигании ненависти и призывах к насилию против таких групп, как мусульмане и кашмирцы , включая публикации фотографий груд мертвых тел кашмирцев с прославляющими подписями на своей платформе в Индии. Тем не менее, ни один из их издателей не был заблокирован. [29] Документы показывают, что Facebook отреагировал на эти инциденты, удалив посты, которые нарушают его политику, но не предпринял никаких существенных усилий для предотвращения повторных нарушений. [29] Поскольку 90% ежемесячных пользователей Facebook теперь находятся за пределами США и Канады, Facebook утверждает, что языковые барьеры являются одним из препятствий, которые мешают широкомасштабной реформе.
В 2015 году, в дополнение к кнопке «Нравится» на постах, Facebook представил набор других вариантов эмоциональной реакции: любовь, ха-ха, ура, вау, грусть и гнев. [30] The Washington Post сообщила, что в течение трех лет алгоритмы Facebook продвигали посты, которые получали «гневную» реакцию от своих пользователей, основываясь на внутреннем анализе, показывающем, что такие посты приводят к пятикратному увеличению вовлеченности, чем посты с обычными лайками. Годы спустя исследователи Facebook указали, что посты с «гневными» реакциями с гораздо большей вероятностью будут токсичными, поляризующими, фейковыми или низкокачественными. [31]
В 2018 году Facebook пересмотрел свой алгоритм новостной ленты, внедрив новый алгоритм, который отдавал предпочтение «значимым социальным взаимодействиям» или «MSI». Новый алгоритм увеличил вес пересылаемого материала — шаг, направленный на «обратить вспять снижение количества комментариев и поощрить более оригинальные публикации». Хотя алгоритм был успешен в своих усилиях, были отмечены такие последствия, как сообщения пользователей об ухудшении качества ленты наряду с ростом гнева на сайте. Утечка документов показывает, что сотрудники представили несколько потенциальных изменений для исправления некоторых из выявленных проблем с их алгоритмом. Однако документы утверждают, что Марк Цукерберг отклонил предлагаемые изменения из-за своего беспокойства о том, что они могут привести к тому, что меньше пользователей будут взаимодействовать с Facebook. Документы также указали на другое исследование, проведенное Facebook в 2019 году, в котором была создана и изучена поддельная учетная запись, базирующаяся в Индии, чтобы увидеть, какой тип контента она представляла и с которым взаимодействовала. Результаты исследования показали, что в течение трех недель новостная лента поддельной учетной записи представляла порнографию и «наполнялась поляризующим и графическим контентом, ненавистническими высказываниями и дезинформацией», согласно внутреннему отчету компании. [32]
Politico цитирует нескольких сотрудников Facebook, выражающих обеспокоенность по поводу готовности и способности компании реагировать на ущерб, нанесенный платформой . В сообщении 2020 года говорится: «Ненормально, когда большое количество людей из команды «сделаем сайт безопасным» уходят, говоря: «Эй, мы активно делаем мир хуже, FYI». Каждый раз, когда об этом говорят, на это пожимают плечами, говоря: «Эй, люди постоянно меняют работу», но это НЕнормально». [33]
В 2019 году, после опасений, что Facebook и Instagram используются для торговли служанками на Ближнем Востоке, Apple пригрозила удалить свои приложения для iOS из App Store. [34]
Документы показали частную программу, известную как «XCheck» или «перекрестная проверка», которую Facebook использовал для того, чтобы вносить в белый список посты пользователей, считающихся «высокопоставленными». Система начиналась как мера контроля качества, но с тех пор разрослась, чтобы защитить «миллионы VIP-пользователей от обычного процесса принудительного исполнения компанией». XCheck привел к тому, что знаменитости и другие публичные личности были освобождены от наказания, которое средний пользователь Facebook получил бы за нарушение политик. В 2019 году футболист Неймар опубликовал обнаженные фотографии женщины, которая обвинила его в изнасиловании, которые были оставлены на виду более чем на день. По данным The Wall Street Journal , «XCheck вырос до включения не менее 5,8 миллионов пользователей в 2020 году», согласно внутренним документам Facebook. [35] Целью XCheck было «никогда публично не связываться с кем-либо, кто достаточно влиятелен, чтобы причинить вам вред». [36]
В 2020 году коммунистическое правительство Вьетнама пригрозило закрыть Facebook, если социальная медиа-компания не будет сотрудничать в вопросе цензурирования политического контента в стране, крупнейшем рынке Meta (тогда известном как Facebook) в Юго-Восточной Азии . [37] Решение подчиниться было лично одобрено Марком Цукербергом. [38] [39]
В 2021 году Facebook разработал новую стратегию борьбы с вредоносным контентом на своем сайте, внедрив меры, которые были призваны сократить и подавить распространение движений, которые считались ненавистническими. По словам высокопоставленного сотрудника службы безопасности Facebook, компания «будет стремиться пресекать движения на платформе только в том случае, если будут убедительные доказательства того, что они являются продуктом тесно сплоченных кругов пользователей, связанных с реальным насилием или другим вредом и приверженных нарушению правил Facebook». В рамках их недавно скоординированной инициативы это включало в себя меньшую рекламу сообщений движения в ленте новостей пользователей, а также не уведомление пользователей о новых сообщениях с этих страниц. Конкретные группы, которые были выделены как затронутые политикой Facebook по социальному вреду, включают Patriot Party , ранее связанную с атакой на Капитолий , а также более новую немецкую группу заговорщиков, известную как Querdenken , которая находилась под наблюдением немецкой разведки после того, как протесты, которые она неоднократно организовывала, «приводили к насилию и травмам полиции». [40]
По данным The Wall Street Journal , документы показывают, что в 2019 году Facebook сократил время, затрачиваемое рецензентами-людьми на жалобы на разжигание ненависти, перейдя к более сильной зависимости от своих систем искусственного интеллекта для регулирования этого вопроса. Однако внутренние документы сотрудников утверждают, что их ИИ в значительной степени не справился с задачей, столкнувшись с проблемами обнаружения видео столкновений автомобилей, петушиных боев, а также понимания разжигания ненависти на иностранных языках. [41] Внутренние инженеры и исследователи Facebook подсчитали, что их ИИ смог обнаружить и удалить только 0,6% «всего контента, который нарушал политику Facebook против насилия и подстрекательства». [ необходима цитата ]
The Wall Street Journal сообщил, что руководители Facebook сопротивлялись удалению крайне правого сайта Breitbart News из вкладки новостей Facebook, чтобы не злить Дональда Трампа и членов Конгресса- республиканцев , несмотря на критику со стороны сотрудников Facebook. [42] [43] Внутреннее исследование Facebook, проведенное в августе 2019 года, показало, что Breitbart News был наименее надежным источником новостей, а также был оценен как источник низкого качества среди источников, которые он просматривал в США и Великобритании. [44]
Для серии репортажей «Файлы Facebook» газета The Wall Street Journal подготовила подкаст на своем канале The Journal , разделенный на восемь эпизодов:
В отчете о доходах за третий квартал 2021 года генеральный директор Facebook Марк Цукерберг обсудил недавние утечки, охарактеризовав их как скоординированные усилия по созданию ложного образа своей компании путем выборочной утечки документов. [53]
Согласно утечке внутреннего электронного письма, с которым ознакомилась The New York Times , Facebook попросил своих сотрудников «сохранить внутренние документы и сообщения с 2016 года», практика, называемая юридическим удержанием . В электронном письме говорится: «Как это часто бывает после такого рода репортажей, был начат ряд расследований со стороны правительств и законодательных органов относительно деятельности компании». [54]
В декабре 2021 года в The Wall Street Journal появились новости, указывающие на лоббистские усилия Meta по разделению американских законодателей и «замутнению воды» в Конгрессе, чтобы помешать регулированию после утечек осведомителя 2021 года. [55] Команда лоббистов Facebook в Вашингтоне предположила республиканским законодателям, что осведомитель «пытался помочь демократам», в то время как сотрудникам-демократам было сказано, что республиканцы «сосредоточены на решении компании запретить выражения поддержки Кайлу Риттенхаусу », сообщает The Wall Street Journal . Согласно статье, цель компании состояла в том, чтобы «замутить воду, разделить законодателей по партийным линиям и предотвратить межпартийный альянс» против Facebook (теперь Meta) в Конгрессе. [56]