Регулирующий орган, созданный компанией для оценки того, как она применяет свою политику модерации, обратил пристальное внимание на ситуацию с распространением дезинформации в Эфиопии.

В стране сейчас происходят вооруженные столкновения, и совет предупредил IT-гиганта о высоких рисках неконтролируемой публикации ненавистнических высказываний и фейков в конфликтных зонах, сообщает Techcrunch.

Беспокойство экспертов вызвало сообщение эфиопского пользователя на местном языке. В посте утверждалось, что именно Народный фронт освобождения Тыграй (TPLF) несет ответственность за убийства, изнасилования и грабежи в Райя Кобо и других населенных пунктах в регионе.

«Пользователь утверждает, что его источниками являются различные материалы и очевидцы, однако не предоставил даже косвенных доказательств в поддержку своих утверждений, — отметил Совет в заключении. — Слухи о том, что этническая группа замешана в массовых зверствах, как указано в этом посте, опасны и значительно повышают риск насилия».

Соцсети обнаружили сообщение с помощью средств автоматической модерации контента и удалили после того, как команда по работе с материалами на местном языке установила, что оно нарушает правила платформы, касающиеся ненавистнических высказываний. Позже Meta (ранее Facebook) изменила собственное решение и восстановила публикацию.

Регулирующий орган, в свою очередь, постановил повторно удалить пост. Эксперты решили, что даже если сообщение не подпадает под правила соцсети о запрете разжигания ненависти, то явно нарушает запрет на насилие и подстрекательство. Совет выразил обеспокоенность в связи с распространением непроверенной информации в странах с нестабильной ситуацией и поручил Meta проанализировать роль Facebook и Instagram в развитии конфликта в Эфиопии. Цифровой корпорации следует определить, насколько хорошо ее сотрудники модерируют контент на местных языках, чтобы не повторилась трагедия, аналогичная геноциду в Мьянме.

Ранее в этом месяце группа беженцев из Мьянмы подала в США коллективный иск на 150 миллиардов долларов против Meta. В нем утверждается, что появление IT-гиганта в стране стало «ключевым моментом», подтолкнувшим к зверствам по отношению к народу рохинджа. Дезинформация, разжигающая этническое насилие, широко распространялась в соцсети, часто поддерживалась военнослужащими и в итоге привела к эскалации ненависти, направленной против мусульманского меньшинства страны, и к его вынужденному бегству.

Бывшая сотрудница Facebook Фрэнсис Хауген, обнародовавшая в СМИ ряд внутренних документов компании, утверждает, что подстрекательства были усилены алгоритмами соцсети, а Facebook не смог вовремя их остановить. Это, по мнению Хауген, является одной из самых больших опасностей платформы. «То, что мы видели в Мьянме и сейчас наблюдаем в Эфиопии, лишь начало ужасной истории, которую никто не хочет дочитывать до конца», — заявила она во время выступления перед Конгрессом США в октябре.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.