Нам нужно финансировать мелких игроков
Ненависть в Интернете бывает трудно выявить, учитывая ее новые и изощренные формы.
Технологическим компаниям следует выйти за рамки обнаружения и модерации оскорбительного и клеветнического контента, чтобы защитить затронутые сообщества.Необходимо дополнительное каталитическое финансирование для ускорения развития технологий на ранних стадиях, которые обещают бороться с дезинформацией, ненавистью и экстремизмом новыми способами.
Вы один из миллиарда активных пользователей TikTok? Или вам больше нравится твиттер? В любом случае, скорее всего, вы столкнулись с ненавистническим контентом в Интернете.
Разжигание ненависти начинается в офлайне - и может усиливаться в результате угроз обществу. COVID-19 - один из таких примеров: пандемия вызвала глобальную волну социальной стигмы и дискриминации в отношении «других».
Неудивительно, что антисемитизм и, в большей степени, расизм растет. Исследование, проведенное Оксфордским университетом, показало, что около 20% взрослых британцев поддерживают такие утверждения, как «евреи создали вирус, чтобы обрушить экономику ради финансовой выгоды» или «мусульмане распространяют вирус как атаку на западные ценности».
Интернет - это то место, где эти убеждения могут стать мейнстримом. Являясь новым эпицентром нашей общественной и частной жизни, цифровой мир облегчил безграничные и анонимные взаимодействия, которые поколение назад считали невозможными.
Однако, в отличие от физического мира, Интернет также предоставил среду для экспоненциального распространения и разрастания ложной информации и ненависти. И технологические компании это знают. В 2018 году Facebook признал, что его платформа использовалась для разжигания этнической и религиозной напряженности в отношении рохинджа в Мьянме.
Поскольку границы между онлайн и офлайн продолжают стираться, на нас лежит огромная ответственность: обеспечить безопасное цифровое пространство для всех. Возможность заключается в использовании каталитического финансирования инновационных технологий, которые по-новому борются с дезинформацией, ненавистью и экстремизмом.
Эффект бабочки в социальных сетях
Даже если бы только 1% твитов содержал оскорбительные или ненавистные высказывания, это было бы эквивалентно 5 миллионам сообщений в день. Нетрудно представить последствия такой виральности - осада Капитолия 6 января наглядно демонстрирует, как социальные сети могут так быстро разжигать насилие.
В отличие от насильственного экстремизма, язык вражды часто скрыт между терабайтами контента, загружаемого в Интернет каждый день . Псевдонимы, такие как «сок» (для обозначения евреев) или скрытые символы (например, в этой базе данных ), часто встречаются в Интернете.
Они также хорошо задокументированы правозащитными организациями и академическими учреждениями. Проект «Декодирование антисемитизма» , финансируемый Фондом Альфреда Ландекера , использует междисциплинарный подход - от лингвистики до машинного обучения - для выявления как явной, так и скрытой онлайн-ненависти путем классификации секретных кодов и стереотипов.
Однако проблема заключается не в том, как выделить дискредитирующий контент, а в том, как точно и масштабно сканировать платформы. Instagram предлагает пользователям возможность отфильтровывать оскорбительные комментарии. Twitter приобрел Fabula AI, чтобы улучшить качество онлайн-разговоров. А TikTok и Facebook зашли так далеко, что создали консультативные советы по безопасности или комиссии по надзору, которые могут решать, какой контент следует удалить.
Однако только этими усилиями технологическим компаниям не удалось обнаружить и модерировать ложный, оскорбительный или ненавистный контент, который сильно зависит от контекста, культуры и языка.
Темные дыры дезинформации
Ненависть в Интернете постоянно развивается по своим очертаниям, и ее становится все труднее раскрыть. Facebook может обнаруживать только две трети измененных видео (также известных как «дипфейки»). Алгоритмы искусственного интеллекта (AI) и обработки естественного языка (NLP) не смогли достаточно быстро расправиться с троллями и ботами, распространяющими дезинформацию.
Вопрос будет: так и технология подведут нас, или же люди не при использовании технологии?
Четыре аспекта борьбы с ненавистью в Интернете
Если технологические компании не хотят постоянно догонять, им следует перейти от обнаружения и модерации контента к целостному и проактивному подходу к тому, как порождается и распространяется ненависть в Интернете (см. Диаграмму ниже).
Такой подход имел бы следующие четыре целевых результата:
● Поощрение разнообразия и противодействие предвзятости: технологии могут разрабатываться и разрабатываться инклюзивным образом путем привлечения тех, кто страдает от ненависти и дискриминации в Интернете. Например, Интернет-индекс ненависти Антидиффамационной лиги использует ориентированный на человека подход, который включает затронутые сообщества в классификацию языка ненависти.
● Предотвращение дискриминации и насилия. Определенные технические разработки, например механизмы рекомендаций, могут ускорить пути к радикализации в Интернете. Другие пропагандируют контраргумент или ограничивают вирусность дезинформации. Нам нужно больше последних.
Метод перенаправления, используемый социальным предприятием Moonshot CVE, направляет интернет-пользователей, которые ищут контент с насилием, в сторону альтернативных повествований.
● Защита уязвимых групп: технические платформы в первую очередь ориентированы на полуавтоматическую модерацию контента за счет комбинации отчетов пользователей и маркировки AI. Однако появились новые подходы. Логическая машина Samurai Labs может участвовать в беседах и не давать им перерасти в онлайн-ненависть и киберзапугивание.
● Стимулирование гражданского участия. Обеспечивая, чтобы каждый голос был услышан и чтобы граждане, особенно молодые, имели возможность участвовать в гражданском дискурсе, мы можем помочь построить более устойчивые общества, которые не вернутся к вредоносному козлу отпущения. В США New / Mode облегчает гражданам возможность влиять на изменение политики за счет использования цифровых инструментов защиты.
Финансирование инноваций на ранней стадии
Общим знаменателем 4P является то, что с помощью технологий они устраняют корень проблемы.
В самом деле, это больше не технологии ради технологий. От Эвана Шпигеля из Snapchat до Кристиана Кляйна из SAP - несколько месяцев назад десятки генеральных директоров подписали телеконференцию президента Макрона « Tech for Good» .
Помимо обещаний, компании используют потенциал технологий, чтобы стать силой добра, создавая инкубаторы, ориентированные на достижение конкретных целей, например Jigsaw от Google , или выделяя средства для стимулирования фундаментальных исследований, таких как премия WhatsApp в области социальных наук и дезинформации .
В беседах с различными исследовательскими организациями, такими как Институт стратегического диалога (ISD), я не понаслышке узнал о спросе на технические инструменты в онлайн-пространстве ненависти и экстремизма. Будь то измерение ненависти в режиме реального времени в социальных сетях или идентификация (с высоким уровнем достоверности) троллей или дипфейков, есть место для инноваций.
Но правда в том, что темпы и различные способы использования технологий для разжигания и поощрения онлайн-ненависти быстрее и сложнее, чем то, что компании могут упредить или пресечь. Если большие платформы не могут решить загадку, нам нужны более мелкие технологические компании, которые это сделают. Вот почему ключевое значение имеет каталитическое финансирование рискованных инноваций.
Отход в сторону больших технологий
С ростом ненависти из-за COVID и повышением спроса на новые решения вполне естественно, что спонсоры и инвесторы заинтересованы в масштабировании коммерческих и некоммерческих технологических инструментов на ранних этапах. Известные игроки венчурного капитала, такие как Seedcamp (инвестор в Factmata ) и компании вроде Google Jigsaw , начинают преодолевать разрыв между спросом и предложением для борьбы с дезинформацией, ненавистью и экстремизмом в Интернете.
Но нам нужно больше. И поэтому я приглашаю вас присоединиться ко мне.
Мелина Санчес Монтаньес, Управляющий директор. Инновационный фонд Фонда Альфреда Ландекера 14 апреля 2021 г.
Мнения, выраженные в этой статье, принадлежат только автору, а не Всемирному экономическому форуму.
Источник: WORLD ECONOMIC FORUM. Четвертая промышленная революция
ЧТО объединяет ГРЕФА, ЧУБАЙСА и Главу Всемирного Экономического Форума ШВАБА?
Далее: Давосский заговор и безумный захват власти
Читайте Форум, участвуйте в Форуме:
- Политика, международные отношения
ХРОНИКА ПЕРВОЙ ГЛОБАЛЬНОЙ ВОЙНЫ, В ИСТОРИИ ЧЕЛОВЕЧЕСТВА, ПРОТИВ ЧЕЛОВЕЧЕСТВА