Кредит: Unsplash/CC0 Public Domain
Трудно говорить об искусственном интеллекте, не упомянув о фейковом порно — вредоносном побочном продукте ИИ, который использовался для таргетирования всех, от Тейлор Свифт до австралийских школьниц.
Но недавний отчет стартапа Security Heroes показал, что из 95 820 проанализированных фейковых порновидео из разных источников, в 53% были южнокорейские певицы и актрисы, что говорит о том, что эта группа непропорционально сильно подвергается нападкам.
Так что же стоит за проблемой фейков в Южной Корее? И что с этим можно сделать?
Среди жертв — подростки и несовершеннолетние
Deepfakes — это обработанные цифровым способом фотографии, видео или аудиофайлы, которые убедительно изображают человека, говорящего или делающего то, чего он никогда не делал. Среди южнокорейских подростков создание deepfakes стало настолько распространенным, что некоторые даже считают это розыгрышем. И они нацелены не только на знаменитостей.
В Telegram групповые чаты были созданы с конкретной целью вовлечения в сексуальное насилие над женщинами с использованием изображений, включая учащихся средних и старших классов, учителей и членов семьи. Женщины, чьи фотографии размещены на таких платформах социальных сетей, как KakaoTalk, Instagram и Facebook, также часто подвергаются нападениям.
Преступники используют ботов на основе искусственного интеллекта для создания поддельных изображений, которые затем продаются и/или беспорядочно распространяются вместе с аккаунтами жертв в социальных сетях, номерами телефонов и именами пользователей KakaoTalk. Согласно отчету Guardian, одна группа в Telegram привлекла около 220 000 участников.
Отсутствие осведомленности
Несмотря на то, что гендерное насилие наносит значительный вред жертвам в Южной Корее, по-прежнему сохраняется недостаточная осведомленность об этой проблеме.
Южная Корея пережила быстрый технологический рост в последние десятилетия. Она занимает первое место в мире по количеству владельцев смартфонов и упоминается как страна с самым высоким уровнем подключения к Интернету. Многие рабочие места, в том числе в ресторанах, на производстве и в общественном транспорте, быстро заменяются роботами и ИИ.
Но, как отмечает Human Rights Watch, прогресс страны в области гендерного равенства и других мер по защите прав человека не поспевает за цифровым прогрессом. И исследования показали, что технологический прогресс может фактически усугубить проблемы гендерного насилия.
С 2019 года цифровые сексуальные преступления против детей и подростков в Южной Корее стали огромной проблемой, особенно из-за дела «Nth Room». В этом деле участвовали сотни молодых жертв (многие из которых были несовершеннолетними), и около 260 000 участников занимались распространением эксплуататорского и принудительного интимного контента.
Дело вызвало широкое возмущение и призывы к усилению защиты. Оно даже привело к установлению более жестких условий в Законе об особых случаях, касающихся наказания за сексуальные преступления 2020 года. Но, несмотря на это, Верховная прокуратура заявила, что только 28% из 17 495 цифровых сексуальных преступников, пойманных в 2021 году, были обвинены, что подчеркивает текущие проблемы в эффективном противодействии цифровым сексуальным преступлениям.
В 2020 году целевая группа Министерства юстиции по борьбе с цифровыми сексуальными преступлениями предложила около 60 правовых положений, которые до сих пор не были приняты. Группа была расформирована вскоре после инаугурации правительства президента Юн Сок Ёля в 2022 году.
Во время президентской гонки 2022 года Юн заявил, что «в Южной Корее нет структурной гендерной дискриминации», и пообещал упразднить Министерство гендерного равенства и семьи, главное министерство, ответственное за предотвращение гендерного насилия. Эта должность оставалась вакантной с февраля этого года.
Могут ли технологии также стать решением?
Но ИИ не всегда вреден — и Южная Корея также предоставляет тому доказательство. В 2022 году центр поддержки жертв цифровой сексуальной преступности, управляемый правительством Сеула, разработал инструмент, который может автоматически отслеживать, контролировать и удалять фейковые изображения и видео круглосуточно.
Технология, которая получила Премию ООН по государственному управлению 2024 года, помогла сократить время, необходимое для поиска дипфейков, в среднем с двух часов до трех минут. Но хотя такие попытки могут помочь снизить дальнейший вред от дипфейков, они вряд ли станут исчерпывающим решением, поскольку последствия для жертв могут быть постоянными.
Для значимых изменений правительству необходимо привлечь поставщиков услуг, таких как платформы социальных сетей и приложения для обмена сообщениями, к ответственности за обеспечение безопасности пользователей.
Объединенные усилия
30 августа правительство Южной Кореи объявило о планах по принятию законодательства, криминализирующего хранение, покупку и просмотр дипфейков в Южной Корее.
Однако расследования и судебные разбирательства могут продолжать терпеть неудачи, пока дипфейки в Южной Корее не будут признаны вредной формой гендерного насилия. Для решения проблемы дипфейков потребуется многогранный подход, включая более строгие законы, реформы и образование.
Южнокорейские власти также должны способствовать повышению осведомленности общественности о гендерном насилии и сосредоточиться не только на поддержке жертв, но и на разработке проактивной политики и образовательных программ, направленных в первую очередь на предотвращение насилия.
Предоставлено The Conversation
