Как PhotoDNA for Video помогает бороться с детской порнографией в Интернете
Раньше, когда кто-то обращался по горячей линии Internet Watch Foundation (IWF) для борьбы с криминальным контентом, жалуясь на видео в Интернете, содержащее сцены сексуальной эксплуатации детей, аналитикам из этой некоммерческой организации часто приходилось прокручивать весь видеоролик, чтобы проверить его.
Люди, публикующие детскую порнографию, часто встраивают этот нелегальный контент в обычные фильмы, мультики или домашнее видео, поэтому специалистам требовалось от 30 минут до нескольких часов, чтобы проверить жалобу и определить, следует ли блокировать видео и сообщить о нем в правоохранительные органы.
В прошлом году надзорная организация IWF начала использовать PhotoDNA — инструмент, разработанный Microsoft в 2009 году для анализа статичных изображений, — для проверки видео на наличие сексуальных сцен с детьми. Теперь аналитики могут находить незаконный контент за считанные минуты.
Сейчас Microsoft делает технологию PhotoDNA for Video (PhotoDNA для видео) доступной бесплатно, и любая организация, заинтересованная в ее использовании, может посетить веб-сайт Microsoft PhotoDNA, чтобы узнать подробности или связаться с разработчиками.
«Эта технология кардинально изменила нашу работу. Пока у нас не было PhotoDNA, нам приходилось просто смотреть видео, чтобы что-нибудь в нем найти, а это занимало очень много времени, — говорит Фред Лэнгфорд (Fred Langford), заместитель исполнительного директора IWF, работающий с горячими линиями для борьбы с детской порнографией в 45 странах мира. — Теперь мы можем находить и блокировать противозаконные видео и помогать жертвам гораздо быстрее».
PhotoDNA for Video использует ту же технологию, что и PhotoDNA — инструмент, разработанный Microsoft совместно с Дартмутским колледжем и используемый более чем в 200 организациях по всему миру для борьбы с сексуальной эксплуатацией детей. С помощью PhotoDNA Microsoft защищает своих пользователей от подобного контента и делает Интернет более безопасным местом.
Кроме этого, технология PhotoDNA помогла поставщикам контента удалить из Интернета миллионы незаконных фотографий и посадить в тюрьму преступников, надругавшихся над детьми, и даже дала возможность спасти некоторых потенциальных жертв до того, как они пострадали физически.
Несмотря на успехи в борьбе с незаконными фотографиями, объем видеоматериалов со сценами детской порнографии значительно вырос.
Число жалоб на видео, поступающих через сайт CyberTipline, принадлежащий Национальному центру США по делам пропавших и эксплуатируемых детей (Missing and Exploited Children, NCMEC), увеличилось в десять раз: с 312 тыс. в 2015 году до 3,5 млн в 2017. Microsoft сообщает в NCMEC обо всех известных случаях сексуальной эксплуатации детей, как того требует федеральный закон.
Microsoft давно защищает потребителей своих продуктов и услуг от незаконного контента, и применение существующих технологий для борьбы с растущим количеством видео с таким контентом стало логичным продолжением этих усилий.
«Съемка и публикация детской порнографии — преступление. Мы изучили разрабатываемые технологии, протестировали различные инструменты и решили, что существующую популярную технологию PhotoDNA можно с успехом использовать для анализа видео, — говорит Кортни Грегуар (Courtney Gregoire), помощник главного юрисконсульта подразделения Microsoft по борьбе с цифровыми преступлениями. — Мы хотим, чтобы в наших продуктах и сервисах не было противозаконного контента. Поэтому мы намерены максимально распространить PhotoDNA, чтобы помочь предотвратить надругательство над детьми, которое случается каждый раз, когда подобное видео появляется в Интернете».
Недавний опрос детей, переживших сексуальное насилие, проведенный Канадским центром защиты детей, показал, что публикация в Интернете фотографий и видео, на которых запечатлено надругательство, усиливает чувство стыда, унижения, уязвимости и бессилия. Одна жертва сказала: «Насилие в какой-то момент прекращается, как и страх перед ним, но страх перед публикацией отснятого остается навсегда».
Оригинальная технология PhotoDNA помогает остановить повторную публикацию заблокированных материалов с помощью проверки «хеша» или цифровой подписи изображения. Для получения хеша снимок переводится в черно-белый формат и разделяется на квадраты, после чего измеряется соотношение теней в каждом квадрате. PhotoDNA не использует технологии распознавания лиц и не может идентифицировать людей или объекты на фотографии. Вместо этого хеш проверяется по базе данных противозаконных изображений. Организация IWF включила в базу данных сигнатур PhotoDNA уже 300 тыс. хешей материалов с детской порнографией.
PhotoDNA for Video разбивает видео на ключевые кадры и создает хеши для этих скриншотов. Так же, как PhotoDNA распознает изображения, которые были изменены в попытках избежать обнаружения, PhotoDNA for Video может находить детскую порнографию, вставленную в обычные безобидные видео.
«Когда люди вставляют противозаконные сцены в другие видео или пытаются скрыть их другими способами, PhotoDNA for Video все равно находит такой контент. Для этого требуется хеш лишь одного кадра», — говорит Катрина Лион-Смит (Katrina Lyon-Smith), старший технический менеджер программ, занимающаяся внедрением PhotoDNA for Video в собственные сервисы Microsoft.
Организации, уже использующие локальную версию PhotoDNA для удаления противозаконных изображений, легко смогут добавить возможность анализа видео. Кроме того, Microsoft ищет партнеров для тестирования функций облачной службы PhotoDNA Cloud Service для работы с видео.
Как говорит Сесилия Грегсон (Cecelia Gregson), старший прокурор округа Кинг и адвокат вашингтонской оперативной группы по борьбе с интернет-преступлениями против детей, автоматизированные инструменты, подобные PhotoDNA, оказывают огромную помощь в борьбе с детской порнографией в Интернете, особенно небольшим организациям, которые в противном случае не имели бы ресурсов для отслеживания противозаконного контента в своих приложениях и веб-сайтах.
По оценкам Грегсон, 90% дел, которые она ведет, теперь возбуждается по сообщениям, поступающим в CyberTipline от компаний, использующих PhotoDNA для слежения за своими платформами. В соответствии с федеральным законодательством все поставщики услуг Интернета и электронной почты обязаны сообщать о детской порнографии в NCMEC.
«Мы не следим за тем, что люди покупают в онлайн-магазинах, и не проверяем семейные фотографии, загруженные в сеть. Мы ищем файлы со сценами сексуальной эксплуатации детей, — говорит Грегсон. — Мы защищаем детей, ставших жертвами насилия, и заботимся о том, чтобы вы и ваши дети, просматривая веб-сайты, не наткнулись на детскую порнографию. Эта технология может также помочь в поиске преступников, чьи коллекции изображений могут причинить еще больший психологический и эмоциональный вред жертвам насилия».
По словам Джона Шиэна, вице-президента подразделения NCMEC по делам эксплуатируемых детей, с тех пор как PhotoDNA и другие инструменты стали широко доступны, число сообщений, полученных NCMEC через CyberTipline, выросло с 1 млн в 2014 году до 10 млн в 2017 г.
«Эти технологии позволяют компаниям, особенно хостинг-провайдерам, быстрее находить и удалять контент с детской порнографией, — говорит Шиэн. — Это огромное благо для общества».
Узнайте, как с помощью PhotoDNA for Video находить, удалять и сообщать о материалах со сценами сексуальной эксплуатации детей, или обратитесь по адресу photodnarequests@microsoft.com.
Заглавное фото: Microsoft Cybercrime Center (Бенджамин Беншнайдер).
