Израильские военные ветеринары объявляют войну технологиям Deepfake и дезинформации
Сравнение оригинального и deepfake видео генерального директора Facebook Марка Цукерберга. Элис Сэмюэлс / The Washington Post через Getty Images
Добро пожаловать в новую серию интервью «Изменяя мир» в разделе «Обозреватель инноваций». Каждую неделю мы будем разговаривать с новатором, предпринимателем и / или компанией, которые делают мир лучше с помощью науки, бизнеса и технологий.
Технологии фабрикации информации в Интернете прошли долгий путь. В настоящее время у нас есть не только фальшивые аккаунты в Твиттере и фотошопы для новостных изображений, но и фальшивые видео - и дипфейк-видео, которые представляют собой ультрареалистичные видео, синтезированные с помощью алгоритмов машинного обучения.
Большинство deepfake-видео создаются с использованием подмножества алгоритмов машинного обучения, называемых архитектурами генеративных нейронных сетей, таких как автокодировщики или генеративные состязательные сети (GAN). Они могут и уже использовались в гнусных целях, и, представляя серьезную угрозу безопасности, они вдохновили новый класс стартапов, ориентированных на их выявление и уничтожение. Одна из таких фирм - Cyabra, команда из 11 человек, состоящая из опытных экспертов по кибербезопасности из Департамента специальных операций Сил обороны Израиля. В настоящее время у компании десятки корпоративных клиентов в США.
«То, что мы даем миру, - это лучший способ различать настоящие и поддельные информационные кампании и сообщества в Интернете», - сказал Йосеф Даар, соучредитель Cyabra и директор по продукту.
В недавнем интервью Observer Даар объяснил, как работает алгоритм Cyabra, почему глубокие фейки видео становится все труднее обнаруживать, а также с угрозой «пирамид» дезинформации, с которой мы постоянно сталкиваемся в Интернете.
Дипфейк - это термин, который в наши дни широко используется для описания дезинформации. Не могли бы вы вкратце объяснить, как развивалась технология дипфейков с течением времени? В чем главная проблема при его обнаружении?
В 2017 году в Интернете впервые появились дипфейки. Эти обработанные видео использовали семейство алгоритмов, называемых автоэнкодерами. Примером такого рода алгоритмов является замена лица.
Год назад, когда угроза дипфейков возросла, Cyabra начала разрабатывать передовые технологии для обнаружения постоянно развивающихся технологий дипфейков. Замена лица и дипфейки реконструкции были прямым расширением технологии обнаружения Cyabra. В 2018 году мы начали смотреть более сложные видеоролики с использованием генеративных состязательных сетей (GAN) - класса машинного обучения, который злоумышленники используют для создания реалистичных изображений.
В конце 2019 года Facebook выпустил набор данных под названием Deepfake Detection Challenge Dataset, который включал более 100000 глубоких подделок видео, чтобы разработчики со всего мира могли протестировать и улучшить свою технологию обнаружения. На сегодняшний день в этих видеороликах наблюдается наибольшее разброс методов и параметров.
Как работает инструмент обнаружения Cyabra? Насколько точно это может быть?
Наше решение ориентировано на обнаружение генеративных состязательных сетей (GAN). Мы создали алгоритм под названием Face Reenactment Manipulation (FAM), который может различать настоящую фотографию и поддельную фотографию, созданную с помощью GAN. Это механизм, который дает вам возможность получить больше параметров из видео, вместо того, чтобы просто полагаться на кадр за кадром.
Что касается точности, технология обнаружения подделок Cyabra способна идентифицировать 91% поддельных видео и изображений и 98% реальных.
Что касается аутентификатора кампании, у нас есть 90-процентная точность анализа конкретного профиля, в зависимости от платформы социальных сетей.
Примерно год назад я взял интервью у основателя американской фирмы по обнаружению дипфейков под названием Amber Videos. Он сказал, что борьба с дипфейком - в конечном итоге проигрышная битва, потому что природа «состязательной сети», создающей дипфейк, в первую очередь, заключается в постоянном улучшении, чтобы обойти обнаружение. Ты согласен?
Думаю, в этом есть доля правды. Нападающий всегда будет иметь какое-то преимущество перед обороняющейся стороной. Это верно практически для всего в жизни. Но я думаю, что есть способ это сделать.
Мне нравится использовать аналогию с рыбной ловлей, чтобы упростить наш подход. По аналогии мы сравниваем его с двумя разными видами рыболовных сетей. Первый - это небольшая сеть, предназначенная для ловли определенного вида рыбы. Эта сеть ловит большое количество этой рыбы. Однако другая рыба, на которую не рассчитана сеть, ускользнет. Другой тип - это большая сеть, в которой можно поймать самую разнообразную рыбу. Но обратная сторона - то, что мелкая рыба будет легче проходить.
Ясное решение - использовать обе сети, что и является нашим подходом. Наша «небольшая сеть» - это набор контролируемых алгоритмов, которые могут предоставить целевые ответы на определенные категории дипфейков. А «большая сеть» - это смесь неконтролируемых и частично контролируемых алгоритмов, которые в целом действуют как защита от дипфейков.
Cyabra еще не является потребительским продуктом. Когда мы просматриваем Интернет, что мы должны знать об основных категориях существующей дезинформации?
Думайте об этом как о пирамиде. Если бы вы организовали кампанию по дезинформации, нижним уровнем пирамиды будут фальшивые пользователи в социальных сетях, настроенные для распространения и усиления сообщения. На уровень выше будут аватары. Они будут выглядеть как настоящие люди, и их труднее обнаружить. Их цель обычно - манипулировать или изменить мнение общественности о чем-либо.
А на вершине пирамиды действительно будут живые люди. Обычно им кто-то платит за создание контента, за усиление сообщения или за что-то еще.
Все эти ингредиенты есть в каждой хорошей кампании дезинформации. Мы обнаружили, что некоторые из них могут быть очень и очень эффективными.
Вы бы сказали, что президентские выборы в США в 2016 году были примером этого?
Это было до основания Cyabra, поэтому у меня нет подходящих показателей для этого. Но я могу вам сказать, что в торговой войне между Китаем и США с обеих сторон задействовано множество участников дезинформации.
Повлиял ли COVID-19 на ваш бизнес негативно?
Да и нет. Да, потому что на рынке много неопределенности и очень сложно найти инвесторов. Если вы хотите заключить с кем-то сделку сейчас, это займет много времени.
Но с другой стороны, сейчас, когда мы находимся в кризисе, я думаю, что потребность в достоверной и точной информации как никогда высока, и именно здесь мы вступаем в игру.
комментариев