HTCinside


Microsoft объявляет о выпуске Video Authenticator для идентификации дипфейков

Для противодействия распространениюглубокие подделки, Microsoft выпустила новый инструмент проверки подлинности видео, который можно использовать для анализа неподвижного изображения или видео, чтобы определить процентную вероятность того, что носитель был искусственно изменен.

В случае с видео Microsoft заявила, что этот процент может предоставляться в режиме реального времени для каждого кадра во время воспроизведения видео. Обнаруживает линию смешивания глубоких тонких оттенков серого или исчезающие элементы, которые могут быть невидимы человеческому глазу.

Дипфейки или синтетические носители могут быть фотографиями, видео или аудиофайлами, которыми управляет искусственный интеллект (ИИ). Обнаружение глубоких подделок жизненно важно для предстоящих выборов в США, по мнению Microsoft.

Технология создана с использованием общедоступного набора данных от Face Forensic++. Microsoft заявила, что она была протестирована с набором данных DeepFake Detection Challenge, который считается ведущей моделью. для обучения и тестирования новых технологий обнаружения контрафакта.

«Мы ожидаем, что методы создания синтетических носителей будут продолжать усложняться. Поскольку все методы обнаружения ИИ имеют частоту ошибок, мы должны понимать и быть готовыми реагировать на глубоко укоренившиеся подделки, которые проходят через методы обнаружения». говорится в сообщении в блоге компании.

«Поэтому в долгосрочной перспективе мы должны искать более надежные способы поддерживать и подтверждать подлинность новостных статей и других средств массовой информации».

Имея несколько доступных инструментов, Microsoft также представила новую технологию, которая может обнаруживать фальсифицированный контент и гарантировать подлинность просматриваемого вами мультимедиа.

Технология состоит из двух компонентов. Первый — это инструмент, встроенный в Microsoft Azure, который позволяет производителю контента добавлять к контенту цифровые хэши и сертификаты.

«Хеши и сертификаты живут вместе с содержимым в виде метаданных, где бы оно ни находилось в сети», — заявили в Microsoft.

Второй — это считыватель, который можно включить в расширение браузера, которое проверяет сертификаты и сравнивает хэши с совпадениями для определения подлинности.

Microsoft также сотрудничает с Фондом искусственного интеллекта в его фиктивной битве. В рамках партнерства обе стороны предоставят видеоаутентификаторы организациям, участвующим в демократическом процессе, включая новостные организации и политические кампании, в рамках инициативы фонда Reality Defender 2020.

Первоначально видеоаутентификатор будет доступен только в рамках инициативы.

Еще одно партнерство с консорциумом медиакомпаний, известным как Project Origin, направлено на тестирование технологии проверки подлинности Microsoft. Инициатива нескольких издателей и социальных сетей, Trusted News Initiative, также согласилась работать с Microsoft для тестирования их технологии.

Вашингтонский университет, In-House Counterfeit Detection Sensitivity и USA Today также объединились с Microsoft для повышения медиаграмотности.

«Повышая медиаграмотность, люди могут устранять дезинформацию, основанную на реальных событиях, и управлять рисками дешевых и глубоких фейков», — заявили в Microsoft. «Знание средств массовой информации может позволить нам всем критически относиться к контексту СМИ и стать более активными гражданами, наслаждаясь сатирой и пародией».

В рамках этого партнерства будет проводиться общественная рекламная кампания, в ходе которой людям будет предложено «остановиться для размышлений» и убедиться, что информация исходит от авторитетной новостной организации, прежде чем делиться ею или продвигать ее. в социальных сетях перед выборами.

Партии также запустили анкету для американских избирателей, чтобы узнать больше о синтетических СМИ.