Как инструменты измерения галактик помогают выявлять фальшивые изображения, сгенерированные ИИ

в 15:16, , рубрики: искусственный интеллект, методы определения фейков
Как инструменты измерения галактик помогают выявлять фальшивые изображения, сгенерированные ИИ - 1

Привет, на связи Елена Кузнецова, специалист по автоматизации бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью о методах, с помощью которых можно  выявить фальшивые изображения, созданные ИИ. Ранее мы уже писали о таком явлении, как чрезмерно реалистичные дипфейки от ИИ. И эта тема еще долго будет актуальной - продукты нейросетей все сложнее становится отличить от результатов деятельности настоящих людей. Но это вызывает определенные опасения. Предлагаю ознакомиться с методом выявления фальшивок ИИ, предложенным астрономами.

В 2024 году создание реалистичных изображений людей с помощью искусственного интеллекта стало почти тривиальным процессом, что вызвало опасения по поводу того, как распознавать эти обманчивые изображения. Исследователи из Университета Халла недавно представили новый метод обнаружения фальшивок, анализируя отражения в глазах человека. Эта техника, продемонстрированная на Национальной астрономической конференции Королевского астрономического общества на прошлой неделе, адаптирует инструменты, используемые астрономами для изучения галактик, для анализа согласованности световых отражений в глазах.

Серия снимков реальных глаз, демонстрирующих практически одинаковые отражения в обоих глазах.   Автор: Адеджумоке Оволаби
Серия снимков реальных глаз, демонстрирующих практически одинаковые отражения в обоих глазах. Автор: Адеджумоке Оволаби

Уникальный подход

Исследование возглавила Аджемоке Оволаби, студентка магистратуры Университета Халла, под руководством профессора астрофизики Кевина Пимблетта. Их метод обнаружения основывается на простом принципе: пара глаз, освещаемая одним и тем же набором источников света, обычно имеет похожие по форме отражения света в каждом глазу. Многие из созданных на сегодняшний день изображений, сгенерированных ИИ, не учитывают отражения в глазах, поэтому симулированные отражения света часто оказываются несогласованными между глазами.

Хотя астрономический аспект не всегда необходим для такого рода обнаружения фальшивок — достаточно лишь быстро взглянуть на глаза на фотографии, чтобы заметить несоответствия в отражениях, — применение астрономических инструментов для автоматического измерения и количественной оценки отражений в глазах является новшеством.

Автоматизированное обнаружение

В блоге Королевского астрономического общества Пимблетт объяснил, что Оволаби разработала метод автоматического обнаружения отражений в глазах и провела анализ морфологических характеристик отражений, сравнивая их между левым и правым глазами. Результаты исследования показали, что у фальшивок часто наблюдаются различия между парами глаз.

 Серия дипфейков с глазами, демонстрирующими непоследовательные отражения в каждом глазу. Автор: Адеджумоке Оволаби
Серия дипфейков с глазами, демонстрирующими непоследовательные отражения в каждом глазу. Автор: Адеджумоке Оволаби

Команда использовала методы астрономии для количественного сравнения отражений в глазах. Они применили коэффициент Джини, который обычно используется для измерения распределения света в изображениях галактик, чтобы оценить однородность отражений по пикселям глаз. Значение Джини, близкое к 0, указывает на равномерное распределение света, в то время как значение, приближающееся к 1, свидетельствует о сосредоточении света в одном пикселе.

Пимблетт также провел параллели между измерением формы отражений в глазах и измерением формы галактик в телескопических изображениях: "Для измерения форм галактик мы анализируем, насколько они компактны, симметричны и гладки, а также распределение света."

Конкуренция в области обнаружения

Хотя метод анализа отражений в глазах предлагает потенциальный путь для выявления изображений, созданных ИИ, он может оказаться неэффективным, если модели ИИ будут развиваться и включать физически точные отражения в глазах, возможно, применяя это на этапе после генерации изображения. Кроме того, этот метод требует четкого и близкого взгляда на глаза для своей работы.

Также существует риск ложных срабатываний, поскольку даже аутентичные фотографии иногда могут демонстрировать несогласованные отражения в глазах из-за различных условий освещения или методов постобработки. Тем не менее, анализ отражений в глазах может стать полезным инструментом в более широком наборе методов обнаружения фальшивок, который также учитывает такие факторы, как текстура волос, анатомия, детали кожи и согласованность фона.

Хотя техника показывает обещающие результаты в краткосрочной перспективе, доктор Пимблетт предостерегает, что она не идеальна. "Есть ложные срабатывания и ложные негативы; она не справится со всем," — отметил он в комментарии к Королевскому астрономическому обществу. "Но этот метод дает нам основу, план действий в гонке вооружений по обнаружению фальшивок."

Комментарий

Контент занимает очень важное место в жизни современных людей. Уже сейчас Интернет заполнен фейками в стиле “Девушка вырастила гигантскую Буклю”... И все чаще друзья и коллеги присылают мне фото и видео, по которым нельзя однозначно сказать, реальные они или сгенерированные. Приходится раскапывать первоисточники, перерыть кучу сайтов, чтобы это понять. 

Сгенерированные изображения и видео - это серьезный вызов для общества. Подобные материалы в будущем могут использоваться не только в виде развлекательного контента, но и в качестве доказательной базы в судах, например. А это уже не шутки.

Поэтому развитие методов определения подлинности изображений и видео  на данный момент является одним из наиболее важных направлений в сфере информационной безопасности в отношении искусственного интеллекта.

Автор: lenasherparpa

Источник

* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js