Привет, на связи Елена Кузнецова, специалист по автоматизации бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью о методах, с помощью которых можно выявить фальшивые изображения, созданные ИИ. Ранее мы уже писали о таком явлении, как чрезмерно реалистичные дипфейки от ИИ. И эта тема еще долго будет актуальной - продукты нейросетей все сложнее становится отличить от результатов деятельности настоящих людей. Но это вызывает определенные опасения. Предлагаю ознакомиться с методом выявления фальшивок ИИ, предложенным астрономами.
В 2024 году создание реалистичных изображений людей с помощью искусственного интеллекта стало почти тривиальным процессом, что вызвало опасения по поводу того, как распознавать эти обманчивые изображения. Исследователи из Университета Халла недавно представили новый метод обнаружения фальшивок, анализируя отражения в глазах человека. Эта техника, продемонстрированная на Национальной астрономической конференции Королевского астрономического общества на прошлой неделе, адаптирует инструменты, используемые астрономами для изучения галактик, для анализа согласованности световых отражений в глазах.
Уникальный подход
Исследование возглавила Аджемоке Оволаби, студентка магистратуры Университета Халла, под руководством профессора астрофизики Кевина Пимблетта. Их метод обнаружения основывается на простом принципе: пара глаз, освещаемая одним и тем же набором источников света, обычно имеет похожие по форме отражения света в каждом глазу. Многие из созданных на сегодняшний день изображений, сгенерированных ИИ, не учитывают отражения в глазах, поэтому симулированные отражения света часто оказываются несогласованными между глазами.
Хотя астрономический аспект не всегда необходим для такого рода обнаружения фальшивок — достаточно лишь быстро взглянуть на глаза на фотографии, чтобы заметить несоответствия в отражениях, — применение астрономических инструментов для автоматического измерения и количественной оценки отражений в глазах является новшеством.
Автоматизированное обнаружение
В блоге Королевского астрономического общества Пимблетт объяснил, что Оволаби разработала метод автоматического обнаружения отражений в глазах и провела анализ морфологических характеристик отражений, сравнивая их между левым и правым глазами. Результаты исследования показали, что у фальшивок часто наблюдаются различия между парами глаз.
Команда использовала методы астрономии для количественного сравнения отражений в глазах. Они применили коэффициент Джини, который обычно используется для измерения распределения света в изображениях галактик, чтобы оценить однородность отражений по пикселям глаз. Значение Джини, близкое к 0, указывает на равномерное распределение света, в то время как значение, приближающееся к 1, свидетельствует о сосредоточении света в одном пикселе.
Пимблетт также провел параллели между измерением формы отражений в глазах и измерением формы галактик в телескопических изображениях: "Для измерения форм галактик мы анализируем, насколько они компактны, симметричны и гладки, а также распределение света."
Конкуренция в области обнаружения
Хотя метод анализа отражений в глазах предлагает потенциальный путь для выявления изображений, созданных ИИ, он может оказаться неэффективным, если модели ИИ будут развиваться и включать физически точные отражения в глазах, возможно, применяя это на этапе после генерации изображения. Кроме того, этот метод требует четкого и близкого взгляда на глаза для своей работы.
Также существует риск ложных срабатываний, поскольку даже аутентичные фотографии иногда могут демонстрировать несогласованные отражения в глазах из-за различных условий освещения или методов постобработки. Тем не менее, анализ отражений в глазах может стать полезным инструментом в более широком наборе методов обнаружения фальшивок, который также учитывает такие факторы, как текстура волос, анатомия, детали кожи и согласованность фона.
Хотя техника показывает обещающие результаты в краткосрочной перспективе, доктор Пимблетт предостерегает, что она не идеальна. "Есть ложные срабатывания и ложные негативы; она не справится со всем," — отметил он в комментарии к Королевскому астрономическому обществу. "Но этот метод дает нам основу, план действий в гонке вооружений по обнаружению фальшивок."
Комментарий
Контент занимает очень важное место в жизни современных людей. Уже сейчас Интернет заполнен фейками в стиле “Девушка вырастила гигантскую Буклю”... И все чаще друзья и коллеги присылают мне фото и видео, по которым нельзя однозначно сказать, реальные они или сгенерированные. Приходится раскапывать первоисточники, перерыть кучу сайтов, чтобы это понять.
Сгенерированные изображения и видео - это серьезный вызов для общества. Подобные материалы в будущем могут использоваться не только в виде развлекательного контента, но и в качестве доказательной базы в судах, например. А это уже не шутки.
Поэтому развитие методов определения подлинности изображений и видео на данный момент является одним из наиболее важных направлений в сфере информационной безопасности в отношении искусственного интеллекта.
Автор: lenasherparpa
