Специалисты Школы компьютерных наук имени Блаватника и Школы электротехники в Тель-Авиве разработали способ взлома трёх популярнейших систем идентификации людей по лицу — Dlib, FaceNet и SphereFace. Оказалось, их можно обмануть с помощью «мастер-лиц» несуществующих людей. Учёные опубликовали своё открытие в хранилище предварительных версий научных статей.
Исследователи использовали нейросеть StyleGAN от Nvidia для создания огромного массива лиц несуществующих людей, после чего отобрали самые подходящие варианты с помощью другой нейросети — она проверяла, как часто системы идентификации срабатывают на каждом сгенерированном лице.
Учёные пришли к выводу, что лучшие варианты для обмана системы — изображения пожилых мужчин без растительности на лице. Набора из девяти «мастер-лиц» такого типа достаточно, чтобы пройти идентификацию в 40-60 процентах случаев — как минимум одно из этих лиц система примет за реального человека.
Исследователи отмечают, что есть более сложные системы идентификации, которые требуют повернуть голову в разные стороны, закрыть и открыть глаза, улыбнуться и совершить прочие действия, чтобы убедиться в реальности человека перед камерой. По мнению учёных, такие системы тоже можно обмануть с помощью дипфейков, наделив сгенерированные лица реалистичной анимацией.
Системы идентификации людей по лицу используются в государственных и частных организациях — китайских и российских силовых органах, московском метро, банкоматах Сбербанка. Одновременно с этим появляются услуги по обману этих систем и происходят случаи необоснованных арестов из-за ложного срабатывания – пишет tjournal.ru.