Най-новият изкуствен интелект на Facebook може не само да открие дълбоки измами, но и да знае откъде идват

Even Deep Том Круз вярва, че това е последното поколение дигитално произведени лица, които са излезли от тайнствената долина и са се лутали във фотореализма. Въпреки че възможностите за забавление с помощта на тази технология са безгранични, дълбоките фалшиви видеоклипове имат потенциала сериозно да нарушат доверието на обществото в правителството и нашите избрани служители – дори способността да повярваме на собствените си очи. В сряда Facebook и Мичиганският държавен университет стартираха Новият метод може не само да открие дълбоко фалшифициране, но и да открие кой генеративен модел го е генерирал чрез обратно инженерство на самото изображение.

Освен да ви кажат дали дадено изображение е дълбоко фалшиво или не, много настоящи системи за откриване могат да разберат дали изображението е генерирано в модел, който системата е видяла по време на обучението си – известно като класификация „близък комплект“. Проблемът е, че ако изображението е създадено от генеративен модел, върху който детекторната система не е била обучена, тогава системата няма да има предишния опит, за да може да забележи фалшификата.

Техниката за обратно инженерство на FB-MSU, макар и да не е точно авангардна методология, „разчита на разкриването на уникалните модели зад AI модела, използван за генериране на едно дълбоко фалшиво изображение“, обясни екипът в публикация в блог в сряда.

„Започваме с приписване на изображението и след това работим върху откриването на свойствата на модела, който е бил използван за генериране на изображението“, продължи екипът. „Чрез обобщаване на приписването на изображението към разпознаването на отворен набор, можем да извлечем повече информация за генеративния модел, използван за създаване на deepfake, който отива отвъд разпознаването, че не е бил виждан преди.“

Нещо повече, тази система може да сравнява и проследява прилики в поредица от дълбоки фалшификати, позволявайки на изследователите да проследяват групи от фалшифицирани изображения обратно до един генериращ източник, което трябва да помогне на модераторите на социалните медии да проследяват по-добре координирани кампании за дезинформация.

За да изпълнят тази техника за откриване, изследователите на FB-MSU първо пуснаха набор от дълбоки фалшиви изображения чрез мрежа за оценка на пръстови отпечатъци. FENs са в състояние да различат фини модели, отпечатани върху изображения от специфични устройство, което го е направило. За цифровите снимки всеки от тези модели е уникален поради вариациите в производството на техния фотоапарат. Същото важи и за дълбоките фалшификати - всеки генеративен модел има свои собствени странности, които са отпечатани върху техните творения, които могат да се използват за разкриване идентичността на модела въз основа на самото изображение.

Тъй като на практика има неограничен брой генеративни модели в интернет, изследователите трябваше да обобщят търсенето си на тези пръстови отпечатъци на изображения. „Ние оценихме пръстовите отпечатъци, използвайки различни ограничения, базирани на свойствата на пръстовия отпечатък като цяло, включително големината на пръстовия отпечатък, повтарящ се характер, честотен диапазон и симетрична честотна характеристика“, обясни екипът. След това тези ограничения бяха върнати обратно във FEN, „за да наложат генерираните пръстови отпечатъци да имат тези желани свойства“.

След като системата можеше последователно да отделя истинските пръстови отпечатъци от дълбоките фалшификати, тя взе всички тези фалшиви пръстови отпечатъци и ги изхвърли в модел за анализ, за ​​да разпознае различните им хиперпараметри. Хиперпараметрите на генеративния модел са променливите, които той използва, за да ръководи своя процес на самообучение. Така че, ако можете да разберете какви са различните хиперпараметри, можете да разберете кой модел ги е използвал, за да създаде това изображение. Екипът на Facebook сравнява това с възможността да идентифицира различните компоненти на двигателя на автомобила, просто като го слуша на празен ход.

Тъй като екипът на FB-MSU навлиза в неизвестна изследователска област чрез това изследване, няма конкретна базова линия за сравняване на техните резултати от теста. Затова екипът създаде свой собствен екип и установи, че „в сравнение с произволни вектори със същата дължина и разпределение, има по-силна и по-широка празнина между генерираното изображение и пространството за вграждане на значими архитектурни хиперпараметри и типове функции на загуба. Уместност." Така че по същество те не могат да кажат обективно колко добра е тяхната система, защото всъщност няма друго проучване, което да я сравнява, но те знаят, че е по-ефективна от сляпата късмет.