Nejnovější AI Facebooku dokáže nejen odhalit hluboké podvody, ale také vědět, odkud pocházejí

Dokonce i Deep Tom Cruise věří, že toto je nejnovější generace digitálně vyrobených tváří, které vystoupily z tajemného údolí a putovaly ve fotorealismu. Zatímco možnosti zábavy pomocí této technologie jsou neomezené, hluboce falešná videa mají potenciál vážně narušit důvěru veřejnosti ve vládu a naše volené úředníky – dokonce i schopnost věřit vlastním očím. Ve středu Facebook a Michigan State University spustily novou metodu nejen odhalit hluboké padělání, ale také zjistit, který generativní model je vygeneroval pomocí reverzního inženýrství samotného obrázku.

Mnoho současných detekčních systémů kromě toho, že vám řekne, zda je obrázek hluboce falešný či ne, dokáže zjistit, zda byl obrázek vygenerován v modelu, který systém viděl během školení – známého jako „blízká“ klasifikace. Problém je v tom, že pokud byl obraz vytvořen generativním modelem, na kterém nebyl systém detektoru trénován, pak systém nebude mít předchozí zkušenosti, aby byl schopen rozpoznat padělek.

Technika reverzního inženýrství FB-MSU, i když není zrovna špičkovou metodologií, „spoléhá na odhalení jedinečných vzorů za modelem AI, který se používá k vytvoření jediného hlubokého falešného obrazu,“ vysvětlil tým ve středečním blogovém příspěvku.

„Začneme s přiřazením obrázku a poté pracujeme na objevování vlastností modelu, který byl použit k vytvoření obrázku,“ pokračoval tým. "Zobecněním přiřazení obrázku k rozpoznávání otevřené sady můžeme odvodit více informací o generativním modelu použitém k vytvoření hlubokého falešného obrazu, který přesahuje rozpoznání toho, že nebyl dosud viděn."

Tento systém navíc dokáže porovnávat a vysledovat podobnosti napříč řadou hlubokých padělků, což umožňuje výzkumníkům vysledovat skupiny padělaných obrázků zpět k jedinému generativnímu zdroji, což by mělo moderátorům sociálních sítí pomoci lépe sledovat koordinované dezinformační kampaně.

K provedení této detekční techniky výzkumníci FB-MSU nejprve provedli sadu hlubokých falešných obrázků prostřednictvím sítě pro odhad otisků prstů. FEN jsou schopny rozeznat jemné vzory vtisknuté do obrázků konkrétními zařízení, které jej vyrobilo. U digitálních fotografií je každý z těchto vzorů jedinečný kvůli odchylkám ve výrobě jejich fotoaparátu. Totéž platí pro hluboké padělky – každý generativní model má své vlastní zvláštnosti, které jsou vtisknuty do jejich výtvorů a které lze použít k odhalení identita modelu založená na samotném obrázku.

Vzhledem k tomu, že v internetové divočině existuje prakticky neomezený počet generativních modelů, museli výzkumníci zobecnit své hledání těchto obrazových otisků prstů. "Odhadovali jsme otisky prstů pomocí různých omezení na základě vlastností otisku prstu obecně, včetně velikosti otisku prstu, opakující se povahy, frekvenčního rozsahu a symetrické frekvenční odezvy," vysvětlil tým. Tato omezení pak byla vrácena zpět do FEN, „aby vynutily generované otisky prstů, aby měly tyto požadované vlastnosti“.

Jakmile systém dokázal konzistentně oddělit pravé otisky prstů od hlubokých padělků, vzal všechny tyto falešné otisky a vložil je do modelu analýzy, aby zjistil jejich různé hyperparametry. Hyperparametry generativního modelu jsou proměnné, které používá k řízení procesu samoučení. Pokud tedy dokážete zjistit, jaké jsou různé hyperparametry, můžete zjistit, jaký model je použil k vytvoření tohoto obrázku. Tým Facebooku to přirovnává k tomu, že dokáže identifikovat různé součásti motoru auta pouhým poslechem naprázdno.

Vzhledem k tomu, že tým FB-MSU vstupuje prostřednictvím tohoto výzkumu do neznámého pole výzkumu, neexistuje žádný konkrétní výchozí bod pro srovnání výsledků jejich testů. Proto tým vytvořil vlastní tým a zjistil, že „ve srovnání s náhodnými vektory stejné délky a distribuce existuje silnější a širší mezera mezi generovaným obrazem a prostorem pro vkládání smysluplných architektonických hyperparametrů a typů ztrátových funkcí. Relevance." Takže v zásadě nemohou objektivně říci, jak dobrý je jejich systém, protože ve skutečnosti neexistuje žádná jiná studie, která by jej srovnávala, ale vědí, že je účinnější než slepé štěstí.