Facebookin uusin tekoäly ei vain havaitse syvää petosta, vaan myös tietää, mistä ne tulevat

Jopa Deep Tom Cruise uskoo, että tämä on uusin sukupolvi digitaalisesti valmistettuja kasvoja, jotka ovat astuneet ulos oudosta laaksosta ja vaelelleet valokuvarealismissa. Vaikka mahdollisuudet viihteeseen tämän tekniikan avulla ovat rajattomat, syvät väärennetyt videot voivat horjuttaa vakavasti yleisön luottamusta hallitukseen ja valittuihin virkamiehiimme – jopa kyky uskoa omia silmiämme. Keskiviikkona Facebook ja Michigan State University julkaisivat uuden menetelmän, joka ei vain pysty havaitsemaan syvää väärennöstä, vaan myös selvittämään, mikä generatiivinen malli sen loi käänteisen kuvan itse.

Sen lisäksi, että monet nykyiset tunnistusjärjestelmät kertovat, onko kuva syvä väärennös vai ei, monet nykyiset tunnistusjärjestelmät voivat kertoa, onko kuva luotu mallissa, jonka järjestelmä näki harjoituksensa aikana. Tämä tunnetaan nimellä "läheinen" luokittelu. Ongelmana on, että jos kuva on luotu generatiivisella mallilla, johon ilmaisinjärjestelmää ei ole koulutettu, järjestelmällä ei ole aikaisempaa kokemusta väärennöksen havaitsemisesta.

FB-MSU:n käänteissuunnittelutekniikka, vaikka se ei olekaan aivan huippuluokan menetelmä, "nojautuu ainutlaatuisten kuvioiden paljastamiseen tekoälymallin takana, jota käytetään yhden syvän väärennetyn kuvan luomiseen", tiimi selitti keskiviikon blogiviestissä.

"Aloitamme kuvan attribuutiolla ja etsimme sitten kuvan luomiseen käytetyn mallin ominaisuuksia", tiimi jatkoi. "Yleistämällä kuvien attribuutio avoimeen tunnistukseen, voimme päätellä enemmän tietoa generatiivisesta mallista, jota käytettiin syvän väärennöksen luomiseen ja joka ylittää sen tunnistamisen, ettei sitä ole ennen nähty."

Lisäksi tämä järjestelmä voi verrata ja jäljittää yhtäläisyyksiä useiden syvän väärennösten välillä, jolloin tutkijat voivat jäljittää väärennettyjen kuvien ryhmiä takaisin yhteen tuottolähteeseen, mikä auttaa sosiaalisen median moderaattoreita paremmin seuraamaan koordinoituja väärän tiedon kampanjoita.

Tämän havaitsemistekniikan suorittamiseksi FB-MSU:n tutkijat suorittivat ensin joukon syvällisiä väärennettyjä kuvia sormenjälkien arviointiverkoston kautta. FEN:t pystyvät havaitsemaan hienovaraisia ​​kuvioita, jotka on painettu kuviin. Laite, joka on tehnyt sen. Digitaalisten valokuvien osalta jokainen näistä kuvioista on ainutlaatuinen, koska niiden kameran valmistus vaihtelee. Sama pätee syvään väärennöksiin – jokaisella generatiivisella mallilla on omat ominaisuutensa, jotka on painettu niiden luomuksiin ja joita voidaan käyttää paljastamaan mallin identiteetti itse kuvan perusteella.

Koska Internetin luonnossa on rajaton määrä generatiivisia malleja, tutkijoiden oli yleistettävä näiden sormenjälkien haku. "Arvioimme sormenjäljet ​​käyttämällä erilaisia ​​rajoitteita, jotka perustuvat sormenjäljen ominaisuuksiin yleensä, mukaan lukien sormenjäljen suuruus, toistuva luonne, taajuusalue ja symmetrinen taajuusvaste", ryhmä selitti. Nämä rajoitukset syötettiin sitten takaisin FEN:iin, "jotta luoduilla sormenjäljillä saadaan nämä halutut ominaisuudet".

Kun järjestelmä pystyi johdonmukaisesti erottamaan aidot sormenjäljet ​​syvällisistä väärennöksistä, se otti kaikki väärät sormenjäljet ​​ja sijoitti ne jäsennysmalliin selvittääkseen niiden erilaiset hyperparametrit. Generatiivisen mallin hyperparametrit ovat muuttujia, joita se käyttää ohjaamaan itseoppimisprosessiaan. Joten jos voit selvittää, mitä eri hyperparametrit ovat, voit selvittää, mikä malli käytti niitä kuvan luomiseen. Facebook-tiimi vertaa tätä siihen, että auton eri moottorikomponentit voidaan tunnistaa vain kuuntelemalla sitä tyhjäkäynnillä.

Koska FB-MSU-tiimi siirtyy tämän tutkimuksen kautta tuntemattomalle tutkimusalalle, heidän testitulosten vertailua varten ei ole olemassa erityistä lähtökohtaa. Siksi ryhmä loi oman tiiminsä ja havaitsi, että "verrattuna samanpituisiin ja -jakaumaisiin satunnaisvektoreihin, luodun kuvan ja merkityksellisten arkkitehtonisten hyperparametrien ja häviöfunktiotyyppien upotustilan välillä on vahvempi ja laajempi kuilu. Relevanssi." Joten pohjimmiltaan he eivät voi sanoa objektiivisesti, kuinka hyvä heidän järjestelmänsä on, koska itse asiassa ei ole muuta tutkimusta, joka vertaa sitä, mutta he tietävät, että se on tehokkaampaa kuin sokea onni.