HTCinside
Pentru a contracara proliferareafalsuri profunde, Microsoft a lansat un nou instrument de autentificare video care poate fi folosit pentru a analiza o imagine statică sau un videoclip pentru a determina o probabilitate procentuală ca un mediu să fi fost manipulat artificial.
În cazul unui videoclip, Microsoft a declarat că acest procent ar putea fi furnizat în timp real pentru fiecare cadru în timp ce videoclipul este redat. Detectează linia de amestecare a elementelor profunde, subtile în tonuri de gri sau decolorate, care este posibil să nu fie vizibile pentru ochiul uman.
Deepfake-urile sau mediile sintetice pot fi fotografii, videoclipuri sau fișiere audio care sunt manipulate de inteligența artificială (AI). Detectarea falsurilor profunde este vitală în viitoarele alegeri din SUA, potrivit Microsoft.
Tehnologia a fost creată folosind un set de date public de la Face Forensic ++. Microsoft a spus că a fost testat cu setul de date DeepFake Detection Challenge, despre care se crede că este modelul principal. pentru a instrui și testa tehnologiile de detectare a contrafăcutelor primite.
„Apreciem că metodele de generare a media sintetică vor continua să crească în complexitate. Deoarece toate metodele de detectare AI au rate de eroare, trebuie să înțelegem și să fim pregătiți să reacționăm la falsurile adânc înrădăcinate care trec prin metodele de detectare.” a spus compania într-o postare pe blog.
„De aceea, pe termen lung, trebuie să căutăm modalități mai puternice de a menține și a certifica autenticitatea articolelor de știri și a altor mijloace media.”
Cu câteva instrumente disponibile, Microsoft a introdus, de asemenea, o nouă tehnologie care poate detecta conținutul falsificat și poate asigura că media pe care o vizionați este autentică.
Tehnologia constă din două componente. Primul este un instrument încorporat în Microsoft Azure care permite unui producător de conținut să adauge hashuri digitale și certificate la conținut.
„Hash-urile și certificatele trăiesc cu conținut ca metadate, oriunde este online”, a spus Microsoft.
Al doilea este un cititor care poate fi inclus într-o extensie de browser care verifică certificatele și compară hashurile cu potrivirile pentru a determina autenticitatea.
Microsoft a colaborat, de asemenea, cu Fundația AI în lupta sa profundă falsă. Ca parte a parteneriatului, ambele părți vor furniza autentificatoare video organizațiilor implicate în procesul democratic, inclusiv organizațiilor de știri și campaniilor politice, prin inițiativa Reality Defender 2020 a fundației.
Autentificatorul video va fi disponibil inițial doar prin intermediul inițiativei.
Un alt parteneriat cu un consorțiu de companii media cunoscut sub numele de Project Origin testează tehnologia de autenticitate a Microsoft. O inițiativă a mai multor editori și companii de social media, Trusted News Initiative, a acceptat, de asemenea, să colaboreze cu Microsoft pentru a-și testa tehnologia.
Universitatea din Washington, In-House Counterfeit Detection Sensitivity și USA Today au făcut echipă și cu Microsoft pentru a îmbunătăți alfabetizarea media.
„Prin îmbunătățirea alfabetizării media, oamenii pot elimina dezinformarea bazată pe evenimente reale și pot gestiona riscurile falsurilor ieftine și profunde”, a spus Microsoft. „Cunoașterea mass-media ne poate permite tuturor să gândim critic la contextul media și să devenim cetățeni mai implicați în timp ce ne bucurăm de satiră și parodie.”
Ca parte a acestui parteneriat, va exista o campanie de anunț de serviciu public care va invita oamenii să „facă o pauză de reflecție” și să verifice dacă informațiile provin de la o organizație de știri de renume înainte de a le distribui sau promova. pe rețelele de socializare înainte de alegeri.
De asemenea, partidele au lansat un chestionar pentru alegătorii americani pentru a afla mai multe despre mass-media sintetică.