Deepfake tehnologija već radi velike probleme

Deepfake tehnologija već se pokazala zabrinjavajuće učinkovitim sredstvom za širenje dezinformacija, ali novo istraživanje pokazuje da učinci generativnih AI programa mogu biti kompliciraniji nego što se isprva strahovalo. Utvrđeno je da mogu promijeniti sjećanja gledatelja, kao i njihovu percepciju događaja..

Kako bi testirali učinkovitost krivotvorina, istraživači sa Sveučilišta Cork u Irskoj zamolili su gotovo 440 ljudi da pogledaju deepfake isječke iz falsificiranih verzija filmova. Nakon toga su gledali isječke iz stvarnih remakeova filmova.

U međuvremenu, neki su ispitanici dobili tekstualne opise nepostojećih remakeova.

Nakon ispita gotovo 50 posto sudionika je tvrdilo da se sjećaju deepfake remakeova iz kina. Mnogi čak i vjeruju da su ti imaginarni filmovi bolji od originala, no koliko god te brojke bile zabrinjavajuće, korištenje deepfakeova za krivo predstavljanje prošlosti nije se činilo ništa učinkovitijim od jednostavnog čitanja tekstualnih sažetaka izmišljenih filmova.

Istraživačica dezinformacija i glavna autorica studije Gillian Murphy ne vjeruje da su nalazi posebno zabrinjavajući, s obzirom na to da ne ukazuju na jedinstveno snažnu prijetnju koju predstavlja deepfake tehnologija u usporedbi s postojećim metodama dezinformiranja. Ipak, priznaje da bi deepfakeovi mogli biti bolji u širenju dezinformacija ako uspiju postati viralni.

Ključna komponenta za potencijalne uspjehe ove tehnologije je sklonost ljudi da nenamjerno dopuste unaprijed stvorenim predodžbama da utječu na njihovu percepciju stvarnosti. Ako se nekome pokažu navodni dokazi koji podupiru postojeća uvjerenja, vjerojatnije je da će osoba prihvatiti te dokaze bez puno ispitivanja.