AI-skapade ansikten ser nu mer verkliga ut än autentiska foton

Även om du tror att du är bra på att analysera ansikten, Studier visar många människor kan inte på ett tillförlitligt sätt skilja mellan foton av riktiga ansikten och datorgenererade bilder. Detta är särskilt problematiskt nu när datorsystem kan skapa realistiska bilder av människor som inte finns.

Nyligen skapade en falsk LinkedIn-profil med en datorgenererad profilbild rubriker eftersom den framgångsrikt kopplat till amerikanska tjänstemän och andra inflytelserika personer på nätverksplattformen, till exempel. Kontraspionageexperter säger till och med att spioner regelbundet skapar fantomprofiler med sådana bilder till rikta in sig på utländska mål på sociala nätverk.

Dessa djupa förfalskningar håller på att bli mainstream i vardagskulturen, vilket innebär att människor bör vara mer medvetna om hur de används i marknadsföring, reklam och sociala medier. Bilderna används också i illvilliga syften, såsom politisk propaganda, spionage och informationskrigföring.

Att göra dem involverar något som kallas ett djupt neuralt nätverk, ett datorsystem som efterliknar hur hjärnan lär sig. Detta “tränas” genom att exponera det för allt större datauppsättningar av verkliga ansikten.

Faktum är att två djupa neurala nätverk krockar och tävlar om att producera de mest realistiska bilderna. Som ett resultat dubbas slutprodukterna GAN-bilder, där GAN står för Generative Adversarial Networks. Processen genererar nya bilder som statistiskt inte går att skilja från träningsbilderna.

I vår studie publicerad i iScience, har vi visat att underlåtenhet att skilja dessa konstgjorda ansikten från verkligheten har konsekvenser för vårt onlinebeteende. Vår forskning tyder på att falska bilder kan urholka vårt förtroende för andra och djupt förändra vårt sätt att kommunicera online.

Mina kollegor och jag upptäckte att människor uppfattade GAN-ansikten som ännu mer realistiska än autentiska bilder av verkliga människors ansikten. Även om det ännu inte är klart varför detta är så gör inte denna upptäckt det lyfta fram de senaste tekniska framstegen används för att skapa konstgjorda bilder.

Alla utom ett av ansiktena skapades av ett Generative Adversarial Network (GAN)
Alla utom ett av ansiktena skapades av ett Generative Adversarial Network (GAN). Läs till slutet av artikeln för att ta reda på vilken som är verklig.
NVIDIA via thispersondoesnotexist.com, Författare tillhandahålls (ingen återanvändning)

Och vi hittade också ett intressant samband med attraktionskraft: ansikten som bedömdes som mindre attraktiva bedömdes också som mer verkliga. Mindre attraktiva ansikten kan anses vara mer typiska och det typiska ansiktet kan användas som referens mot vilken alla ansikten utvärderas. Därför skulle dessa GAN-ansikten se mer verkliga ut eftersom de är mer som de mentala modeller som människor har byggt från vardagen.

Men att se dessa konstgjorda ansikten som äkta kan också få konsekvenser för de generella nivåerna av förtroende vi sätter i en krets av okända människor – ett begrepp som kallas “socialt förtroende”.

Vi läser ofta för mycket i ansiktena vi ser, och de de första intrycken vi gör styr våra sociala interaktioner. I ett andra experiment som var en del av vår senaste studie såg vi att människor var mer benägna att lita på information som förmedlas av ansikten som de tidigare trodde var verkliga, även om de var artificiellt genererade.

Det är ingen överraskning att människor litar mer på ansikten som de tror är verkliga. Men vi upptäckte att förtroendet urholkades när människor blev medvetna om den potentiella närvaron av konstgjorda ansikten i onlineinteraktioner. De visade sedan lägre nivåer av förtroende, totalt sett, oavsett om ansiktena var verkliga eller inte.

Detta resultat kan anses vara användbart på vissa sätt, eftersom det gjorde människor mer misstänksamma i en miljö där falska användare kan arbeta. Ur ett annat perspektiv kan det dock gradvis urholka själva naturen i hur vi kommunicerar.

I allmänhet tenderar vi att verka ett standardantagande att andra människor i grunden är sanningsenliga och pålitliga. Tillväxten av falska profiler och annat konstgjort onlineinnehåll väcker frågan om i vilken utsträckning deras närvaro och vår kunskap om dem kan förändra detta tillstånd av “sanning som standard”, vilket i slutändan urholkar det sociala förtroendet.

Ändra våra standardinställningar

Övergången till en värld där det som är verkligt är omöjligt att skilja från det som inte är kan också förskjuta kulturlandskapet från att vara mestadels sanningsenligt till att vara mestadels konstruerat och bedrägligt.

Om vi ​​regelbundet ifrågasätter sanningshalten i vad vi upplever online, kan det tvinga oss att omplacera vår mentala ansträngning från att bearbeta själva meddelandena till att bearbeta budbärarens identitet. Med andra ord, den utbredda användningen av mycket realistiskt men ändå konstruerat innehåll online kan tvinga oss att tänka annorlunda – på sätt som vi inte förväntade oss.

Inom psykologi använder vi en term som kallas “verklighetsövervakning” för att avgöra hur vi korrekt identifierar om något kommer från omvärlden eller inifrån vår hjärna. Utvecklingen av teknologier som kan producera falska men mycket realistiska ansikten, bilder och videosamtal gör att verklighetsövervakning måste baseras på annan information än våra egna bedömningar. Det efterlyser också en bredare diskussion om huruvida mänskligheten fortfarande har råd att falla bort från sanningen.

Det är avgörande för människor att vara mer kritiska när de utvärderar digitala ansikten. Detta kan inkludera att använda omvända bildsökningar för att verifiera om foton är äkta, att vara försiktig med profiler på sociala medier med lite personlig information eller ett stort antal följare, och vara medveten om potentialen för att använda deepfake-teknik för skändliga syften.

Nästa gräns på detta område bör vara förbättringen av digitala falska ansiktsdetekteringsalgoritmer. Dessa kan sedan integreras i sociala medieplattformar för att hjälpa oss att skilja mellan rätt och fel när det kommer till ansikten på nya kontakter.

Det enda faktiska ansiktet i den sammansatta bilden ovan finns i den andra kolumnen från vänster, fjärde bilden uppifrån.

Leave a Comment