Bildappar som Lensa AI sveper över internet och stjäl från artister

Fotoillustration av Elizabeth Brockway/The Daily Beast/Getty

Fotoillustration av Elizabeth Brockway/The Daily Beast/Getty

Amy Stelladia kände sig utmattad när hon upptäckte att hennes konst hade blivit stulen.

Även om den spanska illustratören har arbetat för människor som Disney och Vault Comics, berättade hon för The Daily Beast att hennes liv som artist har varit en “ständig kamp för att förbli relevant, värdefull och synlig.” Så när hon fick reda på att en del av hennes gamla verk hade plundrats blev hon inte helt chockad, även om hon blev lite förvånad när hon fick reda på att det var gammalt Deviantart-fanart som hade tagits.

Faktum är att Stelladia är ett av många offer för de största konstryckningarna i modern historia. Men deras jobb togs inte av ett team av elit tjuvar i en Ocean’s Eleven-stil kapris. Istället drogs den tyst från webben av en bot och användes sedan för att träna några av de mest sofistikerade AI-modellerna, inklusive Stable Diffusion och Imagen.

“[Artists] kan ofta motivera vårt yrke, och när något sådant här händer känner vi oss oftast arga, frustrerade och utmattade, säger hon. “Efter allt som har hänt känner jag mig mest utmattad och hjälplös, som att det mesta av den ständiga ansträngningen jag lägger ner på mitt jobb håller på att försvinna.”

Nu har Stelladias konst blivit viral av alla fel anledningar, men inte på det sätt som man kan förvänta sig. Under de senaste veckorna har AI-bildgeneratorer som Lensa och MyHeritage Time Machine, som tränats med hjälp av Stable Diffusion, tenderat att ICT Tac och Instagram. Generatorer förvandlar användarfoton till stiliserade konstverk eller placerar dem till och med under olika tidsperioder (t cowboy eller en Fransk aristokrat från 1700-talet).

Datauppsättningarna som användes för att träna AI:n innehöll dock hundratals miljoner bilder hämtade från olika webbsidor, inklusive verk av konstnärer som Stelladia utan deras vetskap eller samtycke. Eftersom Lensa och Time Machine kostar pengar att använda betyder det att privata företag tjänar pengar på dessa konstnärers arbete. Och artister ser inte ett öre.

“De är avsedda att konkurrera med vårt eget verk, med hjälp av verk och medvetna beslut som tagits av konstnärer men rensat från allt sammanhang och betydelse,” förklarade Stelladia. “Det är helt enkelt fel att använda människors livsverk, utan deras samtycke, för att bygga något som kan ta bort arbetsmöjligheter.”

Stelladia fick reda på att hennes konst användes på detta sätt efter att ha upptäckt en webbplats som heter HaveIBeenTrained.com. Sajten är från Spawning, en konstaktivistgrupp som skapar verktyg för konstnärer att ta reda på om deras arbete har använts för att träna stora AI-modeller. Gruppen tillhandahåller också metoder för att välja bort dessa datamängder.

“Jag tror att samtycke är grundläggande och kommer att bli viktigare med tiden,” sa Mat Dryhurst, en Berlin-baserad artist och medskapare av Spawning, till The Daily Beast. Han och hans partner Holly Herndon har utan tvekan legat i framkanten av att använda AI-konst sedan 2016. Paret producerade ett album under namnet Herndon 2019 som använde en “sångare av AI för att låna ut sin röst till olika spår. På senare tid deltog de i utvecklingen av Holly+, en “digital tvilling” till Herndon som tillät honom att fejka sin egen sång.

Dryhurst sa dock att datamängderna de använde för att producera dessa röster tränades med hjälp av röster från samtyckande individer. Så även om de är de främsta förespråkarna för AI-konst och konstnärer som använder digitala verktyg som en del av sin process, beskrev han dem som en “samtyckesabsolut” när det kommer till AI.

HaveIBeenTrained.com erbjuder artister möjligheten att hämta sin digitala information från privata företag som enkelt vill dra nytta av sitt hårda arbete. För att göra detta har Spawning samarbetat med LAION, ett öppet icke-vinstdrivande AI-nätverk som har byggt många datauppsättningar som spawners har utbildats på, för att ge artister ett enkelt sätt att begära att deras arbete raderas direkt från uppsättningarna. Detta kan hjälpa konstnärer att försöka återta sitt verk på sätt som de annars kanske inte hade varit medvetna om.

<classe div="inline-image__caption"></p>
<p>Stelladia upptäckte att hans gamla fankonst användes för att träna AI-bildgeneratorer utan hans tillåtelse med hjälp av HaveIBeenTrained.com.</p>
</div>
<div class="inline-image__credit">Med tillstånd av Amy Stelladia</div>
<p>” data-src=”https://s.yimg.com/ny/api/res/1.2/PjmjbJ9_Qlj9H7VCVhx9QA–/YXBwaWQ9aGlnaGxhbmRlcjt3PTk2MDtoPTQ3Ng–/https://media.zenfs.com/27bedast.com/27a/27a/27a/27a/27a/27a/34a/27a/27a/34a/27a/27a/27a f75d3728b /><noscript><img alt=

Stelladia upptäckte att hans gamla fankonst användes för att träna AI-bildgeneratorer utan hans tillåtelse med hjälp av HaveIBeenTrained.com.

Med tillstånd av Amy Stelladia

” src=”https://s.yimg.com/ny/api/res/1.2/PjmjbJ9_Qlj9H7VCVhx9QA–/YXBwaWQ9aGlnaGxhbmRlcjt3PTk2MDtoPTQ3Ng–/https://media.zenfthedai.com/527bcd13f3d33b3d32c3d333b3d32c3d3d33b3d32c3d3d3d32c3d3d2c3d3d3d3d3d3d3d3d3d3dc ” “caas-img”/>

Stelladia upptäckte att hennes gamla fankonst användes för att träna AI-bildgeneratorer utan hennes tillåtelse med hjälp av HaveIBeenTrained.com.

Med tillstånd av Amy Stelladia

“Vi är uttryckligen oroade över vad som kan göras med konsensusdatarelationer och att bygga verktyg för att göra den visionen möjlig,” sa Dryhurst. ”Det är i grunden vårt huvudmål. Jag är inte helt orolig för det, men jag tror att det är rätt sak att göra och det sätter planen på höger fot.

Dryhurst medger dock att det inte är en ultimat lösning. Den sorgliga verkligheten är att det finns många olika dataset som gör exakt samma sak. Bara för att LAION är redo att hjälpa betyder inte att alla kommer att vara där. När allt kommer omkring är data den digitala tidsålderns mest värdefulla resurs. Att ha mer data innebär att AI kan bli mer sofistikerad och generera allt från bildermusikprövningaroch även videoklipp.

“Den dåliga nyheten är att verktygen som används just nu för att verkligen anpassa det här är öppen kod, så det finns många andra tjänster som använder dem,” sa Dryhurst. “Det här är öppna verktyg som kommer att bestå och existera.” Detta faktum stärkte bara Spawnings beslutsamhet att hjälpa artister att återställa sina data. Ju mer konstnärer är medvetna om att deras konst används på detta sätt, desto mer kan de ta ställning och slå tillbaka med hjälp av de verktyg de har till sitt förfogande.

Vissa kanske säger att vad dessa AI-generatorer gör inte är annorlunda än collagekonst, eller verk av popartister som Andy Warhol, eller till och med musiker som samplar bitar från andra låtar. Detta är dock en situation som Stelladia säger är helt annorlunda, inte minst på grund av själva karaktären hos maskininlärningsalgoritmer.

”Skillnaden är medvetenheten och viljan bakom meningen. Detta är något som AI: er inte är utrustade med för tillfället”, förklarade Stelladia. “Vi är alla påverkade av vår historia, vår kultur och våra beundrade personligheter. Vi lånar hela tiden saker, lär oss av andra… Det finns en mening bakom referenserna vi använder, sättet vi kombinerar dem i ett verk, vilket gör dem unikt till våra.

“Algorithmer är inte artister”, säger Brett Karlan, en AI-etiker vid Stanford Universitys Institute for Human-Centered Artificial Intelligence, till The Daily Beast i ett mejl. “De producerar inte intressanta kommentarer om konsumtionskultur med hjälp av befintlig materiell kultur som (bra) popartister gjorde. Istället är de producenter av oinspirerat och kitschigt bildspråk.

Karlan fortsatte med att förklara att en AI-generator var mindre som en konstnär och mer som “en workshop som producerar kopior av Thomas Kinkade-målningar, oavsett om Thomas Kinkade målade japansk anime på hög nivå eller den värsta sortens Caravaggio-bedrägeri”. Förutom att plundra konst utan konstnärers samtycke, pekade Karlan på ett antal andra stora röda flaggor när det kommer till appar som Lensa och Time Machine, återkommande problem i samband med konsumentprodukter av AI. .

“Dessa applikationer ger upphov till ett antal viktiga etiska problem, av vilka några är unika för dem och några av dem delas med bredare problem kring AI-bildgenerering,” förklarade Karlan och tillade att potentialen för dessa produkter “Generera nakenbilder från foton av barn är ett särskilt skrämmande exempel på oron över innehållsmoderering, något ingenjörer har arbetat hårdare för att implementera i sina system.

Det är inte bara spekulationer heller. Många användare har rapporterat Lensa genererar nakna och explicita bilder använda bilder av minderåriga barn. Det faktum att alla som har en telefon och en internetuppkoppling kan ladda ner och använda appen gör det bara lättare för barn att använda appen.

Men Karlan sa att hans största oro är det faktum att dessa AI-bildgeneratorer tenderar att homogenisera all data de tar emot, vilket resulterar i en sorts “algoritmisk monokultur.” Så han kommer att ta foton och bilder på människor från olika kulturer och skönhetsstandarder och försöka få dem alla att se likadana ut “genom att få alla att synas i ett antal ganska grundläggande stilar.”

“I allmänhet tenderar träning på stora datauppsättningar att behandla statistiskt undervärderade aspekter av dessa datauppsättningar som extremvärden som ska jämnas ut, inte som skillnader som ska firas och bevaras,” sa han.

Så även om du kan skapa en cool ny profilbild för Instagram eller TikTok med dessa bildgeneratorer, tänk på att det kommer till en hög kostnad, vilket kan verka lite för dig, men som faktiskt betyder mycket för artister. vars verk används . utan deras samtycke. Det utmanar de metoder som vi konsumerar och producerar konst med – och huruvida kodrader kan göra det.

“I slutändan är konst en berättelse om världen genom sitt unika språk,” sa Stelladia. “AI: er kan, åtminstone för nu, återge språk ganska bra, men det betyder inte att de förstår vad de säger. Jag gillar hur vi alla vårdar kollektiva bilder. Kultur är levande och utvecklas och [humans] är en del av denna pågående process på grund av vårt autentiska sätt att omtolka verkligheten genom mening.

Lär dig mer om The Daily Beast.

Har du några råd? Skicka den till The Daily Beast här

Få Daily Beasts största scoops och skandaler direkt till din inkorg. Registrera nu.

Håll dig informerad och få obegränsad tillgång till The Daily Beasts oöverträffade rapporter. Prenumerera nu.

Leave a Comment