De potentiella farorna med AI-genererade bilder

En närmare titt på integritet, upphovsrätt, falsarier, människor som aldrig existerat och potentiella farorna på grund av brottslighet.

AI-genererade bilder är fascinerande tekniker som kan användas för en rad olika ändamål. Men med teknikens framgång kommer också de potentiella farorna och utmaningarna som behöver lösas.

Integritet

Ett av de största problemen med AI-genererade bilder är att de kan användas för att skapa falska bilder av personer utan deras samtycke. Detta kan ha allvarliga konsekvenser för deras integritet, särskilt om bilderna används för att sprida desinformation eller för att utföra bedrägerier. Det är därför viktigt att det finns tydliga regler och riktlinjer för hur AI-genererade bilder kan användas.

Det finns också risker för användning av AI-genererade bilder för att skapa deepfakes, vilket är en manipulerad video eller bild som bygger på AI-teknik. Deepfakes kan användas för att skapa pornografiskt material eller för att lura människor att tro att något som inte har hänt faktiskt har hänt.

En annan kritik mot StyleGAN och liknande verktyg (Mänsklig bildsyntes)är att de kan användas för att skapa bilder som inte nödvändigtvis representerar verkliga människor eller verkligheten. Detta kan leda till att människor utvecklar en snedvriden uppfattning om verkligheten eller människor, och det kan också leda till att dessa verktyg används för att skapa falska bilder som används i desinformation eller missbruk.

En annan oroande aspekt är användningen av dessa verktyg för att skapa pornografiskt material med falska personer, vilket kan leda till att personer utsätts för sexuell exploatering utan att ha gett sitt samtycke.

Upphovsrätt

AI-genererade bilder kan också utmana upphovsrätten. Om en AI-algoritm skapar en bild som liknar en annan persons verk, vem äger då upphovsrätten till den nya bilden? Detta är en komplicerad fråga som kan kräva nya regler och riktlinjer för att undvika rättstvister.

AI samlar in data för att skapa genererade bilder och det är vanligt att man använder redan befintliga bilder som underlag. Tekniken som används för att samla in data och skapa genererade bilder kallas generativ AI, vilket innebär att AI-systemet själv lär sig att skapa nya bilder baserat på data som den har fått tillgång till.

AI samlar in redan befintliga bilder

Det finns olika sätt att samla in data, men vanligtvis använder man en stor mängd befintliga bilder för att träna AI-systemet, bilder som kan vara upphovsrättsskyddade. Dessa bilder kan hämtas från olika källor som exempelvis sociala medier, bildbanker, internet eller andra databaser. Ju större och mer mångsidig datamängd som används, desto bättre kan AI-systemet lära sig och desto mer realistiska och varierade bilder kan genereras.

Falsarier

AI-genererade bilder kan också användas för att skapa falsarier och desinformation. Detta kan påverka allt från politiska val till finansiella marknader. Det är därför viktigt att det finns verktyg för att identifiera och bekämpa AI-genererade falsarier.

Människor som aldrig existerat

En annan utmaning med AI-genererade bilder är att de kan skapa människor som aldrig har existerat. Detta kan användas för allt från reklamkampanjer till filmskapande, men det kan också skapa etiska frågor. Vem äger rättigheterna till en AI-genererad person? Vad händer om denna person används för att sprida desinformation eller för att utföra brottsliga handlingar?

Brottslighet

Till sist kan AI-genererade bilder användas för att utföra brottsliga handlingar som bedrägeri, utpressning och identitetsstöld. Det är viktigt att det finns verktyg för att bekämpa dessa brott och att regeringar och myndigheter tar ansvar för att skydda allmänheten mot dessa hot.

Nya lagar kring upphovsrätt

Det har funnits diskussioner och förslag på nya lagar inom EU som rör upphovsrätt och AI-genererade bilder.

En sådan lag är EU:s förslag till Digital Services Act (DSA) som presenterades i december 2020. DSA syftar till att modernisera lagstiftningen kring online-tjänster, inklusive sociala medier, och innehåller bestämmelser som rör hantering av upphovsrättsligt skyddat material. DSA innehåller också regler som rör användning av AI i samband med upphovsrättsskyddat material, inklusive AI-genererade bilder.

Ett annat förslag är EU:s förslag till en ny upphovsrättslag som ska anpassas till den digitala tidsåldern. Enligt förslaget skulle upphovsrättsskyddet gälla för AI-genererade verk om de har en tillräckligt hög grad av originalitet och har skapats med en mänsklig insats. Detta skulle innebära att upphovsrättsskyddet även skulle gälla för AI-genererade bilder som uppfyller dessa krav.

Sverige

Svenska myndigheter och politiker har diskuterat upphovsrätt i den nya digitala tidsåldern. Enligt Svenska regeringens digitaliseringsstrategi från 2017 är upphovsrätten en central fråga när det gäller digitaliseringen och dess påverkan på samhället.

Svenska Patent- och registreringsverket (PRV) är den myndighet som hanterar frågor om upphovsrätt i Sverige. PRV har tagit fram en rapport om upphovsrättsliga utmaningar i den digitala tidsåldern och har även deltagit i samtal och diskussioner om upphovsrätt och digitalisering.

I Sverige finns det också en riksdagsutredning om upphovsrätten som publicerades 2017. Utredningen har undersökt upphovsrätten och dess betydelse i den digitala miljön, och har tagit upp frågor som rör bland annat rätten till privatkopiering, tjänsteleverantörers ansvar och behovet av modernisering av upphovsrättslagen.