Den italienske premierminister Giorgia Meloni deler x-rated billede af sig selv

Deepfakes er blevet en massiv hovedpine i takt med, at teknologien er spurtet afsted de seneste år, og den italienske premierminister er den seneste i rækken af prominente ofre.

Giorgia Meloni har valgt at gå offensivt til værks for at belyse problemet med AI-genererede billeder, der bliver skabt uden samtykke.

Sagsøger bagmænd for svimlende beløb

Meloni nøjes ikke bare med at advare; hun handler også.

Hun har sagsøgt to mænd for over 700.000 danske kroner ($100.000), efter de havde genereret en eksplicit video af hende.

Til opslaget har den italienske premiereminister skrevet følgende:

“Der cirkulerer i disse dage flere falske billeder af mig, genereret med kunstig intelligens og fremstillet som ægte af nogle ivrige politiske modstandere.”

“Jeg må indrømme, at dem der har lavet dem – i hvert fald i eksemplet vedlagt – faktisk har forbedret mig en hel del. Men faktum er stadig, at man efterhånden bruger hvad som helst for at angribe og opfinde løgne.”

“Pointen rækker dog også ud over mig selv. Deepfakes er et farligt værktøj, fordi de kan bedrage, manipulere og ramme hvem som helst. Jeg kan forsvare mig. Mange andre kan ikke.”

“Derfor bør én regel altid gælde: verificér før du tror, og tænk før du deler. For det sker for mig i dag – i morgen kan det ske for hvem som helst.”

Teknologien løber fra loven

Problemet er ikke isoleret til de politiske gange i Rom.

Sidste år kom Elon Musks AI, Grok, i modvind for at generere tvivlsomme billeder af kendte kvinder, og eksperter advarer om, at vi kun har set toppen af isbjerget:

Advokater advarer om, at loven slet ikke kan følge med de teknologiske fremskridt endnu. Uden ordentlig kontrol kan folk generere stort set hvad som helst, hvis de er ihærdige nok til at omgå de indbyggede restriktioner.

Der er en reel frygt for, at teknologien vil blive brugt til at skabe endnu grovere materiale, herunder børneporno, hvis der ikke bliver sat hårdt ind nu.