Svenskar varnas för Googles nya funktion
2025 07 20
Experter varnar för ett nytt Googleverktyg som har kommit till Sverige.
Under juli månad har Googles nya AI-verktyg Veo 3 lanserats i Sverige.
Veo 3 är en videogenerator som låter användare skapa videoklipp som är upp till åtta sekunder långa.
Men nu varnar forskare för verktyget.
Varnar för falska klipp
Veo 3 kan bland annat användas för att skapa falska ”nyhetsklipp” som ser relativt trovärdiga ut, visar en granskning från SVT.
Kanalen har bland annat lyckats skapa ett falskt klipp där det ser ut som att en SVT-reporter rapporterar om ett ebolautbrott i Sverige.
– Vi har vad som förefaller vara SVT berätta om ett ebolautbrott i Sverige, i ett format som medieanvändarna känner igen, och då blir det väldigt svårt att skilja mellan om det är sant eller falskt, säger professorn i idéhistoria Andreas Jahrehorn Önnerfors till kanalen.
Han och flera andra forskare och experter varnar för att Veo 3 kan användas för att sprida desinformation. De senaste årens erfarenheter från Europa visar att desinformation i sociala medier kan elda på upplopp och andra oroligheter.
– Det kan handla om att en fientligt sinnad aktör vill påverka politiska skeenden eller andra förlopp. Den här typen av teknik gör det väldigt lätt att sprida material fort och enkelt och långt, till en låg kostnad, säger Carl Heath, forskare i digital resiliens vid Rise, till kanalen.
Har lanserats globalt
Forskarna understryker att den nya tekniken även har positiva sidor. Men risken för spridning av desinformation är stor.
Enligt Google förses AI-genererade klipp med en vattenmärkning, men för att se den måste man ha tillgång till verktyget SynthID, vilket inte alla har.
Videoklipp skapas med Veo 3 utifrån textbeskrivningar.
Veo 3 har börjat rullas ut globalt i 159 olika länder, vilket Computer Sweden tidigare har rapporterat.
För att kunna använda tjänsten måste man ha ett AI Pro-abonnemang från Google.
Det finns dock begränsningar. Användare kan generera högst tre videor per dag, enligt tidningen, och klippen kan vara högst åtta sekunder långa.
Det finns också begränsningar avseende vilken typ av klipp man får generera, exempelvis får man inte generera våldsklipp. Det finns dock sätt att lura verktyget, enligt kanalen.
Hur realistiska klippen blir varierar, men vissa klipp kan uppfattas som väldigt verkliga.
LÄS OCKSÅ: Polisen varnar allmänheten - "Kontaktar via telefon"
Foto: Solen Feyissa
Text: Redaktionen