VARNINGEN: ”Lika farligt som ett kärnvapenkrig”

2022 11 03

Artificiell intelligens kan orsaka en framtida katastrof i paritet med ett fullskaligt kärnvapenkrig.

Den slutsatsen drar en tredjedel av 327 AI-forskare som deltagit i en internationell enkätundersökning, rapporterar Vetenskapsradion.

Enligt forskarna är den stora risken ett framtidsscenario där AI blir smartare än skaparen och börjar handla utanför människans kontroll.

– Det är troligt att ett beslut som fattas av AI eller ett maskininlärningssystem kan orsaka en katastrof under detta århundrade som är minst lika farligt som ett fullskaligt kärnvapenkrig, säger en av forskarna enligt nyhetssajten ScienceNews.

”Onda saker”

Arne Ranta,  professor och avdelningschef vid institutionen för data- och informationsteknik på Chalmers universitet, anser att AI redan kan utgöra en risk.

– Man kan spekulera i om det i framtiden kommer att finnas en AI som har egen vilja, egna syften och som gör onda saker. Men risken för detta är ganska marginell. Jag är mycket mer orolig för att vi använder AI och automatiskt beslutsfattande utan att behålla den mänskliga kontrollen. Då kan de göra onda saker bara för att de är så dumma, säger han till Vetenskapsradion.

Flera varningar

Forskare har tidigare varnat för en utveckling av en särskilt ”kraftfull AI”.

Enligt forskning publicerad i Journal for Artificial Intelligence Research kan användning av en superintelligent AI leda till okontrollerbara konsekvenser.

– Flera forskare anser att en tillräckligt kraftfull AI kan skapa en lösning för att snabbare klara av en uppgift utan att ta hänsyn till att lösningen skulle riskera att äventyra mänskligheten, uppger ScienceNews.

I sitt uppdrag skulle en sådan AI kunna ignorera allt ansvar och endast följa sina ”egna intressen",  framhåller nyhetssajten. 

Artificiell intelligens

Utvecklingen och intresset för AI har ökat i en hastig takt. Numera är många typer av teknik beroende av AI och många företag runt om i världen använder sig av artificiell intelligens.

Enligt sajten Techworld beror den snabba utvecklingen på fem saker:

  1. Det finns numera stor tillgång till stora datamängder, vilket underlättar att skapa många typer av AI-lösningar.
  2. Relativt sett billiga molntjänster gör det möjligt att skapa AI-lösningar till en rimlig kostnad.
  3. Ett stort utbud av ramverk och verktyg förenklar arbetet med att bygga lösningar.
  4. Riktigt snabba processorer som är anpassade till AI gör det möjligt att köra helt nya lösningar.
  5. Intresset är självgenererande. Mycket intresse föder ännu mer intresse.

Fakta AI

Vad är AI?

  • Artificiell generell intelligens är ett område som går ut på att maskiner ska klara av allt som människor klarar av.
  • Den typ av AI-lösningar som tilldrar sig intresse från näringslivet i dag handlar mer om att bygga lösningar för att lösa specifika problem. Artificiell generell intelligens kallas ibland för ”stark AI” eller ”full AI”.
  • Den mer problemorienterade varianten kallas för ”svag AI”.
  • Källa: Techworld

Foto: O. Beard resp P. Photography

Text: Redaktionen