AI-undergångsscenariot har länge varit ett återkommande tema inom science fiction – men på senare år har experter börjat ta det på allvar.
Vi är väl bekanta med berättelserna om AI som orsakar mänsklighetens undergång. Science fiction-litteratur och Hollywood har i decennier utforskat idén om maskiner som vänder sig mot sina skapare. Men det är först under de senaste åren som forskare och experter på allvar har börjat diskutera möjligheten att en AI-katastrof faktiskt skulle kunna inträffa.
Även om Sam Altmans meritlista kring AI-säkerhet ibland har ifrågasatts har han åtminstone offentligt varit en tydlig förespråkare för reglering, skyddsmekanismer och försiktighet.
Det stora ekonomiska löftet
Vi i TechRadar-teamet har länge sett AI-verktyg som en potentiell enorm produktivitetsboost för företag. Tekniker som maskininlärning och robotiserad processautomatisering (RPA) betraktades redan under den föregående teknikvågen som viktiga verktyg för att effektivisera verksamheter.
Månader innan han var med och grundade OpenAI skämtade Sam Altman, som då ledde den välkända Silicon Valley-inkubatorn Y Combinator, om de många olika framtidsscenarier som AI skulle kunna leda till.
Den här artikeln är en del av TechRadar Pros QOTD-projekt, som ger inblick i tankarna hos några av teknikbranschens mest framstående och välkända profiler – både från idag och från tidigare generationer. Läs hela serien här.
Vid den tiden befann sig maskininlärning fortfarande i sin linda och stora språkmodeller hade ännu inte sett dagens ljus.
Sedan dess har vi åtminstone fått se delar av hans förutsägelse bli verklighet. Värderingarna för flera av de största namnen inom AI-boomen har skjutit i höjden, med företag som Nvidia, Google och Microsoft i spetsen.
Behovet av säkerhet
Financial Times publicerade nyligen ett diagram som på ett träffande sätt sammanfattade Altmans nästan tio år gamla kommentar, som han yttrade under en intervju med dåvarande Airbnb-CTO:n Mike Curtis på konferensen Open Air 2015.
Möjligheten att AI skulle kunna utgöra ett existentiellt hot tas idag på betydligt större allvar av både forskare och beslutsfattare. Samtidigt fortsätter neurala nätverk och stora språkmodeller att utvecklas, medan vissa forskare förutspår att artificiell generell intelligens (AGI) kan bli verklighet inom de kommande årtiondena.
Även om Sam Altman återkommande har betonat vikten av att prioritera AI-säkerhet finns det samtidigt farhågor om att OpenAI:s snabba produktlanseringar riskerar att stå i konflikt med den försiktighetsprincipen.
Det kulminerade i november 2023, när OpenAI:s styrelse avsatte Altman från vd-posten – bara för att han några dagar senare skulle återvända till företaget.
Det är mot den bakgrunden som ett av hans mest citerade uttalanden fortfarande känns lika träffande som provocerande: "AI kommer förmodligen med största sannolikhet att leda till världens undergång, men under tiden kommer det att skapas fantastiska företag."
Det är ett citat som fångar den märkliga dubbelheten i dagens AI-era. Samma teknik som lovar enorma ekonomiska möjligheter väcker samtidigt några av de största etiska och samhälleliga frågorna vi har ställts inför. Och kanske är det just därför som Altmans ord fortsätter att diskuteras mer än ett decennium senare.
