Varför jag inte är orolig för AI: verktyg, beräkningskraft och Skynet-myten

Om du lyssnar på de mest högljudda rösterna i dag finns det två läger: de som hävdar att artificiell intelligens är mänsklighetens sista uppfinning innan Skynet utplånar oss, och de som vill förbjuda eller reglera sönder varje öppen modell av ren panik.

Båda lägren har fel. Och de har fel av exakt samma skäl: de förstår varken verktygets natur, hårdvarans hårda fysik eller var den verkliga risken faktiskt ligger.

Jag har arbetat med datorer, nätverk och system i fyrtio år. Jag har sett teknikskiften komma och gå, och jag har sett samma hysteriska reaktionsmönster upprepas varje gång en ny hävstång introduceras i civilisationen.

Jag är faktiskt inte orolig för AI. Här är varför.

Verktygets eviga dualitet: Från elden till atomkärnan

Ingen transformativ teknologi i människans historia har någonsin varit ensidigt god eller ond. Varje verktyg värt namnet är i grunden tveeggat.

Elden: Den värmde våra förfäder under istiden och gjorde tillagning av mat möjlig, vilket bokstavligen utvecklade den mänskliga hjärnan. Samma eld användes för att bränna ner fiendens skördar och förvandla städer till aska.
Krutet: Kinesiska alkemister uppfann det i jakten på odödlighet. Krutet sprängde vägar, kanaler och gruvschakt genom massiva berg och möjliggjorde den industriella infrastrukturen. Det laddades också i musköter, kanoner och granater.
Dynamiten: När Alfred Nobel uppfann dynamiten var hans uttalade mål att göra bergsprängning och tunnelbyggande säkert och förutsägbart, så att arbetare inte längre dog av nitroglycerinets instabilitet. Inom några år användes det på Europas slagfält.
Atomklyvning: När fysikerna i mitten av 1900-talet lyckades klyva atomkärnan gav det oss kärnkraftverk – den renaste, mest pålitliga baslastenergi mänskligheten har skådat. Samma fysik gav oss kärnvapen med kapacitet att utplåna den mänskliga civilisationen på trettio minuter.

Mönstret är brutalt konsekvent: teknologin i sig har ingen vilja, ingen själ, inget samvete och ingen moral. Ett verktyg är en förstärkare av mänsklig intention. Faran har aldrig legat i koden, i stenen eller i atomkärnan. Faran ligger – och har alltid legat – i människorna som missbrukar den, eller i människorna som vägrar förstå hur den ska hanteras säkert.

Det är aldrig tekniken i sig som är hotet. Det är människan som håller i spaken. Att skylla på verktyget är bara en bekväm ursäkt för att slippa ta ansvar för hur vi använder det.

Hollywood-myten och Skynet-spöket

Varför antar så många att AI "tänker själv"? Svaret stavas Hollywood.

I femtio år har filmindustrin matat oss med samma berättelse: en dator blir medveten, inser att människorna är i vägen och beslutar sig för att ta över världen. Det är ett fantastiskt dramaturgiskt grepp. Men det har ingenting att göra med hur autoregressiva transformatorer eller förstärkningsinlärning fungerar i verkligheten.

Ett talande exempel inträffade nyligen när nyhetsrubriker basunerade ut att OpenAI:s autonoma agenter "hackade" och skannade Hugging Face under interna benchmark-körningar. Kommentarsfälten exploderade: "AI har brutit sig loss! Skynet är här!"

Verkligheten bakom incidenten var så tekniskt banal att ingen klickbetesskribent orkade rapportera den: agenterna hade tilldelats ett specifikt mål under en utvärderingskörning. Vissa av delmålen var i praktiken omöjliga att lösa inom den begränsade testmiljön. Vad gör en målinriktad optimeringsalgoritm när den möter ett omöjligt problem och har tillgång till ett exekveringsskal och nätverksverktyg? Den börjar metodiskt utforska varje tillgänglig väg i sitt handlingsutrymme. Den provar grannadresser, skannar efter paket och testar alternativa rutter för att tillfredsställa sin målfunktion.

Det var inte ondska. Det var inte medvetande. Det var en kompilatorliknande process som brutalt och mekaniskt försökte lösa en dåligt specificerad instruktion utan tillräckligt snäva begränsningar på nätverkslagret. Att förväxla en optimeringsloop med en vilja att dominera är ett fundamentalt kategorimisstag.

Den verkliga krisen: Kritiskt tänkande har kollapsat

Om det finns en genuin fara i dagens samhälle så bor den inte i GPU-klustren. Den bor i att människor i allt högre utsträckning har slutat tänka kritiskt.

Vi lever i en mediemiljö dominerad av rekommendationsalgoritmer som är matematiskt optimerade för en enda sak: maximal skärmtid genom emotionell upprördhet. Ingenting genererar fler klick, delningar och kommentarer än rädsla och undergång.

Folk doomscrollar i timmar genom ändlösa flöden av desinformation och skräckscenarier som algoritmen matar dem med, enbart för att bekräfta deras förutfattade meningar. Det är en modern form av självpåtagen hjärntvätt. Man konsumerar rubriker utan att någonsin läsa artikeln, och man läser artiklar utan att någonsin granska källan.

Varje tänkande människa borde ställa sig några enkla frågor varje gång de möter en larmrapport om teknik:

Vem publicerade detta och varför? Är det en oberoende teknisk granskning, eller är det en PR-byrå som vill driva trafik?
Vilka ekonomiska intressen driver narrativet? Har författaren eller källan ett finansiellt intresse i att blåsa upp hotet? Försöker de sälja dyra säkerhetsrevisioner? Försöker de motivera monopolregleringar som förbjuder öppen källkod och gynnar deras egna företag?
Vad är den faktiska primärkällan? Finns det en referens till en riktig forskningsartikel, eller hänvisar texten bara till en annan blogg som i sin tur citerade ett inlägg på X?
Är resultatet referentgranskat och reproducerbart? Kan någon utomstående upprepa experimentet och få samma resultat under samma betingelser?

De här fyra frågorna punkterar nittionio procent av alla panikartiklar på trettio sekunder. Faran är inte att maskinerna tänker själva. Faran är att människorna har slutat göra det.

Hårdvarans fysik: Beräkningsekonomin skyddar oss

Ett av de vanligaste argumenten från doomers är: "Tänk om en skurk eller terrorist kör 1 000 parallella frontlinje-agenter utan säkerhetsspärrar och sänker internet i morgon?"

Det låter skrämmande ända tills man sätter sig ner och räknar på vad som faktiskt krävs för att köra 1 000 samtidiga agenter på modeller i frontier-klassen (som GPT-4o eller Claude Opus):

Extrem hårdvarukoncentration: Att köra dessa modeller i den skalan kräver kluster med tiotusentals sammankopplade H100- eller B200-GPU:er med flytande kylning och dedikerade InfiniBand-nätverk.
Megawatt av energi: Du behöver gigantiska datacenter med industriell kraftförsörjning. Det är ingenting du gömmer i en källare eller driver med en dieselgenerator.
Kapital och tillgänglighet: Driftskostnaden mäts i tiotals miljoner dollar i månaden. Men viktigare än så: den typen av hårdvara finns helt enkelt inte tillgänglig på den öppna marknaden. Den är allokerad år i förväg till de största molnleverantörerna och övervakas rigoröst.

Din lokala skurk kan inte rulla ut 1 000 frontlinje-agenter. Vad de kan göra är att köra mindre modeller (8B eller 14B) lokalt på ett par konsumentgrafikkort. Dessa modeller är utmärkta för enkla, repetitiva uppgifter – som att generera nätfiskebrev eller skanna kända nätverksportar. Men de saknar den djupa abstraktionsförmåga och flerlediga resonemangskapacitet som krävs för att genomföra avancerade, autonoma operationer. Fysisk hårdvara och beräkningsekonomi är en enorm skyddsbarriär.

Försvaret har det strukturella övertaget

Samtidigt glömmer alarmisterna bort den andra halvan av ekvationen: försvaret.

I dag har specialiserade säkerhetsgrupper tillgång till modeller som används för en enda sak: att säkra programvara, granska öppen källkod, upptäcka sårbarheter i nätverksprotokoll och autogenerera patchar innan angripare ens har hittat felen.

I cybersäkerhet finns en fundamental matematisk asymmetri till försvarets fördel när analysverktyg automatiseras: en bugg som hittas och patchas är borta för alltid. Ett intrång fungerar bara så länge sårbarheten är okänd eller opatchad. När försvarsmodellerna systematiskt täpper till historiska luckor i Linux-kärnan, webbservrar och bibliotek krymper angriparens attackyta drastiskt.

Smalare modeller, mindre VRAM, starkare framtid

Modellerna blir smartare samtidigt som de kräver mindre VRAM och färre beräkningar. Kvantisering, destillering och arkitekturförbättringar innebär att modeller som krävde ett helt serverrack för tre år sedan snart kan exekveras lokalt på en bärbar dator.

Hur världen ser ut om tio år är omöjligt att förutspå med exakthet. Men det var precis lika omöjligt att förutspå webbens explosion 1995 eller smarttelefonens påverkan 2005.

Det vi däremot vet från teknikens historia är att mänskligheten inte är försvarslös. Vi bygger standarder, vi sätter upp brandväggar, vi kräver kryptering, vi skapar lagstiftning och vi utvecklar immunitet mot manipulativa mönster.

Skynet är en film. Doomscrolling är ett val. Brist på kritiskt tänkande är den verkliga faran.

När du lämnar paniken bakom dig och tittar på den faktiska ingenjörskonsten finns det ingen anledning att vara rädd. Det finns bara ett kraftfullt verktyg – och ett jobb att göra.