Fiktivt kundecase · Verdien av å eie kapasiteten

Eie kapasiteten.
Kontrollere kostnaden.

Med lokal AI investerer dere i kapasitet dere selv disponerer. Ved høy, jevn bruk kan én maskin gi lavere kostnad per token, lokal behandling av tekstene og mindre eksponering mot eksterne tokenpriser. Her viser vi regnestykket – også når API-prisene øker.

Kapasitetsscenario: 100 output-tokens/sekund × 24 timer × 365 dager. Hastigheten er en regneforutsetning, ikke en måling eller garanti for denne maskinen.

Fra tekst til handling

01 · MEDARBEIDEREN LEGGER INN

Et møtereferat.
En lang kundehenvendelse.
↓

02 · ASSISTENTEN FORESLÅR

Hovedpunktene.
Et gjennomarbeidet utkast.
Medarbeideren godkjennerDere velger driftsmiljø
RTX 5070 Ti · 16 GBQwen3 8B · Q4_K_MSamme tokenvolum · lokal drift vs. API
Situasjonen

La maskinen jobbe.
Behold kapasiteten selv.

I dette fiktive eksemplet vil en bedrift bearbeide store mengder tekst på egen infrastruktur. Ansatte bruker assistenten til oppsummeringer og utkast, mens en planlagt jobbkø kan fylle ledig kapasitet med tekstbearbeiding i serier. Målet er at investeringen skal arbeide også utenfor kontortid.

En første pilot kan starte med oppsummeringer og e-postutkast. Kapasitetsregnestykket nedenfor gjelder derimot en kontinuerlig jobbkø med nok arbeid til å holde maskinen opptatt hele døgnet, for eksempel tekstbearbeiding i større serier. Ti medarbeideres sporadiske chatbruk fyller ikke denne kapasiteten. En automatisert jobbkø må implementeres og prises før slik drift.

01 · AVKLAR

En oppgave verdt å løse.

Vi velger arbeidsflyt, avklarer hvilke data som kan brukes og avtaler hva et godt resultat er. Dere får et konkret omfang og budsjett før bygging.

02 · BYGG OG TEST

En assistent i hendene.

Vi setter opp grensesnitt, brukertilgang og modell. Medarbeiderne prøver representative oppgaver, og vi måler kvalitet, tidsbruk og kostnad.

03 · OVERLEVER

Kontroll etter piloten.

Dere får dokumentert oppsett, opplæring og et grunnlag for videre drift. Neste steg prises ut fra erfaringene fra deres arbeidsflyt.

Der lokal AI gir verdi

Deres data.
Deres driftsmiljø.

Med den beskrevne lokale modellen foregår selve tekstgenereringen på deres maskin. Dere styrer tilgang, lagring og hvilken testet modellversjon som brukes. Etter installasjon og nedlasting kan arbeidsflyten kjøres uten en ekstern modelltjeneste når eksterne funksjoner er slått av.

Vi tester lokal kjøring, tilgang og gjenoppretting som del av piloten. En lokal installasjon gjør ikke løsningen automatisk sikker; kontrollen må bygges inn i oppsettet.

Invester i egen kapasitet

Ingen ekstern avgift per token.

Den lokale Qwen3-konfigurasjonen har ingen ekstern tokenavgift. Innenfor maskinens kapasitet kan dere kjøre flere jobber og nye forsøk uten at hvert svar utløser en modellregning. Dere betaler for utstyret, strømmen og driften; høy utnyttelse fordeler disse kostnadene på mer arbeid.

Vi begynner med ikke-sensitive eksempeltekster. Bruk av virksomhetens øvrige data avklares før de tas inn i løsningen.

Full kapasitet · Samme outputvolum

3,15 milliarder tokens.
På egen infrastruktur.

Vi regner på den annonserte maskinen: RTX 5070 Ti 16 GB, Ryzen 7 9700X, 32 GB RAM og Qwen3 8B Q4_K_M via Ollama. For regneeksemplet antar vi 100 genererte tokens per sekund og kontinuerlig arbeid gjennom hele året.

LOKAL PRODUKSJON · ANTATT

8,64 mill. / dag

262,8 millioner output-tokens per gjennomsnittsmåned. 3,1536 milliarder per år ved 100 % genereringstid.

API · SAMME OUTPUT

141 912 kr/år

Kun output med GPT-5.4 mini. Med to input-tokens per output-token: 189 216 kr/år i samlet tokenregning.

LOKALT · STRØM VED FULL LAST

5 913 kr/år

450 W for hele PC-en × 8 760 timer × 1,50 kr/kWh. Maskin, oppsett og vedlikehold inngår i totalen under.

100 tokens/sekund er en valgt sensitivitetsforutsetning, ikke en dokumentert maksimalhastighet. 100 % genereringstid er et idealisert kapasitetsnivå uten tid til inputbehandling, omstart eller pauser. Vi viser også 80 % genereringstid og andre hastigheter. Alle beløp er ekskl. mva. ved fullt fradrag, med budsjettert kurs 10 NOK/USD.

Tre år · Maskin, strøm og arbeidstid

Egen kapasitet.
Lavere enhetskostnad.

Ved samme årlige outputvolum på 3,1536 milliarder tokens blir planlagt treårskostnad 160 738 kr lokalt, mot 660 448 kr med GPT-5.4 mini API når input, hosting og budsjettert arbeidstid er med. Det er 499 710 kr, eller 75,7 %, lavere i dette fullkapasitetsscenarioet.

Tre år · 100 output-tokens/sekund · 24/7 · API-input = 2 × output
KostnadLokal Qwen3 8BGPT-5.4 mini API
PC + backupmedium / strømmåler34 499 kr0 kr
Oppsett, 32 / 28 timer × 1 000 kr32 000 kr28 000 kr
Output-tokens, tre år0 kr i tokenavgift425 736 kr
Input-tokens, tre år0 kr i tokenavgift141 912 kr
Strøm, tre år17 739 krInkludert i hosting
App-hosting / backup, tre årPå lokal maskin10 800 kr
Drift, 24 / 18 timer per år72 000 kr54 000 kr
Utstyrsreserve, tre år4 500 kr0 kr
Sum med verdsatt arbeidstid160 738 kr660 448 kr
Sum uten verdsatt arbeidstid56 738 kr578 448 kr
Kostnad per million output-tokens, inkl. input og arbeid16,99 kr69,81 kr

Ser vi kun på API-output og utelater inputavgiften, blir API-totalen med hosting og arbeidstid 518 536 kr over tre år. Lokal total er da 69,0 % lavere. Dette er en separat output-only beregning; faktisk API-bruk har normalt også input.

Samme tokenantall betyr ikke samme svarkvalitet, tekstmengde eller oppgavekapasitet: Qwen3 og API-modellene har ulike egenskaper og tokenisering. Forutsetningen er at begge godkjennes for den aktuelle jobben. Arbeidstid, hosting og reserve er planleggingsbudsjetter fra piloten, ikke et tilbud om bemannet 24/7-drift. Automatisert jobbkø, ekstra integrasjoner, full maskinutskifting, nedetid, kjøling, finansiering og eventuell ekstra driftsbemanning må prises separat. Besparelsen er et scenario, ikke en oppnådd kundebesparelse.

Prisrisiko · Hva om tokenprisene øker?

Samme arbeid.
En dyrere ekstern regning.

Egen kapasitet reduserer eksponeringen mot eksterne tokenpriser. Med det samme volumet slår en API-prisøkning direkte inn i den løpende kostnaden, mens den allerede kjøpte lokale maskinen fortsetter å gjøre jobben uten ekstern tokenavgift.

Vi beholder grunnscenariet: 3,1536 milliarder output-tokens/år, dobbelt så mange input-tokens og budsjettert kurs 10 NOK/USD. År 1 bruker prisgrunnlaget kontrollert 8. september 2026. Fra starten av år 2 øker både input- og outputprisen én gang og ligger deretter fast gjennom år 3.

Hypotetisk API-prisøkning fra år 2 · GPT-5.4 mini · samme volum i tre år
PrisøkningAPI-tokens/år fra år 2API-total, tre årLokal total, tre årLavere lokal kostnad
Ingen189 216 kr660 448 kr160 738 kr499 710 kr
+25 %236 520 kr755 056 kr160 738 kr594 318 kr
+50 %283 824 kr849 664 kr160 738 kr688 926 kr
+100 %378 432 kr1 038 880 kr160 738 kr878 142 kr

Dette er stresstester, ikke varslede prisendringer eller prognoser. Totalene inkluderer de samme budsjettene for oppsett og drift som over. Kun API-tokenprisene endres; valutakurs, volum og øvrige kostnader holdes faste. Prisene kan også falle, og lavere API-priser vil redusere forskjellen.

Ved 50 % høyere API-pris fra år 2

189 216 kr ekstra.
For samme tokenvolum.

API-totalen øker fra 660 448 til 849 664 kr over tre år. Den lokale maskinen får ingen tilsvarende økning i tokenavgift. Det er den økonomiske verdien av å eie kapasiteten når forbruket er høyt og jevnt.

Hva om strømmen også blir dyrere?

Lokal drift er ikke skjermet mot alle prisøkninger. Hvis strømprisen øker 50 % fra starten av år 2, fra 1,50 til 2,25 kr/kWh, blir strømregningen 8 869,50 kr/år i år 2 og 3. Lokal treårstotal øker med 5 913 kr til 166 651 kr. Sammenlignet med API-scenarioet med 50 % prisøkning er lokal kostnad fortsatt 683 013 kr lavere. Andre lokale kostnader holdes faste i denne stresstesten.

Formelen bak prisøkningen

API-total = 28 000 i oppsett + 3 × (3 600 hosting + 18 000 drift) + 189 216 × [1 + 2 × (1 + prisøkning)].
Ved 50 %: 92 800 + 189 216 × 4 = 849 664 kr.
Ekstra tokenkostnad over tre år = 2 × 189 216 × 50 % = 189 216 kr.
Lokal total ved 50 % høyere strømpris fra år 2 = 160 738,20 + 2 × 5 913 × 50 % = 166 651,20 kr.

Fra topphastighet
til faktisk produksjon.

Ved 100 tokens/sekund under generering og 80 % av året til selve genereringen blir output 2,52288 milliarder tokens/år. De øvrige 20 % gir rom for inputbehandling og avbrudd, men denne andelen må måles. Med samme 2:1 inputforhold koster API-tokens 151 373 kr/år.

Vi beholder konservativt 450 W strømforbruk hele året også her: lokal treårstotal er fortsatt 160 738 kr, mot 546 918 kr for API med hosting og arbeidstid. Lokal kostnad blir 21,24 kr per million output-tokens. Dette forutsetter nok relevante jobber til å bruke kapasiteten.

Sensitivitet · 100 % genereringstid, 24/7 · ikke målte maskinhastigheter
Antatt output/sek.Output/årAPI output/årAPI input + output/årLokal TCO / mill. output
50 tokens1,5768 mrd.70 956 kr94 608 kr33,98 kr
100 tokens3,1536 mrd.141 912 kr189 216 kr16,99 kr
150 tokens4,7304 mrd.212 868 kr283 824 kr11,33 kr

Lokal enhetskostnad fordeler hele treårstotalen på tre års antatt produksjon. 50–150 tokens/sekund viser hvordan økonomien endres; intervallet er ikke en benchmark eller garantert ytelse. Promptlengde, kontekst, parallellitet og programvare påvirker faktisk kapasitet.

Beregningsgrunnlag · tokenpriser, strøm og formler

Samme volum.
Åpne forutsetninger.

GPT-5.4 mini: USD 0,75 per million input-tokens og USD 4,50 per million output-tokens. GPT-5 mini: USD 0,25 / 2,00. Standardpriser kontrollert 8. september 2026, uten cache- eller Batch-rabatt. Budsjettkurs 10 NOK/USD.

Output/år = 100 × 60 × 60 × 24 × 365 = 3 153 600 000 tokens.
Gjennomsnittsmåned = år / 12 = 262 800 000 tokens.
Input/år = 2 × output = 6 307 200 000 tokens.
API output/år = 3 153,6 × 4,50 × 10 = 141 912 kr.
API input/år = 6 307,2 × 0,75 × 10 = 47 304 kr.
Sum tokens/år = 189 216 kr.

GPT-5 mini ved samme volum: 63 072 kr/år for output, 15 768 kr/år for input, totalt 78 840 kr/år. Tre år med samme hosting og arbeidstid blir 329 320 kr. Modellvalg endrer derfor besparelsen betydelig.

Strøm: 0,45 kW × 8 760 timer = 3 942 kWh/år. Ved 1,50 kr/kWh = 5 913 kr/år. Dette er antatt effekt ved stikkontakten for hele PC-en; mål den på maskinen og bruk bedriftens marginale strømpris. Det tidligere lettbrukseksemplet på 507 kr/år gjelder ikke full last.

Lokal TCO = 31 999,20 + 2 500 + 32 000 + 3 × (5 913 + 24 000 + 1 500) = 160 738,20 kr.
API TCO = 28 000 + 3 × (189 216 + 3 600 + 18 000) = 660 448 kr.
Lokal enhetskostnad = 160 738,20 / (3 × 3 153,6) = 16,99 kr per million output-tokens.
Ved 80 % genereringstid: output = 3 153,6 × 0,8 = 2 522,88 millioner/år; API TCO = 28 000 + 3 × (151 372,80 + 3 600 + 18 000) = 546 918,40 kr.

Tokenvolumet inkluderer all generering, også eventuelle nye forsøk og tenketokens. Vi legger derfor ikke 10 % ekstra kall oppå full maskinkapasitet. API-estimatet bruker samme fakturerbare outputvolum; ulikt faktisk forbruk per godkjent oppgave må måles. Betalte verktøy, OCR, embeddings, ekstra lagring og regionale pristillegg er ikke inkludert.

Maskin og programvare · dette bygger vi med
Konkret maskin

16 GB grafikkminne.
En liten modell først.

Komplett-PC Epic Gaming a270 RGB, varenr. 1320551: RTX 5070 Ti 16 GB, Ryzen 7 9700X, 32 GB RAM og 2 TB samlet SSD-lagring. Observert pris: 39 999 kr inkl. mva., tilsvarende 31 999,20 kr ekskl. mva. Konfigurasjon og pris må bekreftes ved kjøp.

Dette er en tilgjengelig referansemaskin, ikke en påstand om markedets laveste pris. Den leveres med Windows; piloten under bruker Ubuntu 24.04 LTS. Avklar Linux- og driverstøtte før bestilling. En vanlig PC har ingen redundant drift eller server-SLA.

Programvare

Ubuntu + Docker Engine + NVIDIA Container Toolkit + Ollama + Open WebUI.

Qwen3 8B Q4_K_M er en konkret startmodell: nedlasting på 5,2 GB, Apache 2.0-lisens. Filstørrelse er ikke total minnebruk. Start med 8 192 tokens kontekst og én parallell forespørsel; kontroller faktisk GPU-bruk.

Open WebUI brukes med original profilering, etter prosjektets lisens. Ingen betalt programvarelisens er budsjettert for denne konfigurasjonen.

Slik måler du kapasiteten på din egen maskin

Bytt antakelsen
med en måling.

Varm opp Qwen3 8B, behold én parallell generering og samme kontekstinnstilling som piloten. Kjør en kontinuerlig kø med representative tekster over flere timer. Registrer full veggklokketid, totalt genererte tokens, inputbehandling, feil og strøm ved stikkontakten.

Ollamas API returnerer blant annet eval_count og eval_duration: genereringshastighet = eval_count / eval_duration × 1 000 000 000. For kapasitetsbudsjettet bruker du i stedet summen av eval_count delt på hele testens varighet i sekunder, slik at inputbehandling og mellomrom mellom kall kommer med.

Sett målt effektiv tokens/sekund inn i årsformelen og juster for planlagt tilgjengelighet. Ikke trekk fra inputbehandling to ganger dersom den allerede inngår i målingen. Test svarenes kvalitet separat; flere genererte tokens er bare verdifulle når resultatene kan brukes.

Bygg piloten selv · oppsett og testplan
Bygg piloten selv

Fra ny PC til første test.

Oppsettet nedenfor er dokumentasjonsbasert og ikke kjørt på referansemaskinen. Første versjon er kun tilgjengelig på maskinen selv. Kunden får ikke produksjonstilgang før kvalitet, tilgang og gjenoppretting er prøvd.

  1. Installer grunnlaget. Installer Ubuntu 24.04 LTS med kryptert disk, oppdater systemet og installer en NVIDIA-driver som støtter kortet. Kontroller GPU-en med nvidia-smi. Følg Docker Engine for Ubuntu og NVIDIA Container Toolkit, inkludert konfigurering av Docker-runtime.
  2. Start brukergrensesnitt og modellserver. Bruk kommandoen under, tilpasset Open WebUIs oppstartsveiledning. Behold volumene; de lagrer brukere, samtaler og modeller.
docker run -d --name si-ai --restart unless-stopped   --gpus all -p 127.0.0.1:3000:8080   -e OLLAMA_NO_CLOUD=1 -e OLLAMA_NUM_PARALLEL=1   -e OLLAMA_CONTEXT_LENGTH=8192   -v si-ollama:/root/.ollama   -v si-webui:/app/backend/data   ghcr.io/open-webui/open-webui:ollama

docker exec si-ai ollama pull qwen3:8b
  1. Opprett administrator. Åpne http://localhost:3000 på serveren. Opprett første konto selv og slå av åpen registrering i administrasjonspanelet. Bruk separate kontoer; opprett pilotbrukerne kontrollert. Velg Qwen3 8B og slå av tenkemodus for den første, enkle testen.
  2. Bekreft lokal kjøring. Under en forespørsel, kjør docker exec si-ai ollama ps og kontroller GPU-bruk. Noter modell-ID og kontekststørrelse. Ikke legg inn eksterne API-nøkler eller aktiver nettverktøy. Test at tekstoppgaven fortsatt virker uten internett etter nedlasting.
  3. Lås den testede versjonen. Container-taggen over kan endres. Etter godkjent pilot, noter image-digest med docker inspect si-ai --format '{{.Image}}' og tilhørende RepoDigest fra docker image inspect. Bruk den konkrete @sha256:…-referansen ved ny utrulling. Behold modell-ID, innstillinger og versjoner i driftsloggen.
  4. Gi kontrollert tilgang. For egen fjernpilot kan du bruke SSH-tunnel: ssh -L 3000:127.0.0.1:3000 brukernavn@server. Åpne deretter localhost:3000 på egen PC. Før ti kundeansatte får tilgang, sett opp autentisert HTTPS via virksomhetens godkjente proxy/VPN og test tilgang. Ikke publiser Ollama-porten 11434 på internett.

Se også Ollamas dokumentasjon om GPU, kontekst, parallellitet og lokal drift. Rettighetene og innstillingene må kontrolleres i den installerte programvareversjonen.

En pilot må bestå en test.

Kvalitet

Lag 30 representative tekster med forventede fakta. Kjør samme oppgaver lokalt og via API-et. Foreslått aksept: minst 27 av 30 brukbare utkast etter lett redigering, og ingen oppdiktede kritiske fakta. Dette er et testkrav, ikke et oppnådd resultat.

Kapasitet

Mål median og 95-persentil for 50 oppgaver, inkludert ti samtidige innsendelser. Avtal for eksempel under 90 sekunder uten kø og under fem minutter med kø. Hvis det ikke nås, reduser omfanget eller pris en annen maskin.

Drift

Mål strøm over en representativ uke. Test omstart, sletting av bruker og gjenoppretting. Stopp containeren før konsistent kopi av datavolumet; krypter backup og prøv restore i et separat miljø.

Felles 24 oppstartstimer: 8 applikasjon/brukere + 8 kvalitetstest + 4 backup/restore + 4 dokumentasjon/opplæring. Deretter 8 lokale timer til GPU/modelloppsett eller 4 API-timer til tilkobling og kostnadskontroll. Felles drift er én time/måned, med én ekstra time lokalt eller en halv ekstra time for API. Før faktisk tidsbruk i piloten.

Dokumenter verdien av lokal drift.

Registrer lokal modellversjon, faktisk output, total kjøretid, strømforbruk og om resultatet er godkjent. Ta med nye forsøk og redigeringstid. Regn lokal kostnad per godkjent oppgave, slik at dere måler verdien av arbeidet og ikke bare antall tokens.

For kostnadssammenligningen må input og output telles med den aktuelle API-modellens tokenisering. Bruk gjeldende priser og inkluder eventuelle ekstra modellkall. En kvalitetstest mot en ekstern modell kan kjøres separat med godkjente eksempeldata; den lokale produksjonsflyten trenger ingen ekstern API-tilkobling.

Oppdater budsjettet med målt kapasitet og strøm før oppskalering. Testene er en del av den foreslåtte piloten og er ikke gjennomført på referansemaskinen i dette fiktive caset.

Hvorfor bygge lokalt?

Verdien varer lenger
enn én prisliste.

Eierskap til kapasiteten.

Maskinen er deres. Dere bestemmer hvilke godkjente jobber som får kapasitet, når de skal kjøres og hvordan løsningen utvikles innenfor maskinens grenser.

Kontroll over endringer.

En lagret og testet modellversjon kan beholdes. Dere planlegger selv oppgraderinger og validerer resultatene før arbeidsflyten endres.

Mindre tokenprisrisiko.

En prisøkning hos en ekstern modelltjeneste endrer ikke tokenavgiften for denne lokale konfigurasjonen: den er fortsatt null. Strøm og vedlikehold må fortsatt budsjetteres.

Forutsetningene for at lokal drift skal lønne seg

Arbeidsmengden må være stor nok til å bruke kapasiteten, og Qwen3 8B må levere godkjent kvalitet på oppgavene. Ved liten bruk kan en ekstern tjeneste koste mindre totalt. Maskinen har begrenset kapasitet, og dere har ansvar for sikkerhet, backup og feilretting. Den beskrevne PC-en gir ikke redundant drift. Modellene er ikke dokumentert likeverdige; test kostnad per godkjent resultat før innkjøp og oppskalering.

Fra idé til en brukbar arbeidsflyt

Bygg kapasitet
dere selv kontrollerer.

Start med en lokal pilot på deres egne premisser. Vi avklarer arbeidsmengden, setter opp maskin og modell og måler kvalitet, kapasitet og strøm. Dere får et konkret grunnlag for å ta lokal AI i bruk – med et dokumentert oppsett dere kan eie og drifte videre.

La oss planlegge lokal AI hos dere ↗

Vil dere bygge selv? Oppsettet og beregningene over gir dere et konkret sted å starte.