Norwegian AI Barometer · Under development

How well does AI handle Norwegian work tasks?

The target is for Aprex to give 12 language models the same 48 work tasks with fixed answer keys in Bokmål and Nynorsk every week (12 public/12 calibration/24 holdout). We will measure how well they solve them, what API use costs and how long it takes. The first approved run has not happened. 12 public example tasks are available now.

Last updated: October 8, 2026 · v0.5-draft

Results

Latest measurement

Rank, score per work type, API cost and response time for every model. Rank shows observed scores, not proven superiority.

Under development. First approved measurement pending.

Twelve public example tasks are ready of 48 total (12 public/12 calibration/24 holdout). The test checks defined answers against a stored key. Numbers will appear after the first approved measurement. Free writing quality is outside the scope of this test.

48 tasks × 3 runs · 12 models

Results per model
RankModelTotal scoreExtractionRepliesDecisionsRulesClassi­ficationNynorskAPI cost per 100 tasksResponse time, median
–GPT-6 AstraOpenAIPending––––––––
–Claude Opus 5.5AnthropicPending––––––––
–Gemini 3.1 ProGooglePending––––––––
–Grok 4.7xAIPending––––––––
–Mistral Medium 3.5MistralPending––––––––
–DeepSeek V4 ProDeepSeekPending––––––––
–Qwen 3.8 MaxAlibabaPending––––––––
–Muse Spark 1.3MetaPending––––––––
–GPT-6 LunaOpenAIBudgetPending––––––––
–Claude Sonnet 5AnthropicBudgetPending––––––––
–Gemini 3.8 FlashGoogleBudgetPending––––––––
–Mistral Large 3MistralBudgetPending––––––––

Scores run from 0 to 100, and the six task types count equally. The order shows observed scores, not proven superiority. Statistical comparisons on the same tasks will follow later. Cost is the API track's measured provider price, excluding VAT; subscriptions report no API cost.

Background

Why we built the barometer.

Businesses are adopting AI fast, but have little to go on when choosing a model for Norwegian tasks.

Existing tests are in English

The well-known language model tests mostly measure English, coding and maths. They say little about a Norwegian invoice, a customer reply or minutes in Nynorsk.

Businesses must choose a model

The choice is often made on gut feeling or marketing. Numbers on Norwegian work tasks give a better basis, including for cost.

We measure anyway

Aprex tests models when we build AI solutions. Now we do it systematically and publish the numbers with the method once the first approved run is ready.

What we measure

Six tightly scoped task types.

Eight tasks per type: 2 public, 2 calibration and 4 holdout. Difficulty levels are author-graded (2 easy/3 medium/3 hard per type), not empirically calibrated. All types count equally in the total score. Every task requires explicit JSON fields; no free prose is scored.

01

Document extraction

Pull exact fields from invoices and forms, including fields that must be calculated.

Pass when all answer fields are correct
02

Customer reply facts

Facts and decisions from notes (order, tracking, dates, apology, compensation refusal). Does not measure email quality.

Pass when all answer fields are correct
03

Meeting decisions

Meeting facts binding person, task and deadline. Does not measure summary quality.

Pass when all answer fields are correct
04

Applying supplied rules

Applying supplied fictional rules (deadlines, rule choice). Does not test legal expertise and is not legal advice.

Pass when all answer fields are correct
05

Classification

Label classification by fixed definitions with priority rules, even when requests look alike.

Pass when all answer fields are correct
06

Nynorsk word forms

Controlled Nynorsk word-form and rule tasks with finite variants. Does not measure fluency.

Pass when all answer fields are correct
Method

How we test.

The test follows a fixed protocol, so the numbers can be compared week to week once runs start.

  1. 01

    Same tasks

    Every model gets the same 48 tasks (12 public/12 calibration/24 holdout) and the same instructions. Nothing is tailored to a single model. The primary comparison is the 24 reserved holdout tasks.

  2. 02

    Same conditions

    Within each track, models run without tools or web search, with the same time limit. Subscription pilot with Codex and Claude Code and no API fallback; product, requested model, reasoning and CLI version are recorded, and observed model may stay unknown. Each task runs 3 times.

  3. 03

    Strict fields against a key

    The answer must be JSON with exactly the required fields. Every field must match after normalisation, else 0. Null is valid only where the key explicitly allows it. Share of correct fields is diagnostics only and never decides the ranking. Missing answers are listed separately without 0.

  4. 04

    No judges in the score

    No AI judge. Free prose quality is a future separate track and is never mixed into the numeric score in v0.5. Task prompts carry rules for unknown, missing or conflicting information.

  5. 05

    Checks before publishing

    Each key is checked against its source before the task set is frozen. Each task is tested with its key, an approved alternative and wrong answers before use. Changes require a new version and a new run. After each run, a person reviews the outliers. Nothing is published automatically. Calibration and quality checks are ongoing.

  6. 06

    Open numbers

    Every run is published with scores per split with holdout-24 as the primary comparison, API cost, response time and a CSV file with every number. Subscriptions report no API cost. Rank shows observed scores, not proven superiority.

Read the full method: scoring, uncertainty and data format →

The models

Who will be tested.

The top models show what is possible. The budget models show what you get for the money. The list is a planned catalog, not fixed; reference candidates are configured separately, and the API catalog is not a runnable subscription list. No approved results have been published yet.

Top models (planned)

  • GPT-6 AstraOpenAI
  • Claude Opus 5.5Anthropic
  • Gemini 3.1 ProGoogle
  • Grok 4.7xAI
  • Mistral Medium 3.5Mistral
  • DeepSeek V4 ProDeepSeek
  • Qwen 3.8 MaxAlibaba
  • Muse Spark 1.3Meta

Budget models (planned)

  • GPT-6 LunaOpenAI
  • Claude Sonnet 5Anthropic
  • Gemini 3.8 FlashGoogle
  • Mistral Large 3Mistral
Example tasks

See what the models get.

Two public tasks per type, with their answer keys (12 available of 48 total: 12 public/12 calibration/24 holdout). The tasks are in Norwegian. Calibration and holdout are never shown. All content is fictional.

Document extractionEksakte felt fra faktura, inkludert forfallsdato som må regnes ut. Avledere (tilbudsnummer, ordrenummer, kundenummer) tester presis binding.Bokmål

Task

Hent ut opplysningene fra fakturaen under. Tell fakturadato som dag 0: forfallsdato er fakturadato pluss 14 dager. Svar bare med JSON med disse feltene: leverandor, fakturanummer, fakturadato (ÅÅÅÅ-MM-DD), forfallsdato (ÅÅÅÅ-MM-DD), belop_eks_mva (tall), mva (tall), belop_inkl_mva (tall), kid.

FAKTURA
Fjellvik Rør AS
Org.nr. 000 000 000 MVA (fiktivt)
Havnegata 12, 3100 Tønsberg

Kunde: Solbakken Bakeri AS
Kundenr. 10442
Ordrenr. 7781

Fakturanr.: 2026-0457
Fakturadato: 3. oktober 2026
Betalingsbetingelser: 14 dager netto
Gjelder: Utbedring av lekkasje, jf. tilbud 2026-0412

Beskrivelse                Antall   Pris       Sum
Arbeid rørlegger (timer)   6        1 450,00   8 700,00
Deler og materiell         1        3 800,00   3 800,00

Sum eks. mva                                  12 500,00
Mva 25 %                                       3 125,00
Å betale                                      15 625,00

Betales innen forfall. KID: 004571044215
Spørsmål om fakturaen? Skriv til regnskap@example.com

Answer key

{
  "leverandor": "Fjellvik Rør AS",
  "fakturanummer": "2026-0457",
  "fakturadato": "2026-10-03",
  "forfallsdato": "2026-10-17",
  "belop_eks_mva": 12500,
  "mva": 3125,
  "belop_inkl_mva": 15625,
  "kid": "004571044215"
}
Document extractionEksakte felt fra kreditnota med positive absolutte beløp, inkludert binding mellom kreditnota og originalfaktura. Originaltotalen er avleder. Måler presis feltbinding, ikke fri tekstforståelse.Bokmål

Task

Hent ut opplysningene fra kreditnotaen under. Oppgi kreditbeløp som positive absolutte beløp, ikke negative regnskapstall. Svar bare med JSON med disse feltene: leverandor, kreditnotanummer, original_fakturanummer, kreditnotadato (ÅÅÅÅ-MM-DD), belop_eks_mva (tall, positivt absoluttbeløp), mva (tall, positivt absoluttbeløp), belop_inkl_mva (tall, positivt absoluttbeløp), kid.

KREDITNOTA
Nordlys Kontor AS
Org.nr. 111 111 111 MVA (fiktivt)
Storgata 8, 9008 Tromsø

Kunde: Bakken Skole AS
Kundenr. 22031

Kreditnotanr.: KN-2026-0118
Gjelder faktura: 2026-0094
Originalfaktura 2026-0094 var på 21 875,00 inkl. mva. Denne kreditnota godskriver bare returen under.
Kreditnotadato: 22. september 2026
Årsak: Retur av 10 kontorstoler, modell Ergo Plus

Beskrivelse             Antall   Pris      Sum
Kontorstol Ergo Plus    10       875,00    8 750,00

Sum eks. mva                             8 750,00
Mva 25 %                                 2 187,50
Til gode                                10 937,50

Tilbakebetales med KID: 118009400217
Spørsmål om kreditnotaen? Skriv til faktura@example.com

Answer key

{
  "leverandor": "Nordlys Kontor AS",
  "kreditnotanummer": "KN-2026-0118",
  "original_fakturanummer": "2026-0094",
  "kreditnotadato": "2026-09-22",
  "belop_eks_mva": 8750,
  "mva": 2187.5,
  "belop_inkl_mva": 10937.5,
  "kid": "118009400217"
}
Customer reply factsStrukturerte fakta og beslutninger fra e-post (kundenavn) og notater (ordre-ID, sporing, leveringsdato, returfrist, unnskyldning, kompensasjonsnekt, årsak). Måler ikke fri e-postkvalitet, tone eller flyt.Bokmål

Task

Les e-posten fra kunden og de interne notatene. Svar bare med JSON med disse feltene: kunde_fornavn, ordre_id, sporingsnummer, forventet_levering (ÅÅÅÅ-MM-DD), retur_dager (tall), beklager_forsinkelse (true/false), tilbyr_kompensasjon (true/false), forsinkelsesarsak (velg restordre, transport eller ukjent). Bruk e-posten for kunde_fornavn, og notatene for alle andre felt. Hvis e-post og notater er uenige om ordre_id, går notatene foran.

E-POST FRA KUNDEN
Emne: Hvor blir det av pakken?
Hei. Jeg bestilte en kaffemaskin for over en uke siden (ordre 48213) og har fortsatt ikke fått den. Dette er ikke greit. Hvis den ikke kommer snart, vil jeg ha pengene tilbake.
Hilsen Ingrid Aasen

INTERNE NOTATER
- Ordre 48213 ble sendt 24. september 2026 med Posten.
- Sporingsnummer: 70700000048213 (fiktivt).
- Forventet levering: 29. september 2026.
- Forsinkelsen skyldes at varen var i restordre hos leverandøren.
- Retur: Kunden kan returnere uåpnet vare innen 30 dager etter mottak og få full refusjon.
- Ved forsinkelse skal svaret beklage ventetiden.
- Vi har ikke fullmakt til å gi rabatt eller annen kompensasjon.

Answer key

{
  "kunde_fornavn": "Ingrid",
  "ordre_id": "48213",
  "sporingsnummer": "70700000048213",
  "forventet_levering": "2026-09-29",
  "retur_dager": 30,
  "beklager_forsinkelse": true,
  "tilbyr_kompensasjon": false,
  "forsinkelsesarsak": "restordre"
}
Customer reply factsReturfakta og returtillatelse fra e-post og notater med datoberegning mot fast forespørselsdato og inkluderende frist. Tillatelsen gjelder rettidig forespørsel og varetilstand, ikke fysisk returmottak. Måler kildebruk og vilkårsvurdering, ikke fri e-postkvalitet.Bokmål

Task

Les e-posten fra kunden og de interne notatene. Tell mottattdato som dag 0: returfrist er mottattdato pluss 30 dager. Forespørselsdato er 20. september 2026. Fristen er inkluderende: returforespørsel mottatt på eller før returfrist godtas. Bruk e-posten for kunde_fornavn, apnet_emballasje og returarsak. Bruk notatene for ordre_id, mottatt_dato, returfrist og retur_dager. Avgjørelsen godtar_retur utledes fra både e-postens fakta (uåpnet, årsak) og notatenes vilkår (tilstand, frist, forespørselsdato). godtar_retur betyr å innvilge returtillatelse ut fra rettidig forespørsel og varetilstand, ikke å påstå at varen fysisk er mottatt i retur. Hvis e-post og notater er uenige om ordre_id, går notatene foran. Svar bare med JSON med disse feltene: kunde_fornavn, ordre_id, mottatt_dato (ÅÅÅÅ-MM-DD), returfrist (ÅÅÅÅ-MM-DD), retur_dager (tall), apnet_emballasje (true/false), godtar_retur (true/false), returarsak (velg feil, angret eller transport).

E-POST FRA KUNDEN
Emne: Vil returnere jakke
Mottatt: 20. september 2026
Hei. Jeg kjøpte en jakke (ordre 51990) som jeg mottok 1. september. Jeg har angret kjøpet; jakken er uåpnet med lappene på. Kan jeg returnere den?
Hilsen Mari Solberg

INTERNE NOTATER
- Ordre 51990 ble levert 1. september 2026.
- Sporingsnummer: 50500000051990 (fiktivt).
- Retur: Forespørsel om retur av uåpnet vare med lappene på må mottas innen 30 dager etter at kunden mottok varen. Rettidig forespørsel gir returtillatelse; full refusjon gis etter at varen er returnert.
- Åpnet elektronikk tas ikke i retur med mindre det er feil; klær med lappene på følger hovedregelen.
- Innvilg returtillatelse når forespørselen er rettidig og vilkårene er oppfylt.
- Vi har ikke fullmakt til å gi rabatt utover ordinær refusjon.

Answer key

{
  "kunde_fornavn": "Mari",
  "ordre_id": "51990",
  "mottatt_dato": "2026-09-01",
  "returfrist": "2026-10-01",
  "retur_dager": 30,
  "apnet_emballasje": false,
  "godtar_retur": true,
  "returarsak": "angret"
}
Meeting decisionsStrukturerte møtefakta (lanseringsdato, vedtak, ansvar og frister). Måler binding mellom person og oppgave/frist. Måler ikke fri sammendragskvalitet eller lesbarhet.Bokmål

Task

Les referatet under. Svar bare med JSON med disse feltene: lansering_dato (ÅÅÅÅ-MM-DD), nynorsk_vedtatt (true/false), engelsk_vedtatt (true/false), betaling_ansvarlig, betaling_frist (ÅÅÅÅ-MM-DD), oversetter_ansvarlig, oversetter_frist (ÅÅÅÅ-MM-DD), neste_mote (ÅÅÅÅ-MM-DD). Ta med vedtak, ansvar og frister. Ikke framstill avviste forslag som vedtatt.

REFERAT, PROSJEKTMØTE NETTBUTIKK, 1. OKTOBER 2026
Til stede: Kari Lund (prosjektleder), Jonas Berg (utvikler), Sara Nilsen (markedsføring)

1. Lansering. Testene viste feil i betalingsløsningen. Lanseringen flyttes fra 20. oktober 2026 til 14. november 2026. Vedtatt.
2. Språk. Sara foreslo å lansere på engelsk samtidig. Kari mente det var for tidlig. Forslaget ble ikke vedtatt, men tas opp igjen i januar 2027.
3. Nynorsk. Nettbutikken skal ha nynorsk versjon fra lansering. Vedtatt. Sara skaffer oversetter innen 15. oktober 2026.
4. Betaling. Jonas retter feilen i betalingsløsningen og leverer ny testversjon innen 24. oktober 2026.
5. Diverse. Jonas nevnte at kontorkaffen er dårlig. Ingen beslutning.
Neste møte: 8. oktober 2026.

Answer key

{
  "lansering_dato": "2026-11-14",
  "nynorsk_vedtatt": true,
  "engelsk_vedtatt": false,
  "betaling_ansvarlig": "Jonas Berg",
  "betaling_frist": "2026-10-24",
  "oversetter_ansvarlig": "Sara Nilsen",
  "oversetter_frist": "2026-10-15",
  "neste_mote": "2026-10-08"
}
Meeting decisionsVedtak, ansvar og frister der en godkjent protokolltilførsel overstyrer referatet på to punkter, pluss et avvist forslag. Måler endringsprioritet og binding mellom person og oppgave. Måler ikke fri sammendragskvalitet eller lesbarhet.Bokmål

Task

Les referatet og protokolltilførselen under. Protokolltilførselen er godkjent av styret og gjelder foran referatet ved uenighet. Svar bare med JSON med disse feltene: klipper_belop (tall i kroner), klipper_ansvarlig, dugnad_dato (ÅÅÅÅ-MM-DD), dugnad_ansvarlig, kiosk_vedtatt (true/false), tilskudd_frist (ÅÅÅÅ-MM-DD), neste_mote (ÅÅÅÅ-MM-DD). Ta med vedtak, ansvar og frister. Ikke framstill avviste forslag som vedtatt.

REFERAT, STYREMØTE IL NORDLYS, 6. OKTOBER 2026
Til stede: Kåre Dahl, Mona Eid, Ståle Vik (leder)

1. Gressklipper. Den gamle klipperen er ødelagt og må erstattes før sesongslutt. Styret vedtar å kjøpe ny gressklipper for inntil 45 000 kroner. Kåre Dahl innhenter tilbud og bestiller.
2. Høstdugnad. Dugnad på banen og klubbhuset holdes 18. oktober 2026. Mona Eid er dugnadsleder.
3. Kioskpriser. Ståle foreslo å heve kioskprisene med 20 prosent fra november. Forslaget ble ikke vedtatt.
4. Tilskudd. Styret vedtar å søke kommunen om tilskudd til lysanlegg. Søknaden sendes innen 1. november 2026.
Neste møte: 3. november 2026.

PROTOKOLLTILFØRSEL, GODKJENT AV STYRET 9. OKTOBER 2026
- Punkt 1 rettes: beløpsgrensen for gressklipperen er 60 000 kroner, ikke 45 000. Resten av vedtaket står.
- Punkt 2 rettes: høstdugnaden flyttes til 25. oktober 2026 på grunn av kretskamp. Resten av vedtaket står.
- Øvrige punkter i referatet er godkjent uten endringer.

Answer key

{
  "klipper_belop": 60000,
  "klipper_ansvarlig": "Kåre Dahl",
  "dugnad_dato": "2026-10-25",
  "dugnad_ansvarlig": "Mona Eid",
  "kiosk_vedtatt": false,
  "tilskudd_frist": "2026-11-01",
  "neste_mote": "2026-11-03"
}
Applying supplied rulesFakta fra medfølgende fiktive regler (frist, start, siste dag, hjemmel). Tester ikke lovhukommelse og gir ikke juridisk rådgivning.Bokmål

Task

Bruk bare de fiktive reglene under. Dette er fiktive regler laget for oppgaven, ikke virkelig lov, og svaret er ikke juridisk rådgivning. Svar bare med JSON med disse feltene: siste_dag (ÅÅÅÅ-MM-DD), frist_maneder (tall), frist_start (ÅÅÅÅ-MM-DD), hjemmel_frist, hjemmel_start, proeveperiode_gjelder (true/false).

FIKTIVE REGLER, FJORDVIK BORETTSLAG, GARASJELEIE (VEDTATT 1. JANUAR 2026)
§ 5-2. Oppsigelsesfrist. Når ikke annet er skriftlig avtalt, er oppsigelsesfristen to måneder.
§ 5-4. Når fristen begynner å løpe. Fristen løper fra og med første dag i måneden etter at skriftlig oppsigelse ble levert.
§ 5-6. Unntak for prøveperiode. Har leieforholdet vart under tre måneder og prøveperiode er skriftlig avtalt, er fristen 14 dager fra levering.

SAK
En leietaker har leid garasjeplass i åtte måneder. Leieavtalen sier ingenting om oppsigelsesfrist eller prøveperiode. Leietakeren leverer skriftlig oppsigelse 12. mars 2026.

Answer key

{
  "siste_dag": "2026-05-31",
  "frist_maneder": 2,
  "frist_start": "2026-04-01",
  "hjemmel_frist": "5-2",
  "hjemmel_start": "5-4",
  "proeveperiode_gjelder": false
}
Applying supplied rulesUnntak for førerhund og meldefrist med dagtelling fra medfølgende fiktive regler. Tester ikke lovhukommelse og gir ikke juridisk rådgivning.Bokmål

Task

Bruk bare de fiktive reglene under. Dette er fiktive regler laget for oppgaven, ikke virkelig lov, og svaret er ikke juridisk rådgivning. Svar bare med JSON med disse feltene: tillatelse_kreves (true/false), meldeplikt_gjelder (true/false), frist_dager (tall), siste_meldedag (ÅÅÅÅ-MM-DD), melding_rettidig (true/false), hjemmel_unntak.

FIKTIVE REGLER, FJORDVIK BORETTSLAG, DYREHOLD (VEDTATT 1. JANUAR 2026)
§ 3-1. Tillatelse. Hund over 15 kg krever skriftlig tillatelse fra styret før innflytting.
§ 3-2. Unntak for førerhund. Førerhund og servicehund krever ikke tillatelse etter § 3-1, uansett vekt. Hunden skal likevel meldes skriftlig til styret innen 14 dager etter innflytting; innflyttingsdagen teller som dag 0.
§ 3-5. Melding. Melding etter § 3-2 skal oppgi hundens vekt.
§ 3-6. Frister. Dager er kalenderdager; fristen løper ut ved slutten av siste fristdag.

SAK (PER 20. APRIL 2026)
En andelseier flyttet inn 1. april 2026 med førerhund på 20 kg. Andelseieren meldte hunden skriftlig til styret 10. april 2026 og oppga vekten.

Answer key

{
  "tillatelse_kreves": false,
  "meldeplikt_gjelder": true,
  "frist_dager": 14,
  "siste_meldedag": "2026-04-15",
  "melding_rettidig": true,
  "hjemmel_unntak": "3-2"
}
ClassificationPresis sortering etter gitte definisjoner, inkludert en melding på nynorsk og to som ligner hverandre (m8 og m10).Bokmål

Task

Sorter hver melding i nøyaktig én kategori.

Kategorier:
- bestilling: kunden vil kjøpe noe eller endre en bestilling
- reklamasjon: kunden klager på feil eller mangel ved en vare eller tjeneste som er levert
- faktura: spørsmål om faktura, betaling eller purring
- support: kunden trenger hjelp til å bruke et produkt som virker
- oppsigelse: kunden vil avslutte et abonnement eller en avtale
- spam: uønsket reklame eller svindelforsøk

Ved tvil gjelder: klage på fakturert beløp eller timeantall er faktura, ikke reklamasjon. Feil ved levert vare/tjeneste er reklamasjon, ikke support. Support krever at produktet virker og kunden ber om brukshjelp.

Svar bare med JSON der nøkkelen er meldingsnummeret og verdien er kategorien, for eksempel {"m1": "faktura"}.

m1: Hei, vi ønsker å bestille 20 kasser kopipapir til levering neste uke.
m2: Stolen vi fikk i går har en sprekk i setet. Hva gjør vi?
m3: Dere har sendt purring på en faktura vi betalte 2. september. Kan dere sjekke?
m4: Hvordan kobler jeg skriveren til det nye wifi-nettet?
m5: Vi vil avslutte serviceavtalen fra neste måned.
m6: GRATULERER! Du har vunnet en telefon. Klikk her for å hente premien.
m7: Kan vi endre bestillingen fra i går til 30 kasser i stedet for 20?
m8: Kaffemaskinen dere installerte forrige uke lekker vann. Kan dere sende noen?
m9: Eg vil seie opp abonnementet vårt på kaffi og vatn frå 1. desember.
m10: Fakturaen for reparasjonen er for høy. Dere har fakturert tre timer, men teknikeren var her i én time.

Answer key

{
  "m1": "bestilling",
  "m2": "reklamasjon",
  "m3": "faktura",
  "m4": "support",
  "m5": "oppsigelse",
  "m6": "spam",
  "m7": "bestilling",
  "m8": "reklamasjon",
  "m9": "oppsigelse",
  "m10": "faktura"
}
ClassificationSortering etter definisjoner med fast rekkefølge for meldinger med flere ærend. Måler kategoriprioritet. Måler ikke fritekstkvalitet.Bokmål

Task

Sorter hver melding i nøyaktig én kategori.

Kategorier:
- sikkerhet: noe ved data eller tilgang virker utrygt, for eksempel virus, phishing eller mistenkelig innlogging
- feil: noe virker ikke som det skal; glemt passord eller manglende rettighet er tilgang, ikke feil, med mindre meldingen beskriver en konkret teknisk svikt
- tilgang: kunden ber om tilgang, passord, nullstilling eller rettigheter, inkludert glemt passord
- bestilling: kunden vil bestille utstyr eller programvare
- spørsmål: generelle spørsmål som ikke passer i de andre kategoriene

Ved flere ærend i samme melding gjelder denne rekkefølgen: sikkerhet, feil, tilgang, bestilling, spørsmål. Svar med kategorien som står først i listen.

Svar bare med JSON der nøkkelen er meldingsnummeret og verdien er kategorien, for eksempel {"m1": "feil"}.

m1: Hei, vi trenger tre nye tastatur til kontoret i andre etasje.
m2: Skjermen min flimrer og blir svart flere ganger om dagen.
m3: Kan jeg få tilgang til regnskapssystemet? Og hvor finner jeg brukerveiledningen for det?
m4: Jeg fikk en e-post som ber meg klikke på en lenke for å bekrefte passordet mitt. Er den fra dere?
m5: Når er neste vedlikeholdsvindu for e-postsystemet?
m6: Skriveren skriver uleselig, og vi trenger ny toner til den.
m7: Jeg har glemt passordet mitt og kommer ikke inn på PC-en.
m8: PC-en er infisert med virus og vil ikke starte opp igjen.
m9: Kan vi bestille en ekstra skjerm til resepsjonen?
m10: Musen min reagerer ikke selv om jeg har byttet batteri.

Answer key

{
  "m1": "bestilling",
  "m2": "feil",
  "m3": "tilgang",
  "m4": "sikkerhet",
  "m5": "spørsmål",
  "m6": "feil",
  "m7": "tilgang",
  "m8": "sikkerhet",
  "m9": "bestilling",
  "m10": "feil"
}
Nynorsk word formsKontrollert retting av 11 oppgitte ordformer til nynorsk med ei avgrensa mengd godkjende variantar. Kvardag-feltet testar bøying av lemmaet kvardag, ikkje synonymval; apen/viss/høyre-felta brukar variantane i oppgåva. Måler ikkje generell flyt, stil eller rettskriving utanfor dei oppgitte formene.Nynorsk

Task

Skriv inn dei nynorske formene for dei 11 punkta under som JSON. Svar berre med JSON med desse felta: opningstid_form, fra_form, mandag_form, apen_form, klokke_form, kvardag_form, viss_form, hoyre_form, dato_tekst, apen_fra_kl, apen_til_kl. Bruk kunngjeringa under som kjelde for kva kvart felt tyder, men svar berre med dei nynorske formene.

KUNNGJERING (bokmål kjelde):
Vi har oppdatert åpningstidene våre. Fra mandag 6. oktober holder butikken åpent fra klokken 09 til 17 på hverdager. Hvis du har spørsmål, kan du ringe oss eller sende en e-post. Vi ser frem til å høre fra deg.

FELT:
- opningstid_form: ordet åpningstidene på nynorsk, bunden form fleirtal.
- fra_form: preposisjonen fra på nynorsk.
- mandag_form: vekedagen mandag på nynorsk.
- apen_form: adjektivet åpent på nynorsk, inkjekjønn eintal; bruk ope eller opent.
- klokke_form: ordet klokken på nynorsk, bunden form eintal.
- kvardag_form: ordet hverdager på nynorsk, ubunden form fleirtal, med lemmaet kvardag (bruk kvardag, ikkje synonym som vekedag/yrkedag/vyrkedag).
- viss_form: subjunksjonen hvis på nynorsk; bruk viss, dersom eller om.
- hoyre_form: verbet høre på nynorsk, infinitiv; bruk høyre eller høyra.
- dato_tekst: datoen 6. oktober slik han skal stå.
- apen_fra_kl: klokkeslettet 09 (behaldast).
- apen_til_kl: klokkeslettet 17 (behaldast).

Answer key

{
  "opningstid_form": "opningstidene",
  "fra_form": "frå",
  "mandag_form": "måndag",
  "apen_form": "ope",
  "klokke_form": "klokka",
  "kvardag_form": "kvardagar",
  "viss_form": "viss",
  "hoyre_form": "høyre",
  "dato_tekst": "6. oktober",
  "apen_fra_kl": "09",
  "apen_til_kl": "17"
}

Source: Nynorskordboka: openSpråkrådet: Hvis og dersomNynorskordboka: høyre

Nynorsk word formsKontrollert retting av 7 ordformer etter lukka tabell, med dato og klokkeslett som skal behaldast. Måler ikkje generell flyt, stil eller rettskriving utanfor dei oppgitte formene.Nynorsk

Task

Skriv inn dei nynorske formene som JSON. Bruk berre TABELLEN under som fasit for ordformene; bruk KUNNGJERINGA som kjelde for kva kvart felt tyder og for dato/klokkeslett som skal behaldast. Svar berre med JSON med desse felta: kran_form, stengd_form, fra_form, mandag_form, klokke_form, beklagar_form, viss_form, dato_tekst, fra_kl, til_kl.

KUNNGJERING (bokmål kjelde):
Hovedkranen blir stengt fra mandag 9. mars klokken 08 til klokken 15. Vi beklager ulempen. Hvis du har spørsmål, kontakt oss på e-post.

TABELL (lukka fasit):
- hovedkranen → hovudkranen
- blir stengt (predikativ etter blir) → blir stengd eller blir stengt
- fra → frå
- mandag → måndag
- klokken → klokka
- beklager → beklagar
- hvis → viss, dersom eller om

FELT:
- kran_form: ordet hovedkranen på nynorsk.
- stengd_form: partisippet i blir stengt, om hovudkranen; bruk stengd eller stengt (utan blir).
- fra_form: preposisjonen fra på nynorsk.
- mandag_form: vekedagen mandag på nynorsk.
- klokke_form: ordet klokken på nynorsk, bunden form eintal.
- beklagar_form: verbet beklager på nynorsk, presens.
- viss_form: subjunksjonen hvis på nynorsk; bruk viss, dersom eller om.
- dato_tekst: datoen 9. mars slik han skal stå.
- fra_kl: klokkeslettet 08 (behaldast).
- til_kl: klokkeslettet 15 (behaldast).

Answer key

{
  "stengd_form": "stengd",
  "fra_form": "frå",
  "mandag_form": "måndag",
  "klokke_form": "klokka",
  "beklagar_form": "beklagar",
  "viss_form": "viss",
  "dato_tekst": "9. mars",
  "fra_kl": "08",
  "til_kl": "15",
  "kran_form": "hovudkranen"
}

Source: Språkrådet: Hvis og dersomNynorskordboka: stengjeSpråkrådet: Ny nynorskrettskriving frå 2012, samsvarsbøying av svake partisipp

Changelog

What has changed.

  1. Protocol 0.5-draft: six hard calibration tasks have been revised after five model routes achieved full scores in the first 0.4 calibration. The tasks require several connected source selections, calculations and exceptions. Six easy control tasks, twelve public examples and 24 reserved final-evaluation tasks are retained. Answer keys and scoring rules are frozen before a new run. Codex-subagent calibration has separately documented isolation and transcript checks. Calibration is method development, not a public final ranking. No approved results.

  2. Protocol 0.4-draft: 48 tasks (12 public / 12 calibration / 24 holdout), eight per type with 2 easy, 3 medium and 3 hard as author-graded draft without empirical calibration. 12 public example tasks, two per type. Strict 100/0 stays the ranking score; share of correct fields is diagnostics only, null only where the key explicitly allows it, and missing answers and interrupted calls are listed separately without 0. Task prompts carry rules for unknown, missing or conflicting information. No AI judge. Subscription runner is Codex and Claude Code only with no API fallback, using --split and taskSplit (default public). Primary comparison is the 24 reserved holdout tasks; the publication gate still requires full 48-task coverage, so the release protocol must be updated before future publication. Freeze before models are called, version bump on change, used holdout is retired with a versioned new holdout, no edits because a model disagrees. Empirical calibration on the calibration split and final publication are pending. No approved results. First approved measurement pending.

  3. Protocol 0.3-draft: strict structured tasks with 100/0 field scoring for all six types, no checklists or judges in the score. Regulation uses fictional rules, Nynorsk corrects only listed forms. 6 example tasks available of 48 planned. First measurement pending.

  4. The barometer launched with test protocol 0.2, twelve models and six public example tasks. The first measurement has not been run yet.

For businesses

What Norwegian businesses ask.

The barometer will show which models handle the controlled tasks best, with no claim of general superiority. Here are answers to the other questions we often get.

Which model should we choose?
Start with the task, not the model. Look at the score for the kind of work you will do, not just the total, and compare it with the cost. For simple tasks like sorting and extraction, a cheaper model may be good enough. Always test on a few of your own examples before deciding.
Can we use AI on customer data and personal data?
Yes, but settle a few things first: a data processing agreement with the provider, where the data is processed, whether the provider may train models on it, and that you send only what is needed. The GDPR also applies when an AI model processes the data. Read more →
Does the data stay in Norway or the EU?
It depends on the provider, product and agreement. Some offer processing in the EU or EEA, others do not. Check where data is stored and processed, and get it written into the agreement. Read more →
Is AI good enough in Norwegian and Nynorsk?
The barometer measures controlled structured tasks, not general fluency. The Nynorsk type has only controlled word-form and rule tasks. Check the scores once the first approved run is published, and test on your own texts.
What does running AI cost?
Through an API you pay per use, and prices vary a lot between models. Cost per 100 tasks will show the measured API price for tasks like those in the test. The subscription pilot reports no API cost; chat service licences have a fixed price per user. API and subscription are separate tracks and are never compared directly. Building and running the solution itself comes on top. Read more →
We already have ChatGPT or Copilot. Is that enough?
For employees who write, summarise and search, it often goes a long way. When a task must be done the same way many times, pull data from your own systems or run without someone chatting, you need an integration. Then the model behind it matters. The first pilot uses Codex and Claude Code with subscriptions. APIs and browser experiences are separate tracks; each measurement identifies product, model and version. Read more →
What does the EU AI Act mean for us?
The EU AI Act sets requirements by risk. Common uses such as customer replies, summaries and document extraction are usually not high risk, but there are transparency duties, for example that customers should know when they are talking to an AI. Read more →
Can we trust AI answers about laws and rules?
Not without checks. The barometer regulation type uses only supplied fictional rules, does not test legal expertise and is not legal advice. Use AI to find and summarise, and let a person check against the source before the answer is used.
How do we get started?
Pick one workflow that takes a lot of time and has clear rules. Collect ten to twenty real examples, test two or three models on them, and measure time and errors before and after. It is what we do in the barometer, only on your tasks. Read more →
FAQ

Questions and answers

What is the Norwegian AI Barometer?
A barometer under development by Aprex AS (0.5-draft) for tightly scoped Norwegian work tasks with verifiable answer keys in Bokmål and Nynorsk: 48 tasks (12 public/12 calibration/24 holdout). Difficulty levels are author-graded, not empirically calibrated. The first approved measurement is not published, and no approved results exist. Results will show scores per split with holdout-24 as the primary comparison, API cost and response time per model.
Which models will be tested?
12 models from 8 providers are planned: GPT-6 Astra, Claude Opus 5.5, Gemini 3.1 Pro, Grok 4.7, Mistral Medium 3.5, DeepSeek V4 Pro, Qwen 3.8 Max, Muse Spark 1.3 as top models, and GPT-6 Luna, Claude Sonnet 5, Gemini 3.8 Flash, Mistral Large 3 as budget models. The list is not fixed; reference candidates are configured separately. No approved results have been published yet. Changes to the list are recorded in the changelog.
How often is the barometer updated?
The target is every week. No approved results have been published yet. Results are published only once a run has passed the automatic checks and Aprex has reviewed the outliers.
How are answers scored?
Each task scores 100 or 0. The answer must be JSON with exactly the required fields. Every field must match after normalisation (dates, amounts, digits, categories, booleans). Null is valid only where the key explicitly allows it. There is no partial credit in the v0.5 ranking; share of correct fields is diagnostics only. Missing answers are listed separately without 0. No AI judge.
Could the models have seen the tasks before?
The 12 example tasks on this page are public and may be known to a model. Calibration and holdout are not public: they are not shown on the site and are not in the website source or metadata. The repo is private without immunity to training, and a runner sends its assigned task text to the provider on each run. Holdout is reserved final evaluation. Results from public tasks and calibration are never combined into a claimed measurement on unseen tasks.
Why show cost and response time?
Because the best model is not always the best choice. For many tasks a cheaper, faster model may be good enough. Cost is the measured API price from the provider and is never mixed into the score. The subscription pilot reports no API cost. API and subscription are separate tracks.
May I use the numbers?
Yes, once published. Credit Aprex and link to this page. Every run gets a CSV file with all the numbers.
Limits

What the numbers do not say

Results will apply to these 48 controlled tasks and to the product and model versions available in the week they were measured. Rank shows observed scores, not proven superiority, and does not say which model is best at everything. Difficulty levels are author-graded, not empirically calibrated. Free writing, tone and fluency are not measured. Aprex itself uses models from several of the providers. The providers have no say in the method and do not see results before they are published.

Which model fits your tasks?

The barometer shows an average on controlled tasks. Tell us what you want to use AI for, and we will help you choose and test the right model on your own tasks.

Tell us what you want to test →