Norske oppgaver trenger egne målinger
De kjente testene av språkmodeller måler mest engelsk, programmering og matematikk. De sier lite om en norsk faktura, et kundesvar eller et referat på nynorsk.
Bedrifter tar i bruk AI raskt, men har lite å gå etter når de skal velge modell til norske oppgaver.
De kjente testene av språkmodeller måler mest engelsk, programmering og matematikk. De sier lite om en norsk faktura, et kundesvar eller et referat på nynorsk.
Valget tas ofte på magefølelse eller markedsføring. Tall på norske arbeidsoppgaver gir et bedre grunnlag, også for kostnaden.
Aprex tester modeller når vi bygger AI-løsninger. Nå gjør vi det systematisk og publiserer tallene med metoden når første godkjente måling er klar.
Åtte oppgaver per type: 2 offentlige, 2 kalibrering og 4 holdout. Vanskelighetsgradene er forfattervurderte (2 lette/3 middels/3 vanskelige per type), ikke empirisk kalibrerte. Typene teller likt. Modellen fyller ut faste svarfelt som programmet kontrollerer mot fasit.
Hente eksakte felt fra fakturaer og skjemaer, også felt som må regnes ut.
Finne kundefakta (ordre, sporing, datoer) og avgjøre fullmakter (unnskyldning, kompensasjon) ut fra vedlagte notater. Måler ikke e-postkvalitet.
Hente ut møtevedtak og koble riktig ansvarsperson til riktig oppgave og frist. Måler bindinger, ikke sammendragskvalitet.
Bruke vedlagte, fiktive regler til å beregne frister og velge riktig regel. Tester ikke juridisk ekspertise og gir ikke juridisk rådgivning.
Etikettklassifisering etter faste definisjoner med prioritetsregler, også når henvendelser ligner hverandre.
Kontrollerte nynorske ordform- og regeloppgaver med endelige varianter. Måler ikke flyt.
Toppmodellene viser hva som er mulig. De rimelige modellene viser hva du får for pengene. Listen er en planlagt katalog, ikke fast; referansekandidater konfigureres separat, og API-katalogen er ikke en kjørbar abonnementsliste. Ingen godkjente resultater er publisert ennå.
To offentlige oppgaver per type, med fasit (12 tilgjengelige av 48 totalt: 12 offentlige/12 kalibrering/24 holdout). Kalibrering og holdout vises aldri. Alt innhold er fiktivt.
Barometeret vil vise hvilke modeller som løser de avgrensede oppgavene best, uten påstand om generell overlegenhet. Her er svar på de andre spørsmålene vi ofte får.
Resultatene vil gjelde disse 48 avgrensede oppgavene og de produkt- og modellversjonene som var tilgjengelige den uken de ble målt. Rekkefølgen viser observerte poeng, ikke bevist overlegenhet, og sier ikke hvilken modell som er best til alt. Vanskelighetsgradene er forfattervurderte, ikke empirisk kalibrerte. Fri skriving, tone og flyt måles ikke. Aprex bruker selv modeller fra flere av leverandørene. Leverandørene har ingen innflytelse på metoden og får ikke se resultatene før de publiseres.
Barometeret viser et snitt på kontrollerte oppgaver. Fortell hva dere vil bruke AI til, så hjelper vi dere med å velge og teste riktig modell på deres egne oppgaver.
Fortell hva dere vil teste →