En framtid med kunstig intelligens – kan standarder bidra til pålitelighet? (Oppsummering av møte)

Trykk her for å hoppe rett til opptak og presentasjoner

Bakgrunn for seminaret

Med den vedtatte AI Act som bakteppe og den økende etterspørselen etter standarder, ser vi fortløpende på de regulatoriske rammeverkene og de teknologiske framtidsperspektivene som former AI-landskapet. På seminaret samlet vi eksperter, beslutningstakere og de som «bare» er nysgjerrige, for å dele innsikt, ideer, sin beste praksis, og for å diskutere alt fra sikkerhet, personvern til innovasjonsmuligheter og forbrukerrettigheter.

Bruken av kunstig intelligens (KI) har eksplodert de siste årene og spiller nå en stadig viktigere rolle i våre liv. Fra selvstyrte biler med virtuelle assistenter til roboter med medisinske diagnoseverktøy, har KI-teknologien gitt oss et bredt spekter av  brukspotensial for å løse noen av dagens største utfordringer.

Bruken av KI derimot reist etiske, juridiske og sikkerhetsmessige spørsmål noe som dannet deler av bakteppet til at EU utviklet Artificial Intelligence Act (AI Act), eller KI forordningen på norsk. Denne skal bidra til å regulere og sette retningslinjer for bruk av kunstig intelligens innenfor EU. 

Det er flere grunner til utviklingen av denne lovgivningen. Lovgivningen skal:

1. Sikre at bruken av kunstig intelligens respekterer grunnleggende menneskerettigheter og etikk. Dette inkluderer prinsipper som rettferdighet, diskriminering, personvern og gjennomsiktighet.
2. Beskytte forbrukernes rettigheter og sikkerhet ved å hindre at de blir utsatt for urettferdig eller skadelig praksis.
3. Stimulere til et miljø som fremmer innovasjon og konkurranseevne. Klare regler og retningslinjer kan skape tillit og forutsigbarhet for næringslivet, noe som kan gi grunnlag for innovasjon og bidra til å øke investeringene i KI-teknologi.
4. Sikre at KI-systemer er pålitelige, sikre og robuste. Dette er viktig for å unngå skade eller uønskede konsekvenser av feil eller misbruk av KI-teknologi.

AI Act har som mål å balansere behovet for innovasjon med hensynet til etikk, sikkerhet og beskyttelse av forbrukernes rettigheter innenfor EU.

Utviklingen av ansvarlig og pålitelig KI-teknologi er avhengig av standarder, da disse kan hjelpe organisasjoner med å etablere etisk og bærekraftig bruk av KI. I denne sammenhengen spiller harmoniserte standarder* og ISO-standarder en viktig rolle i å fremme og regulere utvikling og bruk av KI-teknologi.

Hvorfor er standarder viktig for KI?:

Interoperabilitet: KI-systemer som er utviklet av forskjellige organisasjoner og leverandører må kunne samhandle og utveksle data og informasjon på en sømløs måte. Standarder for KI kan bidra til å etablere felles rammer og protokoller som sikrer interoperabilitet og samhandling mellom de forskjellige KI-systemene.

Sikkerhet: KI-systemer kan ha store implikasjoner for sikkerhet og personvern. Standarder for KI kan hjelpe med å etablere beste praksis for beskyttelse av personvernopplysninger, hvordan ivareta krav til cybersikkerhet og andre relaterte områder.

Kvalitetskontroll: Standarder kan bidra til å etablere kvalitetskontrollprosesser for KI-systemer. Dette kan hjelpe organisasjoner med å verifisere og validere KI-algoritmer, slik at vi sikrer at de fungerer som de skal.

Etikk: KI-teknologi kan påvirke samfunnet på mange måter, og derfor er det viktig å etablere etiske retningslinjer for utvikling og bruk av KI-systemer. Standarder for KI kan bidra til å etablere rammer og retningslinjer som kan hjelpe organisasjoner med å håndtere etiske spørsmål knyttet til KI.

Standarder vil totalt sett bidra til å øke tilliten til KI-teknologien, og videre øke aksepten for, og utbredelsen av KI-baserte løsninger i ulike sektorer.

(* Harmonisert standard er en standard som er utarbeidet etter et mandat fra EU-kommisjonen for å følge opp og per definisjon dekke kravene i et direktiv eller forordning. EU-kommisjonen sjekker etter at standarden er utgitt, at den faktisk er i overensstemmelse med kravene og kan deretter gi den betegnelsen harmonisert standard.)

Video

Presentasjoner

• KI-forordningen og norsk politikk
  Christine Hafskjold, fagdirektør i Digitaliserings- og forvaltningsdepartementet (DFD)
• Forbrukerutfordringer ved generativ kunstig intelligens
  Finn Lützow-Holm Myrstad, fagdirektør i Forbrukerrådet
• Europeisk og internasjonal KI-standardisering
  Odd Arne Sætervik, seniorrådgiver i Digdir og leder av standardiseringskomiteen
  Lars Erik Jensen, fag- og personalleder i Standard Norge
• Forsvarlige helsetjenester med KI?​
• Hvorfor standarder er viktig for helse- og omsorgstjenesten​
  Helga M Brøgger, lege og KI seniorforsker i DNV, en av 50 Tech kvinner 2024
  Hilde Margrete Lovett, seniorrådgiver i Helsedirektoratet og prosjektleder for det nasjonale KI-prosjektet i helse- og omsorgstjenesten, en av 50 Tech kvinner 2024
• Virksomhetsstyring av kunstig intelligens
  Eilin Wermundsen Mork, assisterende CISO/ISL på Akershus universitetssykehus (AHUS)

Kontaktinformasjon

Har du spørsmål eller ønsker mer informasjon om temaet, ta kontakt med Emanuela Rokke eller Lars Erik Jensen i Standard Norge per e-post.

Les om standarder for kunstig intelligens