Hvordan lykkes en etisk tilnærming til AI?

LED: Hva kan AI gjøre i dag?

Helmut Scherer: Når du hører AI, tror mange at det er datasystemer som oppfører seg som menneskelig intelligens. Men i de fleste tilfeller er vi ikke så langt ennå. Det som brukes i dag er maskinlæring. En verktøykasse som lærer av dataregler for å implementere såkalte AI-systemer. Maskinen kan svare på relativt smale spørsmål, i bransjen for eksempel innen maskinvedlikehold.

Helmut Scherer administrerende direktør Futurice
Helmut Scherer, administrerende direktør Futurice

Her kan du bestemme hvilke deler som forventes erstattet neste. Også slik teknologi innen automatisering av for eksempel selvkjørende biler i forkant av en sving kan forutsi i hvilken retning rattet må tas. Det er ofte en grov misforståelse at å svare på så smale spørsmål basert på store datamengder kan erstatte menneskelig intelligens.

LED: Så maskinene støtter bare mennesker?

Helmut Scherer: Absolutt. Folk tar ofte avgjørelser som tas av emosjonelle årsaker. Spesielt her er det fornuftig å kombinere dine egne ferdigheter med AI og å kombinere kunnskap på tvers av forskjellige områder. Det er på ingen måte tilfelle at menneskelig etterretning erstattes av AI.

utstilling

LED: I hvilke felt brukes AI hovedsakelig i dag?

Helmut Scherer: For meg er det fire punkter som AI brukes: prediksjon, personalisering, gjenkjennelse av objekter og fange strukturer. Et eksempel på prediksjonen er det ovennevnte vedlikeholdseksemplet i bransjen. Når det gjelder personalisering, har vi for eksempel utviklet et verktøy for en stor mediegruppe som koordinerer artikkelanbefalinger med personlige interesser.

Når det gjelder gjenkjennelse av mennesker, har vi vellykket implementert en raskere innsjekkingsprosess for forretningsreisende med ansiktsgjenkjenning Finnair. Det fjerde området er samlingen av strukturer. Dette brukes spesielt i kunnskapsintensive miljøer, for eksempel i kundeservice av maskiningeniører. Der identifiserer AI mønstre i informasjon fra e-post og databaser, og hjelper til med å identifisere de vanligste kundespørsmålene slik at ansatte kan finne løsninger raskere i kundesupport.

LED: Hvor langt har AI kommet i hverdagen, og hvordan tror du det vil utvikle seg i løpet av de neste årene?

Scherer: Ved å bruke forskjellige enheter og digitale assistenter som Alexa eller Siri, er AI allerede ofte en integrert del av hverdagen. Mange mennesker er bare uvitende om dette. Jeg tror at AI vil bli brukt mye mer i fremtiden enn det allerede er. Det er viktig at AI ikke bare er tilgjengelig for noen få brukere. En forutsetning for riktig håndtering av teknologien er selvfølgelig den rette bevisstheten om den.

LED: Hvordan skal det se ut?

Scherer: Dette ligner på distribusjonen av media. For eksempel for 20 år siden var produksjonen av en video ekstremt kostbar og gjennomførbar bare for svært få, for ikke å nevne formidling. I dag kan nesten hvem som helst lage og distribuere en video. Jeg tror det må du se med AI. Du må også få folk som ikke er teknologieksperter til å forstå mulighetene og risikoen forbundet med AI.

LED: Hva betyr det konkret?

Scherer: Team som utvikler maskinlæring eller AI-løsninger i selskaper bør være så forskjellige som mulig for å få et høyt nivå av åpenhet og diversifisering. Både brukere og beslutningstakere, teknologer og designeksperter bør samles for å skape best mulig forståelse. For eksempel bør du kommunisere på et språk som alle forstår.

Med AI har du alltid et sett med data, en algoritme som har en viss utgang og stammer fra en definert handling. Der må du jobbe frem spørsmål som: Hva vil vi oppnå? Hva optimaliserer algoritmen egentlig? Er dataene gode nok? Stiller vi spørsmålene på riktig måte, eller er det en skjevhet? Hva bruker vi output til? Hva er konsekvensene og kan vi føle oss ansvarlige for det?

Også interessant: smartere online søk med AI & Co.

«Man kan svare på smale spørsmål med maskinlæringsteknologi, men den faktiske beslutningen er fremdeles tatt av mennesker.»
Helmut Scherer

LED: Og det er der etiske prinsipper og spørsmål spiller inn?

Scherer: Hos Futurice har vi utviklet fire retningslinjer for etisk omgang med AI, som i økende grad brukes av selskaper. Først bør du være klar over hvilket formål du forfølger med AI – og hvordan det påvirker andre. For det andre må åpenhet alltid prioriteres. Det er viktig at brukerne stoler på teknologien. For det tredje må vi være inkluderende og forstå hvem som er påvirket av systemet. Og for det fjerde, personopplysninger må lagres sikkert for å sikre et høyt personvernnivå.

LED: Hva er risikoen ved å bruke AI?

Scherer: Det er selvfølgelig risikoer, som for enhver teknologi. Eksempler på dette vil være skjevhet, men også rettferdighet. Rekrutteringsprosessen bruker allerede maskinlæringsalgoritmer. Det er også tilfeller der for eksempel visse grupper av mennesker er å foretrekke. Det bør selvfølgelig unngås. Hvis du forestiller deg en politioperasjon, skal teknologien som brukes ikke ikke oppdage falske mennesker eller trekke falske konklusjoner. Et AI-system skal være sikkert, pålitelig og ikke akkumulere en ubegrenset mengde personopplysninger.

LEDE: Hvor realistisk er du angst for folk som Elon Musk, for at AI en dag kan ta kontroll?

Scherer: AI har vært et absolutt hypeemne i noen år nå og er det fortsatt. I her og nå er imidlertid formålene og omfanget av AI fortsatt relativt begrenset. De matematiske ferdighetene som finnes i dag er ikke mye bedre enn for noen år siden. Imidlertid er det i dag bedre måter å evaluere og bruke data på. For øyeblikket ser vi her: Du kan svare på spørsmål som er begrenset definert med maskinlæringsteknologi. Imidlertid er den faktiske beslutningen fremdeles tatt av mennesker.

Ctab droner innholdsbilde

Endret perspektiv!

Fra himmelen: droner kan gjøre mer enn bare å fly. De fleste av dem er ikke engang klar over potensialet sitt for reklame og markedsføring eller miljøbeskyttelse. LEAD Bookazine 1/2019 viser hva droner kan gjøre.

Bestill nå

LED: Men kunne det ikke være annerledes på ti år?

Scherer: Hvis du tar opp Skynet-scenariet, tror jeg det er lite sannsynlig på dette tidspunktet. I løpet av de neste ti årene vil imidlertid mange utbygginger komme til oss, spesielt når det gjelder automatiseringsteknologi eller prediktiv analyse. Alle trender indikerer at det største potensialet blir sett her.

LED: Og utover?

Scherer: Nå ville jeg trenge en glassball … Men du kan se på mange områder at folk er godt klar over etisk ansvar når det gjelder å håndtere teknologi. For øyeblikket, med databeskyttelsesforordningen, ser vi at folk er mer ansvarlige med dataene sine og ønsker å vite hva som skjer med dataene deres. Dette vil utvide til andre områder. Også politiske institusjoner og selskapene ser på seg selv som å ha etisk ansvar. Det er flere internasjonale initiativ som omhandler etikken i å håndtere AI, og man kan bare bidra til det.

LED: Du kan likevel se fra eksempelet på Kina at myndighetene kan bruke AI for å overvåke innbyggerne fullstendig og få sanksjoner fra dem. Så du kan forestille deg hvor langt det kan føre.

Scherer: Absolutt. Derfor er det enda viktigere for selskaper å tenke nøye gjennom hvilke etiske prinsipper de skal følge.

LED: Likevel, vi er ganske mye bak i de juridiske grunnleggende forholdene for å håndtere AI, ikke sant?

Scherer: Jeg tror politikk er på rett vei. EU-kommisjonen tar allerede de første stegene og utvikler for tiden anbefalinger for etiske retningslinjer for å håndtere AI i Europa. Konkrete lovgivningsforslag bør følge fra 2020.

Også interessant: AI vil bringe den perfekte formen for digitalisering

Nyhetsbrev og Messenger

LEAD Newsletter og LEAD Tech Newsletter er alltid oppdatert om alle digitale temaer. Enten profesjonell eller privat. I innboksen din eller via messenger.

Abonner på vårt nyhetsbrev nå
Abonner nå via messenger

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *