Jonatan Granner

Hvorfor ansvarlig AI er vigtigt at få på dagsordenen (del 1)

Videoen opsummerer eventet fra Responsible AI-arbejdsgruppen afholdt d 16. februar 2019.

Indenfor bevægelsen effektiv altruisme kigger man ofte på tre aspekter for at kunne vurdere i hvor høj grad det er vigtigt at bruge ressourcer på at løse et problem: Problemets omfang, problemets løsbarhed og hvor negligeret problemet er.
Hvis et problem er stort i omfang, men ikke løsbart (fx universets endelige skæbne), er det svært at argumentere for, at man skal poste ressourcer i at løse det. Hvis et problem er både stort i omfang og løsbart, men allerede er på toppen af dagsordenen i store dele af verdenen (fx forskning i kræft), vil nye ressourcer brugt på en løsning have en relativt mindre indvirkning, end hvis samme ressourcer var blevet brugt på et lignende, men mere overset problem (fx bekæmpelse af schistosomiasis).
Tilstedeværelsen af alle tre faktorer biddrager således til en samlet slutning om at problemet fortjener flere ressourcer for at blive løst. En nærmere beskrivelse af frameworket kan findes på effectivealtruism.org.

Frameworket er forklaringen på, hvorfor mange mennesker indenfor effektiv altruisme vælger at fokusere på sikkerhed indenfor AI (kunstig intelligens): Problemet er stort (potentielt en eksistentiel trussel), problemet er løsbart idet vi selv skaber den kunstige intelligens som vil udforme truslen og endelig er problemet ganske overset sammenlignet med andre store trusler (fx global opvarmning). Ben Garfinkel, der er researcher fra
Future of Humanity Institute ved Oxford Universitet, estimerer, at der på verdensplan er mindre end 100 mennesker, der i øjeblikket arbejder med sikkerhed og etisk brug af kunstig intelligens.

I starten af 2019 lancerede Effective Altruism Denmark en arbejdsgruppe med fokus på netop ansvarlig udvikling og brug af kunstig intelligens. Det skete bl.a. med et event d 16. februar 2019, hvor arbejdsgruppens initiativtagere, Erik David Johnson og Søren Elverlin hver holdte et oplæg om etik indenfor AI. Erik, der til dagligt arbejder med AI, fortalte om status quo AI udvikling med fokus på etik samt fremtidsudsigter på kort sigt. Søren, der har stiftet organisationen AI Safety Denmark, fortalte om AI på den længere bane, og særligt Nick Bostroms argumenter for, hvorfor det er vigtigt at betragte superintelligente AIs som en potentiel trussel. Videoen i starten af dette indlæg viser et udpluk af de emner og argumenter, der blev taget op.

Igennem de næste to indlæg vil jeg gå mere i dybden med vigtigheden i at løse etiske udfordringer for AI på kort sigt og på lang sigt.

Jonatan Granner

Hallo, verden!

Jeg har altid været fan af “hello world”-beskeden. Sådan et lidt naivt udråb, der er født i sejrsrusen over i det mindste at have fået noget til at virke. Men alt for tit bliver det ved det. Ofte når det aldrig videre. Hvis Internettets virtuelle miljø led af samme forfald som vores dødelige, fysiske verden, ville vi se rustne, støvede “hello world”-skilte alle vegne. De ville hobe sig op og forfalde igen. Slet begravet i mulden fra nettets fjerne afkroge, ville apps og hjemmesider, der aldrig blev til, finde fred. En digital kirkegård. Og de ville ellers være et “hello world”-museum værdigt med al deres mangfoldighed og gå-på-mod, hvis der altså var hukommelse nok i verden. Men pixels ruster ikke. De forbliver intakte i deres små virtuelle miljøer, indtil deres skaber falder over dem igen, og ultimativt vælger at kappe livlinen. Det kan lyde brutalt, men det er nok meget heldigt, at det er sådan det fungerer, når man tænker på størrelsen af den losseplads af bytes de ville danne. Jeg skal i hvert fald ikke kunne se mig fri for at have mindst et par dusin af disse det-blev-kun-til-hej-og-farvel apps på samvittigheden.

Jeg tror, at jeg kommer til at tænke på dette, fordi jeg ikke håber, at det bliver sådan med denne blog. Faktisk arbejder jeg ihærdigt på at lægge en plan for, hvordan jeg undgår det. For øjeblikket hedder planen “social commitment” og masser af kaffe. På sigt må jeg finde flere motivationer – en læser eller to ville være en start.

Med det, vil jeg introducere Gavn. Jeg planlægger at skrive tanker og observationer om min egen brug af effektiv altruisme i hverdagen. Projektet Gavn er løst indtil videre, men jeg ser en værdi i, at jeg netop kan være fleksibel omkring hvad jeg skriver, indtil jeg finder en fast vinkel, der giver mening for mig. Indtil da vil jeg blot sige hallo og velkommen, verden. Jeg håber, at du vil finde Gavn ligeså interessant som jeg.