Kunstig intelligens – en større trussel enn atombomben?

Vil kunstig intelligens bli vår undergang?

Digitalisering snur opp ned på bransje etter bransje. Mange hevder at automatisering og roboter vil erstatte millioner av arbeidsplasser.

Nå advarer Elon Musk mot kunstig intelligens. Han mener kunstig intelligens i verste fall kan bli menneskehetens undergang. Er dette fremtidsscenarioer som kun hører hjemme i science fictionlitteraturen eller noe vi bør ta på alvor?

Elon Musk mener det haster: Vi må utvikle teknologi som gjør at vi kan kontrollere og styre kunstig intelligens før det er for sent.

Vi evner ikke å forstå hva som vil skje om vi utvikler en kunstig intelligens på nivå med mennesket. Blir denne selvbevisst vil resultatet bli en intelligenseksplosjon som vil skape en helt ny verden utenfor vår fatteevne.

En verden hvor Homo Sapiens ikke lenger er i førersetet.  

Skal vi overleve må vi simpelthen koble vår hjerne til kunstig intelligens: «If you can´t beat them, join them»

Optimistene, på den annen side, sier at dette er grove overdrivelser og at kunstig intelligens er en velsignelse. Kunstig intelligens er allerede den neste store motoren i verdens utvikling.

En ønsket utvikling som vil drive vekst og skape en fremtid bedre for oss alle: Kunstig intelligens er ingen trussel – snarere en velsignelse.

Bevissthet er noe som er unikt for mennesket – noe som aldri kan gjenskapes i en datamaskin. Vi må bare styre utviklingen i riktig retning. I en retning som er til det beste for oss alle. Da vil det gå riktig så bra, mener optimistene.

Kunstig intelligens endrer verden slik vi kjenner den

Jeg mener at kunstig intelligens er i ferd med å forandre verden slik vi kjenner den i dag. På samme måte som strøm forandret verden i forrige århundre, vil kunstig intelligens distribueres til alt og alle vi omgir oss med.

I løpet av få år vil vi tenke som vi gjør i dag når strømmen går: Er det ikke AI-tilkoblet, ja da virker det ikke. 

Kunstig intelligens sniker seg inn og blir nærmest umerkelig en del av våre liv. Tenk bare på din smarttelefon. Den er blitt en forlenget del av våre liv. Mobiltelefonen har endret måten vi jobber og lever på på en måte vi ikke kunne forestille oss for bare 5-10 år siden. 

Utviklingen skjer raskere enn noensinne. Nye produkter og tjenester lanseres på løpende bånd i en hastighet vi aldri tidligere har sett.   

Optimistene peker på alle fordelene ved kunstig intelligens:  La oss overlate de kjedelige oppgavene som kan automatiseres til maskinene. La oss jobbe med de tingene som gir verdi for mennesket, mener de.

Spørsmålet om hvor mange jobber som forsvinner og hva slags nye jobber som kommer, forblir ubesvart. Endres måten vi jobber og lever på i et tempo vi ikke får med oss i våre travle liv?

Vet vi hvor vi er på vei? Er kunstig intelligens en fare vi ikke oppdager før det er for sent?

Åpent brev til menneskeheten med advarsel om kunstig intelligens

Vår tids Einstein, nylig avdøde Hawking, Elon Musk og Bill Gates  gikk sammen med 150 andre forskere og teknologer ut i et åpent brev til menneskeheten. De advarte innstendig mot kunstig intelligens. Oppfordringen var at verden snarest må investere i forskning på måter å kontrollere utviklingen før vi utvikler kunstig intelligens som overgår vår egen. 

På den tiden var det 4 navngitte forskere som jobbet med spørsmålet.

Hvordan kan vi kode en kunstig intelligens slik at den jobber med mål som er forenlige med våre mål?

Tusenvis, om ikke hundretusener av programmere i bedrifter, universiteter og statlige institusjoner jobber i dag kontinuerlig med ny koding. Skritt for skritt lages det enda bedre bedre algoritmer. De fleste av de jobber med de beste intensjoner. De jobber med løsninger til beste for oss alle (men først og fremst sine egne lommebøker.)

Frykten for hva kunstig intelligens kan gjøre i våpenindustrien har ikke gått upåaktet.

Med teknologi som finnes i dag kan fryktelige våpen brukes i hendene på land vi ikke ønsker å være uvenner med. Frykten er at terrorister kan få tilgang til avanserte verktøy som koster mindre og er enkle å ta i bruk.

Se denne videoen så forstår du hva jeg mener:

Les også: Tech leaders’ warnings about artificial intelligence taking over the world

Det er imidlertid lyspunkter. Forskere har gjennom historien klart å få verden til å gå sammen om internasjonale avtaler for kontroll og begrensinger i bruk av farlig teknologi.

Eksempler er forbud mot bruk av biologiske og kjemiske våpen og internasjonale avtaler for å hindre spredning av atomvåpen.

Ansatte i Google protesterte og fikk nylig stoppet Google fra å jobbe med Pentagon i et prosjekt som brukte kunstig intelligens. Prosjektet brøt med Googles etiske grunnverdier, mente de.

Spørsmålet er hva en kineser som jobber i Alibaba tenker om samme problemstilling? Eller forskere i Nord-Korea?

Les også: Google to drop Pentagon AI contract after employee objections to the ‘business of war’

Et lyspunkt for kontroll av farlig kunstig intelligens er den svenske professoren Max Tegmark som fikk med seg en rekke ledende forskere og teknologer med Elon Musk som sponsor og etablerte The Future of Life Institute.

De jobber for å redusere risikoen med kunstig intelligens, men også bioteknologi. Interessant nok så er ikke atombomben glemt som en av menneskehetens største farer.

 AI – kun en velsignelse og frykten er ubegrunnet

Andre ledende teknologer mener frykten for kunstig intelligens i det minste er betydelig overdrevet og at kunstig intelligens først og fremst er en velsignelse for menneskeheten.

Kunstig intelligens er bra for mennesker Jan Sollid Storehaug

Uansett hvilken side de står på i debatten om hva som er mulig og hvilke farer kunstig intelligens representerer er det overveldende flertall av forskere og teknologer enige om én ting: Vi kan lykkes med å utvikle en kunstig intelligens som er like god til å løse oppgaver som mennesker.

Spørsmålet er om denne intelligensen vil kunne bli selvbevisst og deretter raskt utvikle en intelligens langt forbi mennesket?  Det andre store spørsmålet er når dette kan skje?

Poenget er at vi ikke vet. Jeg tenker at om det er den minste flik av sannsynlighet for at det kan skje, så er dette menneskehetens største utfordring – noensinne. Og en utfordring vi må ta på største alvor, uansett hvor liten sannsynligheten for at det vil skje er.

Hvorfor bør vi være redde for kunstig intelligens?

All kunstig intelligens starter med en programkode. Vår «kode», menneskelig DNA, har sitt utspring i den første encellede organismen som delte seg og jobbet med ett enkeltstående, men komplekst mål: reproduksjon.

Det tok hundrevis av millioner av år før det første målet var nådd.

Evolusjonen utviklet delmål for å sikre artenes overlevelse og vi fikk en biologisk mangfold. Gjennom prøving og feiling skapte evolusjonen oss.

Verdens mest avanserte datamaskin er fortsatt den menneskelige hjerne. Vi evner å prosessere input fra alle våre sanser, relativt kjapt og utføre komplekse handlinger for å løse delmål og oppnå komplekse mål.

Våre evner er styrt av vårt DNA. Jeg skal la være å ta debatten her om vi faktisk har en fri vilje.

Evolusjonen har i en ikke-styrt prosess fremskapt oss. Det er derfor ingenting som skal tilsi at vi i en styrt vitenskapelig prosess ikke skal kunne utvikle en intelligens på linje med og deretter mer utviklet enn oss selv.

Hva hindrer oss i å finne ut hvordan bevissthet oppstår og gjenskape dette som fysiske hendelser i en maskin?

Og om vi ikke klarer å forstå og finne ut dette, vil ikke en maskin med større intelligens enn oss selv gjøre det?

Om den ikke styrte evolusjonen har frembragt bevissthet som et nødvendig delmål for å sikre vår arts overlevelse, er det ikke usannsynlig at en maskin med samme intelligens vil utvikle det samme?

Frykten ligger i at vi ikke vet hvordan vi skal kode en kunstig intelligens så vi kan være sikre på at dens mål – eller snarere delmål – vil være forenlige med hva vi ønsker. 

Det skiller 240.000 generasjoner fra vår felles stammor med apene.

Gjennom disse generasjonene har ørsmå endringer i vår hjernestruktur utviklet oss til å bli Homo Sapiens.

En datamaskin med større kapasitet og evne til å behandle informasjon på samme måte som oss kan prosessere disse endringene på timer snarere enn årtusener.

Intelligenseksplosjon

Hva skjer i det øyeblikket en slik kapasitet blir bevisst seg selv?

Den vil ganske så umiddelbart utvikle en bedre eller annerledes versjon av seg selv.

Hvilke mål og delmål den så vil utvikle for sine neste versjoner evner vi simpelthen ikke å forstå.

Vi får en intelligenseksplosjon og en bevissthet som er utenfor vår fatteevne.

Det vil garantert være menneskehetens siste oppfinnelse.

Den kan, som optimistene mener – løse alle våre problemer.

Ja, da vil sågar døden kunne sees på som et teknisk problem som kan løses.

SENS Research Foundation co-founder Aubrey de Grey mener at det første mennesket som vil nå en alder på ett tusen år allerede er født.

Les også: The First Person to Live to 1,000 Has Already Been Born

Frykten ligger i at denne superintelligensen vil se på oss som en biologisk raritet som den i beste fall ignorerer.

Vi unngår å tråkke på en maur som krysser vår vei. Vi nøler imidlertid ikke med å fjerne en maurtue om den er i veien for et av våre byggeprosjekter.

Ja til atombomben? 

Jeg vokste opp med atomtrusselen og den kalde krigen. Jeg husker godt hvor heftig diskusjonen mot og for ja til atombomben var.

Ja, for det er faktisk mange som mener at utviklingen av atombomben var det beste som kunne skje. 

Interessant nok så bruker Harari, Forfatteren bak blant andre Homo Deus – de neste 100 år –  atombomben som et eksempel på en teknologi som har vært vellykket.

En teknologi som riktignok kan utslette menneskeheten, men som vi har lykkes med å temme til alles beste.

Han illustrerer dette med å fortelle at vi siden 1945 aldri – i menneskehetens historie – har levd i en verden med mindre krig og vold.

Nå dør flere mennesker av selvmord og selvpåførte helseproblemer enn kriger og terroristangrep samlet.

Han mener dette kan tilskrives atombomben og trusselen om gjensidig utslettelse.

Nasjonene har simpelthen tatt krig ut av verktøykassen og løser konflikter på annet vis.

Det har gått bra til nå – såvidt

Det har så langt gått bra. Marginene for katastrofale feil har imidlertid vært små.

Gjennom historien har det vært flere enkeltmennesker som har reddet verden. Den ukjente russeren Stanislav Petrov kunne i 1983 startet en atomkrig.

Takket være menneskelig intuisjon og dømmekraft overstyrte han datasystemene og reddet verden fra et nukleært ragnarok.

Datasystemene fortalte han at USA var i ferd med å sende atomraketter i retning av Sovjet. Han hadde to minutter å tenke seg om og unnlot å iverksette prosedyrene for motangrep. Selv etter 3 bekreftede meldinger om at atomraketter var på vei fra USA.

Hadde han lest tallene på  dataskjermen blindt og fulgt prosedyren hadde jeg sannsynligvis ikke sittet her og forfattet denne artikkelen.

Hva ville en kunstig intelligens gjort i hans sted?

Å utvikle teknologien bak atombomben var en formidabel oppgave i fullstendig ukjent terreng.

130.000 forskerne i mange felt brukte enorme summer i Manhattan-prosjektet før de kunne teste den første ladningen.

Da den første bomben skulle testes hersket det en reell frykt for at den ville starte en kjedereaksjon som vil ødelegge atmosfæren og ta livet av oss alle.

Amerikanerne utviklet atombomben og russerne stjal teknologien gjennom effektiv spionasje.

Informasjon om teknologien ble samlet inn, kopiert og smuglet ut slik vi har sett i spionfilmer gjennom årene. 

Teknologien spredte seg til ytterligere noen få land, med fryktede Nord Korea som siste på listen.

Internasjonale institusjoner ledet av de samme amerikanerne har siden forsøkt å utvikle mekanismer for å bremse og reversere utviklingen.

Kunstig intelligens skapes og spres i skyen

Verden er i ferd med å bli en eneste stor datamaskin, uttalte Microsofts CEO Satya Nadella for kort tid siden.

Det skremmende med maskinlæring, virale nettverk og teknikker som hundretusener jobber med i dag er at ingen har oversikt over hva som skjer hvor. Du kan i dag selv laste ned åpen kildekode fra de store plattformeierne aldeles gratis.

Har du penger nok, er det ingenting som hindrer deg fra å sette opp og konfigurere en superdatamaskin i skyen hos Amazon.

Alt kan bokstavelig talt gjøres fra gutterommet – og det gjøres.

Vi er enda et stykke unna en kunstig intelligens med evner som et menneske. Begrensningen ligger i regnekapasitet, data og måten den er strukturert på.

Om vi er i et tippepunkt i en eksponensiell utviklingskurve, ja da er anslaget på under 10 år ikke usannsynlig. Andre sier utviklingen går så fort at det vil skje raskere.

Mange mener en kunstig intelligens med evner som menneske er det er det minste problem og at vi uansett aldri vil få en kunstig selvbevisst intelligens.

Hva om de tar feil? Hva om en kunstig intelligens oppstår og ikke gir seg til kjenne før det er for sent?

Jeg mener spørsmålet om kunstig intelligens er minst like viktig som min generasjons engasjement rundt atombomben. Vi får sannsynligvis kun en sjanse.

Med verden som en eneste stor datamaskin finnes det ingen skru-av-knapp og ingen Stanislav Petrov som kan bruke menneskelig intuisjon og magefølelse for å avverge et AI-ragnarok. 

Hva skjer om vi skaper en selvbevisst superintelligens?

Etterhvert som vi forstår mer av hvordan vår hjerne fungerer er det etter mitt syn ingenting som tilsier at vi på et tidspunkt ikke vil kunne skape en kunstig bevisst superintelligens.

Det store spørsmålet og kanskje menneskehetens største noensinne er: Hva skjer da?

Blir det et møte med skaperen som vi har fortalt historier for siden vi fant opp religionen? Er det en overmenneskelig gud som vil oss godt og en skaper som løser alle våre problemer?

Vil dens mål – utenfor vår fatteevne – være forenlige med våre enkle mål? Vår arts overlevelse og utvikling? Er vi bare et lite steg i evolusjonen og for den en biologisk raritet på vei mot noe helt annet?

 

LES OGSÅ:

Kan maskiner bli selvbevisste?

De 9 viktigste teknologiene som forandrer din jobb

Recommended Posts

Leave a Comment

Start typing and press Enter to search

Prisen på alt er på vei mot null Jan Sollid StorehaugKan datamaskiner bli selvbevisste Jan Sollid Storehaug

Send this to a friend