Kunstig intelligens kan være selvbevisst sier forsker ved MIT

Kunstig intelligens som blir selvbevisst er for mange den store skrekken, mens andre mener det vil være et viktig gjennombrudd for oss alle. Sjefsforsker Ilya Sutskever I OpenAI kom nylig med en oppsiktsvekkende uttalelse på Twitter. Han mener at de største nevrale nettverkene allerede kan ha utviklet selvbevissthet.

Påstanden fikk fart på debatten blant AI-forskere verden over. Mange mente dette var søkt og en avsporing av hva kunstig intelligens kan gjøre og ikke. Ikke mer enn et ufint markedsføringsstunt for OpenAI, ble det hevdet.

Nå får han støtte fra  Tamay Besiroglu ved Neil Thompson Lab ved MIT’s Computer Science and AI Lab.

Kunstig intelligens med dobling hver sjette måned siden 2010

Det er skuffende å se så mange fremtredende AI-folk latterliggjøre denne ideen, tvitret Besiroglu. «Det gjør meg mindre håpefull når det gjelder feltets evne til seriøst å ta noen av de dype, rare og viktige spørsmålene som de utvilsomt vil bli møtt med i løpet av de neste tiårene.»

Kunstig intelligens med dobling hvert halvår

I et studie har Besiroglu vist at maskinlæringsmodeller omtrent har doblet seg i intelligens hver sjette måned siden 2010.

Kunstig intelligens er i ferd med å bli selvbevisst

Ilya Sutskevers påstand om at kunstig intelligens nå kan ha nådd et nivå med «litt» bevissthet fikk fart på debatten.

Ilya Sutskevers er ingen ukjent størrelse i AI-miljøet. Han stiftet i sin tid sammen med Elon Musk og Sam Altman, Open AI i 2015.

Les om historien til kunstig intelligens i mitt innlegg om hva som skjer på AI-fronten i disse dager.

Elon Musk forlot OpenAI etter lansering av GPT

Elon Musk forlot OpenAI i 2019 etter at de lanserte det som nå er GPT-3.  Musk mente at denne tekstgeneratoren var for risikabel å slippe ut i verden.

GPT-3 skriver tekst og lager alt fra falske, men troverdige bilder, videoer, ny musikk og til og med datakode i alle mulige sjangre. Den finner data på nettet og kan lage nær sagt hva som helst basert på hva algoritmen finner på nettet.

Elon Musk er blant de som har advart mot kunstig intelligens og mener at AI uten kontroll kan være en større trussel for menneskeheten enn atombomben.  Den eneste måten mennesket kan overleve en selvbevisst kunstig intelligens, er å koble seg selv til AI, hevder han.

At Musk mener alvor, viser hans satsning på selskapet Neuralink. Folk står i kø for å være testpersoner etter at Musk demonstrerte hvordan Neuralinks chip fungerer, koblet til en levende gris.

At kunstig intelligens kan bli selvbevisst en dag, har lenge vært omdiskutert. Mange mener det aldri vil skje, mens andre hevder det ikke er et spørsmål om det vil skje, men hvor snart det vil skje.

Nå mener Musks tidligere partner i OpenAI at det allerede kan ha skjedd. 

Selvbevisst AI

Generell kunstig intelligens (AGI)

Generell kunstig intelligens (AGI – artificial general intelligence) oppstår på det tidspunktet hvor kunstig intelligens kan løse alle oppgaver bedre enn mennesker.

Sutskever er blant optimistene, og hevdet i dokumentaren «iHuman» at AGI en dag vil kunne løse alle våre uløste problemer. Samtidig advarte han om at vi med selvbevisst kunstig intelligens risikerer en AI-styrte «diktaturer» som vil kontrollere menneskeheten. Problemet er at kunstig intelligens jobber etter mål og kan bruke virkemidler som ikke nødvendigvis er forenlige med hva vi som mennesker anser som tjenlige for oss.

Lær om de forskjellige typene AI i mitt innlegg om definisjonen på kunstig intelligens.

Teslas humanoide robot

Siden 2019 ser det ut til at Musks bekymring for selvbevisst kunstig intelligens har avtatt. I august 2021 overrasket han verden med lansering av Teslas ambisjoner for en humanoid robot.

Han mener Tesla er i en poisjon til å spille en rolle i utviklingen av generell kunstig intelligens, samtidig som han forsikret verden om at han vil gjøre sitt beste for å holde AI i sjakk. Løsningen er å  etablere en desentralisert kontroll over roboter som er utstyrt med kunstig intelligens, hevder han. Om det er mulig, gjenstår å se.

.

OpenAI fortsetter å utvikle GPT-3 med ambisjon om å sikre at kunstig generell intelligens kommer hele menneskeheten til gode.

LES OGSÅ: The new version of GPT-3 is much better behaved (MIT Technology Review)

Kunstig intelligens er like omstridt som menneskelig intelligens

Forskere og ledende teknologer er forbausende enige om mye når det gjelder kunstig intelligens. Forbausende nok, klarer de likevel ikke å enes om en presis definisjon av hva menneskelig intelligens faktisk er. 

Vi forstår heller ikke hvordan bevissthet oppsto i mennesket og hva som skjer i hjernen som gjør oss bevisste.

EUs Independent High Level Expert Group definerer kunstig intelligens som systemer som utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål.

Enkelte AI-systemer kan også tilpasse seg gjennom å analysere og ta hensyn til hvordan tidligere handlinger har påvirket omgivelsene.

 

Kunstig intelligens som begrep er et område som favner svært mye og omfatter tusenvis av disipliner.

Mange teknologileverandører promoterer sine tjenester som om de er utstyrt med kunstig intelligens, mens det ofte i beste fall er en mer eller mindre smart algoritme de egentlig burde snakke om.

Her er en nyttig oversikt som rydder opp i noen av begrepene

Oversikt over kunstig intelligens Jan Sollid Storehaug

Hva er bevisst kunstig intelligens?

For å svare på dette spørsmålet kan du spørre deg selv om dyr er bevisste? Er alle dyr bevisste? Er det ulik grad av bevissthet, avhengig av hvor «avsanserte» dyrene er? 

Hvis svaret på det er ja, kan også maskiner oppnå selvbevissthet?

Det overveldende flertall av forskere og teknologer er enig i at det ikke er noe i veien for at vi vil lykkes med å utvikle en kunstig intelligens som er like god til å løse oppgaver som mennesker.

Spørsmålet er om denne vil utvikle selvbevissthet?

Skeptikerne mener at selv en generell kunstig intelligens som er like intelligent som mennesket er for komplisert. Det vil derfor aldri bli skapt.

En datamaskin kan enda ikke svare meningsfullt på de enkleste spørsmål. Selv om vi nærmer oss, kan en maskin enda ikke snakke eller bevege seg uten umiddelbart å bli avslørt som en maskin.

LES OGSÅ: Googles chatbot Meena snakker (nesten) som et menneske

Om vi likevel skulle lykkes med generell kunstig intelligens vil den uansett ikke være selvbevisst, hevdes det gjerne.

Det strider mot kjente og ukjente naturlover, mener skeptikerne.

Datamaskinene overgår mennesket på stadig flere områder.

Helt siden jeg oppdaget lommekalkulatoren på ungdomsskolen har jeg vært klar over at maskinene er oss overlegne i matematiske beregninger.

Det som faller oss vanskelig har lenge vært enkelt for en datamaskin.

Andre oppgaver som faller oss lett, som å gå, snakke, forstå språk og kjenne igjen ansikter har vært så godt som umulig for en datamaskin.

Kunstig intelligens slår oss nå på gjenkjenning av for eksempel tekst, tale, ansikter og er bedre enn oss i romforståelse. De kan gå og løpe raskere enn oss.

Fremskritt innen alle disipliner skjer med bedre mekanikk, sensorer og kamerateknologi.

Se bare Boston Dynamics Youtubevideoer av roboter i alle varianter og hvordan de har utviklet seg siste året.

Fortsatt er det likevel langt frem til en selvbevisst robot eller for den saks skyld en bevisst selvkjørende bil.

Selv om vi lar oss imponere over Teslas selvkjørende bil eller Boston Dynamics løpende Atlas lærer en 16-åring seg å kjøre bil på noen dager.

En tenåring kan som kjent mye mer enn å kjøre bil.

De siste årenes teknologiske fremskritt har imidlertid gitt oss store gjennombrudd med maskinlæring og – inspirert av den menneskelige hjerne – nevrale nettverk.

Langt frem til en selvbevisst maskin – men er det mulig?

Vi vet mer om hvordan hjernen fungerer, men er langt fra å forstå hvorfor vi er bevisste. Vi har heller ingen vitenskaplige teorier for hva bevissthet er som kan etterprøves og verifiseres.

Googles Alpha Go slår verdensmesteren i det kinesiske spillet Go og gruser verdens beste datamaskin i sjakk. Den oppgraderte versjonen AlphaZero kan på noen minutter lære seg på egenhånd å slå en hvilken som helst datamaskin i avanserte spill.

Les: AlphaZero AI beats champion chess program after teaching itself in four hours

Selv om dette er enestående, er maskinen fortsatt ikke klar over hva den gjør. Den er ikke bevisst.

Hva skiller kunstig intelligens fra naturlig intelligens?

Vi har mange måter å beskrive menneskelig intelligens, og også mange ulike typer intelligens. Sosial, logisk, matematisk, språklig, intuitiv og musikal intelligens for å nevne noen.

Dette er intelligens som beskriver mennesket og evner vi har utviklet underveis i evolusjonen.

Vi liker å se oss selv som den mest intelligente skapningen på jorden, kanskje i universet.

De fleste er enig i at det finnes mange flere former for intelligens i dyreriket. Det finnes mange dyr som har spesialiserte evner som langt overgår mennesket

I sin bok Life 3.0 argumenterer den svenske professoren Max Tegmark  at “intelligens er evnen til å oppnå komplekse mål”

Enten det er mennesker, dyr eller maskiner så gir det ikke mening med et enkelt kriterie som f.eks IQ.

Det finnes også så mange ulike typer intelligens. For å diskutere kunstig intelligens mener Tegmark at det er hensiktsmessig å måle evnen til å oppnå ulike komplekse mål.

Hva er bevissthet?

Bevissthet er kanskje det største mysteriet blant alle. Vi vet simpelthen ikke hvorfor vi er bevisste eller hvilke prosesser som gjør oss selvbevisste.

Gjennom historien har vi argumentert med at det kun er mennesker som er bevisste, fordi vi har det religiøse konseptet sjel. Vi er alene om å være bevisste. Dyrene er slik de er, fordi de opptrer instinktivt uten egen bevissthet.

Om vi rent vitenskapelig angriper problemstillingen, kan vi slå fast at ingen til nå har funnet bevis på at mennesket er utstyrt med en sjel.

Mange vil også argumentere sterk mot at dyr ikke er seg selv bevisst. Faktisk er det vitenskapelig bevist at enkelte dyrearter er seg bevisst et selv. Altså jeg er, så jeg finnes.

Les Wikipedia: Animal consciousness

Rådende vitenskap beskriver at evolusjonen uten mål og mening over millioner av år til sist skapte mennesket og det vi regner som vår selvbevissthet.

Jeg mener det er sannsynlig at alt biologisk liv har en form for bevissthet selv om den kan være svært så annerledes enn vår.

Kan et tre ha «bevissthet»?

Kommuniserer planter gjennom biologiske/kjemiske prosesser? Kommuniserer de med hverandre over tid i en tidsakse og på en måte vi ikke evner å forstå?

Er det en form for bevissthet som ikke ligner på vår, men likefrem kan kalles «bevissthet»?

Er den enklere eller bare annerledes?

Les også: Do Trees Talk to Each Other?

Jeg er for eksempel ikke i tvil om at våre to hunder er bevisste seg selv og sine omgivelser. De har ett sanseapparat som er annerledes enn hos oss. De er riktignok fargeblinde, men de har for eksempel en luktesans som langt overgår mennesket.

Sannsynligvis er de bevisst verden på en helt annen måte enn meg og kanskje opplever de verden i 3D gjennom luktesansen?

Vi kan observere og forstå hvordan dyr opptrer etter deres programmerte adferd. Det vi kaller instinkt er adferd som artene har utviklet gjennom sin programkode, deres DNA.

Det er imidlertid enda langt frem til vi forstår om alt biologisk levende liv har bevissthet.

Enda vanskeligere er det å forstå hvorfor og hvordan den har oppstått.

Fysisk materiale kan huske og lære

At ikke-biologisk materiale kan huske og lære, er imidlertid bevist og brukes i teknologi vi omgir oss med i dag.

Hva om bevissthet rett og slett er et fysisk fenomen, hardkodet i naturen og følger fysiske lover som andre observerbare fenomener?

Vårt DNA har utviklet seg gjennom millioner av år. Siden vi skilte lag med vårt og apenes felles opphav har det gått 250.000 generasjoner.

Ørsmå endringer for hver generasjon i måten hjernen kobles har til sist frembragt mennesket.

Vår hjerne prosesserer lynkjapt inputdata fra alle våre sensorer. Vi hører, ser, lukter, føler og korrigerer våre bevegelser etter hva kroppen reagerer på i våre omgivelser.

Etterhvert som vi har prøvet og feilet har vi nådd våre mål i løpet av et liv og utviklet våre ferdigheter. Generasjon for generasjon. De som ikke lykkes, fikk ikke avkom. Deres programkode, DNA ble ikke overført til neste generasjon.

Er det slik at bevissthet simpelthen er en subjektiv opplevelse av hvordan vi behandler informasjon for å nå komplekse mål?

Det betyr at alle levende organismer har en grad av bevissthet. En hund, hval eller en flaggermus har spesialisert seg for å overleve. De har ferdigheter på sine områder som som langt overgår mennesket.

Hunden lever mesteparten av sitt liv, opptatt av å snuse. Den bearbeider og opplever disse sanseinntrykkene gjennom sin langt mer avanserte luktesans. Evolusjonen gjorde at akkurat denne ferdigheten var viktig for artens overlevelse og utvikling.

Vi vet ingenting om hva dyrene tenker. Det er imidlertid ingenting som tilsier at de ikke har en grad av bevissthet, selv om den er annerledes enn vår.

Vår programkode – DNA har ett enkelt mål

Evolusjonen har skapt milliarder av arter. Alle stammer fra den første organismen som reproduserte seg. Reproduksjon er det viktigste målet for vårt DNA.

Uten annet overordnet mål enn reproduksjon har evolusjonen skapt milliarder av komplekse del-mål som har et mål: overlevelse for å sikre reproduksjon.

Vi vet ikke om evolusjonen har frembragt selvbevissthet som et bi-produkt av målet om reproduksjon, eller om det er en sentral del av DNA-kodingen i naturen.

Vi vet mer om hvordan hjernen fungerer, men er langt fra å forstå hvorfor vi er bevisste og har i dag ingen vitenskaplige teorier som kan etterprøves og verifiseres.

Lærer vi å forstå hvordan selvbevissthet oppsto er det imidlertid ingenting som tyder på at vi i en vitenskapelig, styrt prosess ikke skal kunne gjenskape dette for ikke-organiske mekanismer. 

Begrensningen til nå har vært at vi simpelthen ikke har hatt datamaskiner med stor nok regnekraft. Våre maskiner har ikke hatt evne til å prosessere store nok mengder data til å være i nærheten av vår organiske superdatamaskin, den menneskelige hjerne.

Selvbevisst kunstig intelligens er med andre ord et spørsmål om datakraft.

Black Box – et mysterium

Takket være de siste års store fremskritt i regnekapasitet og ikke minst informasjon tilgjengelig, har vi sett store fremskritt. Større regnekapasitet og bedre data har gitt oss maskinlæring og nevrale nettverk.

På samme måte som vi ikke forstår hvordan hjernen virker, forstår vi heller ikke helt hvordan kunstig intelligens og nevrale nettverk løser komplekse mål.

Fenomenet kalles black box. AI får et problem og et mål hvor måloppnåelsen kan etterprøves.

Hvordan den kunstige intelligensen har nådd målet og løst problemet, kan etterprøves men ikke gjenskapes og forklares.

Les også: Understanding the ‘black box’ of artificial intelligence

Er det slik at evolusjonen har frembragt menneskelig bevissthet som et delmål for å løse hovedmålet: Selektiv utvelgelse for å sikre artens overlevelse gjennom reproduksjon?

Er det slik at selvbevissthet bare er et biprodukt som ikke strengt tatt har vært nødvendig for å oppnå målet? Har det skjedd tilfeldig akkurat med vår art blant alle pattedyrene?

Hvis bevissthet oppsto som et tilfeldig og unødvendig bi-produkt i menneskets evolusjon, er det ingenting teoretisk i veien for at vi vil vi klare å identifisere hva som faktisk skjedde.

Om vi ikke klarer det, vil vi godt hjulpet av smarte algoritmer, maskinlæring og nevrale nettverk kunne klare det.

Når og hvordan oppsto bevissthet?

Spørsmålet blir i så fall når i evolusjonen akkurat den endringen skjedde. Spørsmålet blir også hvorfor og hvordan dette skjedde?

Finner vi ut av dette blir det neste spørsmålet om bevissthet og graden av bevissthet er måten en organisme subjektivt opplever bevissthet?

Er dette begrenset til biologisk materiale?

Ikke-biologisk materiale kan huske og lære. Dette følger fysiske lover som vi kan observere og forstå.

Vil måten fysiske partikler beveger seg i organisk materiale også opptre på samme måte i ikke-organisk materiale?

Er mengden informasjon som prosesseres et mål på intelligens?

At ikke-biologisk materiale kan huske og lære, er grunnlaget for de siste årenes fremskritt i maskinlæring og nevrale nettverk og ganske «enkelt» å forklare.

Kan målt intelligens bestemmes av informasjonsmengden som prosesseres og hvor komplekse problemer og mål som nås?

Er bevissthet en subjektiv opplevelse som kan forklares med hvordan fysisk materie forflytter seg i et slikt system?

Betyr det at en superintelligent datamaskin derfor kan bli selvbevisst?

Skapes en ukjent form for bevissthet fordi en datamaskin som når menneskelig intelligens «må» det som et sidemål? Oppstår en bevissthet som følge av fysiske lover vi i dag ikke kan beskrive eller forstå?

Hva skjer når kunstig intelligens blir selvbevisst og smartere enn oss?

Om bevissthet oppstår: hva slags bevissthet vil da oppstå?

Etterhvert som vi forstår mer av hvordan vår hjerne fungerer er det mye som tyder på at vi vil skape en kunstig og sannsynligvis selvbevisst superintelligens. Spørsmålet er ikke om, men når.

Det store spørsmålet og kanskje menneskehetens største noensinne er: Hva skjer da?

Tilkoblet internett vil den ha tilgang på all verdens informasjon. Den vil ha en kapasitet som overgår mennesket på en måte vi ikke kan forestille oss.

I det øyeblikket den blir seg selv bevisst vil den øyeblikkelig skape en oppgradert versjon av seg selv som igjen vil skape en forbedret versjon helt til den når eventuelle fysiske begrensninger. Det vil bli menneskehetens aller siste oppfinnelse.

Vi får en intelligenseksplosjon utenfor vår fatteevne.

Den vil ha en intelligens som er hundrevis av millioner ganger mer avansert enn vår.

Blir det et møte med skaperen som vi har fortalt historier for siden vi fant opp religionen? Er det en overmenneskelig gud som vil oss godt og en skaper som løser alle våre problemer?

Vil dens mål – utenfor vår fatteevne – være forenlige med våre enkle mål? Vår arts overlevelse og utvikling?

Er vi bare et lite steg i evolusjonen og for den en biologisk raritet på vei mot noe helt annet?

Hvem får rett? Om du synes dette er et spennende tema vil jeg anbefale deg å lese min oppdaterte «Topp-10 listen med folk du bør følge om kunstig intelligens»

 

Recommended Posts
Viser 4 kommentarer
pingbacks / trackbacks

Start typing and press Enter to search

Neuralink og Elon Musk er klar for kliniske testerUSA leder foran Kina i AI kappløpet
Send this to a friend