Geoffrey Hinton, den banebrytende dataveteranen som kalles "AIs gudfar", advarer igjen om at akkurat den teknikken han bidro til å skape, kan innebære slutten for menneskeheten slik vi kjenner den.

I et videoklipp som ble publisert den 18. august, som en del av den kommende filmen "Making God", ga Hinton en av sine hittil skarpeste advarsler. Han sa at menneskeheten risikerer å havne i bakgrunnen - og deretter erstattet litt etter litt - av maskiner som er mye smartere enn oss.

-De fleste kan ikke forstå ideen om at noe er mer intelligent enn oss. Vi tenker: "Hvordan skal vi bruke dette?" Vi tenker ikke: "Hvordan kommer den til å bruke oss?", sier Hinton, nobelprismottaker i fysikk og tidligere sjef på Google, i videoklippet.

Den eneste modellen vi har for et mer intelligent vesen som kontrolleres av et mindre intelligent vesen, er en mor som blir kontrollert av barnet sitt.

Hinton sier at han er "ganske sikker" på at kunstig intelligens kommer til å føre til massiv arbeidsløshet og peker på tidligere eksempler der teknikkgiganter som Microsoft erstatter junior-programmerere med AI. Men den største faren, sier han, går langt forbi arbeidsmarkedsspørsmål.

-Den faren jeg har advart mest mot ... er risikoen for at vi utvikler en AI som er mye smartere enn oss og som helt enkelt tar over. Den kommer ikke til å ha behov for oss lengre.

Det eneste lyspunktet er at "den ikke kommer til å spise oss da den er laget av kisel", ifølge Hinton.

Les mer

Norge: Organisert kriminalitet er en stadig økende trussel, mener politiet

Vi viderefører vår rike arv til barna

Hinton, 77 år, fikk Nobelprisen i fysikk i 2024 for "sine grunnleggende oppdagelser og oppfinnelser som muliggjør maskinlæring med kunstige nevrale nettverk”. Kungliga Vetenskapsakademien vektla hvordan Hintons tidlige bruk av statistisk fysikk ga det konseptuelle spranget som gjorde dagens AI-revolusjon mulig.

Men, Hinton har senere fremstått som en av feltets hardeste kritikere og har advart om at utviklingen går raskere enn samfunnets evne til å garantere for sikkerheten. I 2023 sluttet han i sitt arbeid ved Google for å kunne snakke fritt om risikoene uten å dra inn arbeidsgiveren sin. Han advarte allerede i nobelforelesningen sin om hva han oppfatter som risikoene med AI, og har siden da konstatert at han angrer på at han bare fokuserte på å få AI  til å fungere, i stedet for å forutse risikoene.

I et avsnitt i podcasten The Diary of a CEO sa han at ingeniørene bak dagens AI-system ikke forstår teknikken fullt ut og stort sett kan deles inn i to leire: Den ene tror på en dystopisk fremtid der mennesker erstattes, og den andre avfeier slike bekymringer som science fiction.

- Jeg mener begge disse standpunktene er ekstreme, sier Hinton.

Jeg sier ofte at det er en risiko på 10-20 prosent for at [AI] vil utslette oss. Men det er bare en magefølelse, basert på tanken om at det fortsatt er vi som lager dem, og at vi er ganske oppfinnsomme. Håpet er at hvis nok smarte mennesker gjør nok forskning - med nok ressurser, vil vi finne en måte å bygge dem på slik at de aldri vil skade oss.

På den siste AI4-konferansen i Las Vegas presenterte Hinton tanken om at forskere bør forsøke å utvikle morsfølelse hos AI-systemet i stedet for å tvinge dem til underkastelse.

- Den eneste modellen vi har for et mer intelligent vesen som kontrolleres av et mindre intelligent vesen, er en mor som kontrolleres av sitt barn, sa Hinton på konferansen.

- Hvis den ikke inntar en foreldrerolle, kommer den til å erstatte oss.