«KI-gudfar» slutter i Google for å advare mot teknologien

(E24) Geoffry Hinton, en av pionérene bak teknologien som gjorde utviklingen av ChatGPT mulig, mener kunstig intelligens truer mer enn jobbene våre.

Geoffrey Hinton, kjent som «gudfaren av KI», forlater sin rolle hos Google. Hinton har jobbet deltid hos Google de siste ti årene, og har vært en av de mest respekterte stemmene innen kunstig intelligens. Han tok ph.d. i fagfeltet for 45 år siden.

Nå forlater han Google for å advare verden om risikoene ved teknologien han har brukt en mannsalder på å utvikle og promotere. Det skriver the New York Times.

Han mener den potensielle trusselen kunstig intelligens utgjør vil komme raskere enn han tidligere trodde, skriver E24.

Til the New York Times sier Hinton at han delvis angrer på det han har brukt livet sitt på å utvikle. Han trøster seg selv med å si til følgende til seg:

– Hadde ikke jeg gjort det, ville noe andre ha gjort det, sier han til avisen.

Blir vanskelig å vite hva som er sant

I løpet av det siste året har kunstig intelligens (KI) gjort betydelige fremskritt. Utviklingen av store språkmodeller (LLM) som ChatGPT fra OpenAI, Bing fra Microsoft og Bard fra Google har ført til stadig mer sofistikerte chatbots.

Selskaper som Google og Microsoft har investert tungt i kunstig intelligens og forskning.

Samtidig som KI-teknologien utvikler seg raskt, har det også vært en økende bevissthet rundt de potensielle farene og etiske utfordringene knyttet til AI.

Da OpenAI lanserte sin nyeste versjon av ChatGPT, signerte over 1000 ledere og forskere, blant annet Elon Musk og Steve Wozniak, et opprop om å pause utviklingen av KI-teknologi på grunn av teknologiens potensielle risiko.

Oljefondet-sjef Nicolai Tangen har nylig bedt regjeringer over hele verden om å innføre statlig regulering av kunstig intelligens.

Geoffrey Hinton mener det vil være vanskelig å regulere kunstig intelligens fordi det er vanskelig å kontrollere om et selskap eller land utvikler teknologien, ifølge New York Times. Håpet er at forskere samarbeider om måter å kontrollere teknologien på.

Hinton er først og fremst bekymret for at kunstig intelligens vil fylle internett med falske bilder, videoer og falsk informasjon, slik at vanlige folk ikke vil forstå hva som er sant eller ei.

I tillegg mener han at det er en reell fare for at kunstig intelligens vil føre til tap av jobber.

På langt sikt frykter Hinton at kunstig intelligens kan true menneskeheten, fordi teknologien ofte lærer seg «uventet oppførsel».

Han mener KI-systemene blir farligere og farligere jo bedre de blir.

– Se på hvordan det var for fem år siden og hvordan det er nå. Ta forskjellen og forplant dem fremover. Det er skummelt, sier han til New York Times om teknologien.

En pioner i kunstig intelligens

Geoffrey Hinton tok doktorgrad i kunstig intelligens for 45 år siden. Siden den gang har han jobbet med ideen om «nevrale nettverk» – en matematisk system som lærer ved å analysere store mengder data.

I 2012 lyktes Hinton, sammen med to studenter ved Universitetet i Toronto, å bygge et nevralt nettverk som kunne analysere tusenvis av bilder, og på den måten lære seg å identifisere ulike objekter.

I 2018 mottok Dr. Hinton Turing-prisen for sitt arbeid på nevrale nettverk. Prisen betraktes av mange som tilsvarende en nobelpris i informatikk. Teknologien er fundamentet for chatbots som ChatGPT og Google Bard.