Eksperter advarer – ber om pause i utviklingen av kraftig kunstig intelligens

Oppfordringen kommer i et åpent brev som ble offentliggjort onsdag. Det er så langt undertegnet av over tusen eksperter, akademikere og næringslivsledere. Blant dem er Steve Wozniak, en av Apples grunnleggere, og Tesla-sjef Elon Musk.

De ber om en seks måneders pause i all utvikling av KI-systemer som er kraftigere enn GPT-4, den siste språkmodellen til selskapet OpenAI.

Pausen trengs for å utvikle retningslinjer som kan sikre at KI-systemene ikke utgjør en fare, mener ekspertene. Hvis ikke KI-selskapene selv setter utviklingen på vent, ber de myndighetene i verdens land om å gripe inn.

- Katastrofale effekter

- Samfunnet har trykket på «pause» for andre teknologier med potensielt katastrofale effekter på samfunnet. Vi kan gjøre det samme her, står det i brevet.

Ekspertene mener KI-systemene har nådd et punkt der de er i ferd med å kunne løse generelle oppgaver på samme måte som mennesker. Systemer med intelligens på nivå med mennesker kan utgjøre en stor risiko for samfunnet og menneskeheten, heter det i brevet.

– Bør vi la maskiner oversvømme informasjonskanalene våre med propaganda og usannheter? Bør vi automatisere bort alle jobbene, også de som er givende? spør ekspertene.

De peker også på risikoen for å «miste kontrollen over vår sivilisasjon» og å utvikle systemer som til slutt kan bli smartere enn mennesker og «erstatte oss».

Mange av dem som har undertegnet brevet, har selv jobbet med kunstig intelligens eller vært tilknyttet selskaper som utvikler KI-systemer.

De mener konkurransen mellom KI-laboratoriene har vært «ute av kontroll» de siste månedene. Kampen dreier seg angivelig om utvikling av «digitale sinn» som ikke engang skaperne forstår fullt ut.

ChatGPT

Oppmerksomheten rundt kunstig intelligens økte kraftig da OpenAI lanserte språkroboten ChatGPT i november i fjor. Den er i stand til å skrive tekster som til forveksling ligner på tekst skrevet av mennesker.

Bare tre og en halv måned senere kom OpenAI med den forbedrede språkmodellen GPT-4.

Det er organisasjonen Future of Life Institutesom står bak det åpne brevet. Organisasjonen har som mål å avverge eksistensielle trusler mot menneskeheten som følge av atomvåpen, klimaendringer, bioteknologi og kunstig intelligens. Arbeidet finansieres i stor grad av en stiftelse ledet av Elon Musk.

En av akademikerne som har undertegnet det åpne brevet, er professor Gary Marcus ved New York University. Han mener selskapene som utvikler kunstig intelligens, holder stadig mer av arbeidet hemmelig.

– Det gjør det vanskelig for samfunnet å forsvare seg mot eventuell skade som kan oppstå, sier han.