KUNSTIG INTELLIGENS Mens over 1000 forskere har krevd at utviklingen av kunstig intelligens skal stanses i seks måneder for å undersøke konsekvensene, er det én som ønsker å gå lenger enn det. Den jødiske AI-forskeren Eliezer Yudkowsky tror at alle mennesker kommer til å bli utryddet med mindre utviklingen stoppes helt.
Nylig skrev over 1100 forskere, teknologi- og IT-gründere og andre involvert i kunstig intelligens et åpent brev der de ba om en seks måneders pause i AI-utviklingen. Dette er fordi selskapene fremmer teknologi i konkurranse med hverandre uten å resonnere rundt konsekvensene, eller til og med forstå hva man skaper.
«AI-systemer med intelligens som kan konkurrere med mennesker kan utgjøre reelle risikoer for samfunnet og menneskeheten», heter det i brevet signert av blant andre Elon Musk. Den advarer om et «ute av kontroll kappløp for å utvikle teknologi og spre stadig kraftigere digitale hjerner som ingen – ikke engang skaperne deres – på en troverdig måte kan forstå, forutsi eller kontrollere».
«Alle på jorden kommer til å dø»
En som ikke signerte det åpne brevet er den amerikanske jøden og AI-forskeren Elieser Yudkowsky som er medgründer av Machine Intelligence Research Institute og en kjent talsmann for «vennlig kunstig intelligens». Yudkowsky har imidlertid ikke avstått fordi han mener utviklingen er trygg, men heller fordi han mener den bør stoppes helt.
I et eget åpent brev advarer Yudkowsky at «det mest sannsynlige resultatet av å bygge en overmenneskelig intelligent AI, under alle omstendigheter som ligner på de nåværende, er at bokstavelig talt alle på jorden kommer til å dø».
Yudkowsky skriver at utviklingen av AI-teknologi nå går så raskt at forskere snart vil skape kunstig intelligens som langt overgår menneskenes, uten å engang merke det.
«Det er ikke det at man teoretisk ikke kan overleve skapelsen av noe mye smartere enn en selv. Men det ville kreve presisjon og forberedelse og ny vitenskapelig innsikt», skriver han videre og mener at menneskeheten ikke er på dette nivået akkurat nå.
Videre sammenligner han møtet mellom dagens menneskelighet og overmenneskelig kunstig intelligens som «en 10-åring som spiller sjakk mot [den ubeseirede sjakkmotoren] Stockfish 15» eller som at «det 11. århundre prøver å føre krig mot det 21. århundre».
Ifølge Yudkowsky er det mange som gjør den feilen å se farene ved AI som en «livløs og velutdannet tenker som henger på Internett og sender ut e-post med dårlige hensikter». Han mener at vi i stedet bør visualisere «en hel utenomjordisk sivilisasjon som kan tenke millioner av ganger raskere enn mennesker» og som ser på oss som «veldig dumme og veldig sakte».
En slik AI ville ikke forbli begrenset til datamaskiner og internett særlig lenge, mener Yudkowsky, som påpeker at selv i dag kan DNA-tråder sendes på e-post til laboratorier som så lager proteiner fra dem. Dette, hevder han, ville «tillate en AI som i utgangspunktet var begrenset til Internett, å bygge kunstige livsformer eller dykke rett inn i postbiologisk molekylærteknikk».
Om noen bygger en AI som er altfor kraftig, under nåværende omstendigheter, forventer jeg at hvert eneste medlem av menneskearten og alt biologisk liv på jorden dør kort tid etterpå.
Yudkowsky går så langt som å kreve at en ubestemt stans av all utvikling må gjennomføres uten unntak, også for militæret og etterretningstjenesten. Han mener til og med at verden må prioritere hvordan man forhindrer en utryddelse via AI, fremfor total atomkrig, hvis menneskeheten skal overleve.
Bill Gates motsetter seg enhver form for stopp i AI-utviklingen
En person som ikke ønsker å stoppe AI-teknologien i det hele tatt, er Microsoft-grunnleggeren Bill Gates. Han sier til Reuters at teknologien vil føre til «store fordeler» og at en pause ikke vil «løse utfordringene».
– Jeg skjønner egentlig ikke hvem de mener kunne stoppe, og ville til og med alle land i verden gå med på å stoppe [utviklingen]? Og hvorfor stoppe det?, sier IT-milliardæren til Reuters og understreker at man i stedet må identifisere «the tricky bits» med AI.
I februar lanserte Microsoft sin nye versjon av søkemotoren Bing, som ble bygget opp av AI-foretaket OpenAI som Microsoft investerte enorme summer penger i. Man har også implementert en chatbot i den nye versjonen av nettleseren Edge.
I følge Microsofts administrerende direktør Satya Nadella, ønsket de med AI-lanseringen å utfordre konkurrentene sine og spesifikt få Google til å «komme ut og vise at de kan danse».
– Jeg vil at folk skal vite at vi fikk dem [Google] til å danse, sa Nadella i et intervju etter lanseringen.
