Hoće li se umjetna inteligencija koristiti za zlo?

Hoće li se umjetna inteligencija koristiti za zlo?

Uprkos brojnim prednostima, više od 350 stručnjaka iz oblasti veštačke inteligencije širom sveta, uključujući tvorca „ChatGPT“, upozorilo je da ova tehnologija može dovesti do izumiranja čovečanstva.

U zajedničkoj izjavi, koju su podržali izvršni direktori vodećih AI kompanija, rekli su da bi ublažavanje ovog rizika "trebalo biti globalni prioritet uz druge društvene rizike, kao što su pandemije i nuklearni rat".

Mnogi stručnjaci su izrazili zabrinutost zbog opasnosti korištenja modela kao što je ChatGBT za širenje dezinformacija i sajber kriminala, kao i za izazivanje poremećaja u poslovima na nivou zajednice.

Civilizacijski kolaps

U izjavi, koju koordinira američki centar za sigurnost umjetne inteligencije (CAIS), također se priznaju ove zabrinutosti, ali se navodi da bi trebalo razgovarati i o ozbiljnijim, ali manje vjerovatnim prijetnjama, uključujući mogućnost da bi ubrzanje AI moglo dovesti do kolapsa civilizacije.

Neki kompjuterski naučnici strahuju da bi nas veštačka superinteligencija sa interesima nekompatibilnim sa ljudskim mogla nehotice zameniti ili uništiti.

Drugi se brinu da nas pretjerano oslanjanje na sisteme koje ne razumijemo ostavlja u katastrofalnom riziku ako nešto pođe po zlu.

Dan Hendricks, direktor CAIS-a, objasnio je da je ova izjava bila način izražavanja za mnoge istraživače. „Ljudi su se previše plašili da govore ranije“, nastavio je.

Neki su doveli u pitanje te tvrdnje

Nasuprot tome, drugi akademici su tu izjavu odbacili kao beskorisnu. Dr Mahiri Aitken, istraživački saradnik za etiku na Institutu Alan Turing, nazvao je to "odvraćanjem pažnje" od hitnijih prijetnji umjetne inteligencije.

Dodala je: "Priča o super-AI je poznata radnja iz bezbrojnih holivudskih blokbastera."

Dr Carissa Velez, sa Instituta za etiku veštačke inteligencije Univerziteta Oksford, bila je skeptična prema motivima nekih od potpisnika.

Brinem se da fokusiranje na egzistencijalnu prijetnju odvlači pažnju od hitnijih pitanja, kao što je erozija ili propast demokratije, s kojima se direktori određenih kompanija ne žele suočiti, rekla je. "Umjetna inteligencija može uzrokovati masovno uništenje bez preuzimanja egzistencijalnog rizika", dodala je.

Biološko oružje

Zabrinutost oko najozbiljnijih prijetnji AI varira od mogućnosti da ga ljudi koriste za dizajniranje biološkog oružja, do same umjetne inteligencije koja planira kolaps civilizacije.

Među potpisnicima izjave su Sam Altman, izvršni direktor OpenAI, koji je dizajnirao ChatGPT, i Demis Hassabis, izvršni direktor Google Deepminda, koji je dizajnirao softver za poraz najboljih igrača u Gou i šahu. Potpisali su ga čelnici Anthropic AI, Inflection AI i Stability AI sistema i profesori informatike sa Kembridža, Oksforda, Harvarda, Jejla i Stanforda.

Horoskop Maguy Farah predviđa za 2023. godinu