Vil kunstig intelligens blive brugt til det onde?

Vil kunstig intelligens blive brugt til det onde?

På trods af dets mange fordele har mere end 350 eksperter inden for kunstig intelligens rundt om i verden, inklusive skaberen af ​​"ChatGPT", advaret om, at denne teknologi kan føre til menneskehedens udryddelse.

I en fælles erklæring, støttet af administrerende direktører for førende AI-virksomheder, sagde de, at afbødning af denne risiko "bør være en global prioritet sammen med andre samfundsmæssige risici, såsom pandemier og atomkrig."

Mange eksperter har udtrykt bekymring over farerne ved at bruge modeller som ChatGBT til at sprede misinformation og cyberkriminalitet, samt forårsage afbrydelse af arbejdspladser på samfundsniveau.

Civilisationens kollaps

Erklæringen, koordineret af US Center for Artificial Intelligence Safety (CAIS), anerkendte også disse bekymringer, men sagde, at mere alvorlige, men mindre sandsynlige trusler også skulle diskuteres, herunder muligheden for, at acceleration af AI kunne føre til civilisationens kollaps.

Nogle dataloger frygter, at en kunstig superintelligens med interesser, der er uforenelige med menneskers, utilsigtet kan erstatte eller ødelægge os.

Andre bekymrer sig om, at overdreven afhængighed af systemer, vi ikke forstår, efterlader os i en katastrofal risiko, hvis noget går galt.

Dan Hendricks, direktør for CAIS, forklarede, at udtalelsen var en måde at udtrykke sig på for mange forskere. "Folk var for bange til at sige fra tidligere," fortsatte han.

Nogle har sat spørgsmålstegn ved påstandene

I modsætning hertil afviste andre akademikere udtalelsen som uhensigtsmæssig. Dr. Mahiri Aitken, Research Ethics Fellow ved Alan Turing Institute, kaldte det en "distraktion" fra mere presserende trusler fra AI.

Hun tilføjede: "Fortællingen om en super-AI er et velkendt plot fra utallige Hollywood-blockbusters."

Dr. Carissa Velez, fra University of Oxford's Institute of Ethics in Artificial Intelligence, var skeptisk over for motiverne hos nogle af underskriverne.

"Jeg er bekymret for, at fokus på den eksistentielle trussel distraherer fra mere presserende spørgsmål, såsom demokratiets udhuling eller undergang, som administrerende direktører for visse virksomheder ikke ønsker at konfrontere," sagde hun. "Kunstig intelligens kan forårsage massiv ødelæggelse uden at tage en eksistentiel risiko," tilføjede hun.

Biologiske våben

Bekymringer om de mest alvorlige trusler fra AI spænder fra muligheden for, at den bliver brugt af mennesker til at designe biologiske våben, til AI selv planlægger civilisationens sammenbrud.

Blandt underskriverne af erklæringen er Sam Altman, CEO for OpenAI, som har designet ChatGPT, og Demis Hassabis, CEO for Google Deepmind, som har designet software til at besejre de bedste spillere i Go og skak. Det blev underskrevet af lederne af Anthropic AI, Inflection AI og Stability AI-systemer og datalogiprofessorer fra Cambridge, Oxford, Harvard, Yale og Stanford.

Maguy Farahs horoskop forudsigelser for året 2023