Va fi folosită inteligența artificială pentru rău?

Va fi folosită inteligența artificială pentru rău?

În ciuda numeroaselor sale beneficii, peste 350 de experți în domeniul inteligenței artificiale din întreaga lume, inclusiv creatorul „ChatGPT”, au avertizat că această tehnologie poate duce la dispariția umanității.

Într-o declarație comună, susținută de directorii executivi ai companiilor de IA de vârf, aceștia au spus că atenuarea acestui risc „ar trebui să fie o prioritate globală alături de alte riscuri societale, cum ar fi pandemiile și războiul nuclear”.

Mulți experți și-au exprimat îngrijorarea cu privire la pericolele utilizării unor modele precum ChatGBT pentru a răspândi dezinformarea și a criminalității cibernetice, precum și pentru a provoca perturbarea locurilor de muncă la nivel de comunitate.

Prăbușirea civilizației

Declarația, coordonată de Centrul SUA pentru Siguranța Inteligenței Artificiale (CAIS), a recunoscut, de asemenea, aceste preocupări, dar a spus că ar trebui discutate și amenințările mai grave, dar mai puțin probabile, inclusiv posibilitatea ca accelerarea AI să poată duce la colapsul civilizației.

Unii informaticieni se tem că o superinteligență artificială cu interese incompatibile cu cele ale oamenilor ar putea să ne înlocuiască sau să ne distrugă din neatenție.

Alții se îngrijorează că dependența excesivă de sistemele pe care nu le înțelegem ne lasă expuși unui risc catastrofal dacă ceva nu merge bine.

Dan Hendricks, directorul CAIS, a explicat că declarația a fost o modalitate de exprimare pentru mulți cercetători. „Oamenilor le era prea frică să vorbească mai devreme”, a continuat el.

Unii au pus la îndoială afirmațiile

În schimb, alți academicieni au respins declarația ca fiind inutilă. Dr. Mahiri Aitken, Research Ethics Fellow la Institutul Alan Turing, a numit-o o „distragere a atenției” de la amenințările mai presante din partea AI.

Ea a adăugat: „Narațiunea unui super-AI este un complot familiar din nenumărate succese de la Hollywood”.

Dr Carissa Velez, de la Institutul de Etică în Inteligență Artificială al Universității din Oxford, a fost sceptic cu privire la motivele unora dintre semnatari.

„Îmi face griji că concentrarea asupra amenințării existențiale distrage atenția de la probleme mai presante, cum ar fi erodarea sau decăderea democrației, pe care directorii executivi ai anumitor companii nu vor să le confrunte”, a spus ea. „Inteligenta artificiala poate provoca distrugeri masive fara risc existential”, a adaugat ea.

Armele biologice

Preocupările cu privire la cele mai grave amenințări ale inteligenței artificiale variază de la posibilitatea ca aceasta să fie folosită de oameni pentru a proiecta arme biologice, până la AI în sine care complotează colapsul civilizației.

Printre semnatarii declarației se numără Sam Altman, CEO al OpenAI, care a conceput ChatGPT, și Demis Hassabis, CEO al Google Deepmind, care a conceput software pentru a-i învinge pe cei mai buni jucători din Go și șah. A fost semnat de șefii sistemelor de IA antropică, IA de inflexiune și IA de stabilitate și de profesori de informatică de la Cambridge, Oxford, Harvard, Yale și Stanford.

Previziunile horoscopului lui Maguy Farah pentru anul 2023