S'utilitzarà la intel·ligència artificial per al mal?

S'utilitzarà la intel·ligència artificial per al mal?

Malgrat els seus nombrosos beneficis, més de 350 experts en el camp de la intel·ligència artificial d'arreu del món, entre ells el creador de "ChatGPT", han advertit que aquesta tecnologia pot provocar l'extinció de la humanitat.

En una declaració conjunta, amb el suport dels directors generals de les principals empreses d'IA, van dir que mitigar aquest risc "hauria de ser una prioritat global juntament amb altres riscos socials, com ara les pandèmies i la guerra nuclear".

Molts experts han expressat la seva preocupació pels perills d'utilitzar models com ChatGBT per difondre informació errònia i ciberdelinqüència, a més de provocar interrupcions en els llocs de treball a nivell comunitari.

Col·lapse de la civilització

La declaració, coordinada pel Centre dels Estats Units per a la Seguretat en Intel·ligència Artificial (CAIS), també va reconèixer aquestes preocupacions, però va dir que també s'han de discutir amenaces més greus però menys probables, inclosa la possibilitat que l'acceleració de la IA pugui conduir al col·lapse de la civilització.

Alguns informàtics temen que una superintel·ligència artificial amb interessos incompatibles amb els dels humans pugui substituir-nos o destruir-nos sense voler.

Altres es preocupen que l'excés de dependència en sistemes que no entenem ens deixi en risc catastròfic si alguna cosa va malament.

Dan Hendricks, director del CAIS, va explicar que la declaració era una forma d'expressió per a molts investigadors. "La gent tenia massa por de parlar abans", va continuar.

Alguns han qüestionat les afirmacions

En canvi, altres acadèmics van descartar la declaració com a poc útil. El doctor Mahiri Aitken, investigador d'ètica de l'Institut Alan Turing, ho va qualificar de "distracció" de les amenaces més urgents de la IA.

Va afegir: "La narració d'una super-IA és una trama familiar d'innombrables superproduccions de Hollywood".

La doctora Carissa Velez, de l'Institut d'Ètica en Intel·ligència Artificial de la Universitat d'Oxford, es mostra escèptica sobre els motius d'alguns dels signants.

"Em preocupa que centrar-se en l'amenaça existencial distregui de qüestions més urgents, com l'erosió o la desaparició de la democràcia, que els consellers delegats de determinades empreses no volen enfrontar", va dir. "La intel·ligència artificial pot provocar una destrucció massiva sense assumir un risc existencial", va afegir.

Armes biològiques

Les preocupacions sobre les amenaces més greus de la IA van des de la possibilitat que sigui utilitzat pels humans per dissenyar armes biològiques, fins a la pròpia IA per planejar el col·lapse de la civilització.

Entre els signants de la declaració hi ha Sam Altman, CEO d'OpenAI, que va dissenyar ChatGPT, i Demis Hassabis, CEO de Google Deepmind, que va dissenyar programari per derrotar als millors jugadors de Go i escacs. Va ser signat pels responsables de sistemes d'IA antròpica, IA d'inflexió i IA d'estabilitat i professors d'informàtica de Cambridge, Oxford, Harvard, Yale i Stanford.

Prediccions de l'horòscop de Maguy Farah per a l'any 2023