Yapay zeka kötülük için mi kullanılacak?

Yapay zeka kötülük için mi kullanılacak?

Pek çok faydasına rağmen aralarında "ChatGPT"nin yaratıcısının da bulunduğu dünya çapında yapay zeka alanında 350'den fazla uzman, bu teknolojinin insanlığın yok olmasına yol açabileceği konusunda uyarıda bulundu.

Önde gelen AI şirketlerinin CEO'ları tarafından desteklenen ortak bir bildiride, bu riski azaltmanın "pandemi ve nükleer savaş gibi diğer toplumsal risklerin yanı sıra küresel bir öncelik olması gerektiğini" söylediler.

Pek çok uzman, ChatGBT gibi modellerin yanlış bilgi ve siber suç yaymak için kullanılmasının ve topluluk düzeyinde işlerin aksamasına neden olmasının tehlikeleri hakkında endişelerini dile getirdi.

Medeniyet çöküşü

ABD Yapay Zeka Güvenliği Merkezi (CAIS) tarafından koordine edilen açıklamada, bu endişeler de kabul edildi, ancak daha ciddi ancak daha az olası tehditlerin de tartışılması gerektiği belirtildi.

Bazı bilgisayar bilimcileri, çıkarları insanlarınkiyle bağdaşmayan yapay bir süper zekanın istemeden bizi değiştirebileceğinden veya bizi yok edebileceğinden korkuyor.

Diğerleri, anlamadığımız sistemlere aşırı güvenmenin, bir şeyler ters giderse bizi felaket riskine sokacağından endişeleniyor.

CAIS Direktörü Dan Hendricks, açıklamanın birçok araştırmacı için bir ifade biçimi olduğunu açıkladı. "İnsanlar daha önce konuşmaktan çok korkuyorlardı," diye devam etti.

Bazıları iddiaları sorguladı

Buna karşılık, diğer akademisyenler açıklamayı yararsız olarak nitelendirerek reddettiler. Alan Turing Enstitüsü'nde Araştırma Etiği Üyesi olan Dr. Mahiri Aitken, bunu yapay zekadan gelen daha acil tehditlerden "dikkat dağıtmak" olarak nitelendirdi.

"Bir süper yapay zekanın anlatısı, gişe rekorları kıran sayısız Hollywood filminden tanıdık bir olay örgüsüdür."

Oxford Üniversitesi Yapay Zeka Etik Enstitüsü'nden Dr. Carissa Velez, bazı imzacıların amaçlarına şüpheyle yaklaştı.

"Varoluşsal tehdide odaklanmanın, bazı şirketlerin CEO'larının yüzleşmek istemedikleri demokrasinin erozyonu veya ölümü gibi daha acil konulardan uzaklaşmasından endişeleniyorum" dedi. "Yapay zeka, varoluşsal bir risk almadan büyük yıkıma neden olabilir" diye ekledi.

Biyolojik silahlar

Yapay zekadan gelen en ciddi tehditler, insanlar tarafından biyolojik silahlar tasarlamak için kullanılma olasılığından, uygarlığın çöküşünü planlamaya kadar uzanıyor.

Bildiriye imza atanlar arasında ChatGPT'yi tasarlayan OpenAI CEO'su Sam Altman ve Go ve satrançta en iyi oyuncuları yenmek için yazılım tasarlayan Google Deepmind'in CEO'su Demis Hassabis yer alıyor. Anthropic AI, Inflection AI ve Stability AI sistemlerinin başkanları ve Cambridge, Oxford, Harvard, Yale ve Stanford'dan bilgisayar bilimi profesörleri tarafından imzalandı.

Maguy Farah'ın 2023 yılı için burç tahminleri