Хиймэл оюун ухааныг муу зүйлд ашиглах уу?

Хиймэл оюун ухааныг муу зүйлд ашиглах уу?

Хэдийгээр олон талын ашиг тустай ч хиймэл оюун ухааны салбарын 350 гаруй мэргэжилтэн, тэр дундаа “ChatGPT”-ийг бүтээгч энэхүү технологи нь хүн төрөлхтнийг мөхөлд хүргэж болзошгүйг анхааруулж байна.

AI-ийн тэргүүлэх компаниудын гүйцэтгэх захирлуудын дэмжлэгтэйгээр хийсэн хамтарсан мэдэгдэлд тэд энэхүү эрсдлийг бууруулах нь "тахал тахал, цөмийн дайн зэрэг нийгмийн бусад эрсдэлүүдийн зэрэгцээ дэлхийн тэргүүлэх чиглэл байх ёстой" гэж мэдэгджээ.

Олон шинжээчид ChatGBT гэх мэт загваруудыг буруу мэдээлэл, кибер гэмт хэрэг түгээх, түүнчлэн олон нийтийн түвшинд ажлын байрыг тасалдуулахад хүргэх аюулын талаар санаа зовж байгаагаа илэрхийлсэн.

Соёл иргэншлийн сүйрэл

АНУ-ын Хиймэл оюун ухааны аюулгүй байдлын төвөөс (CAIS) зохицуулсан мэдэгдэлд эдгээр түгшүүрийг хүлээн зөвшөөрсөн боловч хиймэл оюун ухааныг хурдасгах нь соёл иргэншлийн сүйрэлд хүргэж болзошгүй гэх мэт илүү ноцтой боловч магадлал багатай аюул заналхийллийг мөн хэлэлцэх ёстой гэжээ.

Зарим компьютерийн эрдэмтэд хүний ​​сонирхолд үл нийцэх хиймэл оюун ухаан биднийг санамсаргүйгээр орлож эсвэл устгаж магадгүй гэж эмээдэг.

Бусад нь бидний ойлгодоггүй системд хэт найдах нь ямар нэг зүйл буруу болвол сүйрлийн эрсдэлд орно гэж санаа зовдог.

CAIS-ийн захирал Дэн Хендрикс энэ мэдэгдэл нь олон судлаачдын илэрхийлэл болсон гэж тайлбарлав. "Хүмүүс өмнө нь дуугарахаас айдаг байсан" гэж тэр үргэлжлүүлэв.

Зарим нь нэхэмжлэлд эргэлзэж байна

Үүний эсрэгээр бусад эрдэмтэд уг мэдэгдлийг ашиггүй гэж үзжээ. Алан Тьюрингийн хүрээлэнгийн Ёс зүйн судалгааны ажилтан, доктор Махири Айткен үүнийг хиймэл оюун ухаанаас үүдэлтэй аюул заналхийллээс "анхаарал сарниулах" гэж нэрлэжээ.

Тэрээр "Супер хиймэл оюун ухааны тухай өгүүллэг бол Холливудын тоо томшгүй олон киноны киноны танил зохиол юм."

Оксфордын их сургуулийн Хиймэл оюун ухааны ёс зүйн хүрээлэнгийн доктор Карисса Велес гарын үсэг зурсан зарим хүмүүсийн сэдэлд эргэлзэж байв.

"Оршихуйн аюулд анхаарлаа төвлөрүүлэх нь ардчиллын элэгдэл, мөхөл гэх мэт илүү тулгамдсан асуудлаас сатааруулж, зарим компанийн гүйцэтгэх захирлуудын нүүр тулахыг хүсэхгүй байгаад би санаа зовж байна" гэж тэр хэлэв. "Хиймэл оюун ухаан нь оршин тогтнох эрсдэлгүйгээр асар их сүйрэлд хүргэж чадна" гэж тэр нэмж хэлэв.

Биологийн зэвсэг

Хиймэл оюун ухаанаас үүдэлтэй хамгийн ноцтой аюулын талаархи санаа зовоосон асуудал нь үүнийг хүмүүс биологийн зэвсгийг зохион бүтээхэд ашиглах, мөн хиймэл оюун ухаан өөрөө соёл иргэншлийн сүйрлийг төлөвлөх зэрэг багтана.

Мэдэгдэлд гарын үсэг зурсан хүмүүсийн дунд ChatGPT-ийг зохион бүтээсэн OpenAI-ийн гүйцэтгэх захирал Сэм Алтман, Go болон шатрын шилдэг тоглогчдыг ялах программ хангамжийг бүтээсэн Google Deepmind-ийн гүйцэтгэх захирал Демис Хассабис нар багтжээ. Үүнд Кембриж, Оксфорд, Харвард, Йел, Стэнфордын Антропик AI, Inflection AI, Stability AI системийн тэргүүнүүд болон компьютерийн шинжлэх ухааны профессорууд гарын үсэг зурав.

Магуи Фарагийн 2023 оны зурхайн таамаглал