האם בינה מלאכותית תשמש לרוע?

האם בינה מלאכותית תשמש לרוע?

למרות יתרונותיו הרבים, למעלה מ-350 מומחים בתחום הבינה המלאכותית ברחבי העולם, כולל היוצר של "ChatGPT", הזהירו כי טכנולוגיה זו עלולה להוביל להכחדת האנושות.

בהצהרה משותפת, בגיבוי המנכ"לים של חברות בינה מלאכותית מובילות, הם אמרו כי הפחתת הסיכון הזה "צריכה להיות בעדיפות עולמית לצד סיכונים חברתיים אחרים, כמו מגיפות ומלחמה גרעינית".

מומחים רבים הביעו דאגה לגבי הסכנות שבשימוש במודלים כמו ChatGBT כדי להפיץ מידע מוטעה ופשעי סייבר, כמו גם גרימת הפרעה לעבודות ברמת הקהילה.

התמוטטות הציוויליזציה

ההצהרה, בתיאום המרכז האמריקאי לבטיחות בבינה מלאכותית (CAIS), הכירה גם בחששות הללו, אך אמרה כי יש לדון גם באיומים חמורים יותר אך פחות סבירים, כולל האפשרות שהאצת AI עלולה להוביל לקריסת הציוויליזציה.

כמה מדעני מחשבים חוששים שבינת-על מלאכותית עם אינטרסים שאינם תואמים לאלו של בני אדם עלולה בטעות להחליף או להרוס אותנו.

אחרים חוששים שהסתמכות יתר על מערכות שאיננו מבינות משאירה אותנו בסיכון קטסטרופלי אם משהו ישתבש.

דן הנדריקס, מנהל CAIS, הסביר כי ההצהרה הייתה דרך ביטוי עבור חוקרים רבים. "אנשים פחדו מדי לדבר מוקדם יותר", המשיך.

חלקם הטילו ספק בטענות

לעומת זאת, אקדמאים אחרים דחו את ההצהרה כלא מועילה. ד"ר Mahiri Aitken, עמית אתיקה מחקרית במכון אלן טיורינג, כינה זאת "הסחת דעת" מאיומים דחופים יותר של AI.

היא הוסיפה, "הנרטיב של סופר-AI הוא עלילה מוכרת מאינספור שוברי קופות הוליוודיים".

ד"ר קאריסה ולז, מהמכון לאתיקה בבינה מלאכותית של אוניברסיטת אוקספורד, הייתה סקפטית לגבי המניעים של כמה מהחותמים.

"אני חוששת שההתמקדות באיום הקיומי מסיחה את הדעת מהנושאים הדחופים יותר, כמו שחיקה או שקיעתה של הדמוקרטיה, שמנכ"לים של חברות מסוימות לא רוצים להתמודד איתם", אמרה. "בינה מלאכותית יכולה לגרום להרס מסיבי מבלי לקחת סיכון קיומי", הוסיפה.

נשק ביולוגי

החששות לגבי האיומים החמורים ביותר מ- AI נעים מהאפשרות שהוא ישמש על-ידי בני אדם לתכנון נשק ביולוגי, ועד AI עצמו המתכנן את קריסת הציוויליזציה.

בין החותמים על ההצהרה, סם אלטמן, מנכ"ל OpenAI, שעיצב את ChatGPT, ודמיס חסאביס, מנכ"ל Google Deepmind, שעיצב תוכנה להביס את השחקנים הטובים ביותר ב-Go ובשחמט. הוא נחתם על ידי ראשי מערכות הבינה המלאכותית Anthropic, Inflection AI ו-Stability AI ופרופסורים למדעי המחשב מקיימברידג', אוקספורד, הרווארד, ייל וסטנפורד.

תחזיות ההורוסקופ של מגוי פארה לשנת 2023