מדענים ומהנדסים הזהירו מפני הסכנות של בינה מלאכותית

מכתב פתוח שבו הוא קרא טיפול זהיר של בינה מלאכותית, חתמה על מספר רב של אנשים, כולל חוקרים ומדענים מובילים בתחום זה. החוקרים מאמינים כי AI לא צריך להרחיב מעבר לשליטתנו.

פחדים הקשורים בינה מלאכותית

סרטים כמו "שליחות קטלנית", לתת לנו תמונה מלאה של מה קורה כאשר רובוטים כבר לא בקבוצה שלנו. לכן, את הפחדים של אנשים רבים, כולל מדענים, לא יכול להיחשב סבירה. בהתחשב בקצב הפיתוח של טכנולוגיית המחשב, אנחנו יותר ויותר אל נקודת כשאתה צריך להתמודד עם בעיות אלה.

בחודש דצמבר, סטיבן הוקינג השיקה גל חדש של דיונים סביב הנושא הזה. בהתחשב בעובדה כי היכולת של הוקינג לתקשר תלויה טכנולוגיות מחשוב מתקדמות, ניתן לספור בקושי בין הלודיטים, אבל המוח שלו הוא בטוח כדי למשוך תשומת לב.

המכתב שיזם מכון החיים בעתיד - "להפחתת סיכונים קיומיים בפני האנושות" ארגון התנדבותי אשר מתאר את מטרותיה כפי

מה זה על המכתב

במכתב גלוי מציין כי ניתן באזורים אלה לחצות את הסף מפריד בין במחקרי המעבדה והפיתוח של טכנולוגיות יקרות מבחינה כלכלית, למרות שיפורים קלים אפילו בביצועים שווים הרבה כסף. זה גורם לעלייה בתזרים ההשקעות במחקר. עכשיו זה הופך ברור כי המחקר של בינה מלאכותית כבר מתקדם בהתמדה, והשפעתו על החברה צפויה להגדיל. היתרונות הפוטנציאליים הם עצומים, כמו כל התרבות כי יש להציע, זה הוא תוצר של המוח האנושי. אנחנו יכולים לחזות את מה שאנחנו יכולים להשיג אם אנו הופכים בינה מלאכותית משומשת, אבל מיגור המחלה והעוני הוא לא משהו בלתי נתפס. לאור הפוטנציאל הגדול של בינה מלאכותית, חשוב להבין איך לנצל את זה, הימנעות בעיות פוטנציאליות.

החוקרים מוסיפים כי מערכת הבינה המלאכותית שלנו צריכה לעשות בדיוק את מה שאנחנו רוצים מהם, ולא כדי להביא לפגיעה אנשים בעת ובעונה האחת. המכתב גם להגדיר את אזורי העדיפות של מחקר, אשר, החוקרים מאמינים, יכול להביא את התועלת המרבית לחברה.

אולי כדאי להצטרף?

כל אחד יכול לחתום על המכתב, ואלפי אנשים כבר עשו זאת. בעוד החותמים רבים הם אנשים רגילים, אבל שמות כמו אילון מוסק עצמו הוקינג, ניתן לזהות בקלות. שמות רבים אחרים ברשימה - החוקרים המובילים בתחום ה- IT ואת הפילוסופיה, כולל צוות של יבמ.