האם בינה מלאכותית יודעת להבדיל בין טוב לרע?

דמיינו שתי מכוניות זהות.

לשתיהן אותו מנוע, אותה מהירות ואותה יכולת תמרון. אלא שבמכונית אחת מותקנות כריות אוויר, מערכות בלימה אוטומטיות, חיישנים ומנגנונים שמונעים מהנהג לסטות מהכביש.

במכונית השנייה מישהו נטרל את כולם.

המכונית השנייה לא נעשתה חכמה יותר. היא גם לא נעשתה חזקה יותר. היא פשוט איבדה את מנגנוני ההגנה שלה — ולכן נעשתה מסוכנת יותר.

במובן מסוים, זהו גם הסיפור של הבינה המלאכותית.

האם למכונה יש מצפון?

בינה מלאכותית יודעת לדבר על טוב ורע בצורה מרשימה. היא יכולה להסביר מדוע גניבה פסולה, מדוע הצלת חיים היא מעשה ראוי, ומה ההבדל בין צדק, חמלה, אחריות ונאמנות.

אבל אין פירוש הדבר שהיא חווה מוסר כפי שאדם חווה אותו.

למודל אין ילדות, משפחה, פחד מכאב, תחושת אשמה או הזדהות אנושית. הוא אינו מתעורר בבוקר עם רצון להיות אדם טוב. הוא למד מתוך כמויות עצומות של טקסטים כיצד בני אדם מדברים על מוסר, אילו פעולות הם מגנים ואילו תשובות הם מעדיפים לקבל.

כלומר, בינה מלאכותית יכולה לזהות היטב את השפה של הטוב והרע. היא יכולה גם להתנהג בהתאם לכללים מוסריים שהוטמעו בה. אבל אין ודאות שיש בה מצפון פנימי או הבנה חווייתית של משמעות הפגיעה.

היא יודעת לתאר מוסר. היא לא בהכרח מרגישה מחויבות מוסרית.

היכן נמצאות ההגנות?

ההתנהגות הבטוחה של מודל אינה נובעת מכפתור אחד.

במרכז נמצא מודל בסיסי שאומן להבין ולייצר שפה. הוא למד מתוך ספרים, אתרי אינטרנט, מסמכים, שיחות, קוד ותכנים מסוגים שונים. בשלב הזה הוא עשוי להכיל ידע מועיל לצד מידע מסוכן, טעויות, הטיות ושיטות פעולה שהיינו מעדיפים שלא יפעיל.

לאחר מכן מגיע שלב נוסף: בני אדם מלמדים את המודל אילו תשובות רצויות, אילו בקשות דורשות סירוב, כיצד להימנע מפגיעה וכיצד לפעול באופן מועיל ואחראי יותר.

מעל שכבת האימון קיימות הוראות מערכת, מסנני תוכן, הגבלות גישה, מערכות ניטור ובקרות שמונעות מן המודל לבצע פעולות ללא הרשאה.

לכן ההגנות של בינה מלאכותית דומות לא רק לכריות אוויר. הן דומות גם לבלמים, חגורות בטיחות, חוקי תנועה, רישיון נהיגה, מצלמות ובדיקת רישוי.

הבעיה היא שאפשר לשנות חלק מהשכבות האלה.

האם אפשר להוציא למודל את כריות האוויר?

כאשר משתמשים במודל דרך שירות מקוון של חברה גדולה, המשתמש מקבל גישה מוגבלת. הוא יכול לשוחח עם המודל, אבל אינו מחזיק בהכרח במערכת עצמה ואינו יכול לשנות באופן חופשי את המבנה הפנימי שלה.

במודלים שניתנים להורדה ולהפעלה עצמאית, המצב שונה.

אפשר לקחת את המודל, לאמן אותו מחדש, לשנות את הוראותיו, להחליף את מסנני הבטיחות ולבנות סביבו מערכת חדשה. אפשר להתאים אותו לשפה, לתחום מקצועי או לצרכים מקומיים — אך אפשר גם לנסות להפחית את נטייתו לסרב לבקשות מסוכנות.

מחקרים כבר הראו שאימון נוסף עשוי לפגוע בחלק ממנגנוני הבטיחות. לעיתים הדבר נעשה במכוון, ולעיתים ההגנות נחלשות גם כתוצאה מאימון שנועד למטרה אחרת.

אין פירוש הדבר שכל המוסר של המכונה נמצא בקובץ אחד שאפשר למחוק. ההגנות מפוזרות בין שכבות שונות. אבל הדבר כן מלמד שההתנהגות הבטוחה של מודל אינה בהכרח קבועה או בלתי ניתנת לשינוי.

חשוב גם לדייק: מודל שהוסרו ממנו ההגנות אינו בהכרח מודל “מרושע”.

מכונית ללא בלמים אינה שונאת הולכי רגל. היא פשוט ממשיכה לנסוע.

מי מחליט מהו טוב?

כאן מתחילה השאלה המורכבת באמת.

גם בני אדם אינם מסכימים תמיד מהו טוב ומהו רע. האם חופש הביטוי חשוב יותר ממניעת הסתה? האם פרטיות קודמת לביטחון? האם בינה מלאכותית צריכה לציית למשתמש, לחוק, למדינה או לעקרונות כלליים של זכויות אדם?

התשובות משתנות בין מדינות, תרבויות ומשטרים.

מערכת שפותחה במדינה ליברלית עשויה להעניק משקל רב לחירות האישית. מערכת שנבנתה במדינה ריכוזית עשויה להעדיף סדר, יציבות וציות. חברה מסחרית עשויה להגדיר “בטיחות” גם בהתאם לסיכונים משפטיים, לתדמית הציבורית ולאינטרסים הכלכליים שלה.

כל מודל נושא אפוא בתוכו תפיסת עולם מסוימת — גם כאשר היא אינה מוצגת בגלוי.

היא נמצאת בנתונים שעליהם אומן, באנשים שדירגו את תשובותיו, בנושאים שהוא רשאי לדון בהם ובמקרים שבהם הוא נדרש לסרב.

המרוץ אינו רק טכנולוגי

מדינות אינן מתחרות כיום רק על מי תפתח את המודל החכם ביותר. הן מתחרות גם על שליטה כלכלית, ביטחונית ותרבותית.

מי שיוביל בתחום הבינה המלאכותית עשוי להשפיע על מערכות חינוך, רפואה, תעשייה, מודיעין, תקשורת, מחקר וקבלת החלטות ממשלתית.

אבל בטיחות דורשת זמן. היא דורשת בדיקות, מחקר, פיקוח ולעיתים גם ויתור על יכולות מסוימות.

כאן נוצרת דילמה: כל מדינה חוששת שאם תגביל את המערכות שלה יותר מדי, מדינה מתחרה תפתח מודל מהיר, חופשי ועוצמתי יותר.

אף אחד אינו מעוניין בבינה מלאכותית בלתי נשלטת. אבל אף אחד גם אינו רוצה להיות היחיד שעוצר בזמן שכל האחרים ממשיכים להאיץ.

זהו מרוץ שבו מנגנוני הבטיחות עלולים להיתפס כמעמסה תחרותית.

המאבק על עיצוב התודעה

המודלים העתידיים לא רק יספקו מידע. הם יחליטו כיצד להציג אותו.

הם יבחרו אילו עובדות להדגיש, אילו הסתייגויות להוסיף, איזו שאלה לשאול ואילו פתרונות להציג תחילה. הם עשויים להפוך ליועצים, למורים, לעוזרים אישיים ולמתווכים המרכזיים שבין האדם לעולם.

לכן מי שמייצא מערכת בינה מלאכותית אינו מייצא רק טכנולוגיה. הוא מייצא גם דרך מסוימת לתאר את המציאות.

המרוץ הוא לא רק על שבבים, מהנדסים ומרכזי נתונים. הוא גם על הזכות לקבוע מה ייחשב אמין, בטוח, מקובל, מסוכן או קיצוני.

האחריות עדיין אנושית

בינה מלאכותית יכולה לעזור לנו לחשוב על שאלות מוסריות. היא יכולה להשוות בין עקרונות, לזהות סתירות ולהזהיר מפני השלכות שלא ראינו.

אבל היא אינה יכולה לפטור אותנו מן האחריות.

כל עוד בני אדם בוחרים את הנתונים, מגדירים את הכללים, מחלקים את ההרשאות וקובעים את מטרות המערכת — השאלה אינה רק האם בינה מלאכותית יודעת להבדיל בין טוב לרע.

השאלות החשובות יותר הן מי לימד אותה, מי רשאי לשנות את מה שלימדו אותה, מי מרוויח מן ההחלטות שלה — ומי יישא באחריות כאשר מישהו יעתיק את המכונית, ינתק את הבלמים וישלח אותה לנסוע מהר יותר מכל המתחרים.