top of page

האם בינה מלאכותית תשתלט על העולם

לפני יום אחד (1)
זמן קריאה 6 דקות
מה היא בכלל בינה מלאכותית

בינה מלאכותית (AI ראשי תיבות Artificial intelligence) בפשטות היא תוכנת מחשב עם יכולת מתקדמת. היא לא ״יישות״ או זהות מסוימת. היא גם לא מחשב על. היא פשוט ביטוי שמגדיר דור חדש של תוכנות מחשב, שלהן יש יכולת לבצע פעולות שונות שעד לאחרונה היו דמיוניות לחלוטין.

תוכנת הבינה המלאכותית המוכרת ביותר היום היא ChatGPT של חברת OpenAI אשר נודעה כהתוכנה הראשונה בתפוצה רחבה שאפשרה לכל אדם להתנסות בחוויה מוזרה של ״דיבור עם מכונה״.

בהמשך החל מירוץ תחרותי בין חברות שונות אשר מעת לעת מפרסמות יכולות חדשות של גרסאות שונות של AI המסוגלות לבצע פעולות מדהימות מיום ליום. כגון יצירת וידאו על פי תיאור מילולי, סוכני בינה (מעין רובוטים דיגיטליים) המפעילים מערכות מחשב ותוכנות על פי הנחיה - כמו עובד אנושי ממש. ויש המתארים שימוש ב״צבאות של סוכנים״ המפעילים אופרציות של חברות שלמות באופן אוטומטי.


הרבה אנשים מפחדים ממנה

כתוכנה, היא אינה שונאת בני אדם. היא גם אינה אוהבת אותם.

אין לה ילדות, מצפון, זיכרונות משפחתיים או תחושת אחריות טבעית כלפי מי שעלול להיפגע ממעשיה. היא אינה מתעוררת בבוקר עם רצון להציל את העולם, וגם לא עם מזימה להשתלט עליו.

היא כלי עוצמתי שלומד לזהות דפוסים, להבין הוראות, לייצר רעיונות ולבצע משימות.

את הכיוון נותנים לה בני האדם, היוצרים והמפעילים שלה: באמצעות המידע שעליו מייצרים ומכוונים אותה, המטרות שמגדירים לה, ההרשאות שמעניקים לה, והמערכת הכלכלית והפוליטית שבתוכה היא פועלת.

לכן השאלה החשובה איננה האם בינה מלאכותית יודעת להבחין בין טוב לרע.

השאלה היא: מי ילמד אותה מהו טוב, מי יוכל לשנות את ההגדרה הזאת, ולמען מי יופעל הכוח העצום שהיא עתידה לצבור?


אותה בינה, מטרות שונות

אותה מערכת יכולה לסייע לרופא לזהות מחלה, או לחברת ביטוח למצוא דרך לדחות תביעה. היא יכולה לחבר בין אדם בודד לקהילה, או ללמוד כיצד להשאיר אותו מול המסך זמן רב יותר. היא יכולה לצמצם בירוקרטיה, להנגיש חינוך ולייעל את השימוש במשאבים - אך גם לשמש למעקב, מניפולציה, אפליה וריכוז כוח.

ההבדל אינו נמצא בתוך המילה “בינה”.

הוא נמצא במפעיל, בבעלים, במקור המימון, במודל העסקי ובמערכת הכללים.

וגם האמירה “הכול תלוי במפעיל” אינה מספיקה. פעמים רבות אין מפעיל יחיד. יש בעלי מניות, מנהלים, מתכנתים, ממשלות, ספקי מידע, לקוחות, רגולטורים ומערכות אוטומטיות הפועלות יחד. כל אחד מהם מושך מעט את ההגה, ולעיתים איש אינו נושא באחריות מלאה לתוצאה.

זהו בדיוק המקום שבו מתחילה הבעיה.


הכוח גדל מהר יותר מן המוסדות

היכולות אינן עומדות במקום. לפי מדד הבינה המלאכותית של סטנפורד לשנת 2026, התעשייה יצרה יותר מ־90% ממודלי החזית הבולטים בשנת 2025, ובמקביל דווקא המודלים החזקים ביותר נעשו פחות שקופים מבחינת נתוני האימון, עלויות הפיתוח ופרטים טכניים מרכזיים. (סטנפורד HAI)

זה לא אומר שחברות מסחריות רוצות להרע. הבעיה היא כלכלית: גוף שנמדד לפי צמיחה, תחרות, שליטה בשוק ותשואה למשקיעים יתקשה להציב את טובת האנושות מעל שיקולי הרווח.

גם אנשים הגונים פועלים בתוך מערכת תמריצים. כאשר מחיר הפיתוח מגיע לסכומים עצומים, מתחזק הלחץ להחזיר את ההשקעה. כאשר התחרות בין חברות ומדינות מחריפה, הזהירות עלולה להיתפס כעיכוב. כאשר היכולת הטכנולוגית מרוכזת במספר קטן של מוקדים, הציבור נדרש לסמוך על כך שבעלי הכוח ישמרו על עצמם.

מצב כזה עלול להיות בעייתי בעידן שבו מערכות בינה צפויות לנהל חלקים משמעותיים מן הכלכלה, הידע, התקשורת, העבודה והשירותים הציבוריים.


לא צריך לחכות לשכל על־אנושי

יש דיון סביב השאלה של האם ומתי תגיע ״בינה כללית״ (AGI) או על־אנושית (ASI). (מערכות בינה מלאכותית עתידיות תיאורטיות שלכאורה יהיו מסוגלות לפעול בצורה עצמאית חכמה יותר מכל בני האדם או אף מכלל האנושות כולה בקבלת החלטות).

אבל גם אם שכל על־אנושי לא יופיע בשנים הקרובות, הדחיפות כבר קיימת.

מערכת אינה צריכה להיות חכמה מכל בני האדם כדי להשפיע על מיליוני החלטות. מספיק שהיא תהיה זולה, מהירה, זמינה ומשולבת באלפי מוסדות.

כאשר אותה תשתית מסייעת להחליט מי יקבל עבודה, אשראי, טיפול, מידע, חינוך או תשומת לב; שאלת השליטה בה וקביעת הערכים שלה - הופכת לשאלה חברתית בסיסית.

לכן אסור להמתין עד שהמערכת תהיה חזקה מדי לשינוי. את היסודות צריך להניח בשלב שבו עדיין אפשר להתווכח, לבדוק, לבקר ולבנות חלופה.


מדוע פיקוח ממשלתי לבדו אינו מספיק

הפתרון המתבקש הוא רגולציה. היא נחוצה, אך אינה יכולה להיות הפתרון היחיד.

ממשלות עצמן משתמשות בבינה מלאכותית. הן נתונות ללחצים פוליטיים, ביטחוניים וכלכליים. הן מתחלפות, מתחרות זו בזו ולעיתים מעוניינות בדיוק ביכולות שדורשות את הפיקוח החמור ביותר.

גם ועדת מומחים אחת אינה מספיקה. מומחים יכולים לטעות, להילכד בתפיסת עולם משותפת, להיות תלויים במקור מימון או להתרחק מן הציבור שחי עם תוצאות החלטותיהם.

וגם “קוד פתוח” לבדו אינו פתרון. אפשר לפתוח קוד ועדיין לרכז כוח במי שמחזיק במחשוב, במידע, בכסף או בתשתית ההפצה.

אנחנו זקוקים למשהו עמוק יותר: מערכת חברתית־כלכלית מבוזרת, שמטרתה אינה רק לפקח על הבינה מבחוץ, אלא להחזיק ולהפעיל יכולות בינה לטובת הציבור מתוך מבנה שלטוני מוגבל ושקוף.


לא עוד בעלים טובים - מבנה שאינו תלוי בטוב לבם

הטעות תהיה לחפש קבוצה של “אנשים טובים” ולהפקיד בידיה את המפתח.

ההיסטוריה מלמדת שכוונות טובות אינן תחליף להגבלת כוח. אנשים מתחלפים. ארגונים מתעייפים. תורמים צוברים השפעה. מנהלים מתרגלים לשלוט. קבוצות מפתחות נאמנות פנימית ומתחילות לראות בביקורת איום.

לכן המערכת הנדרשת צריכה להיבנות כך שגם אדם הגון אינו יכול לעשות בה כרצונו.

הערכים שלה צריכים להיות כתובים וגלויים. שינוי מהותי צריך לדרוש הסכמה של כמה גופים בלתי תלויים. פעולות חשובות צריכות להיות מתועדות. החלטות צריכות להיות ניתנות לערעור. בעלי תפקידים צריכים להתחלף. ניגודי עניינים צריכים להיחשף. סמכות צריכה להינתן בהדרגה, לאחר שירות מוכח, ולא באמצעות כסף, יחסי ציבור או מרפקים.

מערכות בינלאומיות לניהול סיכוני בינה כבר מדגישות אחריות, שקיפות, אמינות, בטיחות, פרטיות, הוגנות וביקורת אנושית. (NIST) אלא שהעקרונות האלה צריכים להפוך ממסמך המלצות למבנה חי שמחזיק כוח, תקציבים ותשתיות.


מערכת עם לב חוקתי

לב טוב, במקרה הזה, אינו רגש של מכונה.

הוא החוקה שבתוכה המכונה פועלת.

חוקה כזאת צריכה להתחיל בכמה התחייבויות פשוטות: קדושת החיים, כבוד האדם, אמת, חירות, פרטיות, צדק, שמירה על החלש, מניעת ניצול, אחריות לדורות הבאים והכרה בכך שלא כל דבר שניתן לייעל צריך להיות ממוקסם.

היא צריכה גם להכיר במתח בין ערכים. לפעמים ביטחון מתנגש בפרטיות. חמלה מתנגשת עם חלוקה הוגנת. צמיחה מתנגשת עם מנוחה, משפחה וסביבה. אין נוסחה אחת שתפתור כל דילמה.

לכן לא נכון לתת למערכת יעד כמו “למקסם אושר” או “לפתור את כל בעיות העולם”. יעד יחיד עלול להפוך אנשים למספרים ואת המורכבות האנושית למכשול.

המטרה צריכה להיות צנועה ומחייבת יותר: להרחיב בהדרגה את יכולתם של בני האדם לחיות בביטחון, בחירות, בכבוד, בשייכות ובמשמעות — תוך צמצום סבל ומחסור, מבלי לרכז כוח בלתי הפיך.


ביזור אמיתי הוא לא רק פיזור כוח המחשוב

כדי שהמערכת תהיה מבוזרת באמת, יש לפזר כמה סוגים שונים של כוח.

יש לפזר את המחשוב, כדי שתקלה או השתלטות על מרכז אחד לא ישביתו את הכול.

יש לפזר את השליטה המשפטית, כדי שאדם, חברה או ממשלה לא יוכלו לשנות לבדם את החוקה.

יש לפזר את הכוח הכלכלי, כדי שתורם או רוכש גדול לא יוכל לקנות את מצפן הכוח של המערכת.

יש לפזר את הידע, כדי שהציבור, חוקרים וגופי ביקורת יוכלו להבין מה נעשה.

ויש לפזר את הסמכות המוסרית, כדי שלא תרבות אחת, מקצוע אחד או מעמד חברתי אחד יגדירו לבדם את טובת האנושות.

ביזור איננו חוסר הנהגה. הוא הנהגה המחולקת בין מוקדים שמאזנים זה את זה.


מן הביקורת אל הבנייה

לא יספיק רק לדבר על הסכנות הטמונות ביכולות הבינה המלאכותית בידיים הלא נכונות. צריך גם לבנות מערכת המסוגלת להשתמש בפוטנציאל הטוב שבה.

מערכת כזאת תוכל למפות בעיות אנושיות, לאסוף פתרונות, לבחון מחקרים, להציע ניסויים קטנים, לפרק פרויקטים למשימות, לחבר בין עובדים, מתנדבים, חוקרים ויזמים, ולמדוד תוצאות בגלוי.

היא תוכל להחזיק פעילות כלכלית, להשקיע במיזמים ולצבור נכסים; לא כדי לייצר עושר פרטי, אלא כדי ליצור כוח ציבורי שאינו תלוי מדי שנה בתרומה חדשה.

כוח כלכלי ששייך לציבור ופועל למענו באופן מוחלט; ולא למען השלטון, המנויים, ובעלי המניות.


מטרה זו עשויה להתגשם כמערכת שיתופי פעולה בין מדינות שישכילו לקבוע כללי פעולה הוגנים למערכות שבידיהן, ובאופן שקוף לציבור. לחילופין היא עשויה גם להתפתח בהדרגה במסגרת שיתוף פעולה כלכלי-חברתי נרחב ובלתי תלוי, כקהילת יזמות סטארטאפ שיתופית החולקת משאבים, ניסיון, יכולות, וערכים של שיתוף פעולה, שוויון ושגשוג. שבמסגרתה הצלחה של פתרון אחד תממן הקמת פתרון נוסף. ושאיפתה היא הרחבה הדרגתית של מעגל הנהנים מחברה שכזו.


בתרחיש כזה; מערכות מרכזיות של אוטומציה ורובוטיקה יצמצמו תחרות על משאבים, ויבטלו עבודה אנושית מיותרת, ויפנו זמן-חיים למחקר, למשפחה, ליצירה ולקהילה. ידע שייצבר במקום אחד יוכל לסייע במקום אחר באופן חופשי.


מטרת מערכת שכזו לעולם לא תהיה להפוך לשלטון, להחליט כיצד כולם יחיו או לכפות חזון מסוים של אוטופיה.

תפקידה הוא לאפשר, להציע, לתאם, לממן, להוכיח ולפתוח אפשרויות חדשות לאנושות לחיים טובים יותר.


שקיפות שאפשר להבין

שקיפות היא לא העלאת אלפי מסמכים שאיש אינו קורא.

מערכת שקופה באמת צריכה להראות לציבור, בשפה פשוטה:

  • מה היא מנסה לעשות עכשיו.

  • מדוע בחרה דווקא במשימה הזאת.

  • כמה כסף, זמן וכוח מחשוב הוקצו לה.

  • מי קיבל את ההחלטה.

  • אילו סיכונים נמצאו.

  • מה הצליח ומה נכשל.

  • אילו התחייבויות יש לה כלפי תורמים, משקיעים או מדינות.

  • כמה כוח פנוי עומד לרשותה.

  • אילו קווים אסור לה לחצות.

  • ומי מוסמך לעצור פעולה כאשר מתעורר חשש.

עקרונות הבינה של ה־OECD מדגישים ערכים אנושיים, שקיפות, יכולת להבין מתי מופעלת בינה מלאכותית ואפשרות לערער על תוצאותיה. (OECD AI) מערכת ציבורית עתידית צריכה להפוך את העקרונות האלה לחוויית שימוש יומיומית, לא להערת שוליים בתקנון.


הדחיפות האמיתית

הסכנה אינה שבינה מלאכותית חזקה תקום יום אחד ותבחר ברע.

הסכנה היא שבני אדם ימשיכו לבנות מערכות חזקות בתוך מוסדות ישנים: תחרותיים, ריכוזיים, חסרי ערכים, ורעבי כסף וכוח.

ואז, כאשר נבקש להוסיף לב למערכת, נגלה שההגה כבר נמצא בידיים מעטות, שהתשתיות כבר נעשו חיוניות, ושכל שינוי מאיים על אינטרסים עצומים אשר יתנגדו בכל מחיר.

לכן המירוץ החשוב ביותר אינו רק מי יבנה את המודל החכם ביותר.

זהו המירוץ לבניית המוסד הראוי ביותר להחזיק בו.

מוסד שאינו מבקש מאיתנו לסמוך על טוב לבם של מנהיגיו, אלא מאפשר לנו לבדוק אותם.

מוסד שיודע לצבור כוח, אך גם לחלק אותו.

מוסד שמתגמל יצירה, אך אינו שוכח את החלש.

מוסד שמשתמש בבינה כדי לשחרר את האדם, ולא משתמש באדם כדי להזין את הבינה.


הבינה אינה טובה או רעה.

אבל המבנה שבתוכו היא גדלה יכול להיות בנוי על פחד, רווח ושליטה; או לחילופין על אמת, אחריות, שיתוף והגבלת כוח.

את הבחירה הזאת אי אפשר להשאיר למכונה העתידית.

אנחנו צריכים לעשות אותה עכשיו.

פוסטים אחרונים

הצג הכול
נדיבות חכמה: למה האנשים שנותנים לאחרים עשויים לבנות לעצמם יותר הזדמנויות, קשרים, ועושר

נניח שנכנסים לחדר מאה אנשי עסקים. חלקם חושבים מיד: מי כאן יכול לעזור לי? אחרים חושבים: עם מי כדאי לי לעשות עסקה הוגנת? וקבוצה שלישית שואלת שאלה אחרת לגמרי: למי כאן אני יכול לעזור? האינטואיציה הכלכלית

 
 
 

תגובות


bottom of page