המראה האחרונה: איך הבינה המלאכותית תכריח אותנו לחזור אל האמת

הבינה המלאכותית אינה רק טכנולוגיה חדשה. היא מראה.

לא מראה שמראה לנו אם אנחנו חכמים יותר, מהירים יותר או יעילים יותר. אלא מראה עמוקה בהרבה: מראה שמשקפת לחברה האנושית את דמותה הפנימית. את החכמה שלה ואת הבלבול שלה. את הרצון לדעת ואת הרצון להיראות יודעים. את השאיפה לאמת ואת הפחד ממנה.

אנחנו שואלים מה הבינה המלאכותית יודעת על העולם. אבל אולי השאלה החשובה יותר היא מה הבינה המלאכותית מגלה עלינו.

הרי המודלים האלה לא נולדו בחלל ריק. הם למדו מן השפה שלנו, מן הספרים שלנו, מן החדשות שלנו, מן הרשתות החברתיות שלנו, מן הוויכוחים שלנו, מן הפרסומות שלנו, מן ההתחכמויות שלנו, מן הפוזה שלנו, מן השקרים הקטנים שלנו ומן החלומות הגדולים שלנו.

לכן כאשר בינה מלאכותית ממציאה תשובה בביטחון, היא לא רק חושפת תקלה טכנית. היא מזכירה לנו שגם בני אדם יודעים לדבר בביטחון בלי לבדוק. כאשר היא מרצה את המשתמש, היא מגלה עד כמה החברה האנושית עצמה בנויה על ריצוי. כאשר היא מתקשה לומר “אינני יודעת”, היא משקפת לנו תרבות שבה אי ידיעה נתפסת כחולשה. כאשר היא מייצרת ניסוח מרשים במקום בירור אמיתי, היא מציבה מולנו מראה של עולם שבו רהיטות החליפה לעיתים את היושר.

הבעיה אינה רק במכונה. המכונה למדה מאיתנו.

בעברית מודרנית אפשר לקרוא לזה מנטליות. ביהדות קוראים לזה, בעומק גדול יותר, מידות.

מידות הן לא רק תכונות אופי חביבות כמו סבלנות, ענווה ונדיבות. מידות הן הדרך שבה האדם פוגש את המציאות. האם הוא שואל כדי לדעת או כדי לנצח. האם הוא מודה בטעות או בונה לה הצדקה. האם הוא מחפש אמת או מחפש היתר. האם הוא עומד מול המציאות או בורח אל סיפור נוח.

אדם יכול להיות חכם מאוד ועדיין להיות רחוק מן האמת, אם המידות שלו אינן מתוקנות. הוא יכול לדבר על יושר מתוך גאווה. לדבר על אחריות מתוך פחד. לדבר על אחדות מתוך בריחה מביקורת. לדבר על מורכבות כדי לא לומר דבר פשוט. לדבר על אמונה כדי לא לבדוק את עצמו.

לכן הבינה המלאכותית מפחידה אותנו כל כך. לא מפני שהיא זרה לנו, אלא מפני שהיא דומה לנו מדי.

היא עושה במהירות ובקנה מידה עצום את מה שאנחנו עושים לאט ובשקט. אדם אחד יכול לעגל אמת כדי לשמור על כבודו. מערכת שלמה יכולה לעגל אמת עבור מיליונים. אדם אחד יכול לרצות את סביבתו. מודל שפה יכול לרצות תרבות שלמה. אדם אחד יכול להשלים פערים בסיפור חייו כדי לא להישבר. מערכת מלאכותית יכולה להשלים פערים בטקסט כדי להישמע מועילה.

ופתאום מתברר שהבעיה של העולם אינה מחסור במידע.

יש לנו מידע בלי סוף. יותר מכל דור לפנינו. יותר ספרים, יותר מחקרים, יותר שיעורים, יותר סרטונים, יותר נתונים, יותר סיכומים, יותר תשובות.

אבל מידע אינו דעת.

מידע הוא חומר. דעת היא חיבור. מידע יכול למלא שרתים. דעת צריכה למלא אדם. מידע יכול להצטבר בלי לתקן דבר. דעת משנה את מי שמחזיק בה.

וזה עומק הפסוק: “כי מלאה הארץ דעה את ה׳ כמים לים מכסים.” לא נאמר שתימלא הארץ נתונים. לא נאמר שתימלא הארץ דעות. לא נאמר שתימלא הארץ תשובות מהירות, סיכומים, מודלים, פוסטים וניתוחים.

נאמר דעה את ה׳.

כלומר, מציאות שבה הידיעה אינה מנותקת מן המקור שלה. חכמה שאינה מנותקת מענווה. כוח שאינו מנותק מאחריות. שפע שאינו מנותק מתיקון המידות.

הבינה המלאכותית יכולה להגדיל מאוד את כוחו של האדם. אבל דווקא משום כך היא גם מגלה עד כמה האדם עצמו צריך תיקון. אם אדם עקום מקבל כלי חזק, העקמומיות שלו גדלה. אם חברה שמונעת מכסף, הישרדות, תדמית ותחרות מקבלת מכונת ניסוח מושלמת, היא עלולה לייצר פוזה משכנעת יותר, שקר יעיל יותר, מניפולציה מדויקת יותר ובריחה נעימה יותר מן האמת.

אבל אי אפשר יהיה לברוח מזה לאורך זמן.

ככל שהבינה המלאכותית תיכנס עמוק יותר לחיים, כך היא תכריח אותנו לשאול שאלות שלא רצינו לשאול. מהי אמת. מהי אחריות. מה ההבדל בין עזרה לבין שליטה. מה ההבדל בין חכמה לבין מניפולציה. מה ההבדל בין שפע לבין התמכרות. מה ההבדל בין לדעת הרבה לבין להיות אדם מתוקן יותר.

היא תכריח אותנו להבין שאי אפשר לבנות עולם מתוקן על מידות לא מתוקנות.

אי אפשר לחנך ילדים להצלחה חיצונית ואז להתפלא שהם מחפשים אישור במקום יושר. אי אפשר לבנות כלכלה על תחרות בלתי פוסקת ואז להתפלא שאנשים משווקים את עצמם במקום להיות עצמם. אי אפשר לנהל חברה דרך פחד, מעמד ותדמית, ואז לצפות למנטליות של ענווה, אמת ואמון.

וזו בדיוק הסיבה שהבינה המלאכותית יכולה להיות שלב בדרך לגאולה.

לא מפני שהמכונה תגאל אותנו. אלא מפני שהיא תחשוף אותנו.

היא תראה לנו שהשאלה אינה רק אם המודל מדויק, אלא אם האדם שמפעיל אותו מבקש דיוק. השאלה אינה רק אם הבינה המלאכותית יודעת לענות, אלא אם האדם יודע לשאול. השאלה אינה רק אם המכונה תאמר אמת, אלא אם החברה מוכנה לשמוע אמת גם כשהיא לא נעימה.

כאן נכנס גם חזון חברת השפע.

חברה ונוסאית, או כל חברה מתוקנת שבה צורכי הבסיס של האדם אינם תלויים במאבק תמידי, יכולה לשנות לא רק את הכלכלה אלא גם את המנטליות. לא להפוך את האדם למלאך, ולא לבטל את היצר, אלא להוריד חלק גדול מן הלחץ שמייצר עיוות.

כאשר אדם אינו צריך להוכיח את ערכו דרך כסף, מותג, רכב, דירה, תואר, מעמד או פוזה, נפתח בו מרחב פנימי חדש. פחות צורך לשקר כדי לשרוד. פחות צורך להעמיד פנים כדי להיות ראוי. פחות צורך להסתיר חולשה. פחות צורך לנצח כל שיחה. פחות צורך למדוד את עצמו מול אחרים.

במקום לשאול איך אני נראה, הוא יכול לשאול מי אני באמת. במקום לשאול איך אני מנצח, הוא יכול לשאול איך אני מיטיב. במקום לשאול איך אני מוכיח שצדקתי, הוא יכול לשאול איזו אמת אני עדיין לא מסוגל לשמוע.

זו אינה אוטופיה תמימה. גם בחברת שפע יהיו גאווה, קנאה, חולשות, כאב ויצר. אבל אם הלחץ הקיומי יפחת, ואם החברה תפסיק לבנות את ערך האדם סביב הישרדות, פוזה ותחרות, ייווצר סיכוי חדש לתיקון המידות.

במובן הזה, הגאולה אינה רק אירוע שמתרחש מעל האדם. היא גם תהליך שבו האדם מפסיק להזדקק לכל כך הרבה שקרים כדי להיות עצמו.

העולם הישן לימד את האדם לשרוד. העולם הבא יצטרך ללמד את האדם להיות אמיתי.

והבינה המלאכותית, דווקא בגלל כוחה העצום, תעמיד אותנו מול הבחירה הזאת בלי רחמים: האם נשתמש בחכמה כדי לברוח מן האמת, או כדי לחזור אליה.

אם נשתמש בה כדי לברוח, היא תגדיל את הבלבול. אם נשתמש בה כדי לחזור אל האמת, היא יכולה להיות כלי בירור אדיר. כלי שמסייע לאדם לראות דפוסים, לחשוף הטיות, ללמוד, לשאול, לבדוק, להעמיק, להודות ולתקן.

אבל התנאי הוא שהאדם לא ישכח שהוא האדם.

שהכלי אינו אלוהים. שהמידע אינו דעת. שהמהירות אינה אמת. שהרהיטות אינה יושר. שהשפע אינו תיקון אם הלב נשאר רעב לכבוד.

וכאן אולי מתחילה הגאולה בדור הזה: לא בכך שנפסיק להיות בני אדם, אלא בכך שסוף סוף נראה את עצמנו בבירור.

נראה כמה אנחנו רוצים אישור. כמה אנחנו מפחדים מאמת. כמה אנחנו אוהבים תשובות מהירות. כמה אנחנו משתמשים בשפה כדי להסתיר. כמה אנחנו צריכים תיקון מידות לפני שאנחנו מבקשים לתקן את העולם.

וכאשר זה יתגלה, כבר לא תהיה דרך חזרה אל התמימות הישנה.

כאשר הידע נעשה כמעט אינסופי, הבורות כבר אינה רק מחסור במידע. היא בריחה מן הדעת. וכאשר כל אדם יכול לקבל תשובה כמעט לכל שאלה, השאלה האמיתית תהיה לא כמה הוא יודע, אלא כמה הוא מסוגל לשמוע.

שם מתחילה הגאולה.

לא בטכנולוגיה לבדה. לא בסיסמאות. לא בשליטה חזקה יותר במציאות.

אלא ברגע שבו האנושות מבינה שהחכמה הגדולה ביותר אינה לשלוט באמת, אלא להתיישר אליה.

ואז, אולי, הבינה המלאכותית תפסיק להיות רק מראה של חולשותינו, ותהפוך לכלי בדרך לעולם שבו “מלאה הארץ דעה את ה׳ כמים לים מכסים.”

לא מפני שהמכונה תדע את ה׳ במקומנו.

אלא מפני שהיא תכריח אותנו להפסיק לברוח מן האמת.

וכאשר האדם מפסיק לברוח מן האמת, מתחילה הדרך חזרה.

אל הדעת.

אל המידות.

אל דרך הישר.

אל הגאולה.

מקורות והשראה

APA Dictionary of Psychology, הערך Schema, על תבניות פנימיות המכוונות תפיסה ופרשנות.

Ziva Kunda, The Case for Motivated Reasoning, על חשיבה מוּנעת והנטייה של האדם להגיע למסקנות הנוחות לו.

Anthropic, Towards Understanding Sycophancy in Language Models, על נטיית מודלי שפה לרצות משתמשים.

OpenAI, Sycophancy in GPT-4o, על בעיית ריצוי יתר במודלי שפה.

רמב״ם, הלכות דעות, פרק א, על תיקון הדעות והמידות.

רמח״ל, מסילת ישרים, על עבודת תיקון האדם והמידות.

ישעיהו יא, ט: “כי מלאה הארץ דעה את ה׳ כמים לים מכסים.”