ההתנגשות הפנימית שבאדם, והצורך בשופט ממוחשב

למה אי־אפשר לסמוך רק על כוונות טובות, ואיך פרויקט ונוס מציע לצאת מהמלכודת

1. הבעיה: כשמי שאמור לעזור לך – זקוק שתישאר תלוי בו

ניקח שני תפקידים טעונים־אמון:

• פסיכולוג

• מנהל מערכת / אדמין / בעל סמכות במערכת ארגונית

שניהם נשכרים כדי לשרת אינטרס חיצוני להם:

• הפסיכולוג – לקדם את רווחת המטופל, עד לרמה שבה כבר לא צריך אותו.

• מנהל המערכת – לבנות מערכת יציבה, בטוחה, מתועדת, כך שגם אם יוחלף – הארגון יוכל להמשיך לשרוד ולהשתפר.

אבל בפנים יש גם אינטרס אחר, אנושי לגמרי:

• פרנסה

• סטטוס

• צורך שיעריכו אותי ויזדקקו לי

• פחד מלהיות “מיותר”

ופה נולדת התנגשות האינטרסים הפנימית:

האם אני באמת מוביל את האדם/המערכת לעצמאות, או משאיר “קצת תלות”, כדי להישאר נחוץ?

בספרות האתית על פסיכותרפיה למשל, מודגש שוב ושוב כמה הרסני זה כשצרכי המטפל (כסף, אגו, שליטה) מתערבבים במרכז הטיפול – בייחוד כי מטופלים מגיעים למערכת ממקום פגיע ותלוי מראש.

2. איך קוראים לזה בשפה של מדעי החברה?

בכלכלה ומדעי המדינה זה נקרא בעיית הממנה־סוכן (Principal–Agent Problem):

אחד (הממנה) נותן כוח למישהו אחר (הסוכן) לפעול בשמו – ואז מגלה שלסוכן יש אינטרסים משלו, ידע עודף, וכמעט בלתי אפשרי לוודא שהוא באמת פועל לטובתו.

דוגמאות קלאסיות:

• בעל מניות ↔ מנכ״ל

• אזרחים ↔ נבחרי ציבור

• חולה ↔ רופא

• מטופל ↔ פסיכולוג

בכל המקרים – מי שמחזיק את המידע ואת המקצוע, יכול לשחק על הגבול הדק בין שירות נאמן לבין ניצול עדין.

3. הפסיכולוג / מנהל המערכת – גרסת היום־יום

פסיכולוג

האינטרס המוצהר: להביא את המטופל לעצמאות, הפחתת סבל, הפחתת תלות, אפילו להיפרד בטוב.

האינטרס הפנימי־השקט:

• עוד שעות טיפול = עוד הכנסה

• עוד שימור תלות = תחושת חשיבות

• מטופל שחוזר שוב ושוב מחזק את הזהות המקצועית

מחקרים על גבולות מקצועיים בטיפול מדגישים, שכאשר הצרכים של המטפל הופכים מרכזיים – האמון נשבר, ולעיתים הנזק למטופל עמוק וארוך טווח.

מנהל מערכת / אדמין

האינטרס המוצהר:

• לבנות מערכות מתועדות

• לכתוב נהלים

• להפחית תלות באדם יחיד

האינטרס הפנימי:

• “אם רק אני מבין את הבלגן – אי אפשר לפטר אותי”

• לא כל־כך משתלם לעשות דוקומנטציה שתאפשר להחליף אותי בקלות

• אם אבנה מערכת שקופה מדי – אולי יראו גם את הטעויות שלי

4. למה זה לא נפתר פשוט ב”אנשים טובים”?

הבעיה היא לא רק רשעות או שחיתות, אלא:

• הטיות לא מודעות (bias)

• עייפות, שחיקה, פחדים אישיים

• מבנים חברתיים שמתגמלים תלות ושימור כוח

אפילו אדם ישר, מוסרי ורגיש – חי במבנה שבו עצמאות של אחרים = פגיעה אפשרית במעמדו ובפרנסתו.

פה נולדת שחיקה באמון האנושי: אתה כבר לא בטוח אם מי שמייעץ לך, פועל ממש לטובתך, או גם לטובת שרידות המעמד שלו.

5. הסאגה הפילוסופית העדכנית: ממוסר מקצועי ל”ממשל בינה מלאכותית”

ב־20 השנים האחרונות התחברו כמה זרמים פילוסופיים/מעשיים:

1. ביקורת על מערכות מקצועיות – רפואה, פסיכולוגיה, משפט, רגולציה – על ניגודי אינטרסים מובנים.

2. הבנה עמוקה של בעיית הממנה־סוכן – בכלכלה וממשל, כמודל יסודי להסבר כשלי אמון.

3. עליית הבינה המלאכותית – והרעיון שמערכות אלגוריתמיות יכולות:

   • למדוד ביצועים

   • לחשוף דפוסים

   • לזהות הטיות וניגודי אינטרסים

     טוב יותר מבני אדם עייפים ומוטים.

אבל – וזה אבל גדול –

האקדמיה והחברות עצמן מזהירות: אלגוריתמים יכולים גם להעמיק הטיות, להיות לא שקופים, ולהעביר את כוח ההחלטה מגורם אנושי אחד – לחברה שמחזיקה את המערכת.

לכן היום מדברים בעולם על:

Responsible AI governance – ממשליות אחראית של מערכות בינה מלאכותית

Explainability – יכולת להסביר למה האלגוריתם קיבל החלטה מסוימת

Oversight – שכבות פיקוח על המערכות עצמן

כלומר, גם לשופט הממוחשב – צריך שופט.

6. למה בכל זאת חייבים שכבת מערכות ממוחשבות לביקורת?

דווקא בגלל הטבע האנושי, ולא במקומו, יש היגיון להכניס עוד שכבה:

מערכות ממוחשבות ש:

1. מתעדות החלטות – מי החליט מה, על סמך אילו נתונים, באיזה הקשר.

2. מודדות תוצאות – האם המטופלים, העובדים, האזרחים – באמת משתפרים או רק “נשארים תלויים”.

3. מזהות דפוסים חשודים – לדוגמה:

   • מטפל שתמיד “שוכח” לדבר על סיום טיפול

   • מנהל מערכת שמעולם לא תיעד את המבנה שהוא בנה

4. מציגות חלופות – “אם היינו הולכים בנתיב B, התוצאה לטווח ארוך הייתה טובה יותר למטופל/ארגון”.

5. מפרידות תמריצים – שכר/תגמול מבוססי מדדי תוצאה אובייקטיביים יותר, ולא רק על מספר שעות/תיקים.

כאן בינה מלאכותית יכולה לסייע: לזהות קורלציות, סימני אזהרה, דפוסי תלות – הרבה לפני שאדם בודד היה שם לב.

אבל – וזה קריטי – אסור להשאיר את המערכת בידי בעל אינטרס יחיד. צריך מבני בקרה חברתיים, ולא רק טכנולוגיים.

7. פרויקט ונוס: הצעה לשנות את מגרש המשחקים כולו

כאן נכנס פרויקט ונוס (The Venus Project), שמציע לא רק “לתקן את המערכת”, אלא לשנות את כללי המשחק: מעבר לכלכלת משאבים (Resource-Based Economy).

הרעיון הבסיסי:

• משאבי הפלנטה הם נכס משותף של כלל האנושות.

• ניהול המשאבים, הייצור והחלוקה – נעשה על־ידי מערכות חכמות, המבוססות על מדע וטכנולוגיה, ולא על שיקולי רווח קצר־טווח.

• כסף, חוב ושכר בצורה שאנחנו מכירים היום – מאבדים את מרכזיותם, כי המטרה היא רמת חיים גבוהה לכלל, ולא מקסימום רווח ליחיד.

מה זה עושה לבעיה שלנו של פסיכולוג / מנהל מערכת?

1. פחות תלות כלכלית במטופל

   • המטפל לא תלוי באופן ישיר בשאלה האם המטופל ימשיך לשלם לו.

   • שכר/משאבים מוקצים לפי תרומה אמיתית, מדידה, ולא לפי “כמה הצלחת לשמר תלות”.

2. מדדי הצלחה מבוססי מערכת, לא אגו

   • ערך של פסיכולוג/מנהל מערכת נמדד לפי:

     • כמה אנשים הפכו לעצמאיים יותר

     • כמה מערכות נהיו מתועדות, שקופות, קלות להעברה

   • זה משתלב יפה עם מערכות בקרה ממוחשבות שמנטרות תוצאות לאורך זמן.

3. בינה מלאכותית כמנהל משאבים, לא כמנגנון שליטה לטובת אליטה קטנה

   • האלגוריתמים לא מתוכננים כדי למקסם רווח של תאגיד אחד, אלא כדי למקסם רווחה מערכתית.

   • זה מצמצם את בעיית הממנה־סוכן: אין “בעלים” אחד של המערכת, אלא מערכת משותפת, שקופה, שבה הגישה למשאבים נבחנת לפי קריטריונים גלובליים של תועלת.

4. הפחתת הפיתוי “לשבור אמון”

   • אם רמת החיים הבסיסית מובטחת בלי מאבק יומיומי על פרנסה, קטן מאוד הפיתוי של פסיכולוג/מנהל מערכת לנצל תלות כדי לשרוד.

     
     

במילים אחרות, פרויקט ונוס מציע לא רק להתקין מערכת ביקורת חכמה, אלא לתכנת מחדש את תמריצי היסוד – כך שדווקא שחרור אנשים מתלות, הפיכת מערכות ליותר עצמאיות, תיעוד ונגישות – יהיו מקור היוקרה והתגמול.

8. אז מה עושים מכאן?

1. להכיר בזה שהבעיה אמיתית ומובנית – גם באנשים טובים.

2. להכניס שכבת מערכות ממוחשבות לביקורת – שקיפות, מדידה, איתור דפוסים של תלות ושליטה.

3. לבנות מבני תמריצים חדשים – בארגונים קטנים כבר היום:

   
   

   • מתגמלים על יצירת תיעוד

   • מחזקים מקצועית מי שמקצר תהליכים ומגדיל עצמאות של אחרים

4. לפתוח את הראש למודלים רחבים כמו פרויקט ונוס – ככיוון מערכתי שבו ניגודי אינטרסים אישיים פוחתים, כי התלות הכלכלית הישירה בתלות של אחרים – נעלמת בהדרגה.

לקריאה נוספת

• בעיית הממנה־סוכן (Principal–Agent Problem):

  https://en.wikipedia.org/wiki/Principal%E2%80%93agent_problem

• גבולות מקצועיים והתנגשות אינטרסים בפסיכותרפיה:

  מאמר על קונפליקטי אינטרסים וגבולות מקצועיים בטיפול (PDF):

  https://www.researchgate.net/publication/281462737_Professional_Boundaries_and_Conflicts_of_Interest

• אתיקה וממשליות של בינה מלאכותית בקבלת החלטות:

  סקירה על ממשליות AI אחראית:

  https://www.sciencedirect.com/science/article/pii/S0963868724000672

• סקירה עדכנית על בינה מלאכותית, הטיות וממשליות:

  https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-0571.pdf

• פרויקט ונוס וכלכלת משאבים (Resource-Based Economy):

  אתר הבית של The Venus Project:

  https://www.thevenusproject.com 

  הסבר על כלכלת משאבים:

  https://www.thevenusproject.com/resource-based-economy/