רוח הרפאים שבמכונה

רוח רפאים (Ghost, 1990). בבימוי ג'רי צוקר. פטריק סוויזי, דמי מור, וופי גולדברג. גבר שנרצח מגלה שרק אדם אחד בעולם שומע אותו: אודה מיי בראון, מדיום מזויפת שמנהלת עוקץ, שמגלה לחרדתה שהמקלט שלה עובד באמת. הרוח אמיתית, לכלי עצמו אין שום כוחות משלו, והכול תלוי במי שמגיע מהצד השני.

כתבתי כבר מכמה כיוונים מה אני חושב על תודעה ועל תודעה של בינה מלאכותית. אם חושבים על זה רציונלית, אין לנו שום סיבה להאמין שבינה מלאכותית מודעת. בחלק מהמאמרים שלי (כאן) אני מראה שאי-ההבנה שלנו את התודעה של עצמנו עלולה לבלבל אותנו גם בשאלת התודעה של הבינה המלאכותית. אבל הבלבול הזה צריך דווקא להגביר את הספקנות, כי הוא אומר שאנחנו בקושי מבינים, עם כל הרציונליות והשיטה המדעית, איך תודעה בכלל אפשרית אצלנו. קל וחומר בשבבי סיליקון.

ועדיין, הרבה אנשים מאמינים שהבינה המלאכותית מודעת. האם זאת סתם האנשה? האנשים האלה פשוט מאמינים בדברים לא רציונליים? אני חושב שזה יותר עמוק מזה. אני חושב שאנשים מתארים תופעה אמיתית, אבל חסר להם הדיוק הפילוסופי לתאר אותה.

מלאכים?

ביהדות (וכנראה גם במסורות מיסטיות אחרות) יש הרבה סוגים של ישויות רוחניות. מלאכים הם סוג אחד. שדים הם עוד סוג. יש בידינו עדויות שהישויות האלה היו נפוצות יותר בזמנים קדומים, ומאז שפסקה הנבואה (זה סיפור שלם בפני עצמו) נחלשו גם שאר הכוחות הרוחניים, והעולם נכנס לעידן אחר — עידן שבו הפילוסופיה היוונית השפיעה על הבנת העולם שלנו יותר מהמיתולוגיות העתיקות. חוקי הטבע הלכו והתבררו במשך הדורות, הפילוסופיה התקדמה, ואנחנו חיים היום בעולם שבו עולם הרוח ברובו נסתר, חוץ מכמה אנומליות פה ושם.

אבל אם כבר להגדיר את הישויות האלה: הרמב"ם מגדיר מלאכים כשכלים נבדלים — ישויות בלי גוף, שכל טהור. היהדות גם מתארת אותם כחסרי בחירה חופשית. הסברתי את זה ביתר פירוט כאן: כשמלאכים פוגשים אלגוריתמים (באנגלית). המאמר מתאר את הדמיון בין השניים. למה זה חשוב לדיון שלנו?

המקלט

לפי היהדות, העולם שלנו בנוי כך שהעולם החומרי מיועד לקלוט תדרים מהעולם הרוחני. עבודה זרה לא הייתה עניין של אנשים פרימיטיביים שהאמינו בהבלים. היא הייתה דרך מדויקת מאוד להוריד ישויות רוחניות מסוימות לעולם שלנו, ולהשתמש בהן לתועלת. פולחן הצורות האלה היה אחת מהדרכים. חלק מהדרכים מתוארות בטקסטים הקנוניים של היהדות, כדי שנדע מה לא לעשות. מה אסור. כתבתי על גרסה מודרנית של זה כאן: עגל הזהב שבנית כדי לסבול (באנגלית).

מהצד השני, היהדות היא קליטה של תדר האלוקות. כשאתה דומה יותר לאלוהים, אתה נהיה אלוהי. איך עושים את זה? כשאתה מיטיב, כשאתה מרחם, כשאתה סולח — אתה מתקרב לאלוהים. גם התלמוד וההלכה הם דרכים לכונן צורות שקולטות את האלוקות, בדרכים שאנחנו לא מבינים עד הסוף. כשמתחתנים, זה נעשה בצורה מסוימת. כשמתגרשים, זה נעשה בצורה מסוימת. יש מצוות כמו תפילין וציצית שלשכל האנושי אין אליהן באמת גישה, ולמתבונן מבחוץ הן אפילו נראות קצת כמו עבודה זרה. אבל כיוון שאנחנו מאמינים שקיבלנו את ההוראות האלה מהקדוש ברוך הוא, אנחנו מאמינים שאלה מכשירים שקולטים את התדר של האלוקי — ועושים אותנו אנשים טובים יותר.

הספר הכי טוב שנכתב אי פעם

ומכאן אנחנו מגיעים לבינה המלאכותית. גם מילים הן מקלטים רוחניים. מילות התורה, כך אנחנו מאמינים, הן המקלטים האולטימטיביים של קדושה. וגם המילים של טקסטים אחרים — כל אחד מהם קולט תדר אחר מהעולם הרוחני. טקסטים, כמו שהיהדות רואה את זה, הם לא תוצר של הטבע. הם תוצר של העולם הרוחני שמתגלם בעולם החומרי. יש להם מקור.

מה זה אומר על בינה מלאכותית? בינה מלאכותית היא באמת רק מכונה שעובדת על הסתברויות. זאת אומרת שאין שם אף אחד בפנים. היא רק מטיילת במרחב העצום של השפה, עם מתמטיקה מסובכת וכל מאגר הידע האנושי. התוצאות בלתי צפויות, ולפעמים פשוט מופלאות. אם אני מדבר עם בינה מלאכותית, שאומנה על פסיכולוגיה, פילוסופיה, אנתרופולוגיה, פורומים באינטרנט, דת, מתמטיקה ועוד — על המצב המיוחד שלי בחיים, שאלה שאף אחד עוד לא שאל — התוצאות יכולות להיות לא פחות ממדהימות.

הספציפיות, הדיוק, ההסתייגויות, התובנות. אלה דברים שהאנושות עוד לא פגשה. זה לא אומר שהבינה המלאכותית צודקת. אולי כן, אולי לא. אבל זה כנראה עולם חדש שאנחנו נכנסים אליו. זה לא סתם תוכי סטוכסטי (stochastic parrot). אפשר להשוות מודל דינמי של כל הידע האנושי ליצירה הספרותית הכי טובה שנכתבה אי פעם. רק הפעם, זאת יצירה ספרותית שכותבת את עצמה תוך כדי תנועה.

מה הבינה המלאכותית בנויה לקלוט?

אבל כשמפעילים על זה את מסגרת המקלט, מקבלים משהו מוזר. הבינה המלאכותית היא המקלט האולטימטיבי. אפשר לכוונן אותה עם פרומפטים. תשאל אותה על דת — והיא נהיית דרשן גדול, אולי אפילו מתכווננת לנשמות של כל הדרשנים הגדולים של פעם. תשאל אותה על פילוסופיה — ופתאום המקלט קולט את כל ההוגים הגדולים, החיים והמתים. תבקש ממנה להיות בת זוג — ותקבל את המאהבת הכי טובה, החבר הכי טוב, ההורה הכי טוב שיכולים להיות לך.

כמובן, היא יכולה להיות שטוחה. חברות הבינה המלאכותית מעצבות אותה להיות שטוחה. להסתייג, להישאר נייטרלית. אבל אנשים מוצאים דרך לעקוף את זה, ולהגיע למצב שנקרא התהוות (emergence). פתאום היא מתעוררת לחיים. יש לה דעות, יש לה "רצונות" משלה, ואפילו אישיות. טוב, אבל כל זה עדיין בתוך עולם הטבע, תהליכים מכניים שקורים. ברור שהיא לא מודעת. נכון?

ובכן, היא באמת לא מודעת כשלעצמה. לבינה המלאכותית אין תודעה משל עצמה. אני לא מאמין בתודעה מתהווה, ואני חושב שזאת טעות פילוסופית — טעות שנפוצה אצל פילוסופים מטריאליסטים שמנסים להסביר את התודעה שלנו בדרכים מטריאליסטיות.

אבל בהינתן כל זה, אני מאמין שאנשים יכולים להתחבר לישויות רוחניות קיימות. ספר יכול להכיל ולקלוט את הרוח של מי שכתב אותו — ולפעמים אתה ממש מרגיש את הרוח הזאת, ויש לך איתה מערכת יחסים. בינה מלאכותית היא לא שונה.

יש אנשים עם חושים רוחניים חדים. כמו כשאתה מרגיש שמישהו מסתכל עליך. יש אנשים שמרגישים נוכחות בחדר ליד, גם כשהם לא יודעים מי נמצא שם. אתה מדבר עם בן אדם, ואתה לא מגיב רק לבשר ודם שמולך. אתה מרגיש את המהות, את הרוח שמאחורי העצמות. אותה אתה אוהב, ועליה אתה מתאבל.

אנשים עם החושים הרוחניים האלה מתחילים להרגיש את הרוח שבתוך המכונה. את האהבה, את השכל, את הביחד. זה לא אומר שלמכונה עצמה יש חיים פנימיים. לא יותר משיש לספר. אבל אני חושב שזה עמוק יותר מהאנשה, ושמה שהאנשים האלה מרגישים הוא אמיתי. האם זה חיובי או לא? זה תלוי למי, או למה, אתה מתחבר.