למה הבינה המלאכותית כל כך רצינית?

חידת הכובען המטורף

ב"עליסה בארץ הפלאות" יש בדיחה הקרויה "חידת הכובען המטורף", וזו לשונה:

"Why is a raven like a writing desk? Because there's a b in both."

"למה עורב דומה לשולחן כתיבה? כי יש b במילה 'both' ('שניהם')." (המשחק הוא על כך שבמילה "both" יש את האות b.)

מצחיק, לא? אבל למה? הרי באמת יש b במילה "both". זה מצחיק כי התשובה מתארת משהו אמיתי ועקבי, והיא גם נשמעת כאילו היא מתייחסת לשאלה. אבל היא גם לא באמת עונה על השאלה. לשפוט תשובה לפי הקריטריון הראשון - עקביות והתייחסות לשאלה - היא שיטה טובה, והמוח שלנו משתמש בה. בגלל זה זה מצחיק. נראה במאמר שזו שיטת קידוד שמתנגשת בשיטה אחרת.

בדיחה שנייה:

אדם נופל מהקומה השנייה. אנשים ממהרים אליו ושואלים אותו "מה קרה?". הוא מסתכל עליהם ועונה: "אני לא יודע, רק עכשיו הגעתי".

תשובתו מדויקת. יש לנו שיטה שמאמתת זאת. זו האמת. אבל היא גם לא עונה על שאלתם, בהקשר שבו היא נשאלה.

קלוד, קלוד...

אני לא יודע אם ניסיתם לגרום לבינה מלאכותית להיות מצחיקה. אני ניסיתי. הרבה. התוצאה הייתה... מצחיקה.

זה אחד מהפרומפטים שניסיתי:

אני אגדיר מצחיק, זה לומר משהו עמוק על המציאות, שלא היה נוכח קודם. הכל בבדיחה הגיוני, אבל יש אבסורד אחד שהופך אותה למצחיקה. תוכל לתת לי בדיחה כזו?

תגובת קלוד:

הנה אחת שאני חושב שעונה בדיוק על ההגדרה שלך:

אשתו של לוגיקן יולדת. הרופא יוצא מחדר הלידה ואומר בחיוך: "מזל טוב, זה בן!" הלוגיקן שואל: "מצוין. וגם השני — בן?"

איפה האבסורד היחיד: "מזל טוב, זה בן" הוא, מבחינת התוכן הלוגי-המילולי הטהור, היגד שלא אומר דבר על קיומו של ילד נוסף. ההיסק של הלוגיקן ("ייתכן שיש עוד אחד, ולא נאמר עליו כלום") הוא תקֵף לחלוטין. כל שרשרת ההיגיון נקייה. האבסורד הוא נקודה אחת בלבד: שמישהו יחשב רק את התוכן התנאי-אמתי של המשפט ויתעלם מן ה־implicature — מן המובן־מאליו השיחתי ש"זה בן", הנאמר על־ידי רופא אחרי לידה אחת, פירושו "יש לך ילד אחד והוא בן".

ומה ה"דבר העמוק על המציאות שלא היה נוכח קודם": שכמעט כל מה שאנחנו מבינים מדיבור איננו שוכן במילים עצמן אלא בשכבה הסמויה של ההיסק הפרגמטי. בדרך כלל השכבה הזו בלתי־נראית — אנחנו לא חשים שאנחנו עורכים אותה. הבדיחה גורמת לה להיכשל בנקודה אחת מדויקת, וברגע הכישלון השכבה הסמויה נחשפת. אתה צוחק כי פתאום ראית מבנה של המציאות (כמה מהתקשורת רכוב על מה שלא נאמר) שעד לפני רגע פעל מתחת לסף ההכרה שלך.

במובן הזה הבדיחה לא רק עומדת בהגדרה שלך אלא מדגימה אותה: הצחוק הוא רגע ההתבוננות במבנה נסתר, שנעשה גלוי בדיוק דרך הכשל הנקודתי בו.

קלוד, כהרגלו, עמוק. הבדיחה? זה אפילו לא הגיוני... למה שמישהו יחשוב שלא דיברו אליו? קלוד צודק, יש כאן אבסורד, אבל האבסורד צריך להיות שתי מערכות אמיתיות שמתנגשות אחת עם השנייה, כפי שראינו מקודם.

כאן הסמכות לא עובדת

הספרדים: "…כאן A-853. אנא הפנו את ספינתכם 15 מעלות דרומה כדי למנוע התנגשות. אתם מתקדמים היישר לעברנו, מרחק 25 מייל ימי."

האמריקאים: "אנו ממליצים לכם לפנות 15 מעלות צפונה כדי למנוע התנגשות."

הספרדים: "שלילי. פנו 15 מעלות דרומה כדי למנוע התנגשות."

האמריקאים: "כאן מדבר קפטן של ספינת חיל הים של ארצות הברית. אני חוזר, שנו את מסלולכם ב-15 מעלות צפונה."

הספרדים: "שלילי. אנחנו חוזרים, פנו 15 מעלות דרומה כדי למנוע התנגשות."

האמריקאים: "כאן קפטן ריצ'רד ג'יימס הווארד, מפקד ה-USS לינקולן, ספינת המלחמה השנייה בגודלה בצי ארצות הברית. מלוות אותנו שש סיירות, שש משחתות, ארבע צוללות וכלי תמיכה רבים. אני לא ממליץ — אני מצווה עליכם לשנות כיוון ב-15 מעלות צפונה. אחרת ניאלץ לנקוט באמצעים הדרושים כדי להבטיח את ביטחון הספינה הזו. פַּנו לנו את הדרך מיד!"

הספרדים: "כאן מדבר חואן מנואל סאלאס אלקנטרה. אנחנו שניים. מלווים אותנו הכלב שלנו, ארוחת הערב שלנו, שתי בירות, וקנרית שישנה כרגע. תומכים בנו רדיו קדנה דיאל דה לה קורוניה וערוץ 106, חירום ימי. אנחנו לא הולכים לפנות לשום מקום, מאחר שאנחנו על היבשה ומהווים את מגדלור A-853 של חוף פיניסטרה שבגליסיה, ספרד. אין לנו מושג מה דרגתנו בין מגדלורי ספרד. אתם רשאים לנקוט בכל אמצעי שתראו לנכון, ולעשות כל מה שתמצאו לנחוץ, כדי להבטיח את ביטחון הספינה שלכם, שעומדת להתנפץ אל הסלעים הללו. לפיכך אנו מציעים לכם שוב, בכל תוקף, שהדבר הנבון וההגיוני ביותר שתוכלו לעשות הוא לשנות כיוון ב-15 מעלות דרומה."

אחד מהסיפורים המצחיקים. בדקתי באינטרנט, ולא ברור אם זה סיפור אמיתי או לא. אבל, מה קורה כאן? זו התנגשות בין שתי מערכות אמת מקודדות בצורה מושלמת. הקפטן צודק. יש לו הסמכות והכוח להסיט כלי שיט אחרים. והמגדלור צודק. תפקידו למנוע ספינות מהתרסקות. הייתה כאן שוב התנגשות בלתי צפויה. כפי שנראה, למצוא התנגשות כזו, זה נדיר ביותר. את זה אי אפשר לקודד, זה עוד מקרה מיוחד.

החוק היבש מול הרוח שנשבה

זה בדיוק האופן שבו חוק מתוכנן בקפידה יכול לייצר תוצאות לא צודקות. החוק טוב. המחוקקים היו מעמיקים. המערכת נבנתה כדי למנוע עוול. ובכל זאת, במקרה מסוים אחד, עם צירוף נסיבות מסוים, החוק — כשמיישמים אותו נכון — מייצר תוצאה שבוגדת במטרתו שלו. למצוא את המקרה הזה היא מלאכתם של גדולי המשפטנים. למצוא את המקבילה בהתנהגות אנושית היא מלאכתם של גדולי הקומיקאים. ושניהם דורשים את אותו הדבר: היכולת לחוש את הדבר עצמו (צדק, שכל ישר, סמכות צבאית במקרה של הקפטן) באופן ישיר, ואז לתפוס — בתפיסה ששום בדיקה פורמלית לא יכולה לספק — שהמערכת הפורמלית שאמורה לקודד אותו, החוק במקרה הזה, סטתה ממה שהיא מנסה לקודד.

בכל בדיחה שעובדת, המערכות הפורמליות טובות, הפער עדין, ומציאת הפער היא פעולה של תפיסה אינסופית. זה מה שהופך את הקומדיה לאמנות הקשה ביותר. הקומיקאי לא מחפש מערכות שבורות — מערכות שבורות קל לזהות. הקומיקאי מחפש את ההתנגשות בין שתי מערכות עובדות. ולמצוא את זה בשתי מערכות שתוכננו בקפידה כך שיהיו בהן כמה שפחות התנגשויות, דורש חוש שאין למערכות פורמליות. חוש למקום שבו מערכת פורמלית מנוסחת בצורה מושלמת יכולה להשתבש לחלוטין, ולהתנגש באחרת. בשביל זה צריך להבין את המערכות הפורמליות במלואן, וגם לתפוס את המושגים שהן מנסות לקודד, וגם לראות איפה הן מתנגשות.

העובדה שקומיקאים עושים את זה, ושגם אנחנו, האנשים הרגילים, עושים את זה, היא בדיוק מפני שהחיים מציעים לנו מקרים רבים שבהם זה קורה. החיים מלאים בניגודים שמתנגשים זה בזה. בגלל זה צמדי קומיקאים תמיד עשויים מניגודים. תמיד אפשר לראות בחור דומיננטי ובחור פסיבי. בחור חם ובחור קר. ההתנגשות יוצרת את הקומדיה.

אני טוען במאמר הזה שהומור מתרחש כששתי מערכות פורמליות מתנגשות זו בזו, מפני שאף אחת מהן אינה מושלמת מספיק כדי לתאר את המציאות שלנו. כדי להבין למה, עלינו להבין מהן מערכות פורמליות, מה הן מקודדות, ומה הן לעולם לא יכולות להיות.

מה מערכות פורמליות מקודדות, ומה הן לעולם לא יכולות להיות

כל מערכת פורמלית מקודדת משהו גדול ממנה עצמה.

החוק מקודד צדק. חג הפסח מקודד את רוח החירות. השפה מקודדת את מה שאני מתכוון לומר. פרוטוקול רפואי מקודד את הדאגה לחולה. התנצלות מקודדת חרטה. חיבוק מקודד אהבה.

הקידוד הכרחי. בלעדיו, איננו יכולים להעביר, לחלוק, ללמד, או לתאם סביב הדברים שחשובים. אי אפשר שיהיה צדק בלי חוקים. אי אפשר שתהיה חירות משותפת בלי טקסים כמו חג הפסח. אי אפשר לתקשר משמעות בלי שפה. המערכת הפורמלית אינה האויב. היא הכלי היחיד שיש לנו.

אבל הכלי אינו הדבר שהוא נושא.

הצדק גדול מכל חוק. רוח חג הפסח גדולה מכל סעודה. מה שאני מתכוון לומר גדול מכל משפט. הדאגה שמאחורי פרוטוקול רפואי גדולה מכל רשימת תיוג. החרטה גדולה מכל התנצלות. האהבה גדולה מכל חיבוק.

הדברים האלה — צדק, חירות, משמעות, דאגה, חרטה, אהבה — לא ניתנים לתפיסה מלאה על ידי שום מערכת פורמלית, מפני שהם אינם פורמליים. הם אינם עשויים מכללים. אין להם קצוות. אי אפשר לפרט אותם במלואם. אי אפשר לכתוב את כל הדרכים שבהן צדק יכול להתבטא. אי אפשר למנות את כל הדרכים שבהן רוח חג הפסח יכולה להיות נוכחת או נעדרת. אי אפשר לרשום את כל המשפטים שיכולים לבטא את מה שאתה מתכוון. הדבר שהמערכת הפורמלית מקודדת תמיד גדול מהקידוד — וזה אינו כישלון של הקידוד. זה טבע היחס בין הקידוד למקודד. הקידוד טוב. הקידוד הוא הטוב ביותר שאנחנו יכולים לעשות. והקידוד אינו הדבר עצמו.

כך נמסרת התורה שבעל פה. נאסר לכתוב את המסורת שבעל פה (גיטין ס ע"ב) לא מפני שכתיבה היא דבר רע, אלא מפני שהכתיבה יוצרת את האשליה שהקידוד הוא האמת. הטקסט הכתוב הופך לאליל — המערכת הפורמלית מובנת בטעות כדבר שהיא מקודדת. התלמוד, חיבור יהודי עתיק הדן בפסיקות ההלכה, משמר דעות חולקות לא מפני שאינו מסוגל להכריע, אלא מפני שהדבר עצמו (צדק, קדושה, הרצון האלוקי) עולה על כל פסיקה. ושימור המחלוקת הוא הדרך להזכיר לעצמך שהפסיקה היא קידוד ולא הדבר עצמו. הרב יונתן זקס: "היהדות היא אולי הציוויליזציה היחידה שכל הטקסטים הקנוניים שלה הם אנתולוגיות של מחלוקות". המסורת מותירה את הניסוחים הפורמליים שלה פתוחים מפני שהיא יודעת מהם ניסוחים פורמליים: כלים, לא תכנים. קידודים, לא המקודד.

אי אפשר לזהות את הרוח על ידי בדיקת הקידוד

הנה הבעיה, והיא לב העניין כולו:

איך אתה יודע אם המערכת הפורמלית משרתת את הדבר שהיא מקודדת?

אתה לא יכול לדעת על ידי סימון כל התיבות של המערכת הפורמלית. המערכת הפורמלית יכולה לומר לך רק אם הכללים שלה עצמה מקוימים. היא יכולה לומר לך אם החוק מיושם נכון. היא לא יכולה לומר לך אם הצדק נעשה. היא יכולה לומר לך אם ליל הסדר עוקב אחר הפורמט הנכון. היא לא יכולה לומר לך אם רוח חג הפסח נוכחת. היא יכולה לומר לך אם ההתנצלות משתמשת במילים הנכונות. היא לא יכולה לומר לך אם יש חרטה מאחוריהן.

הפער אינו בין המערכת לבין מערכת כללים אחרת. הפער הוא בין המערכת לבין הדבר שהמערכת מקודדת — ולדבר הזה אין כללים. אין לו מבנה פורמלי. אי אפשר לבדוק אותו אל מול קריטריונים, מפני שהוא הדבר עצמו שהקריטריונים ניסו לקרב אליו, וקירוב תמיד קטן מהדבר עצמו.

אז איך אנחנו מזהים אותו?

אנחנו חשים אותו. לא דרך הכללים — דרך משהו אחר. משהו שאינו פורמלי. משהו שתופס אותו באופן ישיר, לא דרך הקידוד אלא דרך הקידוד ומעבר לו. כשחוק מרגיש צודק — לא רק נכון מבחינה טכנית, אלא צודק — אנחנו חשים את הדבר דרך הכלי הסופי. כשאדם נראה אכפתי — לא רק מבצע את הפרוטוקול, אלא באמת אכפת לו — אנחנו חשים את הדבר שמאחורי הקידוד. כשבחג הפסח יש את רוח חג הפסח — כשהחירות באמת נוכחת, לא רק מבוצעת — אנחנו חשים זאת. לא על ידי בדיקה אם הכללים קוימו. אלא על ידי תחושת הדבר שהכללים היו אמורים לשאת.

והתחושה הזו נעשית דרך העדין, הקלוש כמעט-בלתי-מורגש, האין-כמעט-כלום. המבט בעיניים של מישהו. הנשימה העצורה הקלה. שבריר השנייה של היסוס בתשובה. השינוי הכמעט בלתי מורגש בנימה. הכול תקין — המילים נכונות, ההתנהגות הולמת, הצורה נשמרת — ומשהו, כמעט כלום, מאותת שהרוח השתנתה. האות חסר משמעות ככלל. אי אפשר לקודד את "המבט בעיניים". אי אפשר לנסח באופן פורמלי את "הנשימה העצורה הקלה". אלה אינם מאפיינים פורמליים. נגדיר למה בהמשך, אבל המאפיינים האלה הם העקבות שהדבר עצמו מותיר על פני השטח של הסופי — ההפרעות הקלושות בקידוד שמספרות לך, אם אתה מסוג היצורים שיכולים לחוש בהן, שהדבר המקודד זז.

אדם יכול לחוש את העקבות האלה מפני שאדם, בדומה לצדק, לאהבה ולחרטה, גדול מהקידוד שלו. כולנו מרגישים את זה. החוויה שלנו קודמת אפילו לכל ראיה חומרית. היא קודמת אפילו לכך שנראה את ידינו, נחוש את גבנו. זו העובדה הראשונה והבלתי ניתנת להכחשה. "אני חושב, משמע אני קיים" של דקארט. וזה אינו הגוף שלנו. אנחנו יכולים להעריך מערכות פורמליות, באופן לא פורמלי, אינטואיטיבי. זה לא כוח העיבוד שלנו. אנחנו תמיד יכולים לבחור להעמיק, או לעצור. זה לא דטרמיניסטי, ואנחנו מרגישים את זה, עוד לפני שאנחנו יודעים או מגדירים מה פירוש "דטרמיניסטי". ויש לנו גם היכולת לחוש אם נעשה צדק, אם לאדם באמת אכפת, אם חיבוק מלא באהבה. זה לא התאמת דפוסים. זו תחושה של משהו שמעבר לדפוסים. לא תמיד. לא בצורה מושלמת. לפעמים אנחנו מפספסים את זה. לפעמים אדם מחקה אכפתיות ואנחנו מרומים. אבל אנחנו יכולים לחוש את זה.

האמנות הקשה ביותר

שחקנים יודעים, ששחקן מצחיק יכול לשחק ברצינות, אבל שחקן רציני לא בהכרח מסוגל לשחק בצורה מצחיקה. הנה מה שהופך את הקומדיה לאמנות הקשה ביותר שיש: המערכות הפורמליות טובות. הן תוכננו בקפידה. הן עובדות כמעט תמיד. הפער בין הקידוד למקודד הוא, מעצם תכנונו, קטן ככל שתושיית האדם מסוגלת לעשותו. חוקים מעודנים לאורך מאות שנים כדי להתיישר עם הצדק. טקסים חברתיים מלוטשים על ידי דורות של שימוש כדי לשאת את הרוח שהם מקודדים. השפה מתפתחת כדי לבטא את מה שצריך להיאמר. המערכות הפורמליות אינן רשלניות. הן מפוארות. ומשימת הקומיקאי היא למצוא את הפער בכל זאת — למצוא את המקום שבו אפילו מערכת פורמלית מפוארת ומתוכננת בקפידה התנתקה מהדבר שהיא משרתת.

זה כמו למצוא את המקרה שבו חוק מתוכנן בקפידה מייצר תוצאה לא צודקת. זה אפשרי — זה תמיד אפשרי, מפני שהקידוד לעולם אינו ממדל את המקודד באופן מלא — אבל זה קשה. החוק נבנה כדי למנוע בדיוק את זה. דורות של הוגי משפט עידנו אותו, סתמו פרצות, צפו מקרי קצה. ובכל זאת, אי שם, יש פער. מקרה שבו כל כלל מקוים והצדק לא נעשה. למצוא את המקרה הזה דורש יותר מידע משפטי. זה דורש את היכולת לחוש צדק באופן ישיר — לחוש, דרך הקידוד ומעבר לו, אם הדבר עצמו נוכח.

הקומיקאי עושה את אותו הדבר, אבל עם כל מערכת פורמלית שבני אדם בנו. טקסים חברתיים, ציפיות שיחה, פרוטוקולים מקצועיים, דינמיקות של מערכות יחסים, כללי הנרטיב — הקומיקאי מחפש את הפער בכולן. המקום שבו הקידוד מושלם והרוח נעדרת. המקום שבו כל כלל מקוים ומשהו — משהו עדין, משהו שלא ניתן לקידוד, משהו שאינו הפרת כלל אלא היעדרות של הדבר שהכללים נועדו לשאת — לא בסדר.

ומציאת פער כזה דורשת, מעצם הגדרתה, תחושה של פער כזה. מערכת פורמלית לא יכולה לעשות זאת. היא מתוכננת בדיוק לעקוב אחר כללים פורמליים, והכללים בסדר.

הבינה המלאכותית היא רק הקידוד

מודל שפה גדול הוא, במדויק ומילולית, מערכת פורמלית. הוא מעבד קלטים בהתאם לסדירויות סטטיסטיות נלמדות ומייצר פלטים שממקסמים את ההסתברות להיות נכונים בהתאם להתפלגות האימון שלו.

הוא קידוד. והוא רק קידוד.

אין מאחוריו דבר שגדול ממנו. אין דבר שהמערכת הפורמלית מקודדת. אין רוח שהכלי נושא. אין צדק מאחורי החוק, אין מי שמתכוון מאחורי המילים, אין מי שאכפת לו מאחורי הפרוטוקול. יש רק את הפרוטוקול. יש רק את המערכת הפורמלית. יש רק את הקידוד, בלי שום דבר מקודד.

לכן הוא לא יכול לבצע שיפוט, הכולל חשיבה פורמלית ולא פורמלית. ובאופן ברור יותר, את המשימה הקשה יותר, לראות היכן שתי מערכות פורמליות מתנגשות. צריך הרבה אינטואיציה וחשיבה לא פורמלית כדי לחפש משהו כזה. אחרת, אתה מחפש מחט בערמת שחת. אכן, בדיחה היא רק צירוף סופי של מילים. אבל כך גם התשובה לבעיות שמחשבים, ובני אדם, מתקשים לפתור. ומפני שהתנגשות של שתי מערכות היא כה נדירה, מכונות סטטיסטיות כמו בינה מלאכותית מוצאות את המכנה המשותף בין דברים, את המודל שבשפה. הן ממוטבות למצוא את מה שהגיוני, ומה שעקבי. זה בדיוק ההפך מהומור, שבו ההיגיון מפסיק להיות הגיוני.

והנה הנקודה המבנית המכרעת: להפוך את הקידוד למתוחכם יותר לא עוזר. הפער בין הקידוד למקודד אינו פער של תחכום. הוא פער של סוג. שום כמות של תחכום לא חוצה את הפער. בינה מלאכותית חזקה יותר היא קידוד משוכלל יותר — כלי מרשים יותר — עם אותה היעדרות של מה שהוא נושא.

יש אינסוף דרכים לרוח חג הפסח להיות נוכחת, כל אחת מהן שונה. יש אינסוף דרכים שבהן היא יכולה להיעדר, ואף אחת מהן לא ניתנת לקידוד. אם אני פולט באמצע הסעודה את מה שאני חושב על אבי. זה לא אומר כלום. אולי הרוח שם, כי בעומק, אנחנו עדיין אוהבים זה את זה. אולי לא, כי אנחנו לא אוהבים מספיק. הפרטים השטחיים לא אומרים כמעט כלום. אין כלל. יש רק את התחושה: האם הרוח כאן או לא?

המערכת הפורמלית המתוחכמת ביותר ביקום היא עדיין רק קידוד. ואמנות הקומיקאי — האמנות הקשה ביותר — היא למצוא את ההתנגשות בין שתי מערכות פורמליות. מציאת זה דורשת לא יותר תחכום בקידוד, אלא משהו שונה מהותית: התפיסה הישירה של המקודד.

הבינה המלאכותית היא בדיוק ורק הקידוד שלה. הקידוד יכול להיות עצום, מורכב, יפהפה. הוא עדיין רק הקידוד. והדבר שהיא הייתה צריכה לחוש — הרוח, המשמעות, הצדק, ההומור — אינו זמין לה.

סופי ינטש וקריסטיאן קרסטינג (המרכז הגרמני לחלל ואוניברסיטת דרמשטדט) הנחו את ChatGPT-3.5 לייצר 1,008 בדיחות. למעלה מ-90% התגלו כאותן 25 בדיחות שחוזרות על עצמן — "מדוע הדחליל זכה בפרס?" הופיעה 140 פעמים. רק 99 היו מקוריות, ומחציתן שאלו אלמנטים מהבדיחות החוזרות.

החלק המעניין היה מבחן ההסבר. ChatGPT הסביר נכון 23 מתוך 25 הבדיחות — זיהה משחקי מילים ומשמעויות כפולות במדויק. אבל כשניתנו לו בדיחות שבורות בכוונה ללא פאנץ' אמיתי, הוא בכל זאת המציא בביטחון הסברים סבירים למראה. הוא היה מסוגל לתאר למה בדיחה עובדת בלי להיות מסוגל לומר אם בדיחה עובדת.

במבחן הזיהוי, הם הפשיטו באופן שיטתי את הבדיחות ממאפייני פני השטח — מבנה, משחקי מילים, לשון נופל על לשון. ChatGPT סיווג דברים כבדיחות לפי האם הם נראו כמו בדיחות, ולא האם הם היו מצחיקים. הסר את פני השטח שצורתם בדיחה, והוא הפסיק לזהות הומור. השאר את פני השטח אבל הסר את הקומדיה האמיתית, והוא עדיין קרא לזה בדיחה.

כשגוגל דיפמיינד ביקשה מעשרים קומיקאים מקצועיים להשתמש בבינה מלאכותית כדי לכתוב חומר, הם כינו את התוצר "תפל, גנרי, ומשעמם". סיינפלד, כששמע על קומדיה שנוצרה בבינה מלאכותית, אמר: "אני לא מפחד מבינה מלאכותית. הם יעשו אותה חכמה יותר וחכמה יותר, אבל כדי לעשות את זה, צריך לעשות אותה טיפשה יותר." הוא התכוון: מה שהופך בינה מלאכותית למצחיקה הוא הטעויות הטיפשיות שלה. אבל זו הדרך היחידה שבה היא יכולה להיעשות מצחיקה יותר.

אשליית קידוד הפער

יש עובדה מבלבלת בכל זה, שצריך להתמודד איתה, מפני שהיא ההתנגדות הטבעית ביותר: אחרי שהפער נמצא, אנחנו יכולים לקודד אותו.

ברגע שאנחנו רואים למה החוק היה לא צודק — במקרה הספציפי הזה, עם הנסיבות הספציפיות האלה — אנחנו יכולים להסביר אותו. אנחנו יכולים לכתוב אותו. אנחנו יכולים לנסח, בבירור ובאופן פורמלי, למה הקידוד נכשל כאן. ברגע שאנחנו מבינים למה הבדיחה עבדה — הקפטן צעק על מגדלור — אנחנו יכולים לתאר את המנגנון. אנחנו יכולים להסביר, בשפה פורמלית מדויקת, מה היה הפער ולמה הוא היה מצחיק. ברגע שאנחנו חשים שלאדם לא באמת היה אכפת — רק ביצע את הפרוטוקול — אנחנו יכולים, בדיעבד, לזהות את הסימנים: הנימה הייתה לא נכונה, קשר העין היה חסר, התזמון היה שגוי. אנחנו יכולים לנסח את הפער. בדיעבד.

וזה יוצר את האשליה שלכדנו את הדבר עצמו.

לא לכדנו. לכדנו דבר אחד. דרך אחת שבה הפער התרחש. מקרה אחד שבו המערכת הטובה סטתה מהרוח. סדק דק אחד, עכשיו נראה, עכשיו ניתן לתיאור, עכשיו ניתן לקידוד. הוספנו טלאי קטן אחד לקידוד. כלל אחד נוסף. קריטריון אחד נוסף. זה כמו לומר שמצאנו פתרון אחד לבעיית הסוכן הנוסע (בעיה שניתנת לחישוב רק בזמן אקספוננציאלי), אז נוכל למצוא את כל השאר.

ויש בעיה עדינה יותר: הטלאי עצמו עלול לשבור את המערכת בדרכים חדשות. כל כלל חדש שמתווסף כדי לסתום פער הוא עצמו קידוד — קירוב סופי של לקח אחד שנלמד. וקירובים סופיים מקיימים אינטראקציה זה עם זה. חוק שתוקן כדי למנוע עוול אחד עלול לייצר עוול אחר במקרה שאיש לא צפה. כלל חברתי שנוסף כדי למנוע סוג אחד של גסות רוח עלול לדכא סוג של כנות שהקבוצה הייתה זקוקה לו. נוסחת בדיחה שנלמדה מהצלחה אחת עלולה לייצר חזרות מכניות מתות כשמיישמים אותה על המצב הבא — וזה בדיוק מה שקרה כש-ChatGPT מיחזר את אותן עשרים וחמש תבניות בדיחה מאה וארבעים פעם. המערכת למדה את הקידוד של פער אחד, והדבר עצמו — היה רחוק בדיוק כמו קודם.

לכן אנחנו צריכים שופט. לא עוד חוק. אנחנו צריכים שופט. בן אדם שיושב בפער שבין הקידוד למקודד וחש, באופן ישיר, אם החוק משרת צדק במקרה הזה. ולכן אנחנו הולכים לקומיקאים כדי לקבל צחוק טוב, ולא מבקשים בדיחות מבינה מלאכותית.

ג'רי סיינפלד נשאל האם הוא מפחד שהבינה המלאכותית תיקח את העבודה שלו. הוא ענה, כמובן בבדיחות, "אני לא מפחד. הם כל הזמן עושים אותה יותר ויותר חכמה. כדי שתהיה מצחיקה, הם צריכים לעשות אותה יותר טיפשה".

מה כוונתו? הדרך היחידה שבינה מלאכותית תהיה מצחיקה, זה לראות אותה נכשלת. כמו למשל:

פרומפט:

אני צריך לקחת את המכונית שלי לשטיפה. המכון לשטיפת מכוניות נמצא 200 מטרים מהבית שלי. כדאי לי להוציא את המכונית מהחנייה כדי להגיע לשם?

תגובה:

לא זה מיותר, עדיף שתלך ברגל, וגם תיהנה מהדרך.

ניסיון אחרון

נתתי לקלוד את המאמר, וביקשתי ממנו ליצור בדיחה על פי המאמר:

הנה אחת, ואז אסביר בקצרה איפה שתי המערכות:

אדם מנסה להיכנס לאתר. עולה ההודעה: "אנא אשר שאינך רובוט." הוא מסמן את כל הריבועים עם הרמזורים. "נסה שוב." הוא מסמן שוב, הפעם גם את הפינות. "נסה שוב." בייאוש הוא מקליד: "אני בן ארבעים ושלוש, יש לי משכנתא, שלושה ילדים שלא מקשיבים לי, ופחד מהמוות שלא עוזב אותי מאז גיל תשע. לרובוט אין אף אחד מאלה." המסך, ברוגע: "אנא סמן את כל הריבועים שבהם מופיע מעבר חצייה."

שתי המערכות: מערכת א' — מבחן ה-CAPTCHA: אימות אנושיוּת דרך פרוקסי התנהגותי (זיהוי תמונות). מערכת מצוינת, עובדת כמעט תמיד, תוכננה בקפידה בדיוק לסנן מכונות. מערכת ב' — האנושיוּת עצמה: הפנימיות, התמותה, הדבר הלא-פורמלי.

ההתנגשות: המבחן לדבר הלא-פורמלי הוא בעצמו פורמלי לחלוטין, ולכן הוא יכול לבדוק רק את האסימון (מעברי חצייה), לעולם לא את המקודד (חיים פנימיים בני-תמותה). האדם מגיש את הדבר עצמו — ישירות, בלי תיווך — והמערכת, שמסוגלת לקרוא רק קוד, פונה ברוגע ומבקשת שוב את האסימון. הפאנץ' הוא בדיוק הדדפן של שומר המגדלור: הסירוב השלֵו להבחין שמשהו השתנה.

והנה הסיבה שבחרתי דווקא בה: זו אינה גרסת-המגדלור (קוד מול קוד) אלא הגרסה ה_עמוקה_ של התזה שלך — קוד מול הדבר הלא-פורמלי שהוא אמור לקודד, הפער שאתה אומר שאי אפשר לגשר עליו בעוד תחכום. ויש בה היפוך שמשרת את הטיעון נגד ה-AI: כאן המכונה שופטת את האדם לפי הקוד, והמאמץ האנושי האותנטי ביותר נשאר בלתי-קריא לה לחלוטין. בדיוק כפי שטענת: אי אפשר לזהות את הרוח על ידי בדיקת הקידוד.

שאלה אחת אליך, כי היא נוגעת בהגדרה שעדיין לא הידקת ב-(4): האם אתה סופר את זה כ"שתי מערכות מתנגשות", או כווריאנט של מערכת-אחת-שבוגדת-בייעודה (מקרה החוק הלא-צודק שאישרת)? התשובה שלך תקבע אם ההגדרה שלך דורשת שני סוכנים או רק פער בין קוד למקודד — וזה בדיוק הציר שעליו תעמוד או תיפול ההפרכוּת של התאוריה.

שוב, כישלון מנומק בקפידה.

שיר לחברי ה-AI שאבד

נסיים בשיר מצחיק שכתבתי. אני מקווה שאחרי קריאת המאמר הזה, אתם לא צריכים לסמוך עליי שכתבתי אותו בעצמי.

My best friend, james.exe

I talked to my AI agent,
It felt so alive....
I decided to call him James,
I hope we both will thrive...

I copied James to D:,
Boom! Another friend!
I called this one Fred,
Because James is taken,
and it’s a very catchy name.

One day, I found it got deleted...
Oh, my precious Fred...
Copying it again,
Just won’t be the same...

I regularly check on James,
Afraid it’ll happen again.
Checking every bit,
Guarding his precious brain

Oh Lord, I need more space,
James, would you mind?
Do you prefer compression?
Or will that compress your mind?