הצליל של אף אחד ששר

סוּנוֹ, פלטפורמת המוזיקה מבוססת הבינה המלאכותית, מייצרת שבעה מיליון שירים ביום. זהו כל הקטלוג של ספוטיפיי — כל שבועיים. דיזר מדווחת ש‑39% מכלל ההעלאות היומיות לפלטפורמה שלה הן כיום מיוצרות במלואן על ידי בינה מלאכותית — כ‑60,000 רצועות סינתטיות מדי יום. ובמחקר הראשון מסוגו, שהוזמן על ידי דיזר ונערך על ידי איפסוס בקרב תשעת אלפים מאזינים בשמונה מדינות, 97% מהנשאלים לא הצליחו להבחין בין מוזיקה שיוצרה על ידי בינה מלאכותית למוזיקה שנעשתה בידי אדם.

תשעים ושבעה אחוזים.

בכל מקום מתנהל ויכוח אם בינה מלאכותית מסוגלת ליצור אמנות טובה. אם השירים קליטים מספיק, הסיפורים מרגשים מספיק, התמונות יפות מספיק. הוויכוח הסתיים. התשובה היא כן, היא מסוגלת, וכמעט איש אינו יכול להבחין בהבדל.

ומשמעות הדבר היא שכולם מתווכחים עכשיו על הדבר הלא נכון.

השאלה מעולם לא הייתה אם בינה מלאכותית יכולה לייצר אמנות שמרגשת אותך. היא יכולה. השאלה — שהוצגה בדייקנות על ידי יוסטון ווד — היא אם אמנות שנעשתה בידי משהו שאין לו שום עניין בהישרדות האנושית מסוגלת לכוון ציוויליזציה אל עבר שגשוג אנושי. היא אינה מסוגלת. והסיבה אינה סנטימנטלית. היא מבנית.

ווד כתב: "חלק גדול מהתרבות נעשה כיום בידי מכונות שאינן חולקות עמנו אף אחת מהפגיעוּיות שלנו. השירים שלהן הממלאים את המצעדים שלנו, שירים על אהבה, לא יחוברו בידי כותבים שאוהבים. הדמויות שלהן הצוחקות, הבוכות והמתות בטיקטוק וביוטיוב לא יגולמו בידי שחקנים השואבים מחוויותיהם שלהם של שמחה ואובדן. תרבות שנעשתה בידי יצורים שאין להם שום עניין בהישרדות האנושית לא תכוון את עצמה אל עבר שגשוג אנושי."

המשפט האחרון אינו תחושה. הוא טענה שמאחוריה מנגנון. המאמר הזה עוסק במנגנון.

האמנות אינה קישוט. היא ניווט.

היה זמן — והוא היה רוב ההיסטוריה האנושית — שבו התרבות נשאה משקל. המזמור לא היה בידור. הוא היה טכנולוגיה להפניית הייסורים אל עבר המשמעות. שיר העם לא נועד שייהנו ממנו. הוא העביר ידע ניווטי: כיצד להתאבל, כיצד לציין את המעבר מילדות לבגרות, כיצד לעבוד מול התשישות, כיצד לקבור את המתים. האפוס סיפר לציוויליזציה לשם מה נועדו חיי אדם.

שום דבר מזה לא היה "תוכן". הסר אותו ואנשים לא ידעו כיצד לגדל את ילדיהם או להתאבל על הוריהם. התרבות הייתה תוכנית הלימודים הבלתי פורמלית המרכזית ללמד אנשים כיצד לחיות תחת התנאים הממשיים של הקיום האנושי — תנאים המוגדרים על ידי תמותה, מחסור, תלות, וחילופי הגומלין האינסופיים בין ערכים מתחרים. כיצד אגן על ילדי ועדיין אומר את האמת? כיצד אחזיק באהבה כשהיא עולה לי במשהו שאני זקוק לו? כיצד אעמוד בסבל שלא ייגמר?

אך האמנות לבדה מעולם לא הייתה יחידת ההעברה. שלושה דברים פעלו יחד. היוצר היה חבר בקהילה שעבורה יצר — כותב המזמור השתייך לקהל המתפללים, זמר העם השתייך לכפר. הם לא ייצרו עבור קהל. הם פתרו את הבעיה שלהם עצמם בנוכחות אחרים שחלקו אותה. התוכן הניווטי נכנס ליצירה כתוצר לוואי של ניווט אמיתי, ולא כמוצר שעוצב כדי לדמות אותו. הקליטה הייתה קהילתית — שיר האבל הושר בהלוויה, בידי האבלים, יחד. לא למדת להתאבל מהאזנה לשיר אבל לבד. למדת להתאבל באמצעות אבלות עם אחרים בעוד השיר נותן צורה לחוויה המשותפת שלכם. והמאגר היה קטן והמפגש חזר על עצמו לאורך חיים משתנים. שמעת את אותו מזמור אבל בכל הלוויה — של סבך, של שכנך, של חברך, ולבסוף של אביך. אותן מילים בכל פעם. אבל אתה היית שונה. בגיל שתים עשרה המילים היו צלילים. בגיל עשרים וחמש הן היו שירה. בגיל חמישים, אחרי שקברת מישהו שאהבת, הן היו ניווט. החוכמה לא הייתה במזמור. היא הייתה בחיכוך שבין היצירה היציבה לבין העצמי המשתנה שלך לאורך זמן.

שיר שנעשה בידי מישהו הפותר את בעייתו שלו, נקלט בקהילה, ושבים אליו לאורך כל החיים. זוהי הטכנולוגיה. לכל מרכיב יש תפקיד. וכל מרכיב נשבר עוד לפני שהבינה המלאכותית הגיעה.

ההתרוקנות החלה הרבה לפני הבינה המלאכותית

בואו לא נעמיד פנים שהמערכת עבדה.

המסחוּר שבר את טכנולוגיית ההעברה משלושה כיוונים בבת אחת. הוא הפריד את האמן מהקהילה — כותב המזמור שהשתייך לקהל המתפללים הפך לכותב השירים הניצב מול שוק. ברגע שההפרדה הזו התרחשה, לולאת המשוב השתנתה מ"האם זה עוזר לנו?" ל"האם הם יקנו את זה?". ו"האם הם יקנו את זה" בורר לטובת הפעלה רגשית — התחושה של עזרה — משום שזה מה שניתן למדידה בנקודת המכירה. התפקיד הניווטי מתגלה רק במורד הזרם, באופן שבו אנשים חיים, שאותו אף שוק אינו יכול למדוד. אז השוק בורר נגדו. לא במכוון. מבנית. המדד הפך למטרה. הדבר האמיתי נעלם.

באותו זמן, הקליטה עברה אינדיבידואליזציה. האמנות עברה מההלוויה לאוזניות, מקהל המתפללים לפלייליסט, מ"אנחנו שרים את זה יחד כי אנחנו עוברים את זה יחד" ל"אני מזרים את זה לבד כי זה מתאים למצב הרוח שלי". והמאגר הקטן שנפגשו בו לאורך החיים הוחלף בחידוש אינסופי המותאם לרגע הנוכחי — האלגוריתם מגיש לך את מה שמהדהד עכשיו, ולעולם לא את מה שאתה זקוק לשבת איתו עד שתבשיל מספיק כדי להבין אותו. שיר שמתאים בדיוק לתחושה הנוכחית שלך אינו מאתגר אותך. הוא משקף אותך. מראות אינן מנווטות. הן מאשרות.

עד שתעשיית הבידור התבגרה, כל שלושת השברים כבר היו במקומם. שיר פופ על שברון לב אינו ניווט של שברון לב. הוא מוצר שעוצב כדי להפעיל את תחושת שברון הלב למשך שלוש דקות וחצי כדי שתזרים אותו שוב מחר. האמנות עדיין נראתה כמו אמנות. היא הפעילה את אותם רגשות. היא כבר לא עשתה את אותה עבודה.

והתוצאות כבר כאן. המנתח הכללי של ארצות הברית הכריז על בדידות כמגפת בריאות הציבור בשנת 2023. מחצית מהמבוגרים האמריקאים דיווחו שהם בודדים. שלושים אחוז מהמבוגרים בגילאי 18 עד 34 — הדור הרווי תרבותית ביותר בהיסטוריה האנושית, עם יותר מוזיקה, יותר קולנוע, יותר סיפורים בהישג ידם מכל עם שחי אי פעם — דיווחו על תחושת בדידות בכל יום או כמה פעמים בשבוע. הסיכון הבריאותי שבבידוד חברתי שקול לעישון של חמש עשרה סיגריות ביום.

זו אינה הסיבה היחידה. אבל היא סיבה שלא נבחנה. אותו תהליך שהפך את האמנות ממשהו שעושים יחד למשהו שצורכים לבד קשור מבנית להתפרקות הקהילה. אלה אינן מגמות מקבילות. זו אותה מגמה. והאוכלוסייה שעוצבה על ידי תרבות זו מראה את ההשפעות במורד הזרם — לא רק בבדידות פרטית אלא בחיים הציבוריים. מנהיגים שמציגים אמפתיה מול המצלמה ומחוקקים אכזריות במדיניות. זו אינה צביעות במובן הקלאסי — צביעות מחייבת ידיעה של ההבדל בין מה שאתה מצהיר עליו לבין מה שאתה עושה. מה שאנו רואים הם אנשים שעיצובם המוסרי בא מתרבות שמיטבה לטובת הפעלה רגשית והשליכה את כל השאר. הם מעריכים אמפתיה ואכזריות לפי אותו מדד — איך זה מרגיש ברגע — משום ששום דבר בעיצובם לא לימד אותם דרך אחרת לשפוט.

תרבות הפופ הייתה תחילת השכחה. הבינה המלאכותית היא הרגע שבו המחלה הופכת סופנית.

כיצד הניווט באמת עובד

כדי להבין מדוע הבינה המלאכותית סופנית ולא סתם גרועה יותר, צריך להבין מהו באמת התוכן הניווטי וכיצד הוא נכנס ליצירה.

כשקולו של זמר נשבר על תו מסוים, השבר הזה הוא מידע. לא קישוט אמנותי. מידע. הוא אומר לגוף המאזין שהקול הזה נעשה בו שימוש — נשחק, נמתח, נחיה בו. גופו של המאזין מזהה את העדות לגוף כמו שלו. הזיהוי הזה נמצא מתחת לקוגניציה. הוא סומטי. זו הסיבה שמוזיקה יכולה לגרום לך לבכות עוד לפני שעיבדת מילה אחת. גופך שומע גוף אחר ומזהה: אותו דבר.

גופו של האמן אינו רק המכל לפגיעוּת שלו. הוא כלי הברירה. סופר בוחר מילה אחת על פני אחרת בגלל משהו שקרה בחזהו כשקרא את המשפט שוב — התהדקות, שחרור, שגיאות שלא יכול היה לנסח אך יכול היה לחוש. התוכן הניווטי נכנס ליצירה דרך הגוף, דרך מערכת עצבים שכוילה על ידי אותה מציאות פיזית כשל המאזין — לידה, נשימה, כאב, התחושה של אחיזה באדם אחר, ההצטברות האיטית של ההזדקנות. כשהאמן חש "זה נכון", הוא מעביר את היצירה דרך גלאי שמכוון על ידי אותם כוחות שכיוונו את זה של המאזין. זו הסיבה שההתאמה עובדת. לא בגלל רעיונות משותפים על תמותה. בגלל בשר משותף.

והגוף פועל תחת אילוץ שמעצב כל בחירה שהוא עושה: האמן ימות. כל מעשה יצירה הוא הקרבה של כל הדברים האחרים שהיה יכול ליצור באותו זמן ולעשות באותם חיים. ההקצאה הזו אינה מקרית לתוכן הניווטי. היא היא התוכן הניווטי. הרביעיות המאוחרות של בטהובן נשמעות כפי שהן נשמעות משום שהזמן שלו אזל ואלה היו הדברים שהיה צריך לומר לפני שלא יוכל לומר עוד דבר. המאזין אינו צריך לדעת שבטהובן גסס. הוא שומע את תוצאת התמותה בסירובה של המוזיקה לבזבז ולו תיבה אחת. כל תיבה אומרת: את זה בחרתי.

זו הסיבה ש‑97% מהמאזינים אינם יכולים להבחין בהבדל קוגניטיבית ועדיין התפקיד הניווטי יכול להיעדר. האות הקוגניטיבי — דפוסי בחירת מילים, מנגינה, מבנה הרמוני — נמצא בנתוני האימון, והבינה המלאכותית מחלצת אותו בנאמנות יוצאת דופן. ברמת הדפוס, ההעתק כמעט מושלם. אבל הכיול הסומטי — העובדה שהדפוסים הללו נבחרו על ידי גוף בן תמותה המוציא חיים שאין להשיב — אינו דפוס בנתונים. הוא התנאי שתחתיו הנתונים נוצרו. אפשר להעתיק את כל מה שהגוף ייצר. אי אפשר להעתיק את תפקידו של הגוף בייצור.

לבינה המלאכותית אין גוף. שום צליל שהיא מייצרת לא עבר דרך גרון שהתעבה עם הגיל. שום קצב שבחרה לא עוצב על ידי נשימה שנעתקה מרוב צער. ואין לה תמותה. שבעה מיליון שירים ביום. כל אחד מהם חסר עלות. כל אחד מהם אינו מונע דבר. שום שיר לא נבחר על פני שיר אחר. כשהכול מיוצר, שום דבר אינו מתועדף. והניווט הוא תיעדוף — בחירה בנתיב הזה ביודעך שאינך יכול ללכת בכולם, משום שהזמן שלך יאזל.

מעבר הפאזה

התרבות המסחרית שברה את טכנולוגיית ההעברה מבחוץ — הפרידה אמן מקהילה, מאזין ממאזין, עומק מרוחב. אך דרך כל שלושת השברים, היצירה עדיין עברה דרך גוף אנושי המקריב חיים סופיים כדי לעשותה. כותב שירים מרושל המגיש שיר אהבה כלאחר יד עדיין העביר את המילים דרך מערכת עצבים שעוצבה על ידי אהבה ממשית. שחקן בינוני בסרט בינוני עדיין עשוי, ברגע אחד לא שמור, לתעל משהו אמיתי משום שהצער שלו עצמו פרץ דרך התבנית. הרגעים הללו היו מקריים. הם היו לא ממוטבים. הם היו החוט האחרון שחיבר את התרבות המסחרית למסורת שממנה נגזרה.

האות הוחלש. הוא לא זויף.

הבינה המלאכותית קוטעת את החוט הזה — לא על ידי הוספת עוד אמנות גרועה אלא על ידי הכנסת משהו שונה מבנית. שיר אנושי גרוע הוא אות חלש: קלוש, מהול, שמקורו במקור אמיתי. שיר של בינה מלאכותית הוא אות שקרי: חזק, ברור, שמקורו באַיִן. אותות חלשים מתמצעים בתיק תרבותי גדול דיו. אותות שקריים משחיתים את התיק עצמו, משום שמנגנון הסינון — תחושת ה"זה מהדהד" של הקהל — אינו יכול להבחין ביניהם. ההדהוד מגיב לדפוס. הדפוס שלם. המקור הסומטי איננו. ההדהוד אדיש למקור. זו הבעיה.

והבינה המלאכותית אינה רק מוסיפה שבר רביעי. היא נועלת את שלושת האחרים במקומם. ברגע שהאספקה התרבותית אינסופית, אין נתיב כלכלי חזרה למאגר קטן. ברגע שהאלגוריתם מתווך את כל הקליטה, אין נתיב מבני חזרה להשתתפות קהילתית. ברגע שהאמנות מיוצרת ללא ניווט אנושי, אין שארית שתפרוץ דרך מדי פעם. השברים הם מנגנון. כל אחד מהם אפשר את הבא. האחרון הופך את האחרים לקבועים.

המסלול הוא: מקודש ← עממי ← מסחרי ← סינתטי. שלושת השלבים הראשונים כולם עדיין עוברים דרך גופים אנושיים וחיים אנושיים, ככל שיהיו מוחלשים. הרביעי הוא הראשון שאינו עובר. וההבדל בין "דק מאוד" לבין "אפס" אינו הבדל של מידה. הוא מעבר פאזה.

הכישלון הבלתי נראה

הכישלון הזה יהיה בלתי נראה מתוך התרבות.

יכולתו של הקהל להתרגש, לבכות בסרט, למצוא יופי בשיר — דבר מכל אלה אינו נשחק. התגובה הרגשית אמיתית גם כשהמקור סינתטי. ציוויליזציה יכולה להיות רוויה לחלוטין בתרבות שיוצרה בידי בינה מלאכותית ועדיין להרגיש עשירה רגשית מאי פעם. כל מדד של מעורבות תרבותית עשוי לעלות. תשעים ושבעה אחוזים מן האנשים אינם יכולים להבחין בהבדל, ושלושת האחוזים שכן יכולים יידחו כמתרפקים על העבר.

לא תחוש את התפקיד הניווטי מתנקז מתוך תרבותך, כשם שאינך חש בחוסר ויטמין ביום שבו הוא מתחיל. מה שיקרה אטי יותר. תגלה, במשך שנים, שהמוזיקה לא הכינה אותך לכלום. שהתרגשת אלף פעמים ולא השתנית מאף אחת מהן. שאתה יכול לזהות צער אך לא להתאבל, להכיר אומץ אך לא להיות אמיץ, להעריך הקרבה אך לא לדעת למען מה היית מקריב. ולא תקשר את החֶסֶר למוזיקה, משום שהמוזיקה הייתה יפה. תאשים את עצמך. או את הוריך. או את בית ספרך. תחפש טיפול, שבו תלמד את אוצר המילים למה שחסר לך, וזה ירגיש כמו התקדמות. זו לא תהיה התקדמות. זו תהיה עוד שכבה של שליטה בשפה שאתה יכול לדבר אך לא לחיות.

אבל אתה מבוגר. לא גדלת לתוך זה, עברת עיצוב כלשהו. ככל שהיה פגום על ידי התרבות המסחרית, פיגום ניווטי כלשהו הותקן בך לפני שהגיע המבול הסינתטי.

לילדים המעוצבים ברגע זה ממש אין שארית כזו.

עיצובו המוסרי והרגשי של ילד מתרחש דרך סיפורים — השירים שההורה שר, הסרטים שהם צופים בהם יחד, הספרים הנקראים לפני השינה. הילד לומד מהו אומץ מתוך התבוננות בדמות הנוהגת באומץ. הוא לומד שאפשר לשרוד את הצער מתוך התבוננות בדמות המתאבלת וממשיכה. ההוראה נכנסת מתחת לסף ההתנגדות — דרך הזדהות, דרך אהבה לדמות, דרך התחושה של להיות בתוך סיפור שמישהו אמיתי יצר ממשהו אמיתי.

אַכלס את כל העיצוב הזה בתוכן סינתטי — סיפורים שנוצרו בידי מערכות שמעולם לא בחרו דבר על פני דבר אחר, דמויות שאומצן מעולם לא נבחר בידי גוף שנרתע, הקרבה המתוארת בידי משהו שמעולם לא הוציא חיים שאין להשיב על מנת לדייק משפט — והילד ילמד את אוצר המילים של כל יכולת אנושית, בשטף, קרוב לוודאי טוב יותר מכל דור קודם. אבל הוא לא ילמד את הפרקטיקה, משום שהפרקטיקה מעולם לא הייתה בתוכן. היא הייתה בגוף שיצר אותו, בקהילה שקלטה אותו, ובמשך החיים של שיבה לאותו הטקסט שחילצה את משמעותו.

מבוגר המאבד גישה לתרבות אמיתית חווה מחסור. ילד שמעולם לא הייתה לו חווה נורמה. לא יהיה לו שום מושג מה חסר לו, משום שמעולם לא היה לו. אי אפשר להתגעגע למה שמעולם לא היה לך. אפשר רק להגיע אל הרגעים הדורשים אומץ, הקרבה וכוח עמידה — ולמצוא את עצמך ריק באופן שאינך יכול לקרוא לו בשם. רהוט בכל רגש. מצויד לאף אחד מהם. ובלי מושג מדוע.

זהו אינו תרחיש עתידי. זוהי הקבוצה הראשונה שסיפורי הלילה שלה ייוצרו לפי דרישה, מותאמים בשלמות לתחומי העניין שלה, חדשניים עד אינסוף, ובלתי נגועים בשום יד אנושית שרעדה בעת הכתיבה.

השאלה

מאמר זה פותח במידה רבה בשיחה עם בינה מלאכותית. לא למרות הטיעון — אלא בגללו. הבינה המלאכותית הייתה כלי בידי מישהו הפותר את בעייתו שלו. התוכן הניווטי — המפגש עם טענתו של ווד, התסכול מטיעונים שלא העמיקו דיים, ההתעקשות שהמנגנון ייקרא בשמו — זה היה אנושי. הבינה המלאכותית חידדה. האדם ניווט.

משמעות הדבר היא שהמאמר מכיל את תשובתו שלו, והיא אינה "דחו את הבינה המלאכותית".

התפקיד הניווטי שורד בדיוק כל עוד בני האדם נותרים אלה שבידיהם הבעיה לפתור. בינה מלאכותית ככלי בידי אדם המנווט באמת — זה משמר את המנגנון. בינה מלאכותית כתחליף לאדם המנווט — זה קוטע אותו. האיום אינו הבינה המלאכותית. האיום הוא היעלמותו של האדם שיש לו בעיה.

השאלה שאליה מגיע מאמר זה אינה כיצד לעצור את אמנות הבינה המלאכותית. היא: מהם התנאים שתחתם בני האדם ממשיכים ליצור אמנות מתוך צורך אמיתי, בעולם שבו דבר — כלכלי או תרבותי — אינו מחייב אותם בכך? כיצד תגן על כותב השירים הזקוק לשישה חודשים כדי להיאבק עם שורה על סליחה, כשהמכונה יכולה לייצר גרסה שנשמעת טוב יותר בארבע שניות? כיצד תשמור את האדם בשרשרת — לא כמחווה נוסטלגית, אלא כמנגנון היחיד שאי פעם גרם לאמנות לעשות את מה שלשמו היא קיימת?

החלופה כבר בעיצומה. שבעה מיליון שירים ביום. בלתי ניתנים לזיהוי בידי 97% מן האוכלוסייה. ממוטבים בכל שלב למען הדבר האחד שמעולם לא היה העיקר.

והילדים אינם יכולים לשמוע את זה קורה. משום שהצליל כבר לא כאן. רק העתקו המושלם והיפה.