עבודה היא בראש ובראשונה כורח. אלא שאם שפר מזלו של אדם, הוא יכול לעבוד בעבודות שלא הכורח הוא הכוח המכוון בהן. לשמחתי, בגלל הרקע בתכנות, עולם מדעי הרוח בכלל ועבודות בתוכו בפרט מעולם לא היו סיפור של כורח מבחינתי. יכולתי להרשות לעצמי, למשל, “לבזבז” שלוש שנים בעריכה של שני ספרים (אחד מהם, על תפיסת הקורבן במדעי הרוח המודרניים, צריך עוד לראות אור). מכל מקום, העבודה שלי במובנה הרחב – הכולל לימודי פילוסופיה – מעלה אצלי כמה הרהורים, ואני מבקש מראש את סליחת הקורא על כך שלא אפתח אותם כאן באופן שיטתי, בגלל מגבלת זמן. עם זאת, אני כן חושב שיש ערך מסוים בהעלאת גרסה בוסרית יותר של ההרהורים הללו על הכתב.
מאחר שאני עורך ספרי עיון, ולא רק זאת אלא שאני עורך מדעי ולא לשוני, הקשר שלי לעבודות עריכה מסוגים מסוימים הוא קשר שבבסיסו אינו טכני: כן, נדרשת יכולת טכנית מסוימת כדי להבין כיצד טיעונים מתפקדים, אבל בבסיסה עריכת ספר עיון – קל וחומר עם אנשים שמראש רואים בתהליך הזה חלק מכתיבת הספר ולא הקצעה של מוצר קיים – היא תהליך שבהיעדר דרך טובה יותר להגדיר אותו אכנה אותו “דיאלוגי”. לא במובן שוויוני – התפקיד כאן הוא חלק מהיררכיה שבה יילוד הרעיון של המחבר הוא העיקר, והרעיונות שלי שאינם על היצירה עצמה לא אמורים להיכנס פנימה. במובן הזה, סוג העבודה הזה פגיע הרבה פחות ל־AI, מטעמים מובנים. סופרים שנמצאים במקום הזה מראש אינם עושים זאת מתוך כורח בעצמם, וכך נוצר מצב שמעבר לשאלה הטכנית אם ה־AI יכול לעשות את אותה העבודה, פשוט אין בו צורך.
מכאן אנחנו יכולים לחשוב על הכללה מסוימת. הצפי הסביר שלי הוא שייווצרו נורמות חברתיות חדשות, רעות וטובות, סביב השימוש ב־AI במדעי הרוח. אנחנו עדיין לא שם. אבל תרשו לי לנחש שלא רק עניין הנורמות, אלא גם עניין המוסדות והתנאים שבתוכם העבודה צומחת, ישחקו תפקיד רבתי. אם נצליח לייצר מרחבים שאין בבסיסם צורך – קרייריסטי או חומרי – אז מדעי הרוח, או העיסוק ההומניסטי, יצליחו לדלג בקלות מעל מהפכת ה־AI. האקדמיה, מן הסתם, אינה פקטור בהקשר הזה, משום ששם הכורח שולט ביותר ממובן אחד. ישנם כיסים בתוך האקדמיה ברחבי העולם שהצליחו לייצר מרחבים שכאלו, אבל מה שמשותף לרובם – וזה יתרונה של האוניברסיטה בעידן ה־AI בכלל – הוא שכולם יושבים סביב אתוס, או אפילו מוסד, שמקורו קדם־מודרני. כך או כך, היעדר כורח מהסוגים הנזכרים אינו היעדר כורח בכלל – schole של ממש. אני מניח שקנאת סופרים, תחרותיות וכו’ ימשיכו להיות כוח משמעותי, וטוב שכך. אלא שמה שחשוב לשים לב אליו, לדעתי, הוא שהמרחב התחרותי לא יהיה אלגוריתמי אלא אורגני לפרויקט המבוקש: אפילו אם מורידים את הכורח לכתוב עבור הקריירה או הכסף, כתיבה במרחב שמכיל אלפי מתחרים אינה ריאלית. זה מייצר, כברירת מחדל, ניסיונות מלאכותיים לחלוטין להקטין את התחרות לממדים טבעיים יותר, ואגב כך מתגמל כתיבה שטוחה, שיתרונה המרכזי הוא מאפיין טכני כמו “האם זה משהו שאפשר לצטט בכמה שיותר הקשרים” ולא קריטריונים הפנימיים לעבודה עצמה.
את כל הדברים האלה, אני מניח, היו כאלה שאמרו טוב ממני. אלא שלאחרונה עלו בקרבי עוד כמה מחשבות, שנוגעות דווקא בארכיטקטורה של ה־AI. אחד הדברים המעניינים בארכיטקטורה הזו הוא שמה שמכונה “טרנספורמר” הוא סוג של “רשת נוירונים”. מדובר כאן, כמובן, במיסנומר: רשתות הנוירונים האנושיות אינן דומות, באופן שבו הן עובדות, לאלו של ה־AI. נעיף מבט קצר בשאלה מדוע עדיין משנה, בעקבות דרייפוס, שגם למידה סטטיסטית מבוססת על סוג של מנגנון של מניפולציה מתמטית – וזאת אף שאני מדבר כאן על אלגוריתם של נוירונים דיגיטליים, ואילו הביקורת המקורית של דרייפוס התמקדה ברובה יותר באלגוריתמים של מניפולציית סימבולים מסדר גבוה, בעיה ש”נפתרה” בכיוונים שדרייפוס אהד (אז, בראשית היווצרות האלגוריתמים שאפשר לכנות “רשתות נוירונים”).
כפי שהיוברט דרייפוס כבר כתב בספרו המיתולוגי מהסבב הקודם של הייפ ה־AI, בשנות השבעים, What Computers Can’t Do, ההסתכלות על המוח כמכונה למניפולציה של סימבולים היא מעין אנלוגיה שיצאה משליטה ואינה משקפת את המציאות של הקוגניציה האנושית, וכל ניסיון לחקות את האופן שבו בני־אדם מבצעים מניפולציה בסימבולים מסדר גבוה נידון לכישלון. דרייפוס שווה שייכתבו עליו כשלעצמו, אבל לא אתפלא מאוד אם בעידן שלנו, שבו ההייפ של ה־AI מגובה הפעם בהישגים יוצאי דופן, הוא לא יזכה לתשומת לב רבה מעבר לכיסים קטנים של אנשים שמצד אחד מבינים את המטריה הטכנית ומצד שני הם בעלי הכשרה פילוסופית רצינית מספיק כדי לחדש חלק מהדיון שנעשה כבר אז. שווה לציין כאן שאני, ואני מניח שהרבה חוקרי היידגר אחרים, חבים לדרייפוס את החניכה הראשונית שלנו לתוך הפילוסופיה של היידגר.
כך או כך, אני רוצה להחריף מעט טיעון של דרייפוס – דווקא מהספר שלו על החטיבה הראשונה של ‘הוויה וזמן’ – לאור מה שאני מבין מהתוצאות של ה־AI העכשווי. אחת הבעיות החריפות שעומדות בפני ה־LLM’ים הנוכחיים היא בעיית הקונטקסט (גרסה רחבה יותר של מה שכונה פעם the frame problem, גרסה שדרייפוס עסק בה). הבעיה היא שה־AI אינו יודע להבחין בין חשוב ומעניין (או מהותי) לטריוויאלי או רעש, במיוחד בהקשרים שמטבעם אינם שייכים לסביבה מבוקרת. הבעיה, כפי שאני מבין אותה, היא השורש של מה שמכונה בעגה הפופולרית “הזיות” של הבינה המלאכותית. בניסוח זהיר מעט מדי, שרלוונטי למקרים של הזיות דיסקרטיות (המצאת ציטוטים, שגיאות לוגיות וכו’) נאמר שזו תוצאה של העדפה מובנית של התשובה הבטוחה עבור המודל על פני תשובה שתיחשב “נכונה” בהקשר אנושי נתון. בהקשר רחב יותר, ב”הזיות” אני לא מתכוון רק למקרים הדיסקרטיים שגם נוחים יחסית לטיפול סימפטומטי, אלא כפי שנראה, לשלל “הזיות לטנטיות” יותר שנובעות מחלוקה לא נכונה של המשקל של השיחה. מכאן, מה שמעניין הוא שמבחינת הארכיטקטורה המוצלחת הנוכחית זהו אותו המנגנון שמייצר את ההזייה והתשובה הנכונה. אין פתרון כולל לבעיה הזו. זה נובע, אם אני מבין נכון את הבעיה, מכך שבעיות במציאות האנושית הרגילה הן תוצר מסדר גבוה של פעילות רגילה בתוך עולם נתון. אצל ה־AI היום מדובר למעשה בתגמול על ניחושים בסביבה מבוקרת. במובן הזה, לא רק שהבינה המלאכותית הנוכחית אינה “מחקה” את האדם, אלא שהמפתחים שלה, בצדק רב, נקטו גישות של “למידת מכונה”, שמטבעה לומדת באופן אחר לחלוטין מבני האדם.
כעת ניגש ללמה האלגוריתם החדש חשוב. ניקח לדוגמה את הארכיטקטורה של נוירון דיגיטלי. הארכיטקטורה מכתיבה שהלמידה של המכונה תיעשה ביחס לכמות גדולה מאוד של נתונים מקודדים דיגיטלית, ובאימון סטטיסטי דחוס שהופך לקשיח בעקבות בחירה תכנונית, שלא לומר כלכלית, מודעת: “המשקלים” שהתקבעו, והם שקובעים את חלק הארי של תגובת ה־AI, כבר לא ישתנו עבור משתמש הקצה. פירוש הדבר שבניגוד לכל בן־אדם, ה־AI ניגש למעשה לכל בעיה עם שורה ארוכה מאוד של “הנחות מוקדמות” מקודדות מראש ביחס לבעיה שהוא נדרש לפתור. למעשה, אין למשתמש הקצה גם דרך ממשית “לתקן” את אותן הנחות מרגע שהבינה אומנה, ולבטל למידה מוקדמת שלה אם היא הביאה לה מידה מסוימת של הצלחה בהקשרים מופשטים לחלוטין מבעיות של בני־אדם בעולם האמיתי. אפילו NotebookLM, שמשווק לחוקרים במדעי הרוח ככלי שמנטרל לחלוטין כל “ידע קודם” ויודע להתחשב לכאורה רק בנתונים שהועלו אליו, אינו מסוגל לכך, משתי סיבות היפותטיות (כי לא אני ולא איש מחוץ לגוגל יודע מה הקוד, אבל לפי התוצאות בשטח והיכרות עם התעשייה אפשר למסגר זאת כניחוש מושכל). א’ מה ש־NotebookLM עושה למעשה הוא למפות בעצמו, באמצעות ה־LLM, אינדקס גיאומטרי של הנתונים שהועלו אליו, והמיפוי הזה נעשה בדיוק עם אותן הנחות מוקדמות שדיברנו עליהן. ב’ גם לאחר המיפוי, כששואלים אותו שאלות, מה שמגביל אותו מלסטות, לכאורה, מהקונטקסט שהוגדר לו, הוא למעשה פרומפט סמוי ברקע שמבקש ממנו לעשות זאת. אלא שכמו ב”גידורים” אחרים המהסוג הזה, שמיישמים כל ה־LLM’ים הגדולים, מדובר בביטוי לבעיה רקורסיבית: אם אתה מבקש משהו מה־AI והוא שוגה, אתה יכול לבקש ממנו שלא ישגה. אלא שהבקשה שלא ישגה חשופה, פחות או יותר, לאותו סיכוי לטעות. הניסיון לתקן טעויות באמצעות “עוד טקסט” (או מיפוי נוסף מחודש של כל השיחה) כנראה ייכשל. ועוד: ככל שאתה מוסיף “עוד הגנות” מהסוג הזה, האפקטיביות הממשית של ה־AI יורדת. למיטב הבנתי זהו פרדוקס שנטוע באופן שבו עושים דברים כרגע, ואין לו אופק תיאורטי לפתרון שאינו בגדר טיפול סימפטומטי שאני מכיר. למעשה, בתוך מה שמכונה “חלון הקונטקסט”, אתם מנהלים שיחה עם ה־AI, והאופן שבו הוא זוכר מה נאמר בה קודם הוא פרומפט שמכיל כל פעם מחדש את כל השיחה כך ש”מאכילים את התשובות שלכם ושל ה־AI” חזרה להקשר חדש שצומח באופן לינארי, בניגוד לאופן שבו שיחה אנושית רגילה מתנהלת. יש פה גם מנגנון דחיסה שעובד כשהשיחה מתארכת יתר על המידה שגם הוא לא תורם פלאים לאנושיות של החשיבה פה. המודל למעשה “חסר זיכרון” במובן המכריע של אנלוגיה רצינית למושג האנושי המקביל: הממד הטמפורלי, והמשקל השונה שיש לכל מהלך בזמן נתון ביחס לקונטקסט שבו נוצר, אינם מקבלים משקל ממשי, וזו בעיה שמחריפה ככל שהשיחה מתארכת.
(תרדמת התבונה מולידה מפלצות, גויה, 1799~)
מה שמעניין כאן הוא ההשלכות, משום שהן פחות חד־משמעיות ממה שאפשר היה לצפות. פירוש הדבר, בראש ובראשונה, שלצורת ארגון המידע של הבינה המלאכותית העכשווית יש גבול ברור ללמידה מחודשת: היא תלויה ב”חלון הקונטקסט”. אחת הדרכים הוודאיות להגדיל אותו באופן שמשמעותי למשתמש הקצה היא “עוד אנרגיה”, שכידוע עולה כסף – ועל ודאות, כידוע, שווה לשלם. למעשה ישנו חשד ממשי שהרבה מההתקדמות של ה־AI בשנים האחרונות חבה חלק לא קטן לגישה ילדותית למדי של brute force, שמעבר להיעדר ההצדקה הכלכלית (ויש שיאמרו, הסביבתית) שלה, היא גם לא עשויה להתגבר על בעיה ממשית באופן שבו AI מסוגל לנהל “דיון” על משהו שאינו מקודד כל־כולו מראש בתוך מאגר נתונים כזה או אחר. כל מי שעוסק בפילוסופיה (מרמה מסוימת) וניסה את כוחו בדיון עם AI מבין את התסכול הזה, שהוא הצורה הפרדיגמטית באמת של הזייה, למרות שמדובר במשהו עדין ופחות דיסקרטי. הנחות שכבר הוסכמו נזרקות כלאחר יד או נשכחות, הנחות מובלעות שרירותיות למדי מתווספות, והיכולת של ה־AI לשקול מידע חדש לאור מרכז הכובד של הדיון, לעומת מרכז הכובד של הספרות הקיימת, מוגבלת למדי. אם ננסה לנסח זאת באופן בהיר יותר לאנשים בעלי מיומנויות אחרות, חשובות יותר, נוכל לומר שמה שרולס כינה “אקוויליבריום רפלקטיבי” הוא משהו שהבינה המלאכותית מתקשה לתחזק לאורך זמן או לעומק ממשי. אצל בני אדם התאמות שכבר נעשו בעבר שומרות על הרלוונטיות שלהן לאור מיקומן היחסי בתהליך הרפלקסיה. מרכז הכובד של הבינה המלאכותית, לעומת זאת, נשמר, כאמור, מול הספרות ולא במרכז הכובד שנוצר באופן טבעי בשיחה תבונית בין אנשים. אני מוכן אפילו לנסח זאת כהיפותזה: בהנתן שה־AI עבר אימון על כמות גדולה מספיק של תוכן מקצועי, הוא לא יצליח לשמר במהלך שיחה ארוכה מרכז כובד של שסוטה מהספרות המקצועית באותו התחום לאורך זמן וגם לשמר את אותה רמת ביצוע שיש לו בסביבה שדומה יותר לסביבת האימונים שלו.
השלכה נוספת, כמעט טריוויאלית, היא שזה משנה מאוד לסוג הפילוסופיה שה־AI מסוגל להפיק. בתנאים של מאות אלפי נתונים קיימים מתחום ידע קיים כמו פילוסופיה, הוא מסוגל לביצועים לא רעים בכלל, שהרוב המוחלט של המרצים לפילוסופיה יכולים רק להתקנא בהם. אלא שבמידה רבה היכולת הזו שלו קשורה לסוג הפילוסופיה שנעשה מראש פופולרי בעולם המערבי, כפי שדרייפוס ציין, בעקבות הנחות קדומות מסורתיות מסוימות. הכוונה היא פחות לטיעונים פילוסופיים כאלו ולא אחרים, ויותר לצורה שבה נעשית פילוסופיה. מי שיש לו יד ורגל בתולדות הפילוסופיה מבין היטב את הממד שאפשר לכנות “היסטורי” של הפילוסופיה. עם זאת, במאה השנים האחרונות המגמה בפילוסופיה – וזה לא משנה גם אם היא מגיעה מהיבשת – היא להיענות לאתגר של סביבה גלובלית, שהיא כמעט בהגדרה סביבה א־היסטורית. מאמרים נכתבים כך שיסתמכו – לכאורה – על כמה שפחות הנחות מוקדמות אינטואיטיביות שאינן משותפות לחלק גדול מבני־האדם, בתהליך שהוא כמובן רפלקסיבי: סוג ההנחות שכדאי או לא כדאי להכניס למאמר או לספר מפורסם נוטה, מעצם הסביבה, להנחות שקשורות כמה שפחות לעולם הקונקרטי שבו האדם עושה פילוסופיה. ההטיה הזו שיחקה במשך עשורים תפקיד מרכזי בתשתית החומרית שבה פילוסופיה נעשית, וכפועל יוצא, בהחלט נראה כאילו ה־AI מסוגל לייצר התערבות מקצועית בשיח הפילוסופי המקובל ולעקוף את המתחרים שלו בקלות יחסית: הסיבה הפשוטה היא שסוג הפילוסופיה הזה נוטה מלכתחילה לעודד פילוסופיה שניתנת לקידוד ולהעברה ללא צורך בהבנה משותפת פרטיקולרית מסוימת.
במובן הזה, לפני כמה ימים התפרסמה כתבה מעולה ב”הארץ” על האופן שבו מתרגמים של ספרות משפות זרות מתמודדים עם הטכנולוגיה החדשה. אני ממליץ שתלכו לקרוא אותה, אבל מה שחשוב לענייננו הוא שנאמר שם, בהערת אגב, שספרות עיונית יכולה היום להיות מתורגמת באופן כמעט אוטומטי באיכות גבוהה יותר ממה שהייתם מקבלים ממתרגם רגיל. וזה נכון ולא נכון. זה נכון מאוד ביחס לטקסטים עיוניים שנכתבו, כאמור, בתנאים שציינו לעיל, קרי בעשורים האחרונים. זה פחות נכון לגבי פילוסופיה היסטורית: תרגום של פילוסופיה מהסוג הזה דורש, כידוע, מודעות רבתי לאנכרוניזם פילוסופי מצד אחד, וחשיבה על רלוונטיות מצד שני. זו כשלעצמה תלויה באופן עמוק בסוג השיחה שאנחנו מנהלים ברגע נתון על פילוסופיה היסטורית; ובהתאמה, אפשר לראות למשל בפילוסופיה עתיקה תרגומים שצומחים מהקשרים אקדמיים שסוג הבעיות המעניינות אותם הוא מסוג אחד, לעומת תרגום של אותו טקסט בהקשר של בעיות אחרות. מטבע הדברים, אני משתמש בדוגמאות “ממוסדות”, אבל העוקץ האמיתי מצוי דווקא בהקשרים שאינם צפויים להיות ממופים בקרוב, קל וחומר אם ההטיה הכלכלית של פיתוח ה־AI היא לעבר נתונים גדולים, זמינים, ושכבר מקודדים באופן כזה או אחר. הכוונה כמובן לשיחה פילוסופית רצינית שמתנהלת בעולם האנושי.
רצה הגורל, ודווקא הזדמן לי כורח לערוך טקסט עיוני שתורגם בידי AI. יצא לי כבר לעבוד על כמה תרגומים אנושיים, כך שזו הזדמנות מעניינת ללמוד איפה אנחנו נמצאים כרגע. כאמור, הטקסט העיוני המתורגם הוא מהעשורים האחרונים, ובהתאמה התרגום של הבינה המלאכותית בהקשר הזה מוצלח הרבה יותר ממה שמתרגם אנושי היה עושה. בייחוד, בעיות גלובליות יותר – שאינן דורשות תשומת לב ברמת השורה – ניתנות לפתרון פשוט יחסית באמצעות כלי העריכה של ה־AI. אלא שאליה וקוץ בה. אפילו בתרגום טקסטים שכבר נערכו בעבר ושייכים להקשר אקטואלי יחסית, הטיוב של התרגום והעריכה שלו אינם פוחתים. כן, יש פחות טעויות אנושיות לתקן, כמותית. אלא שרוב העבודה של עורך היא למעשה שורה של הכרעות קטנות לאורך זמן, בהתאם למגוון שיקולים: מדעיים, פילולוגיים, פוליטיים ועוד. זו עבודה סיזיפית, גם אם הרבה מההחלטות מסתיימות בהכרעה לטובת השרירותיות – “הניטרליות” – היחסית של ה־AI, ולו רק משום שגם כשהוא אינו מדייק, זה חשוב. ויתור על שלב הביקורת האנושית בתהליך מהסוג הזה, אם הוא נשקל כרגע, ולדעתי גם בעתיד הנראה לעין, הוא פעולה של חוסר אחריות אינטלקטואלית מהמעלה הראשונה. ככל שעיניי רואות, ה־AI לא עתיד “לקבל את המפתחות” בעתיד הנראה לעין, לפחות אם תשתית חברתית בסיסית למדי של אחריות אינטלקטואלית תישמר.
לב הטענה שלי, אם כן, הוא שבכל המישורים השונים, החל מהכלכלי, דרך החברתי והמוסדי ועד הטכנולוגי, ההנחה היסודית של “דריידיגר” (הלחם משעשע, שהיה נפוץ, של דרייפוס־היידגר), שלפיה זה מאפיין מהותי של האדם לעבוד במסגרת עולם שנתון לו מראש – לא נס ליחה. ככל שאנחנו מתרחקים מהנחה זו, בכל אחת מהרמות המדוברות, אנחנו למעשה יוצרים לא רק בעיות אנושיות אלא בעיות טכנולוגיות ממשיות. הדברים אמורים בייחוד לגבי מרחבים, פרקטיקות והיררכיות מסורתיות – דוגמת העורך והסופר – שמאפשרות את ההתרחשות של החשיבה שמשוחררת, למעשה, ממגבלות שלכתחילה הן דומות באופן מפתיע למגבלות שעברנו עליהן שיש ל־AI. זה אמנם לא התחום שלי, אבל כצופה מן הצד מעניין לצפות בהתפתחות הטכנולוגיה של הבינה המלאכותית, ובעיקר בתגובה האנושית אליה, ככל שאנחנו מורידים ממנה את ההייפ הפוטוריסטי ומתמקדים במה שכבר הושג, מה שעתיד להיות מושג, ומה שסביר להניח שלא יושג לעולם במסלול הזה.