בינה מלאכותית במערכת ההשכלה הגבוהה
כשהבינה המלאכותית מאיימת על הידע
בינה מלאכותית משנה את הידע. כיצד היא משפיעה על מעורבות הסטודנטים? אילו השלכות יש לה על האופן שבו האוניברסיטאות מבינות את תפקידן? ומה המשמעות שלה ביחס לחשיבות החשיבה הביקורתית בתהליך יצירת ידע? יפה קליטגארד שטריקר בוחן שאלות אלו.
מאת יפה קליטגארד שטריקר (Jeppe Klitgaard Stricker)
ההשכלה הגבוהה נמצאת במשבר מתמשך. לא מדובר אך ורק בסוגיות של מידע שגוי ודיסאינפורמציה אלא במשהו שעלול להתברר כהרסני באותה מידה: משבר הנגרם בשל ידע סינתטי, שמוביל לזיהום הסביבה האפיסטמית שלנו ומערער את העקרונות הבסיסיים של מה שאנו מחשיבים כידע, כראוי לידיעה וכאמת.
מובן שהבעיה אינה טמונה בקיומם של תכנים שנוצרו בידי בינה מלאכותית. אלא שתכנים אלו נראים יותר ויותר כידע, אף על פי שהם עוקפים את מנגנוני הלגיטימציה של ידע. מנגנוני הגנה מסורתיים כמו ביקורת עמיתים, דיונים אקדמיים ושקיפות מתודולוגית מאבדים ממשקלם בסביבה שבה אמינות נוצרת פחות על בסיס מומחיות בנושא ויותר באמצעות כושר שכנוע לשוני. טענה מנוסחת היטב, מובנית באופן ברור ומוצגת בביטחון עצמי מתקבלת יותר ויותר כידע או כאמת, בלי קשר למשקלה האפיסטמי.
אין מדובר רק בכך שסטודנטים כותבים את העבודות שלהם בעזרת ChatGPT אלא בעובדה שמוסדות שלמים כמו אוניברסיטאות, בתי הוצאה לאור וגופים המחליטים החלטות פוליטיות עובדים יותר ויותר עם תכנים שנוצרו בידי בינה מלאכותית. תכנים אלו מטשטשים את הגבול בין הבנה אנושית לסבירות סטטיסטית. מה קורה כאשר האחראים על יצירת ידע אינם יכולים עוד להיות בטוחים מאין הידע מגיע או אם הוא מבוסס על ההישגים האינטלקטואליים שעליהן התבססה בעבר העבודה המדעית?
שכנוע סינתטי הולך וצובר תאוצה
הסכנה בבינה המלאכותית הגנרטיבית אינה נובעת מהעובדה שהיא מייצרת מדי פעם ידע הזוי ומדומה. המשבר אף אינו נובע רק מכך שהבינה המלאכותית עושה טעויות. טעויות אפשר לתקן. המשבר טמון בעובדה שהבינה המלאכותית מחברת בין תכנים באופן הגיוני ומשכנע ויוצרת טקסטים שמקפידים על כללי מבנה הטיעון עד שאינם מעוררים ספק כלשהו מלכתחילה. אנו עומדים בפני עולם שבו ידע אינו נוצר באמצעות עימותים ודיונים אלא באמצעות תחזיות סטטיסטיות, עולם שבו מה שנראה כאמין מחליף את הדבר האמיתי.סטודנטים חשים כבר כעת בשינוי הזה. כאשר נותנים למשתתפי הקורס משימה לכתוב ניתוח של טיעונים, רבים מהם פונים מיד לפרשנויות שנוצרו בידי הבינה המלאכותית. פרשנויות אלו מספקות תשובות ברורות וקלות להבנה בניסוחים מהוקצעים. עם זאת למעשה מדובר במילים ריקות בלבד מכיוון שהן אינן מציעות פרשנות אמיתית שעומדת בפני עצמה אלא סיכום מקצועי למראית עין המהווה תחליף לדיון אמיתי. התוצאה היא לא רק דור של סטודנטים המתקשים בקריאה מעמיקה אלא גם שינוי במשמעות האמיתית של הקריאה.
כך, העיסוק המעמיק בטקסטים מורכבים וחיבור תגובות מבוססות ידע מוחלפים באופן חלקי או מלא באפשרות להשתמש במבחר עצום של פרשנויות תוך זמן קצר. באופן זה נמשך המשבר שצץ בעקבות הידע הסינתטי. לא באמצעות מידע שגוי מובהק, אלא באמצעות אובדן הדרגתי של משמעות הקריטריונים המבדילים בין ידע לידע מדומה.
האחריות החלקית של מערכת ההשכלה הגבוהה
אוניברסיטאות אינן קורבנות תמימים במשבר הנוכחי של ידע סינתטי. נהפוך הוא: הן תורמות להאצת המשבר. תחת הלחץ המתמיד להשיג מימון, לייצר מחקרים, לצבור ציטוטים ולייצר "תכנים מובילים", נוצרה סביבה המעדיפה כמות על פני רמת הידע. המחקר הפך לסחורה והבינה המלאכותית הגנרטיבית רק מחזקת מגמה שכבר ניתן היה להבחין בה: מסחור של ייצור ידע, שבו הישגים אינטלקטואליים נמדדים יותר ויותר על פי מדדים כמותיים שמוקירים מהירות ולא תוכן.דוגמה אחת היא התפשטותם של מאמרים באיכות ירודה במחקר האקדמי. באמצעות בינה מלאכותית קל מאוד היום לייצר מאמרים מדעיים שנשמעים משכנעים. מאמרים אלו מתפרסמים לרוב בכתבי עת פחות יוקרתיים. כיצד אוניברסיטאות מגיבות להתפתחות זו? באמצעות תוכנות לזיהוי זיופים, מדיניות נגד העתקות וצעדים תגובתיים אחרים שאינם פותרים את הבעיה האמיתית: המבנים האקדמיים מתגמלים בראש ובראשונה את אשליית הפרודוקטיביות ופחות את ההישגים האינטלקטואליים האמיתיים. בינה מלאכותית אינה המחלה. היא סימפטום של מערכת שכבר בעבר העדיפה תוצאות מדידות על פני עבודת מחקר בסיסית.
ומה שגרוע אף יותר הוא שמוסדות רבים בוחרים להשתמש בבינה מלאכותית בטענה שהיא יעילה. הם מטיפים למערכות הערכה אוטומטיות, משוב שנוצר בידי בינה מלאכותית ובניית תוכניות לימוד באמצעות אלגוריתמים כפתרונות לעומס אדמיניסטרטיבי. אולם מהי מטרת היעילות הזאת? כאשר ההערכה מופקדת בידי מערכת שאינה מסוגלת להבדיל בין עיסוק מעמיק ורציני לקוהרנטיות שטחית, הקרקע נשמטת מתחת לרגלי ההשכלה הגבוהה.
יצרנו סביבה שכמעט באופן לא מודע גורמת גם לסטודנטים וגם למרצים לעסוק בידע יותר באופן מוכוון הישגים ופחות באופן מעמיק ויסודי. ודאי שעדיין עורכים ומפרסמים מחקרים מעמיקים, אולם לחץ זמן, גם אם הוא לעיתים סמוי, קיים אפילו בקרב החוקרים המובילים. סטודנטים לא בהכרח רואים בכך "רמאות" במובן הרגיל כאשר הם משתמשים בבינה מלאכותית גנרטיבית כשהם כותבים חיבורים ועורכים מעט את התוצאה - הם פשוט מסתגלים לסביבה שבה ייצור הידע הופך למדומה יותר ויותר במקום להיות עבודה אמיתית. האם זה שגוי? אולי - אולי לא.
עתיד הידע במערכת השכלה הגבוהה
מערכת ההשכלה הגבוהה יכולה לקדם את הדיוק בידע באמצעות תהליכים המעניקים משמעות לידע דרך חשיבה מחודשת בהוראה ובמחקר, או שהיא עלולה להמשיך להיסחף לעידן של צריכה חופשית ונטולת מאמץ של תכנים אינטלקטואליים בים של ידע סינתטי.
זו אינה קריאה לטכנופוביה. לבינה מלאכותית יהיה - וחייב שיהיה - מקום בהשכלה הגבוהה. אולם היא אינה יכולה לתפוס את המקום הזה בלי ביקורת או רק על בסיס הטיעון של שיפורים בתפוקה. שכן מה שמונח כאן על כף המאזניים הוא לא פחות מאשר השלמות האפיסטמית של מערכת ההשכלה הגבוהה. אם היא יכולה להשלים עם תכנים שהבינה המלאכותית יצרה, היא מוותרת על תפקידה כמגינה על המחקר ועל הסקרנות.
לא קל להתמודד עם שינוי כזה. לשם כך המוסדות צריכים לשנות את קריטריוני ההערכה שלהם כדי לתעדף את התהליך על פני התוצאה, לחזק את ערכן של שיטות דיסציפלינריות שלא פשוט לסכם בקלות, וללמד את הסטודנטים כיצד להבדיל בין ידע אמיתי לידע סינתטי. זוהי ללא ספק משימה שאינה נוחה ואף גוזלת זמן.
אולם האלטרנטיבה גרועה פי כמה: עתיד שבו האוניברסיטאות אינן עוד מקום של חיפוש אחר האמת, אלא מרכז להחלפת טיעונים מנוסחים היטב אך ריקים מתוכן, הנוצרים ללא הרף ומופצים ללא גבול, לחלוטין בלי העיסוק האינטלקטואלי שבעבר אפיין את המשמעות של לדעת.