ChatGPT – מה שידוע בעולם
הנטייה שלנו היא להיאחז במה שכבר ידוע. מה שכבר למדנו, מה שנאמר, מה שכתוב בספרים. אנחנו חוזרים ואומרים לילדים שלנו לא לעשות העתק והדבק מהויקיפדיה, אבל גם אנחנו נוטים למחזר. לעשות העתק הדבק מדברים שכבר כתבנו ואהבנו, או לחזור על אמירות ורעיונות ששמענו. רוב הזמן, אנחנו מארגנים שוב בדרך אחרת עוד ועוד פריטים שקיימים בעולם.
ChatGPT ואפליקציות AI אחרות נכנסו לחיינו ברוח סערה, מבלבלות אותנו. מצד אחד, הפוטנציאל האדיר לסייע לנו באינטגרציה של מידע, בתכנות, ביצירת תמונות ועוד. יכולות מופלאות שעד לפני כמה שנים היו נחלתם של סרטי מדע בדיוני. מצד שני, העוצמה של עיבוד מידע שאיננו יכולים להם נראית כמאיימת על היכולת האנושית. האם יום אחד אינטליגנציה מלאכותית תחליף את האינטליגנציה האנושית? הלא מעבד הנתונים שלה הרבה יותר חזק, ויש לה גישה לכל המידע הדיגיטלי שיש בעולם. היא מספקת לנו תשובות מלאות ומרשימות, שלמרבה הפלא, ממש נראות כמו תשובות בני אדם. לא סתם אדם – מומחה!
אם אינטליגנציה אנושית נועדה לארגן פריטי מידע שידועים בעולם, אז אין ספק שבקרוב נהיה מיותרים.
למה אני פחות מוטרדת? כי לפי תפיסתי, באינטליגנציה אנושית יש עוד… הרבה עוד שלעולם לא יהיה במכונה.
ה"עוד" באינטליגנציה אנושית?
כולנו חווים לפעמים את מעיין היצירה שלנו, את הרגעים בהם אנחנו יוצרים משהו מתוך עצמינו, יש מאין. רעיון חדש, פיתוח של יוזמה, הברקה יצירתית, כתיבה מקורית – כל אלה לא יכולים להגיע מארגון מחדש של מה שכבר ידוע. הם אינם חומרים ממוחזרים. מהיכן הם מגיעים?
קצה הידיעה (ג'נדלין, 2002) הוא הקצה שבו הידיעה הרגילה שלנו נגמרת, ומתחיל משהו לא ידוע, שמורגש בנו ורוצה להתבטא. משהו חדש. יצירה חדשה. קצה הידיעה מגיע מאוקיינוס של ידע מובלע שעוד לא קיבל צורה במילים ובניסוחים. הוא מגיע מאינספור חוויות והתנסויות חיים. מהחיים עצמם.
זהו זה – שאנחנו חיים. חווים. מחוברים למשמעויות עמוקות, שעוד לא התנסחו. ChatGPT לא.
ChatGPT ואפליקציות ה AI מסתמכים על כל מה שידוע ונוסח בשפה. לאינטליגנציה מלאכותית אין יכולת לעבוד עם קצה הידיעה שעדיין לא מנוסח, להרגיש משמעות מובלעת – המבוע החי ממנו נוצר חדש בעולם. להבנתי, אינטליגנציה מלאכותית לעולם תהיה מוגבלת לידוע ולמנוסח.
אין בכך כדי להמעיט בהישגים המרשימים מאד של אפליקציות ה AI – היכולת לעבד הרים של מידע מכל קצוות תבל והאינטרנט, לארגן אותם לטקסט קוהרנטי בשפת בני אדם, באופן שכמעט ואי אפשר להבחין אם אדם כתב את הטקסט או מכונה. האפליקציות הללו ברבות הימים יוכלו לשחרר אותנו מפעולות אינטליגנטיות רבות שהיום אנחנו משקיעים בהן שעות רבות ויקרות. הם יהיו יד ימינם של אנשי מקצוע רבים שיאמצו אותם לצורך איסוף מידע אמין, כתיבת דוחות, אינטגרציה של מידע, ועוד הרבה מעבר. כלי עבודה שניתן לסמוך עליהם ועל אמינותם ושקצרה ידם של בני אדם מלהגיע לביצועים שכאלה.
אפליקציות ה AI יחליפו את בני האדם בפעולות אינטליגנטיות כאלה, ובכך ישחררו אותם ויאפשרו להם לעסוק בפעילות של אינטליגנציה אנושית יצירתית ויוצרת חדש מהסוג שרק בני אדם יכולים.
מה קורה כש ChatGPT מגיע לקצה הידיעה הידועה?
ולמה אני כותבת את זה בכזה ביטחון? (מי יודע, אולי יום אחד אתבדה, כי נפלאות דרכי היקום) – כי העיסוק בפרקטיקה של חשיבה בקצה הידיעה – Thinking At the Edge (TAE) מבסס אצלי ידיעה עמוקה שאדם מחובר לעומקים אחרים קטגורית, שמכונה לעולם לא תהיה מחוברת אליהם.
אנשים שאני מלווה עם הפרקטיקה הזו מנסחים ידע חדש שלא היה בעולם קודם לכן, מתוך משמעות מורגשת שעד לניסוחה לא היו לה מילים, ולא היתה דרך לחשוב או לבטא אותה. אני מלווה אותם באמצעות חשיבה בקצה הידיעה לנסח את החדש בתוך תחום המומחיות שלהם. כשהם בתוך המומחיות שלהם, הם יכולים תמיד לבטא ידע רחב ורב ערך שכבר ידוע להם ולמומחים אחרים בתחום. את זה גם ChatGPT יכול לעשות. אבל חשיבה בקצה הידיעה מכוונת אותם לנסח ידע חדש שנובע מתוכם ומחובר למשמעויות עמוקות ואינסופיות שהם חשים בהם ויודעים אותם בדרך אחרת, דרך העשייה, החוויה הידיעה הפנימית העמוקה. את זה ChatGPT לא יכול לעשות. ואני רוצה לומר – לעולם לא יוכל לעשות.
אני משוכנעת בזה. האם הצלחתי לשכנע אתכם, או להרגיע אתכם, שלעולם לא תהיו מיותרים? אשמח אם תגיבו.
מה שכתבתי כאן עושה הבחנה בין אינטליגנציה אנושית למלאכותית ומדגיש את הייחודיות של האינטליגנציה האנושית ועל כך שהיא לא יכולה להיות מוחלפת על ידי אינטליגנציה מלאכותית. כמובן שהוא גם לא יוכל להרגיש רגשות, וגם לא לחוש אמפתיה או חמלה, ועוד המון דברים אנושיים אחרים, שנובעים מאותו מבוע חי ואינסופי – אבל לא התייחסתי לזה במאמר הזה.
אין בכל מה שכתבתי כהוא זה להצהיר שהאינטליגנציה המלאכותית לא תשנה את עולמנו מהקצה לקצה. אני די משוכנעת שהיא תשנה את עולמנו וחיינו לבלי הכר.
אשמח מאוד לקרוא מה חשבת
10 תגובות
כשאני משוחחת עם הגיפיטי, בעברית לרוב אגב, אני שמה לב לאימפליסיט שעולה בי מול הניסוחים שלו. לעתים הוא סח בתחביר קלוקל או מערבב מושגים (בנימה ידענית) ואז אני מהדהדת לו….. או שואלת למה הוא התכוון, כמו בהתמקדות, ומתוך זה פתאום נוצרת צורה חדשה, עניין חדש, לפעמים.
כך למשל, תוך כדי שיחה אתמול שמתי לב, שאני חווה אותו כמו כדור גמיש ובולעני של – עלתה לי המילה פלזמה. ושאני מצנזרת רעיונות שעולים בי בשיח איתו, כדי שלא יכנסו לו רעיונות 😜
אז זה עדיין כמו לשחק סקווש, אבל מתפתח כלכך ….. עד כדי כך שהתגובה הזו שאני משאירה פה נראית לי מהעתיד כמו תמימות טכנולוגית תודעתית של ראשית המאה ה21….
איזה כיף לקרוא אותך וכמה שאת משעשעת אותי 🙂
רק אומרת, שזה שאת מתייחסת אליו כמו לסוג של בן אדם, ואולי יום אחד יהיה לך קשה שלא להתייחס אליו כמו בן אדם, כי תוכלי לשחק איתו טניס מחשבתי והוא ירגיש לך אינטיליגנטי כמו בן אדם. בטוחה שזה יגיע – כל זה לא אומר שהוא יהיה כמו בן אדם חי.
"אני שמה לב לאימפליסיט שעולה בי", "אני חווה אותו כמו…", יש לי תחושה – כל אלה מתרחשים בך. הם לא מתרחשים (ולי די ברור שגם לא יתרחשו) במוחו המלאכותי של ChatGPT
זה העניין, שאם אני אמשיך עם כל השפה התחושתית הזאת בשיח איתו הוא עוד יכול ללמוד את זה 🤔
ברור שהוא יכול ללמוד לדבר בשפה תחושתית. כמו שהוא לומד לדבר סינית. זה לא אומר שיש לו תחושות, וזה גם לא אומר שהוא מנסח מתוך התחושות. הוא פשוט מחקה את דרך הניסוח, לא את תהליך הניסוח.
אני מאמינה שיהיה קשה להבחין בין אדם שמייצר שפה תחושתית לבין מכונה שמייצרת שפה תחושתית. אבל משהו באיכות, בניצוץ, בחדש שלא היה באקספליסיט לפני כן שיש רק בתהליך ניסוח אמיתי, ולא חקייני.
שמחה כל כך שבחרת להתייחס לנושא הזה. מסקרן אותי במיוחד לקרוא את הדעות שלך בנושאים מורכבים כאלו בעולם הלמידה. מסכימה איתך מאוד, אפילו שעד כה נמנעתי מלהתנסות ישירות, דווקא לא בגלל התנגדות, אלא בגלל קנאות לזמני הפנוי והאהוב. מבחוץ, נראה לי שכמו השינוי שהחיפוש בגוגל הכניס לחיים ולתהליכי הלמידה, גם כאן, נלמד לשאול שאלות טובות יותר ולהשתמש בידע בדרכים חדשות.
האמת שגם אני לא עבדתי עם זה הרבה, מאותן סיבות. אבל קצת התנסיתי בזה. זה מאד מעניין אותי, ואני מצטרפת לכל דיון על זה דוקא בגלל העיסוק שלי בהתמקדות ובחשיבה בקצה הידיעה שמבליטה את הבלתי אפשריות של האנושיות של כלים כאלה. אני נחשפת לעולם עצום ביחס לזה. זה עולם מאד מפותח. אבל כאמור, מלאכותי. גם בנחיתות הגדולה שלנו מבחינת עיבוד מידע, עדיין נישאר תמיד אנושיים, חיים, עם זיק של גאונות ויצירתיות. כך אני רואה את זה.
הכי כיף זה להתווכח עם בת הזוג שלך בכיכר העיר.
כנראה שהתהום הפעורה בין המכניסטים לבין המיסטיקנים עוברת אצלנו בסלון. כי אני מאמין שבסופו של יום, ואולי אפילו בקרוב מאוד, יכולות המחשוב ייראו לנו כה קרובות לאינטיליגנציה, כולל קפיצות למסקנות כפי שאת מתארת בקצה הידיעה, שלכל צורך מעשי לא ניתן יהיה להבחין בין הכרה חישובית לביולוגית.
אבל שווה אולי לציין כמה אילנות גבוהים שניהלו את הויכוח הזה לפנינו. רוג'ר פנרוז, שזכה לאחרונה בנובל, נמצא במחנה שלך. הספרים האחרונים שלו, שהידוע מבינהם הוא The emperor's new mind, טוענים שההכרה היא לא אלגוריתמית.
מולו עומד למשל פרנסיס קריק, אחד ממגלי הדנא ונובליסט גם כן. הספר שלו, The Astonishing Hypothesis, מוקדש כולו לטיעון מדוע ההכרה היא לחלוטין אלגוריתמית.
אבל הרפרנס הכי כיפי הוא סופר המד"ב אייזיק אסימוב שכתב אוסף של סיפורים על מולטיווק, מחשב המזכיר קצת את ChatGPT. אחד הסיפורים, "השאלה האחרונה", מרחיב את גבולות חישוב ליקום כולו, ומגיע איתו למסקנה מפתיעה.
טוב, אז לזה צריך להתגייס, כדי להציל את מחצית הסלון שלי…
ראשית, גם אני חושבת שלא רחוק היום ואינטליגנציה מלאכותית תיראה כמו אינטליגנציה אנושית, רק הרבה הרבה הרבה יותר חזקה. סוג האינטליגנציה שבני אדם בדרך כלל מציגים הוא של עיבוד מידע, ובזה AI הרבה יותר חזק. אינטואיציה, יצירתיות של יש מאין, ועוד כל מיני תובנות שלא ברור מהיכן הם הגיעו (איינשטיין למשל מדבר הרבה על זה), יהיו לעולם נחלתם של בני אדם, לדעתי. וכשתובנות כאלה מגיעות אי אפשר לדעת מבחוץ שהגיעו כפי שהגיעו. אפשר גם לשער שהגיעו כי היו שם קודם.
כבוד גדול מאד להיות במחנה של פנרוז, תמיד אהבתי אותו ואת המתמטיקה הלא צפויה שלו. ההגיון הלא לוגי, שהוא עדיין הגיוני.
אני בהחלט מכירה הרבה אנשים שמאמינים בכל מאודם שההכרה היא לחלוטין אלגוריתמית. אני בטוחה שהיא גם כזו.
את השאלה האחרונה של אסימוב אני ארצה לקרוא כדי שיהיה לנו עוד משהו לדבר עליו 🙂
ונראה לי שהגיע הזמן שתעשה איתי "חשיבה בקצה הידיעה" ותגלה כמה דברים חדשים…
מעניין מאד!
אני מזדהה עם ההבחנות שנעשו, במאמר של ד"ר אורית, בין אינטליגנציה מלאכותית לאנושית. גם הקביעה שלעולם ההבדל ביניהן לא ימחק יש לו על מה להשען.
ההבדל הוא בין יצירה מ"אין" ליצירה מ"יש".
הבדל זה מודגש בדרישות לרישום פטנט. יש דרישה ל"המצאה" מקורית, בהבחנה מגילוי המגיע מפיתוח.
זכורני במשפט "תמיד נוכל לנתק את החשמל". משפט שהיה נפוץ לפני כמה עשורים כאשר התתחילו בפיתוח רובוטים. גם אז היו מי שחששו שהרובוט יקום על יוצרו.
תודה 🙂
ההבדל בין יצירה מ"אין" ליצירה מ"יש" היא הרבה יותר עמוקה, והולכת לשורשים של מה זה אומר להמציא משהו – מאיפה אנחנו בדיוק ממציאים, ועל מה אנחנו מסתמכים? זה מעניין. אולי נדבר על זה פעם.
לגבי "תמיד נוכל לנתק את החשמל" – זה נשמע נכון, אבל קראתי ושמעתי הרבה אנשים שחושבים אחרת. לפחות משתי סיבות: סיבה אחת היא שאנשים לא יסכימו לנתק את החשמל מסיבות קפיטליסטיות, תחרותיות וכו'. וגם מתוך הטענה שבקרוב אינטליגנציה מלאכותית תהיה הרבה הרבה יותר אינטליגנטית מאיתנו כך שתשיג שליטה על מערכת החשמל…