המסע האחרון, תאילנד #7

זמן

ביהירותי חסרת התקנה, (והתקרה אני תקווה שיש לה רצפה) אני מגדיר (מנסה ‘לאחוז תודעתית‘) את המושג ‘זמן’.
להבנתי, המבחן (היי טיורינג), אינו האם אבחין בין תשובת אנוש לזו של AI. עוד טרם חשיפתי ל Chat GPT,  פינטזתי להעמיד למבחן את אחיזותיי התפישתיות באמצעות מערכת גנרית, אוניברסלית, תחזיר לי את המושג אותו אחזתי מילולית. זה התיקוף ה(כמעט) אולטמטיבי של ‘תודעה זרה’ (גם ‘תודעה’ זו נסמכת על הטיות תודעתיות אנושיות מקדמיות.)
בפועל, יישומית, הייתי רוצה לשאול את (ה)בינה:
‘הגדרה של מה הוא הטקסט הבא’:

“התייחסות תפישתית לממד עצמאי, לא ניתן להשפעה אך כן למדידה אובייקטיבית, של רצף תנועה
חד־כיווני, כשממד זה מוחל על כל.”*

שומע אלן? בינתיים, הם כושלים במבחן, ענו לי:
“הטקסט הבא מתאר תפישה מסוימת של ממד עצמאי, אשר אינה ניתנת להשפעה ואשר מאפשרת מדידה אובייקטיבית של רצף תנועה חד-כיווני שמוחל על כל.”
בהצעתי לאחוז תודעתית את המושג ‘זמן’ עוד לא שם .
עם זאת – לא מנחם – גם הם לא; ניכר שזו תשובה מכנית – מילא. (כמו פופוליסטים ימניים שמזהים את סנטימנט שומעיהם) הם רוכבים על מה שאני סיפקתי בשאלתי, ולא מקדמים תשובה.
בשונה ממני, הם בטוח יתקדמו.**

רוטינות

‘יאירי’, אמי הייתה שואלת רוטינית אחת לשנה ‘איזו עוגה תרצה ליום ההולדת?’ ‘עוגת גבינה אמא’ הייתי עונה.
‘אולי כדאי אחרת, שלא יימאס לך?’

שובע ונחיתות

עד היום אני מתפעל מאחד מידידי, לא חשוב מאיזו עדה, שהיה סוחט בילדותנו את הפיתה עם חומוס שזה עתה רכש במסעדה, כי היה בה ‘יותר מדי חומוס’. אחר, מעדה לא רחוקה גאוגרפית, לא נגע באוכל גם כשהיה רעב, אם לא עמד בסטנדרט אסתטי של טעמו הוויזואלי. מי שיודעים לעצור כשלא חשוב מה וכמה נותר בצלחת – כי חשים מלאים נוסכים בי רגשי נחיתות. בעלי דיסציפלינה שיודעים לעצור  במודע, כי ‘עד כאן’ מושחים אותי ברגשות אשם. אני מתנחם בעובדה שאני מייחס לאחרונים אנאליות, אם הם משיתים וולונטרית רגולציה על הנאותיהם [גם אם אם עובדתית זה לא בהכרח נכון .]

יש לי גיס אמריקאי מעולה – מתייחס ממש מצוין לאחותי – שפיתח (לשיטתו) אבחנה מצויינת לאיכות חומוס.
פעם, בקפה אחרי עלי קרוואן ביקש ‘טורקי נטול קפאין.’

* סמכות הלכתית(?)

רני רמות הוא אחד האנשים הכי אינטליגנטיים שפגשתי. בחיי. פעמיים. אחרי שמנפים את הכאילויים, רני ישאר מאלה שייותרו.

שלחתי אליו את הפוסט, שיבקר:

רני, אנא ראה אם הבוקסה על ה’זמן’ קריאה ומובנת.

Rani Ramot: אז ככה.
הטקסט מאוד מפותל ודורש הרבה רצון טוב.
את ההגדרה הבנתי מתוך זה שכבר ציינת שאתה מגדיר זמן. זה יתרון שהיה לי שלא היה לבוט. כיוון שכך יתכן שקיבלת מהבוט את אחת התשובות הטובות יותר שהיית מקבל ממישהו.יש טענה שבעברית הוא הרבה יותר חלש מאשר באנגלית. אולי שווה לנסות לתרגם את זה אם כי אני סקפטי.
למיטב ידיעתי הוא לא עושה פירוק לינגוויסטי של הטקסט אלא משווה אותו כמכלול וכחלקים לאינספור טקסטים קיימים.
בשום מקום הוא לא ימצא דברים עם קורלציה חזקה לניסוח שלך.

מסכים עם כל מילה. ואיך אתה מקבל את ההגדרה?

Rani Ramot: פיזיקאי היה מוצא חורים כמו למשל מימד עצמאי ואולי אפילו לא ניתן להשפעה.

מה עוד?

Rani Ramot: טוב כיוון שאתה מדבר על התייחסות תפישתית אז אפשר למחול על העצמאות של המימד ועל חוסר היכולת להשפיע כי אתה מתייחס מצד הניסיון האנושי ולא מכיוון של שעון אטומי שהעלו על מטוס.

בדיוק,
אז לאור זאת, היכן רני לא מסכים עם ההגדרה שאני מציע?

Rani Ramot: דיברתי על פיזיקאי.
בינתיים אני אחייה עם זה.

יפה, אם אתה חי עם זה, בינתיים, אני יכול לנוח על משכבי בשלום.

** לינגוויסטי–סמנטי, וקטורים לא נפגשים

להבנתי, ה’בינה המלאכותית’ עליה נסמכת Open AI, היא תמצות לינגוויסטי של חכמת ההמונים. כלומר עוקבת אחרי סבירות שימוש ההמון בהמון טקסט מקדמי.

אני מוכוון, מתיימר, לאחוז מהות, באמצעות מלל – סמנטיקה; מילים מהוות אינסטרומנטים ששילובם מהווה כלי לקיבול מהות.

מכיוון שבהווייתי אני מנתץ פרדיגמות, מחפש בהן את פערי הרציונל ולא את קונסטרוקציית השפה, נראה לי שכעת מערכות הבינה מתקדמות אחרת. טקסטים כ-שלי הן רעש (גם) עבורן.

אולי AI 2.0 יוכוונו לטפל בסמנטיקה.

*** תרומת ארז בן משה

אחד האספקטים הלא מספיק מדוברים במודלי שפה גדולים כמו GPT3.x ודומיו הם מה שנקרא Sentence Embeddings.

למעשה מודלים אלה יכולים לקחת טקסט באורך כלשהו (במקרה של GPT3.5 למשל עד 4192 טוקנים שזה בערך 3000 מילים) ולתת להם ייצוג מספרי וקטורי.

מה שמיוחד בוקטורים האלה הוא שהם מזקקים את המשמעות של המשפט/ פסקה בצורה כזו שטקסטים בעלי משמעות דומה או נושאים דומים מקבלים ייצוג דומה/ קרוב באותו מרחב וקטורי ואילו אלה שאינם דומים מקבלים ייצוג שונה/ רחוק באותו מרחב.

בגלל שאותם מודלים מבינים שפה בצורה מאוד טובה גם הייצוגים שהם לומדים מצליחים לשמר אספקטים מאוד מדויקים של אותה פסקא.