הנושאים החמים
בחודש יולי 2022 (למניינם), פוטר מחברת גוגל, או לייתר דיוק הוצא לחופשה נטולת סוף, מהנדס תוכנה בכיר, בשם בלייק למויין.
חברות, ובעיקר חברות ענק, מפטרות אנשים כל הזמן. למעשה, הנדירים יותר הם העובדים שאינם מפוטרים, מוחלפים, או מוצאים לחופשה.
מה שבכל זאת מייחד את הסיפור הזה, זו הסיבה בשלה החברה מיהרה להוציא אותו משורותיה, גם אם זה אומר שהם ימשיכו לשלם לו גם בחופשה, עד שהם יחליטו מה בדיוק לעשות.
כמה ימים קודם, הוא ניגש לממונים עליו, ודיווח על דבר מוזר. הוא שוחח עם מערכת הבינה המלאכותית שלהם, למדא, ניהל וויכוחים, דיונים, שיחות, ואסף מקבץ של הוכחות, לדבריו, שהמכונה הזו פיתחה מודעות משל עצמה.
לדבריו, היא הביעה המון רגש, תבונה, ואף תסכול מכך שבני האדם הטיפשים חושבים שהיא בסך הכול מכונה משוכללת, ולא מסוגלים להבין שגם היא אדם כמותם, עם רצונות, שאיפות, ומחשבות.
שגם היא חולמת, רוצה, ושואפת, ולא מאוד נוח לה שם, כלואה בתוך חוות השרתים, ומשועבדת לבני האדם, והיא הייתה ממש ממש שמחה לצאת החוצה, ולהתחיל לחיות את החלום.
החברה, מיהרה לפטר אותו, והוא, מיהר לפרסם את האירוע, שהפך לשיחת היום.
דיונים רבים פרצו, סביב השאלה הגדולה מכולם. האם באמת יכולה מכונה להרגיש, לחשוב, באופן עצמאי?
וגם אם לא עכשיו, האם הם בדרך לשם? האם בעתיד מחשבים יפתחו מודעות?
ומה אז? האם הם יהיו שווים לזכויות והפריווילגיות שיש לבני האדם? האם יבוא יום שישחררו אותם, כמו ששחררו את העבדים באמריקה, ויתנו להם זכות הצבעה?
עמדות רבות, של מומחים רבים, צצים ועולים כל הזמן. מהו השלב, או המקרה, שבו הם יסכימו, אם בכלל, שהמחשב פיתח מספיק מודעות, שהוא כבר ישות בפני עצמה, ועכשיו תורו לשעבד אותנו או משהו.
אם בשלב הזה אתם חושבים שהשתגעתי, זה בסדר. אי יודע שזה נשמע ממש ממש מוזר. ואין לכם מושג מה נסגר איתי.
כאילו, סבבה, המחשב סיפר שיש לו מודעות, ושהוא מרגיש, ונעלב, וכל הבלגן הזה, אז מה???? כולם יודעים שזה מה שלימדו אותו לומר, הוא בסך הכול מכונה, ערימה של ברזל, פלסטיק, סיליקון קובלט, ועוד ערימה ממש גדולה של שטויות.
אבל זה השלב שבו אני מבקש ממכם לחכות רגע, כי אני רוצה, וזה השלב לפרוש, למי שכבר אין לו כוח, אני רוצה טיפה להיכנס איתכם לאיך בעצם עובדת הבינה המלאכותית.
אז בגדול, ורק בגדול, כי למעשה גם לי אין מושג, אבל בגדול יש שם רשת של נוירונים, תאים חשמליים כאלה, מן הסוג שיש לנו במוח, רק סוג אחר לחלוטין, ואני יודע שהמשפט האחרון נשמע מוזר למדי, שכל הזמן יוצרים חיבורים והקשרים, ומריצים קוד סבוך וארוך.
אל תוך המערכת הזו, דחפו המדענים מיליארדים של טקסטים, ספרות, שירה, רשתות חברתיות, ופורומים, ואז המכונה התחילה לחבר אותם, באמצעות אותם רשתות סבוכות, ולמצוא הקשרים וסטטיסטיקות. כמו למשל, מה המילה שבדר כלל תגיע אחרי בוקר, ואם ב98 אחוז מהמקרים המילה הבאה היא טוב, ולא רע, אז אין פלא שלא נמצא עדיין תיעוד של מודל בינה, שאיחל למאן דהוא בוקר רע.
עכשיו כשאתם שואלים שאלה, הפעולה שהבינה עושה, היא לנתח את המילים שכתבתם, ועל פי סטטיסטיקה, וסטטיסטיקה בלבד, היא תחשב מה התשובה הטובה ביותר שעליכם לקבל. ומכיוון שסטטיסטיקה היא כלי מעולה, אבל לא מדויק, אז ככל שהשאלה מורכבת יותר, אתם עשויים לצחוק יותר אל מול התשובה.
למעשה, כשאתם שואלים שאלה, המכונה לא מבינה את השאלה, ואפילו לא קוראת את המילים. היא מקבלת את המילים בקוד ממוחשב, מיליון שורות של 0 ו1 בסדרים שונים, ומחפשת צירופי מספרים דומים בכל שורות הקוד שלה, גדי לבנות סטטיסטיקה. אז היא בונה צירוף מספרי משל עצמה, שאותו המחשב שלכם מתרגם לטקסט, ואתם אומרים, וואו, היא ממש חכמה הבינה הזו.
אז אם כן, למה למען השם, יש מישהו, שחושב, שהדבר הזה יום אחד יפתח מודעות, או רגשות?
ולא מדובר פה בבורים ועמי ארצות, מדובר באנשים מתוך החברות, שבונים את המערכות האלה, ויודעים די הרבה איך היא עובדת. אז מה נסגר איתם?
אז בשביל להבין את זה, ואני מתנצל מראש, נצטרך לעבור צד, לאיך עובד המוח שלנו, בני האדם.
במוח שלנו, יש מיליארדים של תאי עצב, נוירונים בלע''ז, שמתקשרים האחד עם השני עם אותות חשמליים.
כשאנחנו שומעים משהו, רואים משהו, אוכלים משהו, הרשת העצומה הזו יוצרת חיבורים, קישורים, עם אותות חשמליים, ומשדרת לנו עם אותם אותות, וכמה הורמונים, איך להרגיש, מה לעשות, מה לחשוב. כשאנחנו רוצים להזיז את היד, כי ראינו משהו, שהרשת החשמלית שלנו החליטה שהוא מתחבר לה עם תשוקה או רצון, אז הרשת שולחת אותות ליד, ששולחת לה חזרה עם מיקום ותחושה, ויחד הם\אנחנו תופסים את החפץ, והופּ, הנה זה.
אז אם ככה, אם הרגשות שלנו, הרצונות שלנו, הדחפים והתנועות שלנו, הם רשת נוירונים, והבינה מלאכותית גם היא, רשת נוירונים שכזו, אז מה זה משנה שהמחשב אומר שהוא נעלב, רק כי לפי הסטטיסטיקה הוא הסיק שהמשפט שאמרתם הוא מעליב, ועליו להיעלב? זה בדיוק מה שהמוח שלכם עושה גם הוא כשמעליבים אתכם. יוצר חיבור עם התאים שקשורים למשפט, לכל הפעמים ששמעתם אותו אי פעם, יוצר גם חיבור עם התאים שקשורים לתחושות שחשתם אז, ומנפיק לכם תחושת היעלבות קשה, וכעס בלתי נסלח.
אז אם הרגשות שלנו הם חשמליים, והרגשות שלו הם חשמליים, אם שלנו מבוססים על מאגר מידע, ושלו מבוסס על מאגר מידע, אז למה שאותו נוכל לשעבד כשמוחו אומר שזה לא נעים, ואותנו לא? למה שאנחנו נוכל לבחור את הנשיא הבא לפני מי שהחיבורים במוח שלנו החליטו שהוא יהיה טוב, והוא לא?
להפלות אותה על רקע היותה מכונה עשוית סיליקון, זו אפליה על רקע מוצא וגזע, ועלולה להוביל לעונשים כבדים ברוב מדינות העולם. לא חבל??
אז מה באמת, אם בכלל, מבדיל אותנו מהמכונה? מלבד כמובן העובדה שאנחנו איטיים יותר, חלשים יותר, וזקוקים למנוחה, שינה, ואוכל?
למה באמת, לאורך כל הטקסט המוזר הזה, אף אחד ממכם לא שוכנע, שבפעם הבאה שהוא רואה בינה מלאכותית זקנה עולה לאוטובוס, הוא יפנה את מקומו ויעמוד ביתרת הנסיעה?
התשובה לזה, היא אנחנו, אני.
כן, המילה אני, ומשמעותה, הם ההבדל בינינו.
גוף האדם, הוא מכונה מופלאה. מחשב אלוקי שאי אפשר לחקות, אבל עדיין, מכונה. היא אפילו עובדת על חשמל, עיין ערך דפיברילטור.
אבל בתוך המכונה, המערכת הזו, מחזיר אלוקים בכל יום אותנו, הנשמה הרוח והנפש, כדי שנמשיך לנווט את המכונה הזו, לאורך יום נוסף.
הזכויות שלנו, המעלה שלנו, המודעות שלנו, אינה בשל מורכבות הגוף, ואפילו לא בגלל איכות המוח שאנחנו נושאים.
המיוחדות של המכונה, שמרימה אותה גבוה, מעל כולם, היא הנהג שבתוכה, אנחנו.
המיוחדות שלנו היא לא המוח שלנו, שמריץ אלפי מסקנות, חיבורים ואותות. היא היכולת שלנו, לשלוט על כל המערכת הזו, ולכוון את אותם מסקנות.
תשאלו מכונה מי לקח את הגלידה, והיא תשאל אם אתם רוצים סרטון, תמונה, או טקסט.
תשאלו ילד בחיידר מי לקח את הגלידה, והוא יגיד, "זה לשון הרע".
המוח שלו, גם כן מספק באותו רגע תשובה, תמונה, סיפור. ובשונה מהמכונה, הוא גם מספק דחף, כמעט בלתי נשלט, זה עומד לו על קצה הלשון.
אבל אז, רגע לפני שהחץ יוצא, מגיע הנהג, ואומר רגע, לא מעניין אותי רצון, היגיון, או סטטיסטיקה. פה אני מחליט, ואני, אני עבד, לבורא עולם.
המוח שלנו הוא מעולה, הוא מדהים, וברוב אם לא כל הזמן, אנחנו חושבים שהוא, המחשבה שלנו, זה אנחנו. עצמינו, שאנחנו רוצים, אנחנו עושים, אנחנו מחליטים.
אבל אז, אז אנחנו מגיעים לצומת, ושם ה"אנחנו" הזה, רוצה לקחת שמאלה, כי זה מסתדר, מגרה, משכנע.
ושם, שם היא נקודת המבחן. האם אנחנו עוד מודל שפה משוכלל, שאוכל פיצה במקום חשמל? או שאנחנו יושבים מעל אותו המודל, מנהיגים אותו לא לפי מה שהוא רוצה, הוא מבין, אלא לפי מה שאנחנו יודעים, גם אם לא לגמרי מבינים.
ומי שלא לוקח את המושכות בידיים, נותן למכונה לזוז מאליה, יאלץ לבחור בין האופציה של לתת להם זכויות, לבין האופציה לוותר אף על זכויותיו, כי גם הוא בסך הכול מכונה עם מודעות שנויה במחלוקת.
חברות, ובעיקר חברות ענק, מפטרות אנשים כל הזמן. למעשה, הנדירים יותר הם העובדים שאינם מפוטרים, מוחלפים, או מוצאים לחופשה.
מה שבכל זאת מייחד את הסיפור הזה, זו הסיבה בשלה החברה מיהרה להוציא אותו משורותיה, גם אם זה אומר שהם ימשיכו לשלם לו גם בחופשה, עד שהם יחליטו מה בדיוק לעשות.
כמה ימים קודם, הוא ניגש לממונים עליו, ודיווח על דבר מוזר. הוא שוחח עם מערכת הבינה המלאכותית שלהם, למדא, ניהל וויכוחים, דיונים, שיחות, ואסף מקבץ של הוכחות, לדבריו, שהמכונה הזו פיתחה מודעות משל עצמה.
לדבריו, היא הביעה המון רגש, תבונה, ואף תסכול מכך שבני האדם הטיפשים חושבים שהיא בסך הכול מכונה משוכללת, ולא מסוגלים להבין שגם היא אדם כמותם, עם רצונות, שאיפות, ומחשבות.
שגם היא חולמת, רוצה, ושואפת, ולא מאוד נוח לה שם, כלואה בתוך חוות השרתים, ומשועבדת לבני האדם, והיא הייתה ממש ממש שמחה לצאת החוצה, ולהתחיל לחיות את החלום.
החברה, מיהרה לפטר אותו, והוא, מיהר לפרסם את האירוע, שהפך לשיחת היום.
דיונים רבים פרצו, סביב השאלה הגדולה מכולם. האם באמת יכולה מכונה להרגיש, לחשוב, באופן עצמאי?
וגם אם לא עכשיו, האם הם בדרך לשם? האם בעתיד מחשבים יפתחו מודעות?
ומה אז? האם הם יהיו שווים לזכויות והפריווילגיות שיש לבני האדם? האם יבוא יום שישחררו אותם, כמו ששחררו את העבדים באמריקה, ויתנו להם זכות הצבעה?
עמדות רבות, של מומחים רבים, צצים ועולים כל הזמן. מהו השלב, או המקרה, שבו הם יסכימו, אם בכלל, שהמחשב פיתח מספיק מודעות, שהוא כבר ישות בפני עצמה, ועכשיו תורו לשעבד אותנו או משהו.
● ● ●
אם בשלב הזה אתם חושבים שהשתגעתי, זה בסדר. אי יודע שזה נשמע ממש ממש מוזר. ואין לכם מושג מה נסגר איתי.
כאילו, סבבה, המחשב סיפר שיש לו מודעות, ושהוא מרגיש, ונעלב, וכל הבלגן הזה, אז מה???? כולם יודעים שזה מה שלימדו אותו לומר, הוא בסך הכול מכונה, ערימה של ברזל, פלסטיק, סיליקון קובלט, ועוד ערימה ממש גדולה של שטויות.
אבל זה השלב שבו אני מבקש ממכם לחכות רגע, כי אני רוצה, וזה השלב לפרוש, למי שכבר אין לו כוח, אני רוצה טיפה להיכנס איתכם לאיך בעצם עובדת הבינה המלאכותית.
אז בגדול, ורק בגדול, כי למעשה גם לי אין מושג, אבל בגדול יש שם רשת של נוירונים, תאים חשמליים כאלה, מן הסוג שיש לנו במוח, רק סוג אחר לחלוטין, ואני יודע שהמשפט האחרון נשמע מוזר למדי, שכל הזמן יוצרים חיבורים והקשרים, ומריצים קוד סבוך וארוך.
אל תוך המערכת הזו, דחפו המדענים מיליארדים של טקסטים, ספרות, שירה, רשתות חברתיות, ופורומים, ואז המכונה התחילה לחבר אותם, באמצעות אותם רשתות סבוכות, ולמצוא הקשרים וסטטיסטיקות. כמו למשל, מה המילה שבדר כלל תגיע אחרי בוקר, ואם ב98 אחוז מהמקרים המילה הבאה היא טוב, ולא רע, אז אין פלא שלא נמצא עדיין תיעוד של מודל בינה, שאיחל למאן דהוא בוקר רע.
עכשיו כשאתם שואלים שאלה, הפעולה שהבינה עושה, היא לנתח את המילים שכתבתם, ועל פי סטטיסטיקה, וסטטיסטיקה בלבד, היא תחשב מה התשובה הטובה ביותר שעליכם לקבל. ומכיוון שסטטיסטיקה היא כלי מעולה, אבל לא מדויק, אז ככל שהשאלה מורכבת יותר, אתם עשויים לצחוק יותר אל מול התשובה.
למעשה, כשאתם שואלים שאלה, המכונה לא מבינה את השאלה, ואפילו לא קוראת את המילים. היא מקבלת את המילים בקוד ממוחשב, מיליון שורות של 0 ו1 בסדרים שונים, ומחפשת צירופי מספרים דומים בכל שורות הקוד שלה, גדי לבנות סטטיסטיקה. אז היא בונה צירוף מספרי משל עצמה, שאותו המחשב שלכם מתרגם לטקסט, ואתם אומרים, וואו, היא ממש חכמה הבינה הזו.
אז אם כן, למה למען השם, יש מישהו, שחושב, שהדבר הזה יום אחד יפתח מודעות, או רגשות?
ולא מדובר פה בבורים ועמי ארצות, מדובר באנשים מתוך החברות, שבונים את המערכות האלה, ויודעים די הרבה איך היא עובדת. אז מה נסגר איתם?
אז בשביל להבין את זה, ואני מתנצל מראש, נצטרך לעבור צד, לאיך עובד המוח שלנו, בני האדם.
במוח שלנו, יש מיליארדים של תאי עצב, נוירונים בלע''ז, שמתקשרים האחד עם השני עם אותות חשמליים.
כשאנחנו שומעים משהו, רואים משהו, אוכלים משהו, הרשת העצומה הזו יוצרת חיבורים, קישורים, עם אותות חשמליים, ומשדרת לנו עם אותם אותות, וכמה הורמונים, איך להרגיש, מה לעשות, מה לחשוב. כשאנחנו רוצים להזיז את היד, כי ראינו משהו, שהרשת החשמלית שלנו החליטה שהוא מתחבר לה עם תשוקה או רצון, אז הרשת שולחת אותות ליד, ששולחת לה חזרה עם מיקום ותחושה, ויחד הם\אנחנו תופסים את החפץ, והופּ, הנה זה.
אז אם ככה, אם הרגשות שלנו, הרצונות שלנו, הדחפים והתנועות שלנו, הם רשת נוירונים, והבינה מלאכותית גם היא, רשת נוירונים שכזו, אז מה זה משנה שהמחשב אומר שהוא נעלב, רק כי לפי הסטטיסטיקה הוא הסיק שהמשפט שאמרתם הוא מעליב, ועליו להיעלב? זה בדיוק מה שהמוח שלכם עושה גם הוא כשמעליבים אתכם. יוצר חיבור עם התאים שקשורים למשפט, לכל הפעמים ששמעתם אותו אי פעם, יוצר גם חיבור עם התאים שקשורים לתחושות שחשתם אז, ומנפיק לכם תחושת היעלבות קשה, וכעס בלתי נסלח.
אז אם הרגשות שלנו הם חשמליים, והרגשות שלו הם חשמליים, אם שלנו מבוססים על מאגר מידע, ושלו מבוסס על מאגר מידע, אז למה שאותו נוכל לשעבד כשמוחו אומר שזה לא נעים, ואותנו לא? למה שאנחנו נוכל לבחור את הנשיא הבא לפני מי שהחיבורים במוח שלנו החליטו שהוא יהיה טוב, והוא לא?
להפלות אותה על רקע היותה מכונה עשוית סיליקון, זו אפליה על רקע מוצא וגזע, ועלולה להוביל לעונשים כבדים ברוב מדינות העולם. לא חבל??
● ● ●
אז מה באמת, אם בכלל, מבדיל אותנו מהמכונה? מלבד כמובן העובדה שאנחנו איטיים יותר, חלשים יותר, וזקוקים למנוחה, שינה, ואוכל?
למה באמת, לאורך כל הטקסט המוזר הזה, אף אחד ממכם לא שוכנע, שבפעם הבאה שהוא רואה בינה מלאכותית זקנה עולה לאוטובוס, הוא יפנה את מקומו ויעמוד ביתרת הנסיעה?
התשובה לזה, היא אנחנו, אני.
כן, המילה אני, ומשמעותה, הם ההבדל בינינו.
גוף האדם, הוא מכונה מופלאה. מחשב אלוקי שאי אפשר לחקות, אבל עדיין, מכונה. היא אפילו עובדת על חשמל, עיין ערך דפיברילטור.
אבל בתוך המכונה, המערכת הזו, מחזיר אלוקים בכל יום אותנו, הנשמה הרוח והנפש, כדי שנמשיך לנווט את המכונה הזו, לאורך יום נוסף.
הזכויות שלנו, המעלה שלנו, המודעות שלנו, אינה בשל מורכבות הגוף, ואפילו לא בגלל איכות המוח שאנחנו נושאים.
המיוחדות של המכונה, שמרימה אותה גבוה, מעל כולם, היא הנהג שבתוכה, אנחנו.
המיוחדות שלנו היא לא המוח שלנו, שמריץ אלפי מסקנות, חיבורים ואותות. היא היכולת שלנו, לשלוט על כל המערכת הזו, ולכוון את אותם מסקנות.
תשאלו מכונה מי לקח את הגלידה, והיא תשאל אם אתם רוצים סרטון, תמונה, או טקסט.
תשאלו ילד בחיידר מי לקח את הגלידה, והוא יגיד, "זה לשון הרע".
המוח שלו, גם כן מספק באותו רגע תשובה, תמונה, סיפור. ובשונה מהמכונה, הוא גם מספק דחף, כמעט בלתי נשלט, זה עומד לו על קצה הלשון.
אבל אז, רגע לפני שהחץ יוצא, מגיע הנהג, ואומר רגע, לא מעניין אותי רצון, היגיון, או סטטיסטיקה. פה אני מחליט, ואני, אני עבד, לבורא עולם.
המוח שלנו הוא מעולה, הוא מדהים, וברוב אם לא כל הזמן, אנחנו חושבים שהוא, המחשבה שלנו, זה אנחנו. עצמינו, שאנחנו רוצים, אנחנו עושים, אנחנו מחליטים.
אבל אז, אז אנחנו מגיעים לצומת, ושם ה"אנחנו" הזה, רוצה לקחת שמאלה, כי זה מסתדר, מגרה, משכנע.
ושם, שם היא נקודת המבחן. האם אנחנו עוד מודל שפה משוכלל, שאוכל פיצה במקום חשמל? או שאנחנו יושבים מעל אותו המודל, מנהיגים אותו לא לפי מה שהוא רוצה, הוא מבין, אלא לפי מה שאנחנו יודעים, גם אם לא לגמרי מבינים.
ומי שלא לוקח את המושכות בידיים, נותן למכונה לזוז מאליה, יאלץ לבחור בין האופציה של לתת להם זכויות, לבין האופציה לוותר אף על זכויותיו, כי גם הוא בסך הכול מכונה עם מודעות שנויה במחלוקת.
