הנושאים החמים
קווים לדמותו עם תובנה מעשית.
גילוי נאות: המידע שבמאמר, נרכש בקמפוס AI (מחיר: 20$ לחודש).
פרסמתי פה לא מזמן מאמר שבכותרת תמונה הלועגת על AI.
שאל אותי חבר, איך אתה לועג על הבינה, אם היא יצרה לך את הסצנה?
אמרתי, אני לועג על מי שמנדב לי ציור, עם מסר שיורה לעצמו ברגל.
על עצם התמונה, לקח לי הרבה זמן להגיע למוצר.
או יותר נכון, להבין שכבר הגעתי, ומכאן ואילך זה רק נאבד.
כך זה קרה.
(הערה: שמתי את התמונות בספוילרים, כדי להתמקד בתוכן המילולי, שירוץ בעין.)
בקשתי: תצייר רובוט משחק שחמט עם תרנגול.
תוצאה:
הוספתי לבקש: תן לי תמנוה שרואים את התרנגול מנצח (וצוהל).
תוצאה:
אופס! משהו פה לא הגיוני, עם הרגל של התרנגול,
אבל גם למה החיילים עומדים במצב התחלתי? איפה המט, הניצחון?
הוספתי לבקש: תשפר את זה על ידי סצנה ש-3/4 מהכלים כבר נפלו במשחק ונשאר רק להפיל את השח.
תוצאה:
זאת התמונה שפרסמתי, ובהמשך אסביר למה,
אבל תכל'ס איפה ¾ חיילים שנפלו?
הוספתי בקשה: 2 תיקונים נדרשים 1 התרנגול לא אמור לעמוד על הלוח 2 הכלים צריכים להיות מפזרים באקראי על הלוח כי זה סוף משחק ולא התחלה.
תוצאה:
גם זה חמוד, התרנגול אמנם מחוץ ללוח, אבל בצד, וכן החיילים עדיין עומדים במצב התחלתי.
וכן יש חיילים מפוזרים באקראי, אך משום מה מחוץ ללוח.
החלטתי לכתוב בקשה חדשה: תן לי תמונה של תרנגול משחק שחמט עם רובוט, רוב הכלים כבר לא במשחק, הכלים שבמשחק מפוזרים על הלוח באקראי והתרנגול מנצח את הרובוט.
תוצאה:
שוב לא קולט...
אבל פה כבר לא אהבתי את הפנים האנושיות, זה כבר נראה אדם רגיל רק ממתכת, ואני צריך רובוט!
בקשתי שוב שיפור, וזה התוצאה:
משהו גם לא הגיוני עם הידיים, רגל אחת לתרנגול,
אבל הבנתי שזה לא בכיוון של שיפור…
ניסיתי דרך אחרת,
הבאתי לו את תמונה 1, ובקשתי: תשפר את זה שהתרנגול יעמוד מחוץ ללוח.
הביא לי פלוס/מינוס את אותה תמונה, רק שמתחתיה טקסט: הנה התמונה המשופרת שבה התרנגול עומד מחוץ ללוח השחמט, מנצח בבירור במשחק נגד הרובוט. אם יש עוד משהו שתרצה לשנות, אני כאן לעזור!
עוד כמה ניסויים, וחזר לצייר רובוט עם פנים אנושיות:
הבנתי ששוב אני בדרך ללא מוצא…
ניסיתי את מזלי בדרך אחרת.
כתבתי: תצייר את זה כשהם על חוף הים.
תוצאה:
אנושי לגמרי, פלוס שיבושים…
בהמשך נתן לי:
לגמרי…
הבנתי שהמלל משבש אותו.
אז פתחתי צ'אט חדש עם בקשה: תצייר רובוט משחק שחמט עם תרנגול, והתרנגול מנצח.
תוצאה:
סגנון אפרורי, אבל מה זה התרנגול המעוות שבצד?
הוריתי לו: תן לי את התמונה בלי התרנגול הקטן שבצד.
והתוצאה:
לאיפה נעלם התרגול היריב? עם מי הוא משחק?
שאלתי, איפה הוא?
תשובה: בתמונה שיצרתי מחדש, הסרתי את התרנגול הקטן שהיה בצד כפי שביקשת, אך נראה שגם התרנגול שמשחק נגד הרובוט לא מופיע. אם אתה רוצה שהתרנגול שמשחק יישאר, אוכל ליצור מחדש את התמונה עם התרנגול על לוח השחמט בלבד, ללא התרנגול הקטן בצד.
אני: בבקשה.
תוצאה:
אבל מה? הלוח בגודל 5 על 6, כך נראה שחמט?
הרמתי ידים!
מכיון ששמתי לב שבאותו צ'אט, הוא משאיר את אותו סגנון, נסיתי את מזלי בצ'אט חדש.
כתבתי: תצייר לי תרנגול מנצח רובוט בשחמט, על חוף הים.
וזו התוצאה:
כנראה לא פיסקתי את זה נכון, הוא הבין שהכוונה תרנגול-רובוט מנצח (את מי?).
הבנתי שיותר אין לי מה לשפר, רק לבחור ממה שכבר יש.
היה לי ספק בין תמונה 3 לתמונה 4, העדפתי 3,
שאמנם פחות רואים את צהלת התרנגול, אך מודגשת הסצנה של רובוט מדוכא.
לא זה עיקר המאמר, יש פלטפורמות יותר טובות ליצירת תמונות, chat GPT של OpenAI יעיל לדברים אחרים.
אבל כדי להבין את העוותים, צריך לתפוס את העקרונות.
העיוותים הם:
- ריבוי מלל משבש במקום להסביר.
- הוא לא מצליח לתת סצנה דינמית של חיילים מפוזרים על הלוח תוך כדי המשחק.
- הוא מוסיף חיילי שחמט בנוף, כמו על חוף הים, מה שידוע ליוצרים ב-AI.
שוב: לא עברתי קורס, הרקע הוא מהתכתבות עם הצ'אט GPT, וזאת ההתרשמות הכללית.
רוב האנשים מעדיפים להשתמש במנוע החיפוש של גוגל, כי, רוב האנשים מעדיפים להשתמש במנוע החיפוש של גוגל.
כלומר, מכירים את השלמת המילים של גוגל תוך כדי חיפוש? (חוץ ממנוטפרים).
זה כמובן, מבוסס על סטטיסטיקה.
וכן תוצאות החיפוש מקודמות, לפי סטטיסטיקה של העדפת הגולשים. (וכידוע, כל קול קובע).
ומכיון שלמנוע חיפוש של גוגל יש הכי הרבה גולשים, כך הסטטיסטיקה שלו משתפרת.
כך ה-AI הבסיס שלו זה ניתוח סטטיסטי.
אחד הבעיות הגדולות שעיכבו את השקת ה-AI היא הטיות אתיות,
כלומר איך לגרום לה לא להיות אנטישמית, או שלא תייעץ לאנשים להעדיף עובדים ממגזר מסוים.
יש לזה כמה פתרונות:
- חסימה, כשהמערכת מזהה הטיה אתית, היא חוסמת אותה, ולא מספקת תשובה.
- הבהרה, הוספת הבהרה לאקונית, שאין להכליל וכו', מה שמוכר שבייעוץ רפואי תמיד תהיה ההודעה, שלכל מקרה רפואי צריך התייעצות מומחה.
- העיקרי, ייצוג הולם, להזין למערכת משקל נגד, לדוגמה אם מזהים ש-AI נוטה לאנטישמיות, מזינים לו חומר נגדי, שיהיה לו קונטרה ויאזן.
- התערבות אנושית - מחיקת מאמרים בעיתיים, וחסימת מקורות מידע גזעניים.
הניתוח הסטטיסטי של AI מבוסס על הרבה יותר חומר מגוגל, ורשת נוירונים, שבעצם מכפילה את הדיוק.
וכשמבקשים, "תצייר לי כלב", הוא בודק בחומר שלו, את הסטטיסטיקה של ההמשך למשפט ההוא.
(זה העקרון, רק ביותר מורכבות, ניתוח סטטיסטי של הקשרי מילים, כמו שבחיפוש שם של זמר בגוגל, הוא מציע גם זמרים אחרים.
לדוגמא, מזהה במאגר מידע, שמצוי חיפוש של 2 השמות, בטווח זמן קרוב.)
לכן הדרך למנוע הטיות אתיות היא בעייתית, כי AI לא באמת מבין.
הפתרונות הנ"ל, 1 ו-2, הם יותר בריחה מבעיה, מאשר פתרונות.
ופתרונות 3 ו-4, הם בעצם שוב משחק סטטיסטי.
ואם נשווה AI לתפיסה אנושית, זה כמו 2 גרפולוגים.
אם יש כלל שכתב גדול מסמל שאיפה, גרפולוג אחד יכול לדעת שככה זה סטטיסטית,
וגרפולוג אחר יכול להבין, שתכונת נפש של שאפתנות, גורמת לבן אדם לכתוב בכתב גדול.
וכך, אם הרבה אנשים יזינו את אותה שגיאת כתיב בשאלות ל-AI, התוצאה בהמשך תהיה, שהיא בעצמה תיתן לאחרים את אותה שגיאה.
ולכן, ריבוי מלל בשאלות, רק מקשה על המערכת, ומוסיף עוד סיבוכים בחישוב, לא כמו אדם שמבין. צריך להיות ממוקד ומתומצת בניסוח.
אישית, אין לי שום תקווה שיצא מ-AI איזה פוסק הלכה,
כי לא שייך ללמוד שור שנגח את הפרה, כשהשור נתפס כערך X, פרה ערך Y, וחצי נזק ערך Z.
צריך מישהו שיבין.
המאמר פה לא בא בקטע מוסרי, אלא להבין איך המערכת עובדת, וכך לשפר את נוסח השאלות ל-AI.
בהצלחה.
