מודל סדרה עיתית במצבים של אוטוקורלציה גבוהה בין תצפיות סמוכות

[RRotem]

אני מנסה לעבוד בML עם מודל סדרה עיתית במסד נתונים ללא עונתיות או טרנד. התוצאות כביכול טובות אבל אני רואה שהמחליק האקפוננציאלי מאוד גבוה (0.9999). חישבתי ידנית ועדיין מגיעה לאותה תוצאה. בדקתי אוטוקורלציה וזה אכן נובע מקורלציה מאוד גבוהה בין תצפיות סמוכות.
עיצה למה אני יכולה לעשות במצב כזה? דוגמה למודל שיתן תחזית אמינה בלי לתת משקל נורא גבוה לתצפיות האחרונות?
ניסיתי בנתיים:
(רגיל ועם Dumped trend) TBATS, ANN
וגם ETS רגיל שנתתי לו את האופציה לבחור מודל בצורה אוטומטית. בנתיים, שום דבר מהם לא נותן משהו אמין.

רעיונות?
תודה לעונים

 

[ירושל]

קצת מוזר לקרוא את המונחים בעברית

הנתונים סטציונריים? (Stationary)? אם לא, כדאי (מאד) לנרמל את הדטה-סט.
אולי LSTM / RNN?

באופן כללי, הפורום של Data science stack exchange יעיל מאד לכזה סוג של שאלות/

 

[RRotem]

תודה על התשובה!
אכן לא סטציונריים. הפכתי את כל הערכים לשיעור שינוי (relative percent change).
קראתי על המודלים שהצעת והLSTM נראה די טוב. אנסה אותו מחר.
על הדרך גם מצאתי ספר עם הסברים מעולים

https://www.lpsm.paris/pageperso/has/source/Hand-on-ML.pdf

אגב, הצלחתי בנתיים לשפר את התוצאות. עשיתי מבחן גרנג׳ר וראיתי שאני יכולה לשלב סדרה עיתית עם GBM, לפי טווח התחזית ובהתאם ליחס בין המחיר לכמה משתנים. נראה שהולך לצאת משהו מעניין

 

[s976]

קצת מוזר לקרוא את המונחים בעברית

לגמרי.
נשמע כמו שפה אקדמאית

לעיקר השאלה, נראה שזו בעיה של למידת יתר

 

[ירושל]

לעיקר השאלה, נראה שזו בעיה של למידת יתר

הכוונה ל-overfitting?
כי לענ"ד זה לא. במקרה כזה היתה מתקבלת תוצאה טובה מאד באימון וכשלון בולידציה, מה ש @RRotem מתארת זה כשלון כבר בשלב האימון. (המודל לומד תמיד משהו דומה מאד לתצפית האחרונה, שזה הגיוני אבל רוצים להתגבר על זה).

אם יש קורלציב גבוהה בין כמה משתנים, ייתכן שכדאי לתת למודל רק סבסט שלהם כי אז מרחב הפתרון יותר קטן ותוספת המשתנים לא כ"כ תורמת.
אפשר להשתמש באלגוריתמים שמוצאים variable importance כמו למשל Garson.

 

[RRotem]

כתבתי בעברית כי פעם כתבתי כאן באנגלית ומישהו העיר לי על זה. בכנות, חיפשתי בגוגל איך קוראים למונחים בעברית. אני דוקטורנטית באוניברסיטה זרה, ככה שכל העבודה היא ממש לא בעברית

אין overfitting. נבדק כבר בשלב הראשון.
השתמשתי ב-Random forest ו-GBM בשביל הדירוג (בעצם לקחתי מודל boosting ואחד של bagging). כמובן שבדקתי גם partial dependency בשניהם.

 

[ירושל]

נשמע מעניין. אני לא כ"כ מתעסקת עם time series, כן עם LSTM בשביל וידאו.
אם זה יתפתח למאמר או משהו בסגנון, אשמח לקישור.
(מותר לשאול איפה את לומדת ואיך הגעת לזה?)

 

[RRotem]

אכן מעניין. מקווה שיתפרסם. היום שלחתי מאמר על מודל חיזוי אחר שעשיתי (פחות מעניין אבל הייתי חייבת להתחיל ממשהו). בכיף אשלח כש\באם יתפרסם.

(מותר לשאול איפה את לומדת ואיך הגעת לזה?)

אכפת לך אם אענה על זה בפרטי?

 

[ירושל]

אשמח,
continuouslearner ב-yandex.com.
(תודיעי לי מתי ראית ואמחק - תודה!)

 

[RRotem]

אשמח,
continuouslearner ב-yandex.com.
(תודיעי לי מתי ראית ואמחק - תודה!)

אי אפשר לשלוח לךשם הודעות. אולי תכתבי לי פה הודעה ואני אענה או שתתני לי מייל ותמחקי ברגע שאראה את ההודעה

 

[ירושל]

זוהי כתובת מייל,

 'continuouslearner#yandex.com'.replace('#', '@')

c_mail <- c("continuouslearner#yandex.com")
gsub("#", "@", c_mail)