קורס אישי: מאפס ועד שמבינים למה ה-loss, ה-softmax והרגולריזציה נראים כמו שהם נראים.
כל שיעור בנוי באותו סדר, כי ככה מבינים לעומק ולא רק "מריצים נוסחאות":
לפני שאתה פותח פתרון — תכתוב תשובה על דף. 5 דקות של ניסיון כושל שוות יותר מ-30 דקות של קריאה פסיבית.
הסדר נבנה כך שכל שיעור נשען על הקודמים, והמטרה הסופית: להבין מה קורה כש"מאמנים מודל".
שרשרת של שאלות: מהו סיכוי, חלק של מה, איך משלבים מאורעות, אילו חוקים, איך סופרים, והאם זה מתיישב עם האינטואיציה. כולל תרגול לכל סעיף.
הסתברות מותנית כצמצום היקום, כלל הכפל ועצים, אי-תלות, הסתברות שלמה ומשפט בייס. כולל מעבדה של 10,000 אנשים שמסבירה את פרדוקס המבחן הרפואי.
משתנה מקרי כפונקציה, PMF, טור הנדסי והתפלגות גיאומטרית, CDF, פונקציות וסכומים של משתנים. כלי חדש: סכום אינסופי.
צפיפות הסתברות (PDF), ולמה היא יכולה להיות גדולה מ-1. כלי חדש: אינטגרל כשטח.
"ממוצע" מדויק, פיזור, וקשר בין משתנים.
ברנולי, בינומית, קטגורית, פואסון, אחידה, מעריכית, גאוסית.
שולית, מותנית, גאוסית רב-ממדית.
למה ממוצעים מתנהגים יפה.
איך בוחרים פרמטרים שמסבירים את הדאטה הכי טוב.
Prior, likelihood, posterior.
אנטרופיה, cross-entropy, KL.
מה זה p-value ומה זה לא.
תהליכים עם "זיכרון קצר".
חומר שאפשר לקרוא ברצף או לחזור אליו כשצריך, בלי קשר לסדר השיעורים.
חיבור, כפל ומשלים; תמורות; צירופים, משולש פסקל ומשפט הבינום; מקדם מולטינומי; כוכבים וקווים. עם בורר נוסחאות ותרגול מגוון.
הכלה והפרדה, בעיית הכובעים, שובך יונים, מסלולי סריג, ספירה לשם הסתברות (היפרגאומטרית, ידי פוקר, בינומי), סטירלינג ואנטרופיה.
הנחת היסוד: יש לך חדוא 1 (גבול, נגזרות), אלגברה לינארית 1 ומתמטיקה בדידה, אבל לא סדרות ואינטגרלים. אז לא נעשה "קורס השלמה" מראש. כל כלי חדש ילמד מאפס, בקופסה ייעודית, ברגע שהקורס נזקק לו, כך שתמיד תדע למה אתה לומד אותו.
| הכלי | נלמד בשיעור | מדוע שם |
|---|---|---|
| סכום אינסופי וטור הנדסי | 3א | "הטלות עד העץ הראשון": אינסוף תוצאות שצריך לסכום |
| $e^x$ כטור (טיילור), $\sum\frac{\lambda^k}{k!}$ | 5 | התפלגות פואסון |
| אינטגרל כשטח, אינטגרל לא אמיתי | 3ב | צפיפות הסתברות רציפה: "שטח מתחת לעקומה" |
| הצבה ואינטגרציה בחלקים | 4 | תוחלת ושונות של התפלגויות רציפות |
| אינטגרל כפול (בקצרה, אינטואיטיבי) | 6 | התפלגות משותפת של שני משתנים |
| נגזרות חלקיות וגרדיינט | 8 | מציאת פרמטרים מיטביים (MLE) עם כמה פרמטרים |
| לוגריתמים, וקמירות (אי-שוויון ינסן) | 8, 10 | log-likelihood, אנטרופיה, KL |
| מטריצות סימטריות וערכים עצמיים (ריענון) | 6 | מטריצת שונות משותפת, גאוסית רב-ממדית, PCA |
לא נלמד: תורת המידה, אנליזה פורמלית (ε-δ), משוואות דיפרנציאליות. הם לא נדרשים להבנת ML.
קבצים: פתח את הדף בדפדפן. הנוסחאות נטענות מ-CDN (KaTeX), אז צריך חיבור לאינטרנט.