این درس را مشترکا با دکتر علیشاهی ارائه می‌کنیم. قرار است در این درس ابتدا کمی بهینه‌سازی مقدماتی درس بدهیم، کمی برنامه‌ریزی خطی و کمی بهینه‌سازی محدب. که احتمالا حدود ۳ هفته این طول بکشد. بعد مقداری بهینه‌سازی برخط، بعد هم کمی یادگیری، بعد هم کمی یادگیری برخط و بعد هم کمی تلاش می‌کنیم چند مساله حل کنیم با این روش‌ها. دو سه کتاب نامزد کتاب درس شدن هستند.
- Introduction to Online Optimization که جزوه‌های درس آقای Bubeck است در سال ۲۰۱۱.
- Introduction to Online Convex Optimization کتاب آقای Hazan.
- Online Learning and Online Convex Optimization.
مباحث گفته شده در کتاب‌های بالا هستند. می‌توانید نگاه کنید و پیشاپیش از درس لذت ببرید. امیدوارم در ترم آینده بیشتر من این درس را درس بدهم و دکتر علیشاهی بیشتر شنونده باشند.
طبیعتا درس کمی طعم ریاضی خواهد داشت و کم‌تر طعم الگوریتمی. از درس بهینه‌سازی محدب کم‌تر و از درس‌های ارشدی که معمولا من درس می‌دهم بیشتر ریاضی‌گونه خواهد بود.
به عنوان پیش‌نیاز الگوریتم و ریاضی ۲ که لازم هستند. دانستن آمار موجب می‌شود مثال‌ها را خیلی بهتر متوجه شوید.
توصیف درس در قالب فایل پی‌دی‌اف در این فایل آمده است. به نظر می‌آید از کتاب آقای بوبک در این درس استفاده نکنیم.
برخی منابع مرتبط
- Regret Analysis of Stochastic and Nonstochastic Multi-armed Bandit Problems S. Bubeck and N. Cesa-Bianchi
- The Multiplicative Weights Update Method: a Meta-Algorithm and Applications S. Arora, E. Hazan and S. Kale
- Statistical Learning and Sequential Prediction A. Rakhlin and K. Sridharan
- The convex optimization approach to regret minimization E. Hazan
- Bandit Algorithms Book
- Online and Adaptive Methods for Machine Learning
- The Multiplicative Weights Update Method: a Meta-Algorithm and Applications S. Arora, E. Hazan and S. Kale
- Statistical Learning and Sequential Prediction A. Rakhlin and K. Sridharan
- The convex optimization approach to regret minimization E. Hazan
- Introduction to Online Learning
- Machine Learning Theory
- Online Learning
- Prediction and Learning: It’s Only a Game
- Online Learning and Optimization
- The complexities of optimization
- کتاب‌چه‌ای برای درس Statistical Learning and Sequential Prediction
- مطالب یک درس Online Methods in Machine Learning
- شاید این از همه درس‌های قبلی بهتر باشد Online Prediction and Learning
- اما این منبع از همه بهتر است: Competitive analysis via convex optimization. اما ای‌کاش همه جزوه‌هایش موجود بود.
پس‌نوشت (۲۰ شهریور)
پس از مذاکرات طولانی با دکتر علیشاهی، قرار شد ایشان ابتدای درس را درس بدهند. احتمالا ابتدای درس را از روی کتاب آقای هیزن درس می‌دهند. هنوز نمی‌دانیم این قسمت چقدر طول می‌کشد. احتمالا خیلی طول نخواهد کشید، یک چیزی حدود یک و نیم ماه. بعدش هم احتمالا جنبه‌های یادگیری ماشین را بیشتر مطرح کنیم. مثلا یک مقاله هست به نام Online Learning: Beyond Regret که شاید از روی مقاله و مقاله‌های پیش از آن درس را ادامه بدهیم.