Maximum Likelihood Estimation (MLE) چیست؟
تخمین حداکثر درستنمایی یا Maximum Likelihood Estimation (MLE) یکی از مفاهیم پایهای در آمار و یادگیری ماشین است. به زبان ساده، MLE روشی است برای پیدا کردن بهترین پارامترهای یک مدل آماری، به طوری که احتمال (Probability) مشاهدهی دادههایی که از قبل در دست داریم، به بیشترین مقدار خود (Maximum) برسد.
یک مثال ساده
فرض کنید یک سکه دارید و میخواهید بدانید آیا سکه سالم است (احتمال شیر یا خط آمدن ۵۰-۵۰ است) یا دستکاری شده. شما سکه را ۱۰ بار پرتاب میکنید و ۷ بار “شیر” میآید.
در روش MLE، ما از خودمان یک سوال کلیدی میپرسیم: “احتمال شیر آمدن این سکه در هر پرتاب دقیقاً چقدر باید باشد تا شانس دیدن ۷ شیر از ۱۰ پرتاب، بیشترین مقدار ممکن شود؟” با حل ریاضی این مسئله، روش MLE به ما نشان میدهد که بهترین تخمین برای احتمال شیر آمدن این سکه، ۷۰ درصد (0.7) است.
چرا MLE در یادگیری ماشین مهم است؟
در یادگیری ماشین (Machine Learning)، ما معمولاً به دنبال آموزش دادن مدلها و پیدا کردن بهترین وزنها و پارامترها هستیم (مثلاً در شبکههای عصبی عمیق یا رگرسیون لجستیک).
جالب است بدانید هنگامی که ما یک مدل طبقهبندی (Classification) را آموزش میدهیم و تابع خطای Cross-Entropy را کمینه (Minimize) میکنیم، در واقعیت در پشت صحنه در حال انجام دادن فرآیند Maximum Likelihood Estimation هستیم. ما پارامترهایی را پیدا میکنیم که احتمال تولید دادههای آموزشی ما را به حداکثر میرسانند.
به طور خلاصه، MLE به مدل ما کمک میکند تا واقعبینانهترین و محتملترین نتیجهگیری را بر اساس دادههای موجود انجام دهد.