Overfitting (Aşırı Uyum) nedir?

Detaylı açıklama

Overfitting, Türkçede aşırı uyum ya da aşırı öğrenme olarak da anılır. Bir model eğitim verisine gereğinden fazla yaklaştığında, verideki gerçek örüntüyü öğrenmek yerine rastgele dalgalanmaları, yani gürültüyü de öğrenir. Sonuçta model eğitimde iyi sonuç verir, ama daha önce görmediği verilerde beklenen performansı gösteremez. Bu durum modelin asıl amacı olan genelleme yeteneğini zayıflatır. Aşırı uyumun başlıca nedenleri iki tanedir: modelin gereğinden karmaşık olması ve eğitimin çok uzun sürmesi. Eğitim verisinin az olması da riski artırır. Tespit etmek için verinin bir kısmı test kümesi olarak ayrılır. Eğitim hatası düşükken test hatası yüksekse aşırı uyumdan şüphelenilir. K-katlı çapraz doğrulama da modelin başarısını ölçmek için yaygın kullanılan bir yöntemdir. Önlemek için erken durdurma, daha fazla ve temiz veri kullanma, özellik seçimi, düzenlileştirme (regularization, dropout gibi) ve topluluk yöntemleri (bagging, boosting) kullanılır. Ancak aşırı önlem de ters etki yapabilir: eğitimi çok erken keserseniz ya da çok fazla girdiyi çıkarırsanız model eksik öğrenir, buna yetersiz uyum (underfitting) denir. Amaç, ikisi arasındaki dengeyi bulmaktır. Büyük sinir ağlarında ise son yıllarda farklı bir tablo da görülüyor: bazı karmaşık modeller eğitim verisini tam olarak yakalamalarına rağmen yüksek doğrulukla çalışabiliyor. Bu nedenle klasik tanım her modelde aynı biçimde geçerli olmayabilir.

Kullanım örneği

Bir öğrenci sınava hazırlanırken sadece geçmiş yılların sorularını ve cevaplarını ezberlesin. Aynı sorular çıkarsa tam puan alır, ama konuyu anlamadığı için soru biraz değişince başarısız olur. Aşırı uyum yapan bir model de tam olarak böyle davranır: eğitim verisinde parlar, yeni verilerde tökezler.