çok basit: lineer regresyon

Merhabalar! Makine öğrenmesine başladığınızda karşınıza çıkacak en temel kavramlardan birisi olan lineer regresyon ve normalizasyondur. Lineer regresyon için kullanabileceğiniz veya hep karşınıza çıkacak formül de aşağıdaki gibidir.

Benim gibi daha önce matematik temeli olmayan birisi bu tarz formüller gerçekten korkutucu olabiliyor. Bu sebepten ötürü, eğer bu yazıyı okuyorsanız, bu formülün tam olarak ne anlama geldiğini bilmediğinizi varsayıyor ve kendim, arkadaşlarıma anlatmak için kullandığım yöntemimi sizlere de anlatacağım. Bu formülümüz temel olarak iki kısımdan oluşmakta;

Sol, yani sarı olan kısım bağımlı değişkenimizi ifade ederken, sağ yani yeşil olan kısım ise bağımsız değişkenimizi ifade etmektedir. Yani, sarı kısım, yeşil kısmın alacağı değerlere bağımlıdır.

Şimdi işi regresyondan çıkartarak size bir soru yönelteceğim. Bir ay boyunca, hiç evden çıkmazsanız ve hiçbir alışveriş yapmazsanız, o aylık gideriniz ne kadar olur? Sıfır mı? Eğer sıfır dediyseniz büyük ihtimalle aile evinde kalıyorsunuz… çünkü hiçbir harcama yapmasanız bile ödemeniz gereken kira, elektrik, su, doğalgaz, yeme — içme ve benzeri birçok masraf kalemi vardır. Bunlar ne yaparsanız yapın, sabit ve hiçbir harcama yapmasanız bile ödemeniz gereken kalemlerdir. İşte buna “sabit gider” diyebiliriz.

Bu denklemde ise sabit giderimizi a ile ifade etmekteyiz. Diğer tüm değişkenler sıfır olursa, denklemimizin sonucu, sabit giderimize eşit olacaktır.

Gelelim diğer kısma. Yani w ve x ile ifade edilen kısım. Bunu, aylık harcama içerisinde yapmış olduğunuz faaliyetler olarak düşünebiliriz. Örneğin, ayda 10 paket sigara içiyorsanız ve bir paket sigara 20 lira ise burada w, yani ağırlık, yani durumun tekrar etme sıklığı 10, x, yani değerimiz ise 20 oluyor. Bu değerler değişebilir, hem daha fazla veya daha az sigara içebilirsiniz, hem sigaranın fiyatı azalabilir veya artabilir. Yani sadece kira masrafınız ve sigara alışkanlığınız olduğu bir ortam düşünürsek aylık gideriniz şu şekilde görünecektir.

Kiranız bir dış değişkendir ve her ay onu ödemek zorundasınız. Fakat sigara, böyle değil. İsterseniz daha az içebilir veya tamamen bırakabilirsiniz. Bu sizin elinizde.

L1 ve L2 Regülarizasyon

L1, tam bir babadır. Babanız kışın ortasında gelip kombini kapatır, lambaları söndürür ve sürekli bir şeyleri sıfıra indirgemeye çalışır. L2 ise, babanın tersine annedir. O da bir tasarruf yapmanızı ister fakat hiçbir şeyden geri kalmanızı istemez. Bu sebepten ötürü L1, aylık içtiğiniz sigaranın sıklığını 10’dan 0’a düşürebilme potansiyeline sahipken, L2, azaltmanızı ister fakat bunu tamamen ortadan kaldırmaz.