Perseptron va ko‘p qatlamli tarmoq
Sun’iy neyron, Rosenblatt perseptroni va uning chegarasi — XOR masalasi. Yashirin qatlamlar, aktivatsiya funksiyalari hamda teskari tarqalish algoritmi yordamida ko‘p qatlamli tarmoq o‘qitilishini o‘rganasiz.
Mavzular ro‘yxati (3 / 3)
1-bob. Mashinaviy o‘qitish asoslari
2-bob. Neyron tarmoqlar
Sun’iy neyron kirish qiymatlarini x1, x2, ..., xn mos vaznlarga w1, w2, ..., wn ko‘paytirib qo‘shadi, siljish (bias) b ni qo‘shadi va natijani aktivatsiya funksiyasi f dan o‘tkazadi: y = f(w1 * x1 + ... + wn * xn + b). Frank Rosenblatt 1958-yilda taklif qilgan perseptronda f — pog‘onali funksiya: yig‘indi noldan katta bo‘lsa chiqish 1, aks holda 0. Perseptron kirish fazosini gipertekislik bilan ikkiga ajratadi, shuning uchun u faqat chiziqli ajraladigan sinflarni ajrata oladi.
Perseptronni o‘qitish qoidasi sodda: namunada bashorat xato bo‘lsa, vaznlar w = w + lr * (y - yhat) * x, siljish esa b = b + lr * (y - yhat) formulalari bo‘yicha tuzatiladi. Chiziqli ajraladigan ma’lumotlarda (masalan, mantiqiy VA va YOKI funksiyalari) algoritm cheklangan qadamlar sonida yechimga keladi. XOR funksiyasining sinflarini esa bitta to‘g‘ri chiziq bilan ajratib bo‘lmaydi; Marvin Minsky va Seymour Papert 1969-yilda bu cheklovni isbotladi va bu neyron tarmoqlarga qiziqishni vaqtincha susaytirdi.
Ko‘p qatlamli perseptron (MLP) kirish qatlami, bir yoki bir nechta yashirin qatlam va chiqish qatlamidan iborat; har bir qatlamdagi neyron keyingi qatlamning barcha neyronlari bilan bog‘langan. Yashirin qatlamlardagi chiziqsiz aktivatsiya funksiyalari (sigmoid, tanh, ReLU = max(0, z)) tarmoqqa egri chegaralarni o‘rganish imkonini beradi: ikkita yashirin neyronli tarmoq XOR’ni yecha oladi. Chiziqsizlik bo‘lmasa, istalgan qatlamlar soni bitta chiziqli almashtirishga teng bo‘lib qolardi. Universal approksimatsiya teoremasiga ko‘ra, yetarlicha neyronli bitta yashirin qatlamning o‘zi ham istalgan uzluksiz funksiyani istalgan aniqlikda yaqinlashtira oladi, amalda esa chuqurroq tarmoqlar samaraliroq ishlaydi.
Ko‘p qatlamli tarmoq teskari tarqalish (backpropagation) algoritmi bilan o‘qitiladi: oldinga o‘tishda tarmoq bashorat va xatolikni hisoblaydi, orqaga o‘tishda esa zanjir qoidasi yordamida xatolikning har bir vazn bo‘yicha gradienti topiladi. So‘ng vaznlar gradient tushish yoki uning takomillashgan variantlari (masalan, Adam) bilan yangilanadi. Bu jarayon epoxalar davomida takrorlanadi, ortiqcha moslashuvni payqash uchun esa validatsiya to‘plamidagi xatolik ham kuzatib boriladi.
Asosiy xulosalar
- Neyron kirishlarning vaznli yig‘indisini oladi, siljish qo‘shadi va aktivatsiya funksiyasidan o‘tkazadi.
- Perseptron faqat chiziqli ajraladigan sinflarni ajratadi; XOR uning imkoniyatidan tashqarida.
- Yashirin qatlamlar va chiziqsiz aktivatsiya (
ReLU,tanh,sigmoid) tarmoq imkoniyatini kengaytiradi. - Teskari tarqalish zanjir qoidasi yordamida barcha vaznlar uchun gradientni hisoblaydi.
- Tarmoq o‘lchami, o‘qitish tezligi va epoxalar soni ortiqcha moslashuv xavfiga ta’sir qiladi.
Amaliy topshiriqlar
- Qo‘lda tekshiring: ikki kirishli perseptronda
w1 = 1,w2 = 1vab = -1.5bo‘lsa, kirishlarning to‘rtta kombinatsiyasida chiqish qanday bo‘ladi va u qaysi mantiqiy funksiyani hisoblaydi? - NumPy’da perseptronni yozing: xato bo‘lganda
wvabni yuqoridagi formulalar bilan yangilang; uni VA va YOKI funksiyalarida o‘rgating, so‘ng XOR’da sinab, nima uchun o‘rgana olmasligini tushuntiring. scikit-learndaMLPClassifier(hidden_layer_sizes=(4,), activation="tanh", solver="lbfgs", max_iter=2000)bilan XOR’ni o‘rgating (aniqlik 1.0 bo‘lmasa,random_stateni o‘zgartiring), so‘ng yashirin neyronlar sonini 1 ga tushirib, natija qanday o‘zgarishini kuzating.
Mustahkamlash savollari
O‘zingizni sinab ko‘ring: avval o‘ylab ko‘ring, keyin javobni oching.
1Nima uchun bitta perseptron XOR funksiyasini o‘rgana olmaydi?Javobni ko‘rishJavobni yashirish
XOR’ning ikki sinfini bitta to‘g‘ri chiziq bilan ajratib bo‘lmaydi (u chiziqli ajralmaydi), perseptron esa faqat chiziqli chegara hosil qiladi.2Aktivatsiya funksiyalari chiziqli bo‘lsa, ko‘p qatlamli tarmoqda nima yuz beradi?Javobni ko‘rishJavobni yashirish
Chiziqli almashtirishlar kompozitsiyasi yana chiziqli bo‘ladi, shuning uchun tarmoq bitta qatlamga teng bo‘lib qoladi.3Teskari tarqalish nimani hisoblaydi?Javobni ko‘rishJavobni yashirish
Zanjir qoidasi orqali xatolik funksiyasining har bir vazn va siljish bo‘yicha gradientini; keyin bu gradient vaznlarni yangilash uchun ishlatiladi.
Saytga kiring
Slaydlar va PDF faqat ro‘yxatdan o‘tgan foydalanuvchilar uchun: ko‘rish ham, yuklab olish ham. Kirish bepul.
Saytga kiring
Slaydlar va PDF faqat ro‘yxatdan o‘tgan foydalanuvchilar uchun: ko‘rish ham, yuklab olish ham. Kirish bepul.
0 / 3 mavzu o‘tildi
Kirib belgilash