Asosiy kontentga o‘tish
Informatik.uz
Magistratura · 1-kurs2-bob. Neyron tarmoqlar

Perseptron va ko‘p qatlamli tarmoq

Sun’iy neyron, Rosenblatt perseptroni va uning chegarasi — XOR masalasi. Yashirin qatlamlar, aktivatsiya funksiyalari hamda teskari tarqalish algoritmi yordamida ko‘p qatlamli tarmoq o‘qitilishini o‘rganasiz.

3-mavzu / 33 daq o‘qishYangilangan: 27-oktabr, 2026
Mavzular ro‘yxati (3 / 3)

Sun’iy neyron kirish qiymatlarini x1, x2, ..., xn mos vaznlarga w1, w2, ..., wn ko‘paytirib qo‘shadi, siljish (bias) b ni qo‘shadi va natijani aktivatsiya funksiyasi f dan o‘tkazadi: y = f(w1 * x1 + ... + wn * xn + b). Frank Rosenblatt 1958-yilda taklif qilgan perseptronda f — pog‘onali funksiya: yig‘indi noldan katta bo‘lsa chiqish 1, aks holda 0. Perseptron kirish fazosini gipertekislik bilan ikkiga ajratadi, shuning uchun u faqat chiziqli ajraladigan sinflarni ajrata oladi.

Perseptronni o‘qitish qoidasi sodda: namunada bashorat xato bo‘lsa, vaznlar w = w + lr * (y - yhat) * x, siljish esa b = b + lr * (y - yhat) formulalari bo‘yicha tuzatiladi. Chiziqli ajraladigan ma’lumotlarda (masalan, mantiqiy VA va YOKI funksiyalari) algoritm cheklangan qadamlar sonida yechimga keladi. XOR funksiyasining sinflarini esa bitta to‘g‘ri chiziq bilan ajratib bo‘lmaydi; Marvin Minsky va Seymour Papert 1969-yilda bu cheklovni isbotladi va bu neyron tarmoqlarga qiziqishni vaqtincha susaytirdi.

Ko‘p qatlamli perseptron (MLP) kirish qatlami, bir yoki bir nechta yashirin qatlam va chiqish qatlamidan iborat; har bir qatlamdagi neyron keyingi qatlamning barcha neyronlari bilan bog‘langan. Yashirin qatlamlardagi chiziqsiz aktivatsiya funksiyalari (sigmoid, tanh, ReLU = max(0, z)) tarmoqqa egri chegaralarni o‘rganish imkonini beradi: ikkita yashirin neyronli tarmoq XOR’ni yecha oladi. Chiziqsizlik bo‘lmasa, istalgan qatlamlar soni bitta chiziqli almashtirishga teng bo‘lib qolardi. Universal approksimatsiya teoremasiga ko‘ra, yetarlicha neyronli bitta yashirin qatlamning o‘zi ham istalgan uzluksiz funksiyani istalgan aniqlikda yaqinlashtira oladi, amalda esa chuqurroq tarmoqlar samaraliroq ishlaydi.

Ko‘p qatlamli tarmoq teskari tarqalish (backpropagation) algoritmi bilan o‘qitiladi: oldinga o‘tishda tarmoq bashorat va xatolikni hisoblaydi, orqaga o‘tishda esa zanjir qoidasi yordamida xatolikning har bir vazn bo‘yicha gradienti topiladi. So‘ng vaznlar gradient tushish yoki uning takomillashgan variantlari (masalan, Adam) bilan yangilanadi. Bu jarayon epoxalar davomida takrorlanadi, ortiqcha moslashuvni payqash uchun esa validatsiya to‘plamidagi xatolik ham kuzatib boriladi.

Asosiy xulosalar

  • Neyron kirishlarning vaznli yig‘indisini oladi, siljish qo‘shadi va aktivatsiya funksiyasidan o‘tkazadi.
  • Perseptron faqat chiziqli ajraladigan sinflarni ajratadi; XOR uning imkoniyatidan tashqarida.
  • Yashirin qatlamlar va chiziqsiz aktivatsiya (ReLU, tanh, sigmoid) tarmoq imkoniyatini kengaytiradi.
  • Teskari tarqalish zanjir qoidasi yordamida barcha vaznlar uchun gradientni hisoblaydi.
  • Tarmoq o‘lchami, o‘qitish tezligi va epoxalar soni ortiqcha moslashuv xavfiga ta’sir qiladi.

Amaliy topshiriqlar

  1. Qo‘lda tekshiring: ikki kirishli perseptronda w1 = 1, w2 = 1 va b = -1.5 bo‘lsa, kirishlarning to‘rtta kombinatsiyasida chiqish qanday bo‘ladi va u qaysi mantiqiy funksiyani hisoblaydi?
  2. NumPy’da perseptronni yozing: xato bo‘lganda w va b ni yuqoridagi formulalar bilan yangilang; uni VA va YOKI funksiyalarida o‘rgating, so‘ng XOR’da sinab, nima uchun o‘rgana olmasligini tushuntiring.
  3. scikit-learn da MLPClassifier(hidden_layer_sizes=(4,), activation="tanh", solver="lbfgs", max_iter=2000) bilan XOR’ni o‘rgating (aniqlik 1.0 bo‘lmasa, random_state ni o‘zgartiring), so‘ng yashirin neyronlar sonini 1 ga tushirib, natija qanday o‘zgarishini kuzating.

Mustahkamlash savollari

O‘zingizni sinab ko‘ring: avval o‘ylab ko‘ring, keyin javobni oching.

  1. 1Nima uchun bitta perseptron XOR funksiyasini o‘rgana olmaydi?
    XOR’ning ikki sinfini bitta to‘g‘ri chiziq bilan ajratib bo‘lmaydi (u chiziqli ajralmaydi), perseptron esa faqat chiziqli chegara hosil qiladi.
  2. 2Aktivatsiya funksiyalari chiziqli bo‘lsa, ko‘p qatlamli tarmoqda nima yuz beradi?
    Chiziqli almashtirishlar kompozitsiyasi yana chiziqli bo‘ladi, shuning uchun tarmoq bitta qatlamga teng bo‘lib qoladi.
  3. 3Teskari tarqalish nimani hisoblaydi?
    Zanjir qoidasi orqali xatolik funksiyasining har bir vazn va siljish bo‘yicha gradientini; keyin bu gradient vaznlarni yangilash uchun ishlatiladi.

0 / 3 mavzu o‘tildi

Kirib belgilash