13.2. Detailed Outline of the LAMSTAR Network

13.2.1. Basic structural elements
Modul penyimpanan dasar dari jaringan LAMSTAR adalah pengubahan oleh Kohonen terhadap modul SOM [Kohonen, 1988]. Sesuai dengan tingkat kedekatan bobot penyimpanan di BAM untuk setiap masukan subword yang sedang dipertimbangkan persetiap kata masukan yang diberikan kepada jaringan saraf. Di jaringan LAMSTAR informasi disimpan dan diproses melalui link korelasi antara neuron individu dalam modul SOM terpisah. Kemampuannya untuk menangani besar jumlah kategori ini karena penggunaannya perhitungan sederhana link bobot dan oleh penggunaan fitur dari memori yang hilang. Link bobot adalah mesin utama jaringan, menghubungkan banyak lapisan SOM modul seperti yang penekanannya pada (co) hubungan link bobot antara atom memori, bukan pada atom memori (BAM bobot dari modul SOM) sendiri. Dengan cara ini, desain menjadi lebih dekat dengan pengolahan pengetahuan dalam biologi sistem saraf pusat daripada praktek di sebagian besar arti konvensional resmi saraf jaringan. Fitur yang hilang adalah fitur dasar jaringan biologis yang efisiensi tergantung pada hal itu, seperti kemampuan untuk menangani set data yang tidak lengkap.
            Nilai input dari kode matriks X dinyatakan sebagai berikut:

 Dimana T merupakan nilai transpos.
  Gambar 13.1 Blog Diagram LAMSTAR
 
            Banyak masukan subwords (dan sama, banyak masukan untuk hampir semua saraf lainnya Pendekatan jaringan) dapat diturunkan setelah pre-processing. Hal ini terjadi di masalah sinyal / image-processing, dimana hanya autoregressive atau diskrit spektral / parameter wavelet dapat berfungsi sebagai subword daripada sinyal itu sendiri.

Gambar 13.2 Dasar arsitektur LAMSTAR: penyederhanaan versi untuk sebagian besar aplikasi

 
            Gambar 13.1 memberikan blok-diagram yang lengkap dan umum dari jaringan LAMSTAR. Sebuah diagram yang lebih mendasar, untuk digunakan di sebagian besar aplikasi di mana jumlah neuron per lapisan SOM tidak besar, sedangkan pada Gambar. 13.2. ini adalah penyederhanaan sedikit arsitektur umum. 

13.2.2. Setting of storage weights and determination of winning neurons
Ketika sebuah kata masukan baru disajikan ke sistem selama fase pelatihan, jaringan LAMSTAR memeriksa semua vektor penyimpanan (wi) dalam modul SOM i yang sesuai dengan input subword xi yang akan disimpan. Jika pola yang tersimpan cocok dengan masukan subword xi dalam toleransi yang ditentukan, ia dinyatakan sebagai neuron terpilih untuk itu terutama diamati masukan subword. Neuron terpilih demikian ditentukan untuk setiap masukan berdasarkan kesamaan antara input (Vektor x dalam 13.1 Gambar. Dan 13,2) dan vektor penyimpanan w (informasi yang tersimpan). Untuk input subword xi, neuron terpilih demikian ditentukan dengan meminimalkan suatu jarak normal, sebagai berikut:
 


13.2.3. Adjustment of resolution in SOM modules
Persamaan (13.3), yang berfungsi untuk menentukan neuron terpilih, tidak berurusan secara efektif dengan resolusi dekat cluster / pola. Hal ini dapat menyebabkan degradasi akurasi dalam proses pengambilan keputusan saat keputusan tergantung pada daerah dan erat pola terkait / cluster yang menyebabkan berbeda-beda diagnosis / keputusan. Sensitivitas local neuron dalam modul SOM dapat disesuaikan dengan memasukkan sebuah pengaturan maksimal fungsi jarak Hamming dmax seperti dalam Persamaan:

Akibatnya, jika jumlah subwords yang disimpan dalam neuron tertentu (dari yang tepat modul) melebihi nilai ambang batas, maka penyimpanan dibagi menjadi dua penyimpanan yang berdekatan neuron dan dmax berkurang sesuai.

13.2.4. Links between SOM modules and from SOM modules to output modules
Informasi dalam sistem LAMSTAR dikodekan melalui korelasi hubungan Li; j (Gambar. 13.1, 13.2) antara neuron individu dalam modul SOM berbeda-beda. Sistem LAMSTAR yang tidak menciptakan neuron untuk seluruh masukan kata. Sebaliknya, hanya sebagian subwords dipilih disimpan dalam asosiatif-Memory-seperti cara di modul SOM (W bobot), dan korelasi antara subwords disimpan dalam hal menciptakan / menyesuaikan L-link (Li;j pada Gambar 13.1) yang menghubungkan neuron di berbeda-beda SOM modul. Hal ini memungkinkan jaringan LAMSTAR untuk dilatih dengan sebagian lengkap set data. L-link yang mendasar untuk memungkinkan interpolasi dan ekstrapolasi pola (ketika neuron dalam model SOM tidak sesuai dengan input subword tetapi sangat terkait dengan modul lain berfungsi sebagai perkiraan interpolasi).
(Fig.13.2) [Graupe 1997, Graupe dan Kordylewski Graupe, 1997]. Nilai-nilai L-link bobot yang dimodifikasi sesuai dengan:

 dimana:
: Link antara neuron i dalam modul k'th dan neuron j di modul m'th (yang mungkin juga menjadi  output modul m'th).
∆L, ∆M: nilai selisih (yang telah ditentukan nilainya).
untuk mengatur ∆M (baik untuk semua keputusan LAMSTAR atau hanya ketika keputusan sudah benar) sebagai:

Lmax : Nilai link maksimal (umumnya tidak diperlukan, terutama ketika update melalui forgetting is performed).
Bobot Link demikian berfungsi sebagai korelasi alamat [Graupe dan Lynn, 1970] untuk mengevaluasi tariff trafik antara neuron [Graupe 1997, Minsky, 1980]. Lihat Gambar. 13.1. Bobot L link di atas  sehingga berfungsi untuk memandu proses penyimpanan dan berfungsi untuk mengecualikan pola yang benar-benar tumpang tindih, sehingga satu (atau lebih) dari mereka yang berlebihan dan perlu dihilangkan. Dalam banyak aplikasi, link bobot dianggap (dan diperbarui) adalah mereka antara penyimpanan SOM lapisan keluaran (seperti pada Gambar. 13.2) lapisan (modul) dan, sementara link-bobot antara berbagai SOM input-storage lapisan (yaitu, internal yang link-bobot) tidak dianggap atau diperbarui.

13.2.5. Determination of winning decision via link weights
Diagnosis / keputusan di modul keluaran SOM ditemukan dengan menganalisis hubungan L antara neuron diagnosis / keputusan dalam modul keluaran SOM dan winning neuron di semua modul masukan SOM dipilih dan diterima oleh proses yang diuraikan di sec.13.2.4. Selain itu, semua nilai L-berat ditetapkan (Diperbaharui) seperti yang dibahas di Sec. 13.2.4 di atas (Pers. (13.6), (13.7a) dan (13.7b)). winning neuron (diagnosis / keputusan) dari modul keluaran SOM adalah neuron dengan nilai kumulatif tertinggi link L menghubungkan ke yang dipilih (Menang) neuron masukan di modul input. Rumus diagnosis / deteksi untuk Output SOM modul (i) diberikan oleh:

dimana:
 i : i'th modul output.
 n : winning neuron dalam modul keluaran i'th
 kw: winning neuron dalam modul masukan k'th.
 M : jumlah modul input.
: Link berat antara winning neuron dalam modul masukan k dan neuron j di modul keluaran i'th.
Link bobot mungkin baik positif atau negatif. Mereka sebaiknya dimulai pada nilai acak kecil mendekati nol, meskipun inisialisasi semua bobot nol (Atau beberapa nilai yang tetap lainnya) Jika dua atau lebih berat adalah sama maka keputusan tertentu harus pra-diprogram untuk diberikan prioritas.

13.2.6. Nj weights (not implemented in most applications)
Nj bobot Gambar. 13.1 [Graupe dan Kordyleski, 1998] diperbarui oleh jumlah trafik ke neuron yang diberikan pada modul input SOM, yaitu dengan jumlah akumulatif dari subwords disimpan pada neuron tertentu (sesuai dengan penyesuaian karena melupakan seperti di Sec. 13.3 bawah), sebagaimana ditentukan oleh persamaan. (13.8):

dimana
m: adalah unit menang dalam modul SOM i'th (WTA),
(Nij): Yang menunjukkan bobot untuk menentukan lingkungan dari prioritas utama neuron dalam modul SOM i, untuk tujuan pencarian penyimpanan. Pada kebanyakan aplikasi, k mencakup semua neuron dalam modul dan kedua Nij dan l diabaikan, seperti pada Gambar. 13.2.
 l: yang menunjukkan neuron pertama yang akan dipindai (ditentukan oleh bobot Nij) yang menunjukkan proporsionalitas.
Kemudian bobot Nj Gambar. 13.1 di atas hanya digunakan dalam besar pengambilan / penjelajahan masalah. Mereka diinisialisasi pada beberapa nilai non-nol kecil acak (dipilih dari seragam distribusi) dan meningkat secara linear setiap kali neuron yang tepat terpilih sebagai pemenang.

13.2.7. Initialization and local minima
Berbeda dengan kebanyakan jaringan lain, jaringan saraf LAMSTAR tidak sensitive untuk inisialisasi dan tidak akan berkumpul untuk minimum lokal. Semua bobot Link harus diinisialisasi dengan nilai konstan yang sama, sebaiknya nol. Namun inisialisasi dari bobot penyimpanan wij dari Sec. 13.2.2 dan Nj  dari Sec. 13.2.6 harus secara acak untuk nilai-nilai rendah.
Sekali lagi, berbeda dengan sebagian besar jaringan saraf lainnya, LAMSTAR akan tidak bertemu untuk minimum local.
 

[Kembali]

Komentar

Posting Komentar

Postingan populer dari blog ini

MUTS

Gambar
A. Latar Belakang Indonesia merupakan salah satu negara dengan keanekaragaman tanaman yang cukup tinggi. Keanekaragaman tanaman tersebut merupakan satu tantangan dalam melakukan identifikasi. Identifikasi tanaman dapat dilakukan berdasarkan buah, bunga, maupun daun. Identifikasi berdasarkan daun merupakan identifikasi yang lebih mudah dilakukan karena daun akan ada sepanjang masa, sedangkan buah dan bunga hanya ada pada waktu tertentu. B. Rumusan Masalah Permasalahan yang diangkat pada penelitian ini dititik beratkan pada pengklasifikasian daun menggunakan algoritma Jaringan Syaraf Tiruan.   C. Tujuan Penelitian Tujuan dari penelitian ini adalah untuk melakukan klasifikasi citra daun menggunakan algoritma Jaringan Syaraf Tiruan.   D. Tinjauan Pustaka A. Segmentasi Citra Dalam pengolahan citra, terkadang kita menginginkan pengolahan hanya pada obyek tertentu. Oleh sebab itu, perlu dilakukan proses segmentasi citra yang bertujuan untuk memisahkan antara...
Baca selengkapnya

5.1. Madaline Training

Gambar
Madaline (Many Adaline) adalah ekstensi multilayer dari single-neuron bipolar Adaline ke suatu jaringan. Struktur dasar dari Madaline ini dapat dilihat pada gambar 5.1, dan gambar 5.2 memperlihatkan Madaline yang terdiri dari dua layers Adaline, ditambah sebuah layers input yang hanya berfungsi sebagai distributor input jaringan. Gambar 5.1 A simple Madaline structure Gambar 5.2 The Madaline network of 2 layers 5.1       Madaline Training             Dalam Madaline terdapat sebuah layer tersembunyi. Gambar 5.3 menunjukkan arsitektur Madaline untuk 2 buah masukan x1 dan x2, sebuah layer tersembunyi yang terdiri dari 2 unit neuron tersembunyi z1 dan z2, dan sebuah keluaran Y. Gambar 5.3 Keluaran dari unit tersembunyi z1 dan z2 adalah nilai fungsi aktivasi yang diterima dari x1 dan x2. Demikian pula unit keluaran Y merupakan nilai fungsi aktivasi dari z1 dan z2. Meskipun keluara...
Baca selengkapnya

11.1. Fundamental Philosophy

Gambar
Ide dasar di balik pelatihan statistik (stochastic) dari jaringan saraf adalah: Perubahan bobot dan menjaga perubahan-perubahan yang meningkatkan kinerja. Kelemahan dari pendekatan ini adalahsangat lambat! Juga, itu bisa terjebak di minimum lokal jika perubahan acak kecil karena perubahan tidak mungkin memiliki daya yang cukup untuk mendaki "puncak" (lihat Gambar.)   untuk mencari nilai lain lembah. Untuk mengatasi terjebak dalam minimum lokal, perubahan berat badan yang besar dapat digunakan. Namun, kemudian jaringan dapat menjadi berosilasi dan kehilangan ketetapan minimal . Untuk menghindari ketidakstabilan ini mungkin, perubahan berat badan bisa turun secara bertahap dalam ukuran. Strategi ini menyerupai proses anil dalam metalurgi. Hal ini pada dasarnya berlaku untuk semua jaringan yang dijelaskan sebelumnya, tetapi khususnya hanya untuk propagasi dan dimodifikasi jaringan. [Kembali]
Baca selengkapnya