11.6. Cauchy Training of Neural Network

Karena pelatihan Boltzman dari jaringan saraf seperti pada Secs. 11,2-11,4 sangat lambat, metode stokastik cepat berdasarkan distribusi probabilitas Cauchy adalah diusulkan oleh Szu (1986). Distribusi Cauchy perubahan energi :
untuk menghasilkan fungsi distribusi lagi (surut lebih lambat) ekor daripada di kasus Boltzman atau distribusi Gaussian. Perhatikan bahwa untuk Cauchy distribusi:
var (ΔE) = ∞ !!
Ketika distribusi Cauchy digunakan untuk Δw, resultan Δw akan memuaskan
Δw = ρT · tan [p (Δw)] (11.9)
ρ menjadi koefisien tingkat belajar. Langkah (3) dan langkah (4) dari prosedur framing
dari Sec. 11.3 demikian akan menjadi:
(3.a) Pilih nomor n acak dari distribusi seragam antara 0 dan 1 dan biarkan p (Δw) = n dimana p (Δw) adalah dalam bentuk persamaan. (11.8) di atas
(3.b) Selanjutnya, menentukan Δw melalui Persamaan.) untuk memenuhi Δw = ρT · tan (n) (11.11)
di mana T diperbarui oleh: T =Untuk1 + k ,untuk k = 1, 2, 3,. . . kontras dengan terbalik tingkat Sec log. 11.5. Perhatikan bahwa algoritma baru untuk T mengingatkan kondisi Dvoretzky untuk konvergensi dalam pendekatan stokastik [Graupe, 1989].
(4) Mempekerjakan Cauchy atau distribusi Boltzman di (4) dari Sec. 11.3. Metode pelatihan di atas adalah lebih cepat dari pelatihan Boltzman. Namun, masih sangat lambat. Selain itu, dapat mengakibatkan langkah ke arah yang salah menyebabkan ketidakstabilan. Karena Cauchy-mesin dapat menghasilkan Δw sangat besar, jaringan bisa mendapatkan terjebak. Untuk menghindari hal ini, batasan keras dapat ditetapkan. Atau, Δw dapat tergencet
menggunakan algoritma yang sama dengan yang digunakan untuk fungsi aktivasi, yaitu:
M menjadi batas keras pada amplitudo Δw.

[Kembali]

Komentar

Posting Komentar

Postingan populer dari blog ini

MUTS

Gambar
A. Latar Belakang Indonesia merupakan salah satu negara dengan keanekaragaman tanaman yang cukup tinggi. Keanekaragaman tanaman tersebut merupakan satu tantangan dalam melakukan identifikasi. Identifikasi tanaman dapat dilakukan berdasarkan buah, bunga, maupun daun. Identifikasi berdasarkan daun merupakan identifikasi yang lebih mudah dilakukan karena daun akan ada sepanjang masa, sedangkan buah dan bunga hanya ada pada waktu tertentu. B. Rumusan Masalah Permasalahan yang diangkat pada penelitian ini dititik beratkan pada pengklasifikasian daun menggunakan algoritma Jaringan Syaraf Tiruan.   C. Tujuan Penelitian Tujuan dari penelitian ini adalah untuk melakukan klasifikasi citra daun menggunakan algoritma Jaringan Syaraf Tiruan.   D. Tinjauan Pustaka A. Segmentasi Citra Dalam pengolahan citra, terkadang kita menginginkan pengolahan hanya pada obyek tertentu. Oleh sebab itu, perlu dilakukan proses segmentasi citra yang bertujuan untuk memisahkan antara...
Baca selengkapnya

5.1. Madaline Training

Gambar
Madaline (Many Adaline) adalah ekstensi multilayer dari single-neuron bipolar Adaline ke suatu jaringan. Struktur dasar dari Madaline ini dapat dilihat pada gambar 5.1, dan gambar 5.2 memperlihatkan Madaline yang terdiri dari dua layers Adaline, ditambah sebuah layers input yang hanya berfungsi sebagai distributor input jaringan. Gambar 5.1 A simple Madaline structure Gambar 5.2 The Madaline network of 2 layers 5.1       Madaline Training             Dalam Madaline terdapat sebuah layer tersembunyi. Gambar 5.3 menunjukkan arsitektur Madaline untuk 2 buah masukan x1 dan x2, sebuah layer tersembunyi yang terdiri dari 2 unit neuron tersembunyi z1 dan z2, dan sebuah keluaran Y. Gambar 5.3 Keluaran dari unit tersembunyi z1 dan z2 adalah nilai fungsi aktivasi yang diterima dari x1 dan x2. Demikian pula unit keluaran Y merupakan nilai fungsi aktivasi dari z1 dan z2. Meskipun keluara...
Baca selengkapnya

11.1. Fundamental Philosophy

Gambar
Ide dasar di balik pelatihan statistik (stochastic) dari jaringan saraf adalah: Perubahan bobot dan menjaga perubahan-perubahan yang meningkatkan kinerja. Kelemahan dari pendekatan ini adalahsangat lambat! Juga, itu bisa terjebak di minimum lokal jika perubahan acak kecil karena perubahan tidak mungkin memiliki daya yang cukup untuk mendaki "puncak" (lihat Gambar.)   untuk mencari nilai lain lembah. Untuk mengatasi terjebak dalam minimum lokal, perubahan berat badan yang besar dapat digunakan. Namun, kemudian jaringan dapat menjadi berosilasi dan kehilangan ketetapan minimal . Untuk menghindari ketidakstabilan ini mungkin, perubahan berat badan bisa turun secara bertahap dalam ukuran. Strategi ini menyerupai proses anil dalam metalurgi. Hal ini pada dasarnya berlaku untuk semua jaringan yang dijelaskan sebelumnya, tetapi khususnya hanya untuk propagasi dan dimodifikasi jaringan. [Kembali]
Baca selengkapnya