11.4. Stochastic Determination of Magnitude of Weight Change

Penyesuaian stokastik Δw (langkah 3 di di atas) juga dapat mengikuti termodinamika setara, di mana Δw dapat dianggap untuk mematuhi distribusi Gaussian:
p (Δw) yang menunjukkan kemungkinan perubahan berat badan Δw. Atau p (Δw) mungkin mematuhi distribusi Boltzman serupa dengan ΔE. Dalam kasus ini, Langkah 3 adalah dimodifikasi untuk memilih langkah perubahan Δw sebagai berikut [Metropolis et al., 1953].
- Pra-menghitung 1P distribusi kumulatif (w), melalui integrasi numerik
dan P (w) vs w.
-Pilih nomor acak μ dari distribusi seragam pada interval dari 0 1. Gunakan nilai ini dari μ sehingga P (w) akan memuaskan, untuk beberapa w: μ = P (w) (11,5) dan mencari yang sesuai w ke P (w). Menunjukkan resultan w sebagai wk hadir untuk cabang saraf yang diberikan. Oleh karena itu, berasal Δwk = wk - wk-1
wk-1 menjadi nilai bobot sebelumnya di cabang dipertimbangkan dalam jaringan.

[Kembali]

Komentar

Posting Komentar

Postingan populer dari blog ini

MUTS

Gambar
A. Latar Belakang Indonesia merupakan salah satu negara dengan keanekaragaman tanaman yang cukup tinggi. Keanekaragaman tanaman tersebut merupakan satu tantangan dalam melakukan identifikasi. Identifikasi tanaman dapat dilakukan berdasarkan buah, bunga, maupun daun. Identifikasi berdasarkan daun merupakan identifikasi yang lebih mudah dilakukan karena daun akan ada sepanjang masa, sedangkan buah dan bunga hanya ada pada waktu tertentu. B. Rumusan Masalah Permasalahan yang diangkat pada penelitian ini dititik beratkan pada pengklasifikasian daun menggunakan algoritma Jaringan Syaraf Tiruan.   C. Tujuan Penelitian Tujuan dari penelitian ini adalah untuk melakukan klasifikasi citra daun menggunakan algoritma Jaringan Syaraf Tiruan.   D. Tinjauan Pustaka A. Segmentasi Citra Dalam pengolahan citra, terkadang kita menginginkan pengolahan hanya pada obyek tertentu. Oleh sebab itu, perlu dilakukan proses segmentasi citra yang bertujuan untuk memisahkan antara...
Baca selengkapnya

5.1. Madaline Training

Gambar
Madaline (Many Adaline) adalah ekstensi multilayer dari single-neuron bipolar Adaline ke suatu jaringan. Struktur dasar dari Madaline ini dapat dilihat pada gambar 5.1, dan gambar 5.2 memperlihatkan Madaline yang terdiri dari dua layers Adaline, ditambah sebuah layers input yang hanya berfungsi sebagai distributor input jaringan. Gambar 5.1 A simple Madaline structure Gambar 5.2 The Madaline network of 2 layers 5.1       Madaline Training             Dalam Madaline terdapat sebuah layer tersembunyi. Gambar 5.3 menunjukkan arsitektur Madaline untuk 2 buah masukan x1 dan x2, sebuah layer tersembunyi yang terdiri dari 2 unit neuron tersembunyi z1 dan z2, dan sebuah keluaran Y. Gambar 5.3 Keluaran dari unit tersembunyi z1 dan z2 adalah nilai fungsi aktivasi yang diterima dari x1 dan x2. Demikian pula unit keluaran Y merupakan nilai fungsi aktivasi dari z1 dan z2. Meskipun keluara...
Baca selengkapnya

11.1. Fundamental Philosophy

Gambar
Ide dasar di balik pelatihan statistik (stochastic) dari jaringan saraf adalah: Perubahan bobot dan menjaga perubahan-perubahan yang meningkatkan kinerja. Kelemahan dari pendekatan ini adalahsangat lambat! Juga, itu bisa terjebak di minimum lokal jika perubahan acak kecil karena perubahan tidak mungkin memiliki daya yang cukup untuk mendaki "puncak" (lihat Gambar.)   untuk mencari nilai lain lembah. Untuk mengatasi terjebak dalam minimum lokal, perubahan berat badan yang besar dapat digunakan. Namun, kemudian jaringan dapat menjadi berosilasi dan kehilangan ketetapan minimal . Untuk menghindari ketidakstabilan ini mungkin, perubahan berat badan bisa turun secara bertahap dalam ukuran. Strategi ini menyerupai proses anil dalam metalurgi. Hal ini pada dasarnya berlaku untuk semua jaringan yang dijelaskan sebelumnya, tetapi khususnya hanya untuk propagasi dan dimodifikasi jaringan. [Kembali]
Baca selengkapnya