6.3. Modified BP Algorithms



a.      Introduction of bias into NN
Hal ini sering menguntungkan untuk menerapkan beberapa bias ke neuron dari jaringan saraf (Lihat Gambar. 6.2). bias dapat dilatih bila dikaitkan dengan dilatih untuk menjadi dimodifikasi. Oleh karena itu bias diwujudkan dalam hal input dengan beberapa konstan (1 atau +B) masukan, dan bias bi tepat (di neuron i) kemudian diberikan

woi menjadi istilah bias yang di input ke neuron i (lihat Gambar. 7). bias bisa positif atau negatif.


b.      Incorporating momentum or smoothing to weight adjustment
The backpropagation (BP) algoritma untuk menghitung bobot neuron mungkin cenderung ketidakstabilan dalam kondisi operasi tertentu. Untuk mengurangi kecenderungan untuk ketidakstabilan Rumelhart et al. (1986) menyarankan untuk menambahkan istilah momentum untuk Persamaan. (6.1). Karenanya, Eq. (6.12) adalah modi ed untuk:

untuk m + 1 iterasi, dengan 0 < α <1; α menjadi koefisien momentum (biasanya sekitar 0,9). Kerja dengan α akan cenderung menghindari cepat fluktuasi, tapi mungkin tidak selalu bekerja, atau bahkan bisa merugikan konvergensi. Metode smoothing lain, untuk tujuan yang sama dan juga tidak selalu dianjurkan,
adalah bahwa menggunakan istilah smoothing seperti yang diusulkan oleh Sejnowski dan Rosenberg (1987), diberikan sebagai berikut:

dengan 0 < α <1. Perhatikan bahwa untuk α = 0 tidak ada terjadi smoothing. Persamaan (6.32) η antara 0 dan 1.

c.       Other modification concerning convergence
Peningkatan konvergensi dari algoritma BP sering dapat dicapai dengan memodifikasi kisaran fungsi sigmoid dari kisaran nol hingga satu, untuk rentang dari
-0: 5-0,5. Pengenalan umpan balik (lihat Ch. 12) kadang-kadang dapat digunakan. Memodifikasi ukuran langkah dapat digunakan untuk menghindari algoritma BP dari mendapatkan terjebak (kelumpuhan belajar) atau dari berosilasi. Hal ini sering dicapai dengan mengurangi langkah ukuran, setidaknya ketika algoritma mendekati kelumpuhan atau ketika mulai berosilasi.
Konvergensi minimum lokal dapat dihindari dengan metode statistik dimana selalu ada kemungkinan gerakan jauh jaringan terbatas atau minimal nyata dengan langkah besar. Dimodifikasi (ulet) algoritma BP, seperti RPROP (Riedmiller dan Braun, 1993) sangat mempercepat konvergensi dan mengurangi kepekaan terhadap inisialisasi. Menganggap hanya tanda-tanda derivatif parsial untuk menghitung bobot oleh BP, daripada mereka nilai-nilai.

Komentar

Posting Komentar

Postingan populer dari blog ini

MUTS

Gambar
A. Latar Belakang Indonesia merupakan salah satu negara dengan keanekaragaman tanaman yang cukup tinggi. Keanekaragaman tanaman tersebut merupakan satu tantangan dalam melakukan identifikasi. Identifikasi tanaman dapat dilakukan berdasarkan buah, bunga, maupun daun. Identifikasi berdasarkan daun merupakan identifikasi yang lebih mudah dilakukan karena daun akan ada sepanjang masa, sedangkan buah dan bunga hanya ada pada waktu tertentu. B. Rumusan Masalah Permasalahan yang diangkat pada penelitian ini dititik beratkan pada pengklasifikasian daun menggunakan algoritma Jaringan Syaraf Tiruan.   C. Tujuan Penelitian Tujuan dari penelitian ini adalah untuk melakukan klasifikasi citra daun menggunakan algoritma Jaringan Syaraf Tiruan.   D. Tinjauan Pustaka A. Segmentasi Citra Dalam pengolahan citra, terkadang kita menginginkan pengolahan hanya pada obyek tertentu. Oleh sebab itu, perlu dilakukan proses segmentasi citra yang bertujuan untuk memisahkan antara...
Baca selengkapnya

5.1. Madaline Training

Gambar
Madaline (Many Adaline) adalah ekstensi multilayer dari single-neuron bipolar Adaline ke suatu jaringan. Struktur dasar dari Madaline ini dapat dilihat pada gambar 5.1, dan gambar 5.2 memperlihatkan Madaline yang terdiri dari dua layers Adaline, ditambah sebuah layers input yang hanya berfungsi sebagai distributor input jaringan. Gambar 5.1 A simple Madaline structure Gambar 5.2 The Madaline network of 2 layers 5.1       Madaline Training             Dalam Madaline terdapat sebuah layer tersembunyi. Gambar 5.3 menunjukkan arsitektur Madaline untuk 2 buah masukan x1 dan x2, sebuah layer tersembunyi yang terdiri dari 2 unit neuron tersembunyi z1 dan z2, dan sebuah keluaran Y. Gambar 5.3 Keluaran dari unit tersembunyi z1 dan z2 adalah nilai fungsi aktivasi yang diterima dari x1 dan x2. Demikian pula unit keluaran Y merupakan nilai fungsi aktivasi dari z1 dan z2. Meskipun keluara...
Baca selengkapnya

11.1. Fundamental Philosophy

Gambar
Ide dasar di balik pelatihan statistik (stochastic) dari jaringan saraf adalah: Perubahan bobot dan menjaga perubahan-perubahan yang meningkatkan kinerja. Kelemahan dari pendekatan ini adalahsangat lambat! Juga, itu bisa terjebak di minimum lokal jika perubahan acak kecil karena perubahan tidak mungkin memiliki daya yang cukup untuk mendaki "puncak" (lihat Gambar.)   untuk mencari nilai lain lembah. Untuk mengatasi terjebak dalam minimum lokal, perubahan berat badan yang besar dapat digunakan. Namun, kemudian jaringan dapat menjadi berosilasi dan kehilangan ketetapan minimal . Untuk menghindari ketidakstabilan ini mungkin, perubahan berat badan bisa turun secara bertahap dalam ukuran. Strategi ini menyerupai proses anil dalam metalurgi. Hal ini pada dasarnya berlaku untuk semua jaringan yang dijelaskan sebelumnya, tetapi khususnya hanya untuk propagasi dan dimodifikasi jaringan. [Kembali]
Baca selengkapnya