Apa itu Neural Network Backpropagation: Jenis dan Aplikasinya

Coba Instrumen Kami Untuk Menghilangkan Masalah





Sesuai dengan namanya, backpropagation adalah file algoritma yang kembali menyebarkan kesalahan dari node output ke node input. Oleh karena itu, ini hanya disebut sebagai 'kesalahan propagasi mundur'. Pendekatan ini dikembangkan dari analisis otak manusia. Pengenalan ucapan, pengenalan karakter, verifikasi tanda tangan, pengenalan wajah manusia adalah beberapa aplikasi jaringan saraf yang menarik. Jaringan saraf melalui pembelajaran yang diawasi, vektor input yang melewati jaringan menghasilkan vektor keluaran. Vektor keluaran ini diverifikasi terhadap keluaran yang diinginkan. Jika hasilnya tidak cocok dengan vektor keluaran, laporan kesalahan dibuat. Berdasarkan laporan kesalahan, bobot disesuaikan untuk mendapatkan keluaran yang diinginkan.

Apa itu Jaringan Syaraf Tiruan?

Sebuah Jaringan Syaraf Tiruan menggunakan aturan pembelajaran yang diawasi agar menjadi efisien dan kuat. Informasi di jaringan saraf mengalir dalam dua cara berbeda. Terutama, saat model sedang dilatih atau dipelajari dan saat model beroperasi secara normal - baik untuk pengujian atau digunakan untuk melakukan tugas apa pun. Informasi dalam berbagai bentuk dimasukkan ke dalam model melalui neuron masukan, memicu beberapa lapisan neuron tersembunyi dan mencapai neuron keluaran, yang dikenal sebagai jaringan feedforward.




Karena semua neuron tidak memicu pada saat yang sama, neuron yang menerima masukan dari kiri dikalikan dengan bobot saat mereka bergerak melalui lapisan tersembunyi. Sekarang, jumlahkan semua input dari setiap neuron dan ketika jumlahnya melebihi ambang batas tertentu, neuron yang tadinya diam akan terpicu dan terhubung.

Cara Jaringan Syaraf Tiruan belajar adalah bahwa ia belajar dari kesalahan yang dilakukannya dan melakukan yang benar, dan ini dikenal sebagai umpan balik. Jaringan Syaraf Tiruan menggunakan umpan balik untuk mempelajari apa yang benar dan salah.



Apa itu Backpropagation?

Definisi: Propagasi mundur adalah mekanisme penting yang digunakan untuk melatih jaringan saraf. Ini adalah mekanisme yang digunakan untuk menyempurnakan bobot jaringan neural (jika tidak disebut sebagai model dalam artikel ini) terkait dengan tingkat kesalahan yang dihasilkan dalam iterasi sebelumnya. Ini mirip dengan pembawa pesan yang memberi tahu model jika internet membuat kesalahan atau tidak secepat yang diprediksi.

Jaringan Neural Propagasi Balik

jaringan saraf tiruan propagasi mundur

Propagasi balik di jaringan saraf adalah tentang penularan informasi dan menghubungkan informasi ini dengan kesalahan yang dihasilkan oleh model saat tebakan dibuat. Metode ini berusaha mengurangi kesalahan, yang disebut sebagai fungsi kerugian.


Cara Kerja Propagasi Balik - Algoritma Sederhana

Propagasi mundur dalam pembelajaran dalam adalah pendekatan standar untuk melatih jaringan saraf tiruan. Cara kerjanya adalah - Awalnya ketika jaringan saraf dirancang, nilai acak ditetapkan sebagai bobot. Pengguna tidak yakin apakah nilai bobot yang ditetapkan benar atau sesuai dengan model. Akibatnya, model mengeluarkan nilai yang berbeda dari keluaran aktual atau yang diharapkan, yaitu nilai kesalahan.

Untuk mendapatkan keluaran yang sesuai dengan kesalahan minimal, model harus dilatih pada set data atau parameter terkait dan memantau kemajuannya setiap kali diprediksi. Jaringan saraf memiliki hubungan dengan kesalahan, oleh karena itu, setiap kali parameter berubah, kesalahan juga berubah. Propagasi mundur menggunakan teknik yang dikenal sebagai aturan delta atau penurunan gradien untuk mengubah parameter dalam model.

Diagram di atas menunjukkan cara kerja propagasi mundur dan kerjanya diberikan di bawah ini.

  • 'X' pada jangkauan masukan dari jalur yang telah terhubung sebelumnya
  • 'W', bobot sebenarnya digunakan untuk memodelkan input. Nilai-nilai W dibagikan secara acak
  • Output untuk setiap neuron dihitung melalui propagasi penerusan - lapisan masukan, lapisan tersembunyi, dan lapisan keluaran.
  • Kesalahan dihitung pada keluaran menggunakan persamaan Menyebarkan mundur lagi melalui keluaran dan lapisan tersembunyi, bobot disesuaikan untuk mengurangi kesalahan.

Sekali lagi merambat ke depan untuk menghitung output dan kesalahan. Jika kesalahan diminimalkan, proses ini berakhir, atau menjalar ke belakang dan menyesuaikan nilai bobot.

Proses ini berulang sampai kesalahan berkurang ke minimum dan keluaran yang diinginkan diperoleh.

Mengapa Kami Membutuhkan Backpropagation?

Ini adalah mekanisme yang digunakan untuk melatih jaringan saraf yang terkait dengan kumpulan data tertentu. Beberapa dari keuntungan dari Backpropagation adalah

  • Sederhana, cepat dan mudah untuk diprogram
  • Hanya nomor masukan yang disetel dan bukan parameter lainnya
  • Tidak perlu memiliki pengetahuan sebelumnya tentang jaringan
  • Itu fleksibel
  • Pendekatan standar dan bekerja secara efisien
  • Pengguna tidak perlu mempelajari fungsi khusus

Jenis Jaringan Backpropagation

Ada dua jenis jaringan propagasi mundur. Itu dikategorikan sebagai berikut:

Propagasi Balik Statis

Backpropagation statis merupakan salah satu jenis jaringan yang bertujuan untuk menghasilkan pemetaan suatu masukan statis untuk keluaran statis. Jenis jaringan ini mampu memecahkan masalah klasifikasi statis seperti pengenalan karakter optik (OCR).

Backpropagation Berulang

Backpropagation berulang adalah jenis jaringan lain yang digunakan dalam pembelajaran titik tetap. Aktivasi dalam propagasi mundur berulang diumpankan ke depan sampai mencapai nilai tetap. Setelah ini, kesalahan dihitung dan disebarkan ke belakang. SEBUAH perangkat lunak , NeuroSolutions memiliki kemampuan untuk melakukan propagasi mundur berulang.

Perbedaan utama: Propagasi mundur statis menawarkan pemetaan langsung, sementara pemetaan propagasi mundur berulang tidak langsung.

Kekurangan dari Backpropagation

Kekurangan dari propagasi mundur adalah:

  • Propagasi mundur mungkin sensitif terhadap data berisik dan ketidakteraturan
  • Performa ini sangat bergantung pada data masukan
  • Butuh waktu berlebih untuk latihan
  • Perlunya metode berbasis matriks untuk propagasi mundur, bukan batch mini

Aplikasi Backpropagation

Aplikasinya adalah

  • Jaringan saraf dilatih untuk mengucapkan setiap huruf dari sebuah kata dan kalimat
  • Ini digunakan di bidang pengenalan suara
  • Ini digunakan di bidang karakter dan pengenalan wajah

FAQ

1). Mengapa kita membutuhkan propagasi mundur di jaringan saraf?

Ini adalah mekanisme yang digunakan untuk melatih jaringan saraf yang terkait dengan kumpulan data tertentu

2). Apa tujuan dari algoritma propagasi mundur?

Tujuan dari algoritma ini adalah untuk menciptakan mekanisme pelatihan untuk jaringan saraf guna memastikan bahwa jaringan tersebut dilatih untuk memetakan masukan ke keluaran yang sesuai.

3). Berapa kecepatan pembelajaran di jaringan saraf?

Kecepatan pembelajaran ditentukan dalam konteks pengoptimalan dan meminimalkan fungsi hilangnya jaringan neural. Ini mengacu pada kecepatan di mana jaringan neural dapat mempelajari data baru dengan mengganti data lama.

4). Apakah jaringan saraf merupakan algoritme?

Iya. Jaringan saraf adalah serangkaian algoritma atau aturan pembelajaran yang dirancang untuk mengidentifikasi pola.

5). Apa fungsi aktivasi di jaringan saraf?

Fungsi aktivasi jaringan saraf memutuskan apakah neuron harus diaktifkan / dipicu atau tidak berdasarkan jumlah total.

Dalam artikel ini, konsep Backpropagation Jaringan saraf dijelaskan menggunakan bahasa sederhana untuk dipahami pembaca. Dalam metode ini, jaringan saraf dilatih dari kesalahan yang dihasilkan untuk menjadi mandiri dan menangani situasi yang kompleks. Jaringan saraf memiliki kemampuan untuk belajar secara akurat dengan sebuah contoh.