JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire Volume 7. No 2. November 2024 IMPLEMENTASI MODEL LSTM. GRU. BILSTM. DAN BIGRU DALAM PREDIKSI HARGA NIKEL Muhammad Atharsyah 1. Moh. Ali Romli2 12. Program Studi Informatika. Fakultas Sains dan Teknology. Universitas Teknologi Yogyakarta Jalan Ringroad Utara. Jombor. Kec. Sleman. Daerah Istimewa Yogyakarta 55285 5210411238@student. id, 2 ali. romli@uty. Abstract The use of nickel in the world is becoming increasingly widespread. Nickel is the main ingredient in stainless steel and electric car batteries. Along with the advancement of electric vehicles that use nickel batteries, nickel prices have become an interesting topic, especially for investors who are willing to invest in the nickel industry. Recent studies on nickel price prediction utilized Long Short-Term Memory (LSTM). Gated Recurrent Unit (GRU). Bidirectional Long Short-Term Memory (BiLSTM), and Bidirectional Gated Recurrent Unit (BiGRU) models, with historical data of nickel prices in USD. The construction of the best prediction model involves adjusting parameters such as epoch, learning rate, batch, optimizer, and applying dropout techniques to avoid overfitting. The test results show that the BiLSTM model is the best, with R2 Score of 0. 86962 and RMSE of 0. 024735, indicating that the BiGRU model provides accurate predictions based on R2 and RMSE Keywords: LSTM. GRU. BiLSTM. BiGRU. Nikel Abstrak Penggunaan nikel di dunia kini semakin meluas. Nikel merupakan bahan utama pembuatan baja tahan karat dan baterai mobil listrik. Seiring dengan kemajuan kendaraan listrik yang menggunakan baterai nikel, harga nikel pun menjadi topik menarik, terutama bagi investor yang berkeinginan untuk berinvestas i di industri nikel. Studi terkini tentang prediksi harga nikel memanfaatkan model Long Short-Term Memory (LSTM). Gated Recurrent Unit (GRU). Bidirectional Long Short-Term Memory (BiLSTM), dan Bidirectional Gated Recurrent Unit (BiGRU), dengan data historis harga nikel dalam USD. Pembangunan model prediksi terbaik melibatkan penyesuaian parameter seperti epoch, learning rate, batch, optimizer, dan penerapan teknik dropout untuk menghindari overfitting. Hasil pengujian menunjukkan bahwa model BiLSTM adalah yang terbaik, dengan R2 Score sebesar 0. 86962 dan RMSE sebesar 0. 024735, menandakan bahwa model BiGRU memberikan prediksi yang akurat berdasarkan kriteria R2 dan RMSE. Kata kunci : LSTM. GRU. BiLSTM. BiGRU. Nikel PENDAHULUAN Nikel adalah salah satu elemen dalam kimia dengan simbol Ni dan memiliki nomor atom 28. Nikel bersifat keras, lunak dan tidak mudah Nikel merupakan logam yang beracun dan dapat menyebabkan gangguan kesehatan apabila terhirup atau terpapar dalam jumlah yang besar . Nikel digunakan dalam banyak industri, termasuk kimia, metalurgi, dan pembuatan alat Nikel tidak hanya digunakan untuk ISSN. 2620-6900 (Onlin. 2620-6897 (Ceta. membuat baja tahan karat, tetapi juga digunakan untuk membuat baterai, terutama baterai mobil Larangan Indonesia terhadap ekspor bijih nikel telah meningkatkan harga nikel di London Metal Exchange (LME), dengan larangan tahun 2014 memiliki dampak yang lebih signifikan dan berkepanjangan di pasar . Tetapi Menurut data statistik dari Badan Pusat Statistik (BPS), harga nikel mengalami penurunan di bulan Desember Salah satu faktor penurunan harga nikel di JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire pasar global adalah hilirisasi yang dilakukan oleh pemerintah Indonesia yang mengakibatkan penurunan harga sekitar 3,33% mtm dan 43,14%. Ekspor nikel Indonesia penurunan pada bulan Desember 2023, dengan nilai ekspor sebesar US$521,8 juta, turun sekitar 4,09% secara bulanan, dan volume ekspor sebesar 126,0 juta ton, turun sekitar 14,06%. Penurunan harga disebabkan oleh penurunan permintaan dari negara tujuan ekspor. Nikel memiliki dampak dan sensitivitas harga perdagangan terbesar, dengan pengaruh yang lebih kuat di Asia dan Eropa, sedangkan bijih nikel memiliki risiko volatilitas harga perdagangan impor tertinggi dan pengaruh yang kuat, namun memiliki transmisi risiko yang moderat . Penggunaan deep learning dapat membantu investor untuk memprediksi harga nikel dibandingkan dengan menggunakan metode Dengan jumlah data yang cukup banyak, dengan menggunakan deep learning akan memproses data dengan lebih cepat dan tepat. Metode deep learning yang sering digunakan adalah RNN dengan model LSTM dan GRU. Baik jaringan LSTM maupun GRU mampu memprediksi biaya kuotasi secara akurat, namun jaringan LSTM mengungguli jaringan GRU . Dalam membuat prediksi menggunakan deep learning, memang ditangkap menjadi lebih baik, tetapi ada beberapa faktor yang dapat membuat prediksi tidak sepenuhnya menjadi patokan. Banyak faktor eksternal, seperti saham, kadangkadang tidak dapat diprediksi. Volatilitas harga bijih nikel sangat dipengaruhi oleh suku bunga, ketidakpastian ekonomi global, dan nilai tukar . Penelitian adalah analisis algoritma untuk prediksi harga nikel. Belakangan ini, banyak penelitian telah menggunakan LSTM dan GRU menjadi model yang Karena model-model ini dapat dan menginterpretasikan temporal yang rumit pada data deret waktu dengan akurasi yang lebih tinggi, model-model ini menjadi semakin populer di bidang peramal an Model LSTM adalah jaringan saraf tiruan berulang dari pembelajaran mendalam yang menunjukkan harapan untuk pemodelan deret waktu, terutama dalam kondisi ketika data berlimpah . Oleh karena itu, model ini bekerja dengan sangat baik dalam aplikasi keuangan seperti prediksi harga saham, analisis tren, dan optimasi strategi investasi. Menurut penelitian, model LSTM dapat mengantisipasi harga saham dengan tingkat akurasi yang tinggi, sering kali mengungguli teknik peramalan yang lebih ISSN. 2620-6900 (Onlin. 2620-6897 (Ceta. Volume 7. No 2. November 2024 Model GRU adalah jaringan syaraf tiruan berulang dengan gerbang reset dan update pada lapisan tersembunyi, yang secara komputasi lebih efisien daripada LSTM konvensional . Dibandingkan dengan LSTM. GRU lebih cepat kesederhanaanny a. Dalam tantangan melibatkan prediksi harga saham. GRU telah menunjukkan kinerja yang kuat, terutama ketika menangani fluktuasi linear dalam harga saham. Dalam sebuah penelitian, misalnya, kinerja model GRU dan LSTM dibandingkan, dan ditemukan bahwa GRU berkinerja lebih baik daripada LSTM dalam beberapa situasi, terutama memproses data dengan fitur linier. Kedua model ini memiliki arsitektur yang sederhana dan dilengkapi dengan implementasi yang sudah dibuat sebelumnya dalam perangkat lunak sumber terbuka, sehingga relatif mudah digunakan dalam peramalan keuangan. Bidirection Model dalam Recurrent Neural Networks (RNN) seperti Bidirectional Long ShortTerm Memory (BiLSTM) dan Bidirectional Gated Recurrent Unit (BiGRU) adalah arsitektur canggih yang dirancang untuk meningkatkan performa tugas pemrosesan data berurutan dengan mempertimbangkan konteks masa lalu dan masa Dengan melihat permasalahan yang ada seerta hasil penelitian terdahulu, maka penelitian ini akan di lakukan prediksi harga nikel dengan menggunakan metode LSTM. GRU. BiLSTM dan BiGRU, metode metode ini telah banyak digunakan dalam melakukan prediksi dengan data deret waktu yang dianggap cocok dalam memprediksi harga nikel. Namun dalam penelitian ini digunakan beberapa parameter yang berbeda dan sesuai dengan data yang digunakan agar dapat memperoleh hasil yang Parameter yang akan digunakan untuk pada penelitian sebelumnya, seperti epoch, batch, dan optimizer. Selain itu, untuk menghindari overfitting model, teknik regulasi dropout harus Diharapkan bahwa penelitian ini akan mencapai dua tujuan membangun model prediksi harga saham yang paling akurat dan hasil evaluasi dari dua pendekatan yang berbeda yang digunakan untuk memprediksi harga nikel. JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire METODOLOGI PENELITIAN Volume 7. No 2. November 2024 Untuk data training 80% dan data testing Untuk menghasilkan nilai prediksi yang lebih baik dalam penelitian ini, tahap preprocessing sangat penting . Pemodelan Penelitian dilakukan dengan 4 model RNN dengan algoritma yang berbeda untuk melihat model mana dan parameter seperti apa yang paling baik untuk mempredikisi harga nikel. Model yang digunakan yaitu LSTM. GRU. BiLSTM, dan BiGRU. Gambar 1 Alur Penelitian Penelitian dilakukan menggunakan empat model deep learning yaitu LSTM. GRU. BiLSTM, dan BiGRU dengan tujuan mempredikisi harga Berikut rangkaian dari penelitian. Pengumpulan Data Pada penelititan data yang digunakan adalah history harga nikel dengan basis USD($) dari tanggal 7 Juli 2008 sampai tanggal 3 Juni 2024 . Data didapatkan pada laman situs Investing. dengan mengekstrak data menjadi format csv. Preprocesing Data Pada tahap ini data yang sudah dikumpulkan akan dilakukan penyesuaian data dengan membuang beberapa kolom yang di anggap tidak diperlukan karena memiliki nilai nul yang banyak seperti Vol dan Change %. Sehingga kolom yang akan digunakan merupakan kolom Date. Price. Open. High. Low. Dimana kolom Date akan digunakan sebagai indeks dan kolom lainnya sebagai feature. Setelah dilakukan penyesuaian kemudian dilakukan normalisasi data sehinga menjadi nilai dengan range interval 0-1. Metode yang digunakan adalah Min-Max Normalisasi atau MinMax Scaling dengan menggunakanpersam aa n sebagai berikut. ycUycn Oe ycUycoycnycu ycUycuycuycyco,ycn = ycn = 1,2,3. A , yc . ycUycoycaycu Oe ycUycoycnycu dengan Xycuycuycyco adalah nilai normalisasi. Xmax adalah nilai maksimum data, dan ycuycoycnycu adalah nilai minimum data. Selanjutnya dataset dibagi menjadi dua bagian yaitu data training dan data ISSN. 2620-6900 (Onlin. 2620-6897 (Ceta. Recurrent Neural Network Recurrent Neural Network (RNN) adalah pengembangan dari arsitektur jaringan saraf Di mana output dari lapisan tersembuny i menjadi input untuk proses berikutnya . Jadi, bisa dikatakan bahwa Recurrent Neural Network (RNN) merupakan versi dasar dari jaringan saraf berulang yang dirancang untuk mengolah data berurutan dengan cara yang efisien namun Dengan struktur yang terdiri dari unitunit yang terhubung secara berulang. RNN dapat sebelumnya, sehingga mampu menangani tugas tugas seperti pengenalan pola. Namun. RNN seringkali mengalami masalah Vanishing Gradient, di mana informasi dari urutan yang panjang menjadi sulit untuk dipertahankan. Dalam struktur Recurrent Neural Network (RNN), inpu, lapisan tersembunyi, dan output terdiri dari satu sama lain. Lapisan tersembunyi diperbarui setiap kali langkah yang dikalukan dan mengandung informasi tentang apa yang telah dipelajari dari input sebelumnya. Algoritma back propagation terus digunakan untuk melatih RNN untuk mengurangi atau memastikan kesalahan antara output prediksi dan output sebenarnya. Sejak lama. RNN telah digunakan untuk mencapai hasil yang inovatif dalam berbagai tugas. Namun, untuk melakukannya dengan data yang besar. RNN membutuhkan pelatihan komputasi yang sangat RNN terutama berfokus pada sifat data di mana waktu saat ini atau saat sebelumnya . mempengaruhi waktu berikutnya . Konsep dasar RNN adalah menggunakan algoritma yang dilakukan berulang, yang berarti bahwa operasi yang sama dilakukan untuk setiap elemen secara berurutan, dengan output bergantung pada input dan operasi sebelumnya. seperti pada Gambar 2. JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire Gambar 2 Rangkaian Recurrent Neural Network Long Short-Term Memory Long Short-Term Memory (LSTM) adalah vanishing gradient yang ditemukan pada model Recurrent Neural Network (RNN). LSTM merupakan pengembangan dari RNN. LSTM dirancang untuk pembelajaran sekuen yang lebih Arsitektur LSTM terdiri dari struktur sel dengan gerbang-gerbang khusus yang mengatur aliran informasi. Gerbang-gerbang tersebut, yaitu input gate, forget gate, dan output gate, memiliki mempertahanka n, berdasarkan kebutuhan seperti yang di tampilkan pada Gambar 3. Volume 7. No 2. November 2024 sedangkan gate update mengatur seberapa banyak informasi dari masa kini yang harus diintegrasikan ke dalam proses . Kelebihan GRU adalah bahwa itu adalah proses komputasi yang lebih sederhana daripada LSTM. Namun. GRU masih tepat dan efektif dalam menangani masalah gradien yang hilang. Pada GRU, kita pertama-tama menghitung kandidat konteks CE t sebagai tanh dari gabungan input xt dan konteks lama Ct-1. Kemudian, kita menggunakan gerbang update ut, sebuah gerbang sigmoid, untuk menghitung jumlah konteks baru CE t yang berasal dari kandidat CE t dan jumlah konteks lama Ct-1. Gambar 4 Rangkaian Gated Recurrent Unit Gambar 4 merupakan rangkaian model GRU Untuk perhitungan CE t, rangkaian lengkap GRU memiliki gerbang rt yang disebut reset gate. Ini membuat diagram sedikit rumit. Gambar 3 Rangkaian Long Short-Term Memory Selain itu, penelitian ini menggunakan library Keras, jaringan syaraf imitasi yang berfungs i dengan TensorFlow, untuk mempercepat proses pengolahan data. Gated Recurrent Unit (GRU) Gated Recurrent Unit (GRU) merupakan model jaringan saraf yang diaplikasikan untuk analisis data berurutan. Model ini dikembangkan sebagai alternatif dari Long Short-Term Memory (LSTM) dengan struktur yang lebih simpel dan efisien secara komputasi. GRU terdiri dari dua pintu utama: pintu reset dan pintu update. Pintu reset menentukan jumlah informasi masa lalu yang perlu dilupakan, sementara pintu update menentukan jumlah informasi saat ini yang akan digabungkan ke dalam proses . GRU memiliki dua gate utama: gate reset dan gate update. Gate reset bertindak untuk mengatur seberapa banyak informasi dari masa lalu yang harus diabaikan. ISSN. 2620-6900 (Onlin. 2620-6897 (Ceta. Bidirectional Model bidirectional merupakan variasi dari model jaringan saraf berulang (RNN) yang dapat memproses data dalam dua arah waktu, baik dari masa lalu maupun masa depan . BiLSTM merupakan variasi dari model LSTM yang beroperasi dalam dua arah waktu. Arsitektur BiLSTM dibangun dari dua LSTM yang beroperas i secara terbalik: satu bergerak maju dari awal hingga akhir, dan yang lainnya bergerak mundur dari akhir ke awal. Output dari kedua LSTM tersebut lalu diintegrasikan untuk menyediakan konteks yang lebih komprehensif pada tiap titik waktu . Prosesnya dapat di tulis sebagai Eayc = [Eayc Ie . Eayc Ia ] . Dimana htIehtIe adalah output dari forward GRU dan htIahtIa adalah output dari backward GRU . BiGRU adalah desain RNN khusus yang dirancang untuk menangani kerumitan data berurutan dengan menangkap pola kompleks dalam urutan maju dan mundur. BiGRU terdiri dari dua lapisan GRU dengan model GRU sebagai JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire satu lapisan mengamati urutan input dalam lintasan maju, dan lapisan lainnya memeriksanya secara terbalik. Metode dua arah ini memungkinkan jaringan untuk memahami pola dan ketergantungan dari konteks masa lalu dan masa depan. Ini meningkatkan pemahaman mereka tentang data berurutan. BiGRU secara efektif mengatasi kendala model searah dengan menggabungkan wawasan dari kedua arah. Ini menunjukkan bahwa itu cocok untuk berbagai tugas penelitian seperti pemrosesan bahasa alami, analisis sentimen, dan peramalan deret waktu, terutama dalam situasi di mana penangkapan hubungan dua arah diperlukan. Training dan Testing Setelah proses preprocessing data selesai, dilakukan proses pelatihan data dengan empat model yang telah disiapkan dengan data pelatihan. Selanjutnya, proses pengujian dilakukan dengan data pengujian, dan hasil dari model pelatihan sebelumnya diuji untuk mengetahui seberapa efektif model yang digunakan untuk memprediksi harga nikel. Baik pelatihan data maupun pengujian data pada pembentukan model LSTM. GRU. BiLSTM, dan BiGRU membutuhkan parameter untuk mendapatkan model terbaik. Parameter yang disarankan untuk digunakan dalam penelitian ini disajikan dalam Tabel 1. TABEL I. DESKRIPSI PARAM ETER Parameter Learning Rate Value 01,0. Epoch 50,100 Batch Optimizer Adam Denormalisasi Denormalisasi adalah proses untuk mengubah hasil keluaran yang masih dalam rentang 0-1 menjadi nilai data aktual. Perhitunganny a dilakukan dengan menggunakan persamaan ycc = yc. coycaycu Oe ycoycnyc. dengan d adalah nilai denormalisasi, y adalah hasil prediksi, dan max dan min adalah nilai maksimum dan minimum data. ISSN. 2620-6900 (Onlin. 2620-6897 (Ceta. Volume 7. No 2. November 2024 Kinerja Model Dalam penelitian evaluasi kinerja model diperleh dengan menggunakan nilai Root Mean Squared Error (RMSE), dan R-squared (R. Score. RMSE dihitung dengan mengambil akar kuadrat dari rata-rata kuadrat kesalahan antara nilai aktual dan prediksi. Sebagai contoh, rumus RMSE dapat ditulis sebagai berikut: ycu ycIycAycIya = Oo Oc . cycn Oe yc^ycn )2 ycu ycn =1 . R-squared (R. Score adalah suatu metrik statistik yang digunakan untuk mengevaluas i kualitas model regresi linear. R-squared dapat dihitung menggunakan rumus berikut: ( . i Oe . 2 ) ycI2 = 1 Oe i Oe . 2 ) HASIL DAN PEMBAHASAN Penelitian ini menggunakan 3920 data yang kemudian dibagi menjadi 80% untuk data pelatihan dan 20% untuk data pengujian, yaitu 3136 data pelatihan dan 784 data penguji an seperti yang ditunjukkan pada Gambar 4. Setelah preprocessing dan data dianggap siap untuk dimasukkan ke dalam model, dilakukan tuning parameter melalui metode trial and error. Terdapat 16 kombinasi parameter yang diuji dalam penelitian ini. Dari 16 model tersebut, akan dipilih kombinasi parameter terbaik dan model yang paling efektif untuk memprediksi harga Gambar 5. Grafik Pembagian Data Training dan Data Testing Hasil dari pengujian parameter dataset history harga nikel dati model Long Short-Term Memory (LSTM) dengan Learning Rate 0. 001 dan 01. Epoch 100 dan 50. Batch Size 32, dengan optimazer Adam menghasilkan hasil seperti pada tabel II. TABEL II Hasil Pengujian Menggunakan LSTM Learning Rate Epoch RMSE R2 Score JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire Pada Tabel II dapat di katakan bahwa model LSTM yang memiliki parameter dengan Learning 001 dan epoch 100 merupakan parameter Karena menunjukan nilai R2 Score yang lebih tinggi dari yang lain. Pada model ini dapat dikatakan bahwa semakin kecil learning rate semakin baik dan semakin besar epoch semakin baik juga. Hasil dari pengujian parameter dataset history harga nikel dati model Gated Recurrent Unit (GRU) dengan Learning Rate 0. 001 dan 0. Epoch 100 dan 50. Batch Size 32, dengan optimazer Adam menghasilkan hasil seperti pada Table i. TABEL i Hasil Pengujian Menggunakan GRU Learning Rate Epoch RMSE R2 Score Pada Table i dapat di katakan bahwa model GRU dengan parameter learning rate 0. dengan epoch 50 menjadi parameter terbaik dengan menunjukan nilai R2 score dan RMSE yang lebih baik dari parameter yang lain. Dalam model ini dapat dilihat 100 epoch pada learning rate 001 dengan epoch 50 nilainya lebih rendah sehingga dapat dikatakan Ketika epoch dinaikan akan terjadi overfitting. Hasil dari pengujian parameter dataset history harga nikel dati model Bidirectional Long Short-Term Memory (BiLSTM) dengan Learning Rate 0. 001 dan 0. Epoch 100 dan 50. Batch Size 32, dengan optimazer Adam menghasilkan hasil seperti pada Tabel IV. Volume 7. No 2. November 2024 dibandingkan parameter yang menggunakan Hasil dari pengujian parameter dataset history harga nikel dati model Bidirectional Gated Recurrent Unit (BiGRU) dengan Learning Rate 001 dan 0. Epoch 100 dan 50. Batch Size 32, dengan optimazer Adam menghasilkan hasil seperti pada Tabel V. TABEL V Hasil Pengujian Menggunakan BiGRU Learning Rate Epoch RMSE R2 Score Berdasarkan Tabel V dapat di katakana bahwa model BiGRU dengan parameter learning rate 001 dan epoch 50 merupakan parameter terbaik dengan menunjukan nilai R2 score dan RMSE yang lebih baik dengan parameter yang lain. Sama halnya seperti BiLSTM pada model BiGRU juga terjadi penurunan pada parameter learning rate 01 dengan epoch 100 dibandingkan dengen yang menggunakan Kemungkinan hal ini dapat terjadi karena model Bidirectional kurang bisa beradaptasi dengan learning rate tinggi yang mengakibatkan Gambar 6. Harga Aktual dan Prediksi model LSTM TABEL IV Hasil Pengujian Menggunakan BiGRU Learning Rate Epoch RMSE R2 Score Tabel IV dapat dikatakan bahwa model BiLSTM dengan parameter learning rate 0. 001 dan epoch 100 merupakan parameter terbaik dengan menunjukan nilai R2 score dan RMSE yang lebih baik dengan parameter yang lain. Pada model BiLSTM dengan parameter learning rate 0. dengan epoch 100 menunjukan penurunan ISSN. 2620-6900 (Onlin. 2620-6897 (Ceta. Gambar 7. Harga Aktual dan Prediksi Model GRU JIRE (Jurnal Informatika & Rekayasa Elektronik. http://e-journal. id/index. php/jire Volume 7. No 2. November 2024 KESIMPULAN Gambar 8. Harga Aktual dan Prediksi Menggunakan BiLSTM Dengan data 3920 baris dari 7 Juli 2008 hingga 3 Juni 2024, model LSTM. GRU. BiLSTM, dan BiGRU digunakan untuk memprediksi harga nikel historis. Mengacu pada Tabel VI dapat dikatakan learning rate 0. 001 merupakan learning rate terbaik di setiap model. Epoch 100 bekerja baik pada model LSTM dan BiLSTM sedangkan epoch 50 Baik pada model GRU dan BiGRU. BiGRU dengan Learning rate 0. 001 dan epoch 50 menunjukan nilai R2 score paling tinggi dengan 86962 dan nilai RMSE yang rendah dengan 024735 sehinga dapat dikatakan model BiGRU merupakan model terbaik melakukan prediksi harga nikel. Sedangkan model LSTM dengan parameter learning rate 0. 01 dan epoch 50 menjadi model paling kurang baik dengan nilai R2 score yang paling rendah dengan 618355 dan RMSE yang paling tinggi dari model lain yaitu dengan nilai 0. Daftar Pustaka: