Rekayasa Hijau: Jurnal Teknologi Ramah Lingkungan ISSN . : 2579-4264 | DOI: https://doi. org/10. 26760/jrh. V9i2. Volume 9 | Nomor 2 Juli 2025 Analisis Penyisipan Pesan Terenkripsi Algoritma RSA Pada Gambar Dengan Pengujian PSNR Asep Rizal Nurjaman1. Fauzan Ramadhan2 Institut Teknologi Nasional. Bandung. Indonesia Universitas Telkom. Bandung. Indonesia Email: aseprizal@itenas. Received 10 Mei 2025 | Revised 20 Mei 2025 | Accepted 25 Mei 2025 ABSTRAK Keamanan data digital menjadi tantangan dalam pengembangan sistem yang akan dikembangkan. Keamanan ini akan berbanding terbalik dengan kenyamanan. kriptografi merupakan salah satu teknik untuk mengamankan/mengacak data, namun jika hanya dilakukan pengacakan/pengamanan data, maka penyerang akan dengan mudah mencoba untuk melakukan dekripsi karena mengetahui pesannya teracak. Teknik lain yang bisa digunakan untuk mengamankan pesan adalah steganografi yang merupakan sebuah teknik untuk menyembunyikan informasi yang bersifat pribadi dengan sesuatu yang hasilnya tampak seperti informasi normal lainnya. Penelitian ini mencoba untuk menggabungkan antara kriptografi dan steganografi sehingga pesan yang terenkripsi akan disisipkan dalam sebuah gambar. Pengujian yang dilakukan dengan metode PSNR dimana kemiripan antara gambar asli dan gambar hasil penyisipan akan Selain pengujian PSNR, skema yang dibangun akan diujikan dengan skema MITM Attack. Hasil penelitian menunjukkan bahwa nilai PSNR dari gambar yang disisipkan pesan terenkripsi > 50dB yang berarti tingkat kualitas gambar antara gambar asli dan gambar yang disisipkan dengan pesan terenkripsi sangat tinggi. Hasil pengujian skema menunjukkan jika gambar berhasil di ekstraksi, penyerang harus melakukan dekripsi dengan menebak kunci rahasia pengirim untuk bisa mendapatkan pesan aslinya. Penelitian ini dibatasi pada gambar berekstensi . Ukuran gambar, panjang pesan dengan kombinasi karakter pada pesan yang sangat mempengaruhi ukuran gambar hasil penyispan pesan terenkripsi. Kata kunci: Algoritma RSA. PSNR. Steganografi. Enkripsi. Dekripsi ABSTRACT Digital data security is a challenge in developing the system to be developed. This security will be inversely proportional to convenience. Cryptography is one technique to secure data, but if only for securing data, the attacker will try to decrypt it. Another technique that can be used to secure messages is steganography which is a technique to hide personal information with something that looks like other normal information. This study tries to combine cryptography and steganography so that the encrypted message will be inserted into an image. Testing is done using the PSNR method where the similarity between the original image and the embedded image will be calculated. In addition to PSNR testing, the scheme that was built will be tested with the MITM Attack scheme. The results of the study showed that the PSNR value of the image inserted with the encrypted message was > 50dB which means the level of image quality between the original image and the image inserted with the encrypted message is very high. The results of the scheme test show that if the image is successfully extracted, the attacker must decrypt it by guessing the sender's secret key to be able to get the original message. This research is limited to images with the extension . Image size, message length with character combination in the message which greatly affects the size of the image resulting from the embedded encrypted message. Keywords: RSA Algorithm. PSNR. Steganography. Encryption. Decryption Rekayasa Hijau Ae 123 Asep Rizal Nurjaman dan Fauzan Ramadhan PENDAHULUAN Peningkatan kebutuhan manusia akan informasi mendorong teknologi informasi yang berkembang dengan pesat, informasi dalam bentuk fisik telah bertransformasi ke dalam bentuk digital. Keamanan pada data digital menjadi tantangan dalam pengembangan sistem atau aplikasi yang akan Keamanan ini akan berbanding terbalik dengan kenyamanan. Kriptografi merupakan sebuah Teknik untuk mengamankan / mengacak data, baik data yang dikirim atau data yang disimpan. Kriptografi merupakan seni untuk menyandikan pesan . Dengan konsep kriptografi maka data yang disimpan akan terlihat acak. Hal ini menjadi pemicu peretas untuk mencari tahu informasi dari data yang Teknik lain yang bisa digunakan untuk mengamankan data digital adalah steganografi yang merupakan sebuah teknik untuk menyembunyikan informasi yang bersifat pribadi dengan sesuatu yang hasilnya tampak seperti informasi normal lainnya . Pada umumnya steganografi ini merupakan proses untuk menyembunyikan data dalam berbagai media . edia citra digital, audio, atau vide. dengan teknik tertentu sehingga tidak ada seorang pun yang mengetahui bahwa ada suatu pesan rahasia selain pengguna yang diberikan hak akses. Menyisipkan pesan pada sebuah media gambar merupakan sebuah pilihan yang tepat dan efektif. Sebab pesan yang disisipkan dalam sebuah gambar secara kasat mata hanya terlihat sebuah gambar biasa. Hal ini mampu menjaga kerahasiaan informasi dan tidak menimbulkan kecurigaan bagi pihak lain karena gambar masih terlihat seperti aslinya. Contoh sederhananya adalah seseorang menyisipkan informasi berupa pesan pada sebuah gambar, pihak lain akan melihat bahwa foto yang dikirimkan merupakan sebuah foto yang biasa, namun bagi si penerima, foto ini merupakan sebuah media yang sudah disisipkan informasi berupa teks. Walaupun metode ini sederhana, namun efektif dalam menyamarkan informasi rahasia, sehingga pesan yang disisipkan dalam media gambar sulit terdeteksi secara langsung oleh orang lain, mempersulit proses membaca pesan secara kasat mata . , . LSB (Least Significant Bi. merupakan sebuah metode yang paling sering digunakan pada steganografi. LSB bekerja dengan cara menyembunyikan bit pesan rahasia ke dalam bit terakhir dari setiap elemen citra digital . Least Significant Bit adalah bagian dari barisan data biner . asis du. yang mempunyai nilai paling tidak berarti/paling kecil, letaknya adalah paling kanan dari barisan bit . Penelitian terkait steganografi sudah pernah dilakukan oleh Lasarus . , dimana pada penelitiannya menyembunyikan suatu informasi ke dalam file multimedia dengan memanfaatkan Microsoft Visual Basic 6. produk yang dikembangkan menggunakan teknik steganografi dengan metode simple least significant bit substitution. Pada penelitian Dewi Laksmiati . , menyimpulkan bahwa file asli dan hasil penyisipan secara kasat mata terlihat sama, ukuran gambar membatasi kemampuannya untuk menampung pesan yang disisipkan. Pada penelitian Ravansa dkk . , mengemukakan jika kombinasi LSB dan One Time Pad dapat menjadi metode yang efektif untuk meningkatkan keamanan email. Pada penelitian Zaim dkk . , menghasilkan sebuah kesimpulan bahwa Semakin besar kapasitas untuk disisipkan pesan maka kualitas gambar dengan perhitungan PSNR terlihat kurang baik. Penelitian ini bertujuan untuk mengombinasikan antara steganografi dan kriptografi sehingga data yang disisipkan pada gambar tidak mudah dibaca oleh pengguna yang tidak sah saat gambar tersebut berhasil di ekstraksi karena data yang disisipkan sudah di amankan dengan menggunakan algortima RSA sehingga hanya pengguna yang memiliki akses . engguna yang sa. yang bisa melakukan ekstraksi dan dekripsi pesan yang disisipkannya. Pada penelitian ini juga akan di bandingkan antara penyisipan pesan pada gambar dan penyisipan pesan yang di enkripsi algoritma RSA pada gambar. Pengujian yang dilakukan dengan melakukan perbandingan antara kualitas citra asli dengan citra yang telah disisipkan teks dan citra yang sudah disisipkan dengan teks terenkripsi . Rekayasa Hijau Ae 124 Analisis Penyisipan Pesan Terenkripsi Algoritma RSA Pada Gambar Dengan Pengujian PSNR METODOLOGI 1 Metodologi Penelitian Pada penelitian ini dilakukan beberapa langkah proses dimulai dari pengumpulan data dan analisis sampai dengan proses akhir berupa pengujian dan kesimpulan. Proses penelitian dapat dilihat pada Gambar 1. Pengumpulan data dan analisis : Steganografi PSNR Kriptografi Algoritma RSA MITM attack Perancangan skema Pengujian skema (PSNR & MITM attac. Hasil pengujian dan kesimpulan Gambar 1. Alur proses penelitian Tahap pertama pada metodologi penelitian ini adalah fase pengumpulan data dan analisis, di mana terdapat beberapa kajian teori yang dibahas, yaitu : Steganografi Steganografi merupakan ilmu dan seni menyembunyikan pesan rahasia dengan suatu cara sehingga tidak seorang pun yang mencurigai keberadaan pesan tersebut. Diagram proses steganografi dapat dilihat pada Gambar 2. Gambar 2. Diagram proses steganografi Kriptografi Kriptografi merupakan bidang keilmuan dalam mengamankan data / pesan. Pada umumnya kriptografi membuat pesan atau data menjadi tidak terbaca dengan menggunakan teknik enkripsi dan Rekayasa Hijau Ae 125 Asep Rizal Nurjaman dan Fauzan Ramadhan data yang terlihat acak itu bisa di kembalikan ke data atau pesan semula dengan teknik dekripsi. Pada penelitian ini, kriptografi digunakan untuk mengacak pesan dan pesan acak tersebut disisipkan dalam sebuah gambar. Algoritma RSA Algoritma RSA merupakan algoritma asimetris di mana dibutuhkan kunci publik dan kunci rahasia untuk melakukan enkripsi / dekripsi. Pada penelitian ini, algortima RSA digunakan untuk mengenkripsi pesan sebelum pesannya disisipkan dalam sebuah gambar. Algoritma RSA merupakan algoritma asimetris yang digunakan untuk mengamankan pesan yang digunakan dalam penelitian ini yaitu algoritma RSA. Proses pembangkitan pasangan kunci pada RSA yaitu : Ambil dua buah bilangan prima sembarang, p dan q. Hitung r = p*q . Di mana, p != q, sebab jika p = q maka r = p2 sehingga p dapat diperoleh dengan menarik akar pangkat dua dari r. Hitung . = . - . - . Pilih kunci publik. PK, yang relatif prima terhadap . Bangkitkan kunci rahasia dengan menggunakan SK . PK O 1 . Perhatikan bahwa SK*PK O 1 . ) ekuivalen dengan SK*PK = 1 m . , sehingga SK dapat dihitung dengan persamaan 5. SK = . ) / PK Proses enkripsi pada algoritma RSA dapat dilihat pada persamaan 6. yi = xiPK mod r Di mana xi merupakan index dari karakter pada pesan yang diubah ke dalam tabel ASCII. Proses dekripsi algoritma RSA dapat dilihat pada persamaan 7. xi = yiSK mod r Blok-blok m1, m2, m3, . , diubah kembali ke bentuk huruf dengan melihat kode ASCII hasil MITM attack Serangan Man-in-the-Middle merupakan sebuah strategi yang digunakan oleh penyerang untuk memanipulasi komunikasi antara dua pihak tanpa sepengetahuan mereka. Konsep dasar serangan ini melibatkan tiga entitas: pengirim, penerima, dan penyerang yang berada di tengah-tengah Dalam dunia digital, serangan ini dapat menyusup ke segala bentuk komunikasi online, dari pesan email hingga transaksi finansial. Pada penelitian ini, penyerang akan menyadap komunikasi antara keduanya lalu akan coba mengekstrak gambar yang didapatkan. Jikalau gambar berhasil di ekstraksi, karena pesan yang disisipkan terenkripsi maka penyerang harus menebak kunci untuk bisa membuka pesannya. PSNR PSNR (Peak-Signal-to-Noise-Rati. merupakan metrik untuk mengukur kualitas . citra setelah proses manipulasi. Pada PSNR membandingkan gambar asli dengan gambar yang Satuan PSNR adalah desibel . B). Cara melakukan pengujian PSNR: Baca gambar ke dalam ruang kerja Buat objek dlarray yang tidak diformat dengan data gambar Tambahkan noise pada gambar Buat objek dlarray yang tidak diformat dengan data gambar yang berisik Hitung SNR puncak dan SNR data berisik terhadap data asli Rekayasa Hijau Ae 126 Analisis Penyisipan Pesan Terenkripsi Algoritma RSA Pada Gambar Dengan Pengujian PSNR Nilai PSNR yang lebih tinggi berarti kualitas gambar yang lebih baik. Namun, skor PSNR tidak selalu berkorelasi dengan kualitas yang dirasakan. PSNR yang dapat diterima/ditoleransi adalah jika > 30 dB. Pengujian hasil penyisipan dan enkripsi dilakukan dengan menggunakan metode PSNR. Pada gambar yang sudah disisipi pesan terenkripsi akan dibandingkan dengan gambar asli. Rumus dari PSNR bisa dilihat pada persamaan 8, sementara rumus MSE (Means square root erro. bisa dilihat pada persamaan 9. MSE tidak memiliki satuan sedangkan satuan dari PSNR adalah desibel . B). Semakin mirip kedua citra maka nilai MSE semakin mendekati nilai nol. Sedangkan pada PSNR, dua buah citra dikatakan memiliki tingkat kemiripan yang rendah jika nilai PSNR di bawah 30 dB. Tahap kedua pada metodologi penelitian ini adalah perancangan skema dari penggabungan antara kriptografi dan steganografi yang diharapkan dapat memperkuat keamanan pesan tanpa membuat kecurigaan bagi penyerang karena pesan yang terenkripsi disisipkan pada sebuah gambar. Gambaran proses antara kriptografi dan steganografi untuk enkripsi dan penyisipan dapat dilihat pada gambar 3. Sementara proses ekstraksi dan dekripsi bisa dilihat pada gambar 4. Gambar 3. Proses penyisipan pesan terenkripsi pada gambar Gambar 4. Proses ekstraksi dan dekripsi pesan dari gambar Tahap ketiga merupakan pengujian skema dengan menggunakan Pengujian PSNR (Peak Signal to Noise Rati. yang akan mengukur kualitas gambar dengan menghitung rasio sinyal terhadap derau puncak. Pengujian ini sering digunakan untuk mengukur kualitas rekonstruksi codec kompresi lossy, seperti kompresi gambar. Pada pengujian PSNR ini gambar yang digunakan dengan format . png dengan ukuran file 6830KB, 47KB. Percobaan dilakukan dengan berbagai panjang pesan dari 128 karakter, 256 karakter, 512 karakter, 1024 karakter dan lebih dari 1024 karakter. Pesan yang digunakan pada percobaan penelitian ini bisa dilihat pada Tabel 1. Tabel 1. Pesan yang digunakan pada percobaan Kategori Pesan 1 Pesan 2 Pesan 3 Pesan 4 Pesan 5 Karakteristik isi pesan Kombinasi huruf, angka, spesial karakter . Kombinasi alafabet dengan spasi . Kombinasi huruf, angka, spesial karakter . Kombinasi huruf, angka, spesial karakter dalam sebuah paragraf . 5 karakte. Kombinasi huruf, angka, spesial karakter dalam sebuah paragraf . 4 karakte. Rekayasa Hijau Ae 127 Asep Rizal Nurjaman dan Fauzan Ramadhan Kategori Pesan 6 Pesan 7 Pesan 8 Karakteristik isi pesan Kombinasi huruf, angka, spesial karakter dalam sebuah paragraf . Kombinasi huruf, angka, spesial karakter dalam sebuah paragraf . Kombinasi huruf, angka, spesial karakter dalam sebuah paragraf . Pada tahap ini skema yang dibangun akan diujikan dengan Mitm attack, dimana akan dilihat probabilitas attack dari penyerang yang akan berada di antara pengirim dan penerima dengan tujuan untuk mencari tahu kunci rahasia dari pengirim yang nantinya akan digunakan untuk memanipulasi data dokumen. HASIL DAN PEMBAHASAN 1 Pembahasan Desain dari skema yang dikembangkan terdiri dari dua user, yaitu pengirim dan penerima. Pada skema yang dibangun, penerima dan pengirim sudah memiliki kunci publik dari kunci private yang di-generate dari kunci publik. Proses yang terjadi di pengirim yaitu : Pengirim membuat pesan teks dan mengenkripsinya dengan kunci private pengirim dan kunci publik Hasil dari proses enkripsi pesan . pada poin b akan disisipkan dalam sebuah gambar. Hasil dari penyisipan pesan akan dikirim ke penerima. Sementara proses yang terjadi pada penerima yaitu : Penerima menerima pesan teks lalu mengekstraksi pesan sehingga menghasilkan pesan terenkripsi dan gambar sebagai media penyisipan. Penerima mendekripsi pesan terenkripsi menggunakan kunci private penerima dan kunci publik Jika hasil pesan ter-dekripsi berhasil dipecahkan, maka penerima ter-autentikasi sebagai penerima yang sah dari pengirim yang sah. Dari proses yang terjadi antara pengirim dan penerima, maka pada skema penyisipan pesan ini akan terjadi mutual autentikasi antara pengirim dan penerima yang sah. Desain skema bisa dilihat pada Gambar 5. Skema penyisipan dan ekstraksi pesan terenkripsi pada gambar Skema MITM attack dapat dilihat pada gambar 6, di mana pengirim menyisipkan pesan dan di ekstraksi oleh penerima. Saat penyerang menyadap komunikasi antara pengirim dan penerima dan berhasil mengekstraksi pesan maka pesan bisa dibaca oleh penyerang dengan mudah. Rekayasa Hijau Ae 128 Analisis Penyisipan Pesan Terenkripsi Algoritma RSA Pada Gambar Dengan Pengujian PSNR Gambar 6. Skema MITM attack pada steganografi 2 Hasil Setelah diujikan dua gambar dengan ukuran file yang berbeda, baik saat dilakukan penyisipan pesan dan penyisipan pesan terenkripsi. Beberapa parameter yang ditinjau diantaranya ukuran file sebelum dan sesudah disisipi pesan dan pesan terenkripsi, waktu penyisipan pesan dan pesan terenkripsi, waktu ekstraksi dari gambar dengan pesan dan pesan terenkripsi, dan perhitungan PSNR dari perbandingan gambar asli dengan gambar yang disisipi pesan dan gambar asli dengan gambar yang disisipi pesan Gambar 7 merupakan grafik perbandingan ukuran antara gambar asli, gambar yang disisipi pesan, dan gambar yang disisipi pesan terenkripsi di mana ukuran gambar asli sebesar 47 KB. Ukuran gambar setelah disisipi pesan dan pesan terenkripsi meningkat, namun peningkatan terbesar ada pada gambar yang disisipi pesan terenkripsi sebesar 15% dengan panjang pesan lebih dari 1024 karakter. Gambar 7. Perbandingan ukuran gambar asli, dan gambar yang disisipi pada gambar pertama Gambar 8 merupakan grafik perbandingan ukuran antara gambar asli, gambar yang disisipi pesan, dan gambar yang disisipi pesan terenkripsi di mana ukuran gambar asli sebesar 6. 830 KB. Grafik pada AuGambar 7 dan 8Ay menunjukkan peningkatan ukuran gambar terbesar terjadi pada penyisipan pesan terenkripsi dengan panjang karakter lebih dari 1024. Pada pengujian dengan ukuran gambar 47 KB ukuran gambar meningkat sekitar 15% dari ukuran gambar aslinya sementara pada pengujian dengan ukuran gambar 6. 830 KB ukuran gambar meningkat sekitar 0. 2% dari ukuran gambar aslinya. Peningkatan ukuran gambar ini dipengaruhi oleh ukuran gambar aslinya. Rekayasa Hijau Ae 129 Asep Rizal Nurjaman dan Fauzan Ramadhan Gambar 8. Perbandingan ukuran gambar asli, dan gambar yang disisipi pada gambar kedua Sementara hasil perhitungan PSNR dengan gambar berukuran 47 KB yang dapat dilihat pada AuGambar 9 dan 10Ay menunjukkan bahwa hasil PSNR pada penyisipan pesan terenkripsi lebih rendah dari pada penyisipan pesan. Namun nilai PSNR pada penyisipan masih lebih dari 30dB yang berarti kualitas gambar hasil penyisipan menyerupai kualitas gambar aslinya. Gambar 9. Perbandingan PSNR pada gambar berukuran 47 KB Gambar 10. Perbandingan PSNR pada gambar berukuran 6. 830 KB Rekayasa Hijau Ae 130 Analisis Penyisipan Pesan Terenkripsi Algoritma RSA Pada Gambar Dengan Pengujian PSNR Hasil pengujian dengan skema MITM attack Gambar 6 menunjukkan saat penyerang menyadap komunikasi antara penerima dan pengirim lalu berhasil mendapatkan gambar yang sudah disisipi pesan, dan berhasil mengekstraksi gambarnya maka penyerang kana mendapatkan isi pesannya. Namun dengan melakukan enkripsi pada pesan yang disisipkan, saat gambar yang disisipkan pesan terenkripsi disadap oleh pihak yang tidak bertanggung jawab, maka butuh keahlian lebih untuk penyerang bisa mengetahui isi pesannya karena saat gambar bisa diekstraksi, penyerang harus melakukan dekripsi pesan agar pesan bisa terbaca. Pengujian skema MITM attack pada pesan terenkripsi dapat dilihat pada gambar Dengan menambahkan teknik kriptografi pada skema penyisipan pesan yang bisa dilihat pada Gambar 11, hal ini dapat mempersulit penyerang untuk mendapatkan pesan aslinya saat penyerang berhasil melakukan proses ekstraksi. Peluang untuk mendapatkan kunci rahasia pengirim dengan brute force adalah 1/2l di mana l merupakan panjang kunci rahasia pengirim. Proses untuk menebak kunci rahasia pengirim bisa dilihat pada persamaan 10. Priv_keyAo = 1 Pub_key_alice. Pub_key_bob plainteks = {{M}pub_key_alic. Priv_keyAo . while plainteks == 0 { Private_keyAo= Private_keyAo 1 plainteks = {{M}pub_key_alic. Priv_keyAo Gambar 11. Skema pengujian penyisipan pesan terenkripsi pada gambar dengan MITM attack KESIMPULAN Pada penelitian ini, hasil pengujian PSNR pada gambar 9 dan gambar 10 menunjukkan bahwa gambar yang disisipkan pesan terenkripsi menghasilkan nilai diatas 50 dB yang berarti tingkat kemiripan yang tinggi dari gambar hasil rekonstruksi dengan gambar aslinya. Ukuran file sangat berpengaruh terhadap tampungan dari penyisipan pesan yang terenkripsi, pada gambar 7 dan gambar 8 menunjukkan jika ukuran gambar meningkat baik pada gambar berukuran 47 KB dan gambar berukuran 6. 830 KB saat menyiapkan file terenkripsi. Namun ukuran gambar meningkat 15% pada gambar yang berukuran 47 KB saat disisipi pesan terenkripsi dengan panjang karakter lebih dari 1024 karakter, namun pada gambar 830 KB peningkatan ukuran gambar paling besar saat disisipi pesan terenkripsi dengan Panjang karakter lebih dari 1024. Peningkatan ukuran gambar sekitar 0. 2% besar ukuran gambar yang digunakan untuk menampung penyisipan pesan dan kombinasi karakter pada pesan yang disisipkan sangat berpengaruh terhadap ukuran file hasil penyisipan. Dari sisi keamanan skema, dengan Rekayasa Hijau Ae 131 Asep Rizal Nurjaman dan Fauzan Ramadhan penambahan teknik kriptografi pada penyisipan pesan dengan algoritma RSA memberikan dampak pada peningkatan keamanan pesan yang disisipkan pada gambar di mana probabilitas penyerang untuk bisa menebak pesan terenkripsi pada gambar sebesar 1/2l di mana l merupakan panjang kunci yang bisa ditebak pada skema yang dibangun hal ini akan mempersulit penyerang untuk mengambil isi pesan yang sudah ter-ekstraksi karena harus dilakukan proses dekripsi dengan menggunakan kunci rahasia Untuk penelitian selanjutnya diharapkan format file gambar yang digunakan bisa lebih bervariasi sehingga bisa mengakomodasi kebutuhan pengguna. DAFTAR PUSTAKA