Jurnal Ilmiah Manajemen Informasi dan Komunikasi Website Jurnal : http://ojs. id/index. php/jimik/ ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya Antisipasi Pemerintah Artificial Intelligence and Hoaxes: Disruptive Challenges to Digital Literacy in Online Communities and GovernmentAos Anticipatory Efforts Christiany Juditha Balai Besar Pengembangan Sumber Daya Manusia dan Penelitian (BBPSDMP) Komunikasi dan Informatika Medan. Indonesia Jl. Tombak No. Sidorejo Hilir. Medan Tembung. Kota Medan. Sumatera Utara Email korespondensi: chri005@kominfo. Diterima: 17 Oktober 2024 || Revisi: 3 November 2024 || Disetujui: 3 Februari 2025 Abstract Artificial Intelligence (AI) has made a significant impact on human civilization. Through AI, various jobs are being replaced and becoming much easier. However, this advancement also brings several threats, including the increasing production of misleading content, such as hoaxes that integrate AI technology, which makes people more susceptible to confusion and misunderstanding about the truth of information. Moreover, the percentage of hoax dissemination on social media continues to rise every year. The purpose of this study is to identify the production of AI hoax content and examine the digital literacy challenges faced by the anti-hoax online community, as well as the governmentAos efforts to anticipate this threat. This research employs a case study method. Data collection was conducted through interviews, observations, and documentation. The findings reveal that hoax content is no longer limited to just text and images, but has expanded to the use of AI technology that combines video, audio, and text, making it increasingly complex and difficult to identify as hoaxes. The main challenge faced is the polarization of society, which triggers conflict, economic losses, and legal issues. To address these challenges, the online community Mafindo continues to raise public awareness through education and digital literacy, develop technology for hoax detection, and collaborate with various platforms. Meanwhile, the government is also striving to anticipate this disruption threat by enforcing the Electronic Information and Transactions (ITE) Law and other relevant regulations, developing infrastructure, and enhancing the digital literacy of the Keywords: artificial intelligence, disruption, hoax, digital literacy Abstrak Artificial Intelligent (AI) atau kecerdasan buatan membuat perubahan besar dalam peradaban Melalui AI, berbagai pekerjaan tergantikan dan menjadi jauh lebih mudah. Namun, hal ini juga menimbulkan berbagai ancaman diantaranya meningkatnya produksi konten menyesatkan seperti hoaks yang memadukan teknologi AI yang membuat masyarakat makin Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . terjebak dalam kebingungan dan ketidakpahaman tentang kebenaran informasi. Apalagi presentansi penyebaran hoaks di media sosial jumlahnya terus meningkat setiap tahun. Tujuan dari penelitian ini adalah untuk mengidentifikasi produksi konten hoaks AI dan tantangan literasi digital yang dihadapi oleh komunitas online antihoaks dan upaya pemerintah dalam mengantisipasi ancaman ini. Metode penelitian ini adalah studi kasus. Pengumpulan data dilakukan melalui wawancara, observasi, dan dokumentasi. Hasil penelitian menemukan bahwa produksi konten hoaks kini tidak lagi hanya sebatas teks/gambar, namun telah merambah pada penggunaan teknologi AI yang menggabungkan video, audio, dan teks yang semakin kompleks dan sulit diidentifikasi sebagai hoaks. Tantangan utama yang dihadapi adalah polarisasi masyarakat yang memicu konflik, kerugian ekonomi, dan masalah hukum. Untuk mengatasi hal ini, komunitas online/Mafindo terus meningkatkan kesadaran publik melalui edukasi dan literasi digital, mengembangkan teknologi deteksi hoaks, serta berkolaborasi dengan berbagai Sementara pemerintah juga berupaya mengantisipasi ancaman disrupsi ini dengan penegakan UU ITE dan aturan terkait lainnya, pengembangan infrastruktur serta peningkatan literasi digital masyarakat. Kata kunci: artificial intelligent, kecerdasan buatan, disrupsi, hoaks, literasi digital PENDAHULUAN Disrupsi merupakan suatu perubahan yang terjadi secara signifikan dalam suatu industri atau pasar akibat adanya inovasi teknologi, model bisnis, atau strategi yang mengganti caracara konvensional. Shin et al. alam Jayus, 2. menyebutkan disrupsi mengakibatkan perubahan besar dalam cara orang bekerja, berinteraksi, atau mengonsumsi produk atau layanan secara lebih mapan dengan cara yang inovatif dan efisien. Salah satu contoh disrupsi adalah hadirnya teknologi Artificial Intelligent (AI) atau kecerdasan buatan. AI saat ini menjadi fenomena yang sedang hangat dibicarakan dan juga sudah banyak digunakan di berbagai bidang kehidupan di seluruh dunia. Kecerdasan buatan merupakan inovasi teknologi yang menjadi bagian dari disrupsi atau perubahan mengakibatkan perubahan besar dalam peradaban manusia dalam cara bekerja, berinteraksi, atau mengonsumsi produk atau AI juga merupakan bidang ilmu komputer yang bertujuan untuk menciptakan mesin atau program komputer yang dapat melakukan tugas yang memerlukan kecerdasan manusia (Mohammad, 2. AI mencakup berbagai teknik seperti machine learning, deep learning, natural language processing, computer vision, dan lainnya untuk mengembangkan sistem yang mampu belajar, merencanakan, memecahkan masalah, dan berinteraksi dengan lingkungan. AI digunakan dalam berbagai aplikasi seperti pengenalan wajah, kendaraan otonom, asisten virtual, sistem rekomendasi, dan lainnya. Melalui AI, berbagai pekerjaan tergantikan dan menjadi jauh lebih mudah (Mohammad, 2. Kecerdasan buatan memiliki potensi besar memberikan manfaat namun menjadi semakin kompleks seiring berjalannya waktu. Selain memiliki banyak kelebihan. AI juga memiliki kelemahan yang mungkin akan berdampak pada masyarakat dunia di masa depan (Haripriya & Manikandan, 2. Beberapa ancaman negatif AI antara lain: . Pengangguran struktural karena dalam berbagai sektor dapat menggantikan pekerjaan manusia (Arly et al. Ketergantungan yang berlebihan pada AI mengkibatkan rentan terhadap keamanan, kegagalan sistem, dan manipulasi oleh pihak yang tidak bertanggung jawab (Mohammad, . Kecurangan dan manipulasi dalam produksi hoaks, manipulasi gambar, dan penipuan online (Mutmainnah et al. , 2. Privasi pengumpulan, analisis, dan penggunaan data pribadi dapat menimbulkan masalah privasi dan keamanan yang serius jika tidak diatur dengan benar (Andika & M. Soemarno, 2. Bias dan diskriminasi yang rentan terhadap data yang dapat menghasilkan keputusan diskriminatif dalam berbagai konteks seperti rekrutmen, peradilan, dan kredit. Kekuatan dan kontrol Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . dalam sistem otonom dapat menghasilkan konsekuensi yang tidak terduga dan meningkatkan risiko konflik atau kejahatan yang dijalankan oleh mesin. Kehilangan kemanusiaan yang mana ketergantungan yang berlebihan pada AI dalam pengambilan keputusan penting dapat mengurangi peran dan tanggung jawab manusia, serta mengurangi empati dan kemanusiaan dalam interaksi sosial. (Raharjo, 2. Salah satu ancaman dari pemanfaatan teknologi AI adalah kecurangan dan manipulasi dalam produksi hoaks. Hal ini mengancam integritas informasi dan memperburuk masalah disinformasi serta membuat masyarakat makin ketidakpahaman tentang kebenaran informasi. Apalagi presentansi penyebaran hoaks di platform digital jumlahnya terus meningkat setiap tahun. Data dari Kementerian Komunikasi dan Informatika (Kemenkominf. menyebutkan sejak Agustus 2018 hingga Desember 2023, tercatat sebanyak 12. konten hoaks yang beredar baik melalui website digital/media (Kominfo, 2. Bahkan menjelang Pemilu Presiden 2024 lalu. Kemkominfo telah mengingatkan akan ancaman penyalahgunaan AI dalam produksi hoaks yang dikhawatirkan bisa menjadi alat untuk mengadu domba masyarakat dan penyebaran hoaks (Kominfo. KAJIAN PUSTAKA Penelitian sebelumnya mengenai AI dan hoaks pernah dilakukan oleh beberapa peneliti, antara lain oleh Mutmainnah et al. Penelitian ini bertujuan untuk meminimalisir permasalahan teknologi deepfake ditinjau dari perspektif literasi digital. Adapun metode yang digunakan adalah studi literatur dengan Hasil menyimpulkan bahwa hoaks yang beredar menggunakan teknologi Artificial Intelligence sehingga diperlukan tindakan pencegahan untuk mengakses, memilih, dan memahami beragam informasi. Penelitian lainnya dilakukan oleh Hussein & Hejase . Tujuan penelitian ini untuk mendapatkan gambaran tentang metode dan alat yang diadopsi oleh AI untuk mendeteksi berita palsu, terutama di media sosial. Metode penelitian yang digunakan adalah deskriptif Kesimpulan studi ini adalah berita palsu terus mengguncang dunia pengguna. Terdapat kebutuhan yang sangat besar terhadap pengembangan berkelanjutan dari alat-alat berteknologi maju yang mengeksploitasi kekuatan AI. Big Data, dan ML untuk memitigasi, mengendalikan, dan menghentikan pembuatan dan penyebaran berita palsu, dan untuk mencegah penyebaran informasi yang menyesatkan dan tidak benar. Produksi menggunakan teknologi AI, menjadi tantangan tersendiri bagi seluruh elemen masyarakat, khususnya bagi komunitas online anti hoaks dan juga pemerintah dalam menghadapi hal Selama ini pemerintah maupun instititusi terkait dan juga komunitas-komunitas anti hoaks sudah melakukan berbagai upaya dalam rangka mengurangi penyebaran hoaks serta memberikan edukasi dan literasi pada Namun, hoaks tetap saja masih ada bahkan muncul dengan pemanfaatan AI, sehingga dibutuhkan langkah-langkah strategis untuk mengantisipasi hoaks model baru ini salah satunya dengan literasi digital. Penelitian lain juga dilakukan oleh Juditha, . Studi ini bertujuan untuk mengetahui interkasi simbolik yang terjadi di dalam komunitas virtual anti hoaks sebagai upaya untuk meminimalisir penyebaran hoaks. Metode etnografi digunakan dalam penelitian Hasil studi ini menemukan bahwa di dalam komunitas anti hoaks seperti FAFHH, setiap orang dapat aktif dengan bertanya atau mengklarifikasi informasi dengan tema apapun apakah terindikasi hoaks atau tidak. Informasi yang diterima itu kemudian didiskusikan dan kebenarannya kembali ditelusuri dengan berbagai sumber referensi yang dipercaya. Setiap anggota komunitas terlihat aktif dalam menginterpretasikan informasi. Berdasarkan uraian tersebut maka maka tujuan dari penelitian ini adalah untuk mendapatkan gambaran tentang teknologi AI dalam produksi hoaks serta tantangan literasi digital di komunitas online antihoaks menghadapi ancaman disrupsi AI terkait hoaks. Penelitian-penelitian yang telah dilakukan sebelumnya menitikberatkan pada AI dan hoaks dan literasi serta interaksi yang terjadi dalam komunitas virtual terkait informasi hoaks. Kesamaan dengan penelitian ini adalah sama30 Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . sama membahas persoalan AI yang terkait dengan hoaks, literasi dan komunitas virtual. Tetapi yang membedakannya adalah penelitian ini membahas secara detail AI dalam produksi hoaks di platform digital dan juga melihat tantangan literasi digital komunitas online pemerhati anti hoaks dan juga pemerintah dalam menghadapi ancaman disrupsi AI terkait Hal inilah yang menjadi kebaruan . dari penelitian ini karena topik serupa belum pernah dilakukan sebelumnya sehingga layak untuk diteliti. Artificial Intelligence (AI) merupakan kecerdasan buatan yang saat ini telah banyak diterapkan dalan kehidupan sehari-hari. Istilah AI diperkenalkan pada tahun 1956 dan kemudian semakin berkembang dengan adanya algoritma, volume data dan penyimpanan komputasi yang makin meningkat (Nuryanto. Berbagai contoh aplikasi umum AI yang telah mengubah cara hidup dan bekerja manusia meliputi asisten virtual (Siri. Google Assistant. Alex. kendaraan otonom . obil otono. pengenalan suara dan wajah. rekomendasi (Netflix. Spotify. Amazo. pengolahan bahasa alami . hatbot, penerjemah bahasa, analisis sentimen, dan lainny. pengenalan gambar . plikasi deteksi objek, pengenalan karakteristik medis, pemrosesan citra medi. pengoptimalan proses bisnis. pengembangan obat, dan lain-lain. Lahirnya teknologi AI merupakan akibat dari proses disrupsi teknologi. Teori disrupsi diperkenalkan pertama kali oleh Clayton M. Christensen pada tahun 1997 dalam bukunya yang berjudul "The Innovator's Dilemma. Teori ini menjelaskan bagaimana perusahaan besar yang sudah mapan dan sukses bisa terguling oleh perusahaan-perusahaan baru yang menghadirkan inovasi yang lebih sederhana, lebih murah, dan lebih fokus pada kebutuhan pasar yang terabaikan oleh perusahaan besar tersebut. Disrupsi teknologi adalah fenomena yang mana inovasi teknologi mengganggu atau mengubah cara konvensional kearah yang lebih modern yang menghasilkan perubahan yang signifikan dalam cara bisnis, produk, layanan, dan interaksi (Shekar Chandra, 2. Disrupsi AI juga tidak hanya berdampak positif tetapi juga negatif, salah satu diantaranya menjamurnya produksi konten Arti hoaks adalah berita bohong, informasi palsu, kabar dusta atau informasi yang bertujuan memperdayakan, menipu, dan mengolok-olok (Juditha, 2018. Hoaks dengan menggunakan teknologi AI yang kini banyak beredar adalah bentuk video yang biasa disebut dengan deepfake. Deepfake adalah teknologi yang sangat berguna dalam pembuatan film, disalahgunakan sehingga memiliki reputasi yang buruk. Fitur pertukaran wajah, suara, dan gerakan dalam deepfake membuat video tampak realistis (Nazar & Bustam, 2. Contoh hoaks deepfake yang terkenal adalah video Barack Obama yang menyebut Donald Trump sebagai Auorang yang bodoh total dan lengkapAy (Mutmainnah et al. , 2. Video ini mengingatkan dunia bahwa deepfake sangat berbahaya dan memiliki risiko tinggi. Apalagi mengetahui tentang deepfake sehingga menganggap video yang beredar itu nyata dan bukan rekayasa. Deepfake menjadi masalah nyata yang perlu perhatian publik karena penyalagunaan skenario dan hal ini menjadi tantangan bagi literasi digital masyarakat. Literasi digital menurut Pangrazio et al. adalah kemampuan seseorang untuk menggunakan teknologi digital dengan efektif dan bertanggung jawab. Hal ini mencakup pemahaman tentang cara menggunakan perangkat lunak dan aplikasi, mengakses informasi online, mengevaluasi kebenaran dari informasi yang ditemukan, serta melindungi diri dari ancaman keamanan digital seperti penipuan online dan privasi data. Dalam konteks literasi digital terhadap hoaks deepfake, individu diharapkan mampu mengidentifikasi, memahami dampak, dan mampu melindungi diri dari ancaman tersebut. Literasi digital sangat penting karena membantu individu untuk berpartisipasi secara aktif dalam masyarakat yang semakin terhubung melalui teknologi informasi dan Hal ini telah banyak diterapkan dalam komunitas-komunitas online yang salah satu tujuannya untuk memberikan edukasi/ Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . literasi bagi pengikutnya. Komunitas online merupakan kelompok individu yang terhubung melalui platform digital, seperti media sosial, forum online, atau aplikasi pesan. Para pengikutnya berinteraksi, berbagi informasi, dan membangun hubungan secara virtual tanpa harus bertemu secara fisik (Wu Song, 2. Komunitas online dapat memiliki berbagai tujuan dan minat yang sama, seperti diskusi tentang topik tertentu, mendukung satu sama lain dalam hal-hal tertentu, atau berkolaborasi dalam proyek bersama (Juditha, 2. Salah satu komunitas online yang banyak tumbuh adalah komunitas anti hoaks misalnya Forum Anti Fitnah. Hasut, dan Hoaks (FAFHH). Fanpage & Group Indonesian Hoax Buster. Fanpage Indonesian Hoaxes, dan Grup Sekoci (Juditha, 2018. Komunitas anti hoaks ini memiliki komitmen untuk melawan masyarakat akan pentingnya melakukan verifikasi informasi sebelum menyebarkannya, serta memromosikan literasi digital yang baik agar individu lebih waspada terhadap konten yang tidak benar. Kehadiran komunitas online anti hoaks ini juga didukung oleh pemerintah (Kemkominf. Hal ini tergambar dengan kerja sama antara pemerintah dan Mafindo (Masyarakat Anti Fitnah Indonesi. dengan meluncurkan aplikasi web TurnBackHoax dengan tujuan mendeteksi hoaks yang beredar dan sekaligus memberikan literasi digital kepada masyarakat. Berdasarkan konsep-konsep dan teori yang dipaparkan, maka kerangka konsep/pemiliran penelitian ini dapat digambarkan pada Gambar Kerangka pemikiran penelitian ini dapat dijelaskan bahwa adanya disrupsi teknologi mengakibatkan perubahan signifikan dalam industri/pasar akibat adanya inovasi teknologi, model bisnis, atau strategi yang mengganti caracara konvensional. Salah satu inovasi tersebut adalah Artificial Intelligence (AI). memberikan manfaat positif dan juga negatif. Salah satu dampak negatif yang menjadi ancaman saat ini adalah hoaks jenis deepfake . ideo yang memodifikasi gambar, suara, dan Kondisi ini menjadi tantangan bagi komunitas online untuk terus mengupayakan literasi digital bagi masyarakat. Gambar 1. Kerangka Pemikiran Penelitian (Sumber: diolah oleh peneliti, 2. METODE Penelitian ini menggunakan pendekatan deskriptif kualitatif dengan metode studi kasus Creswell . mengemukakan bahwa metode deskriptif kualitatif melibatkan pengumpulan data kualitatif, analisis terperinci, dan interpretasi makna dari data untuk menghasilkan deskripsi yang mendalam tentang fenomena yang diamati. Sedangkan Merriam & Tisdel . menyebutkan bahwa metode ini memahami fenomena sosial dalam konteks Sementara Robert K. Yin menjelaskan bahwa studi kasus adalah jenis penelitian empiris yang menyelidiki fenomena modern dalam konteks kehidupan nyata, terutama dalam kasus yang mana perbedaan antara fenomena dan konteks tidak jelas (Yin, 2. Beberapa mengumpulkan data dalam penelitian ini, yaitu secara primer dengan melakukan analisis konten online dari platform/komunitas online anti hoaks seperti Forum Anti Fitnah. Hasut, dan Hoaks (FAFHH). Mafindo (Masyarakat Anti Fitnah Indonesi. TurnBack Hoax, dan platform online terkait lainnya. Observasi online juga dilakukan untuk mengamati secara langsung interaksi dan perilaku pengguna seperti diskusi, komentar, konten yang dibagikan oleh pengguna dalam komunitas online dimaksud. serta wawancara informan relevan yang terkait dengan isu yang dibahas. Sementara secara sekunder data yang dikumpulkan berupa laporan penelitian/jurnal dari hasil penelitian sebelumnya, dan arsip/dokumen yang relevan dengan topik. Hal ini bertujuan untuk memperoleh informasi tambahan, membandingkan temuan, serta mendukung analisis data penelitian. Teknik analisis data dalam penelitian ini adalah dengan mendeskripsikan data yang telah Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . dikumpulkan untuk memberikan gambaran umum, memaparkan secara mendalam identifikasi tentang AI, hoaks . , komunitas online, literasi digital, serta menginterpretasikan temuan dengan teori yang relevan atau penelitian sebelumnya. Untuk memastikan validitas dan keandalan temuan dalam penelitian ini, maka dilakukan triangulasi data yang melibatkan penggunaan beberapa metode pengumpulan data yang berbeda. Hal ini bertujuan untuk memperoleh pemahaman yang lebih komprehensif. Gambar 2 menunjukkan bahwa hasil identifikasi hoaks di media sosial Facebook Forum Anti Fitnah. Hasut, dan Hoaks (FAFHH) dan TurnbackHoax ditemukan ada 22 deepfake dengan menggunakan teknologi AI yang sudah diproduksi sejak 2015 dan beredar di berbagai platform online. Jumlah hoaks AI ini dari tahun ke tahun semakin bertambah, dan tahun 2024 . er Me. adalah tahun terbanyak dengan produksi hoaks AI yaitu 8 hoaks. Topiknya pun beragam seperti sosial, politik, hukum, kesehatan, pendidikan, teknologi, dan hiburan. HASIL DAN PEMBAHASAN Tujuan pertama dari penelitian ini adalah untuk mendapatkan gambaran tentang teknologi Artificial Intellegence (AI) dalam produksi hoaks. Gambar 2. Hoaks dengan teknologi AI yang beredar di platform online (Sumber:https://turnbackhoax. id/?s=artificial intelligence atau AI) Gambar 3. Manipulasi gambar, video dan audio dengan menggunakan teknologi AI (Sumber:https://turnbackhoax. id/?s=artificial intell igence atau AI) Hasil penelitian juga menunjukkan bahwa AI yang digunakan dalam hoaks ini terdeteksi dalam 3 . jenis produksi yaitu manipulasi gambar, video dan audio. generasi teks dan penyebaran otomatis. Temuan pertama yaitu AoManipulasi Gambar. Video dan AudioAo dihasilkan dengan menggunakan AI kemudian diedit dengan sangat realistis. Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . Gambar 3 menunjukkan bahwa teknologi deepfake memungkinkan pembuatan video palsu dengan suara seseorang diganti, dan juga gambar yang dimanipulasi untuk digunakan menyebarkan informasi yang menyesatkan. Gambar pertama berjudul AuVideo Anies Baswedan Pidato Menggunakan Bahasa Arab di acara Apel Siaga Perubahan Partai NasDemAy. Video ini diunggah tanggal 9 November 2023 di sebuah akun TikTok dengan narasi: AuMasya Alloh Tabarokalloh makin membanggakan baik bhs Inggris/Arab fasih so gak salah pilih beliau Pak Anies Mampu dan dibutuhkan di Indonesia welcome Presiden RI 2024 AMIN ter the bestAy. Setelah ditelusuri fakta sebenarnya, ternyata sumber membagikan video sintesis hasil editan dengan menggunakan AI. Faktanya, video aslinya yang diunggah di YouTube MetroTV, menunjukkan Anies tidak menggunakan Bahasa Arab, tetapi Bahasa Indonesia yang disampaikan di Apel Siaga Perubahan Partai Nasdem di Gelora Bung Karno. Jakarta, 16 Juli 2023. Konten ini termasuk jenis konten yang dimanipulasi. Gambar kedua berjudul AuElon Musk Memproduksi Teknologi Istri RobotAy diunggah 25 Mei 2023 dengan narasi AuElon Musk sedang membuat robot istri dan sudah dalam tahap finalAAda yang mau ? lumayanAistri penurut,tidak banyak menuntut dan dijamin bakal selingkuhAy oleh sebuah akun Facebook bernama Teresia Wardany. Akun ini mengunggah sejumlah foto yang menunjukkan CEO Tesla. Elon Musk berciuman dan berdansa dengan beberapa wanita yang tampak seperti Dalam Teresia menyebutkan bahwa Elon Musk sedang membuat teknologi robot istri dan sudah dalam tahap final. Berdasarkan hasil penelusuran, gambar yang beredar di media sosial tersebut bukanlah foto asli. Hal itu merupakan gambar rekayasa yang diolah menggunakan kecerdasan buatan oleh akun Instagram art_is_2_inspire pada 4 Mei 2023. Konten ini termasuk jenis hoaks dengan konteks yang salah. Gambar 4. Manipulasi teks otomatis dengan menggunakan teknologi AI (Sumber:https://turnbackhoax. id/?s=artificial intelligence atau AI Salah satu hoaks deepfake dengan teks palsu, berjudul AuPidato Jokowi Agar Masyarakat Jangan Pusing Kepala Kenaikan Bintang Empat Kepada PrabowoAy yang diunggah sebuah akun TikTok bernama @abialasyi. Dalam video tersebut Presiden Jokowi mengucapkan kalimat AuKepada seluruh masyarakat Indonesia untuk jangan ada yang protes tentang kenaikan pangkat Bapak Prabowo Subianto menjadi bintang empat. Saya berjanji kepada seluruh masyarakat Indonesia di akhir jabatan saya ini, saya akan memberikan juga bintang kepada seluruh masyarakat Indonesia, yaitu bintang tujuh, obat sakit kepala. Ay Audio itu kemudian juga diikuti dengan teks . dengan kata-kata yang sama seperti yang diucapkan dicuplikan video. Setelah dilakukan penelusuran, faktanya bahwa suara Jokowi yang digunakan pada video tersebut merupakan hasil AI. Dengan demikian, konten tersebut tidak benar, termasuk teksnya . dan dimanipulasi untuk tujuan menipu. Temuan kedua yaitu AoGenerasi Teks OtomatisAo yaitu teknologi AI seperti model bahasa berbasis deep learning yang memungkinkan algoritma untuk menghasilkan konten secara otomatis, mulai dari teks, gambar, audio, hingga video. Dalam konteks hoaks menghasilkan teks palsu (Gambar . Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . Temuan ketiga yaitu AoPenyebaran OtomatisAo yaitu teknologi AI yang digunakan untuk menyebarkan hoaks secara otomatis melalui bot dan akun palsu di media sosial. Hal ini untuk mempercepat penyebaran informasi Kebanyakan orang mengira bahwa penyebaran hoaks dilakukan oleh manusia saja, namun di era kecerdasan buatan saat ini hoaks juga disebarkan secara massal dengan menggunakan teknologi bot. Teknologi ini menguatkan penyebaran informasi palsu dengan cara mengkloning konten tersebut di media sosial untuk memengaruhi opini masyarakat. Juga bertujuan mempertajam kontroversi serta membangun polarisasi untuk menciptakan konflik bertambah besar dalam ruang diskusi di media online. Gambar 5. Hoaks kesehatan yang disebar otomatis secara massal (Sumber:https://w. id/content/detail/ 39883/hoaks-obat-obatan-covid-19-yangdisebarkan-ke-rumah-sakitmematikan/0/laporan_isu_hoak. Beberapa contoh hoaks yang disebar cepat dengan bantuan bot diantaranya pada kasus Pandemi Covid-19 lalu seperti informasi palsu tentang obat-obatan atau pengobatan alternatif yang tidak terbukti kebenarannya. Bot AI juga digunakan untuk membuat dan menyebarkan informasi palsu terkait politik, seperti klaim palsu tentang kandidat politik atau partai Sementara hoaks dengan tema ekonomi juga disebarkan dengan bot seperti informasi palsu tentang investasi yang menguntungkan secara besar-besaran, menipu orang dan merugikan banyak investor yang tergiur dan hoaks lainnya seperti soal bencana alam, keamanan, dan terkait SARA. Gambar 6. Komunitas Forum Anti Fitnah. Hasut, dan Hoax (FAFHH) di Facebook. Mafindo di Instagram dan Twitter (Sumber: https://w. com/groups/fafhh. https://w. com/mafindoid?igsh=bnp6b XJ6YXpndWR6. https://x. com/TurnBackHoax?t=LpNSMGjhwwe 9rbbDHgrw&s=08 Salah satu kasus hoaks dunia yang terkenal karena disebarkan dengan bot adalah kasus "Pizzagate" yang terjadi pada tahun 2016 di Amerika Serikat. Kasus ini melibatkan klaim palsu yang menyebutkan bahwa sebuah restoran pizza di Washington DC digunakan sebagai kantor pusat perdagangan anak-anak oleh para elit politik sebelum pemilihan presiden AS Hoaks ini menyebar luas di media sosial dan forum online melalui penggunaan bot dan akun palsu. Pizzagate adalah contoh yang menunjukkan penggunaan bot dan akun palsu dapat digunakan untuk menyebarkan informasi palsu dan merusak reputasi seseorang atau suatu Hoaks ini menyebabkan kekhawatiran dan ancaman bagi pemilik restoran pizza Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . tersebut, serta menimbulkan kekacauan di Tujuan kedua dari penelitian ini adalah untuk mendapatkan gambaran tentang tantangan literasi digital di komunitas online antihoaks menghadapi ancaman disrupsi AI terkait hoaks. Prebunking di beberapa kota di Indonesia sebelum Pemilu Presiden 2024 lalu Seperti diketahui menjelang Pemilu, angka hoaks/hoaks AI semakin Hasil penelitian menunjukkan bahwa Forum Anti Fitnah. Hasut, dan Hoax (FAFHH) di Facebook adalah salah satu komunitas online anti hoaks. Komunitas ini didirikan pada 8 September 2015 dan saat ini memiliki sekitar 99,2 ribu anggota . er Mei 2. Pada tahun 2016, komunitas ini resmi menjadi lembaga legal dengan nama Mafindo. Mafindo aktif dalam melawan hoaks melalui berbagai kegiatan seperti edukasi publik, seminar, workshop, advokasi pemerintah, kerja sama dengan pihak terkait, serta melibatkan sekitar 000 relawan online dan 300 lebih relawan Selain itu. Mafindo secara rutin melakukan edukasi dan literasi mengenai anti hoaks melalui platform digital seperti Facebook. Page FB. Instagram, dan Twitter. Hoaks AI yang makin berkembang tidak terbendung menjadikan tantangan tersendiri bagi komunitas-komunitas anti hoaks termasuk Mafindo. Beberapa tantangan utama adalah hoaks AI semakin canggih dan sulit untuk dideteksi secara manual. semakin cepat melalui berbagai platform kontennya dapat memperkuat polarisasi dalam masyarakat dan memicu konflik antar masyarakat semakin kehilangan kepercayaan terhadap media dan informasi yang disajikan. menimbulkan kerugian ekonomi, merusak reputasi dan mengakibatkan membuahkan tantangan hukum terkait penipuan, pencemaran nama baik, dan pelanggaran hak cipta. dan peningkatan literasi digital masyarakat yang harus dilakukan secara lebih masif lagi. Mengatasi tantangan ini. Mafindo telah melakukan langkah-langkah diantaranya, . Terus mengupayakan AoPeningkatan Kesadaran PublikAo yaitu edukasi/literasi digital kepada masyarakat tentang bahaya hoaks/hoaks AI dan dampak negatifnya. Dengan meningkatkan kesadaran publik, diharapkan masyarakat lebih waspada dan kritis terhadap informasi yang Salah satu contoh kegiatan Kampanye Gambar 7. Berbagai kegiatan Peningkatan Kesadaran Publik yang dilakukan oleh Mafindo (Sumber: https://w. com/mafindoid?igsh=bnp6b XJ6YXpndWR. Prebunking adalah sebuah teknik yang digunakan untuk memberi peringatan kepada seseorang tentang upaya untuk memanipulasi, mengidentifikasi/ menolak klaim yang menyesatkan, serta membangun ketahanan terhadap manipulasi. Teknik ini melibatkan penolakan secara preventif terhadap narasi palsu/teknik manipulasi, seperti penakutan atau menyalahkan orang lain. Prebunking dapat meningkatkan kemampuan seseorang untuk Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . menyesatkan dan menjadi strategi yang efektif dalam melawan informasi sesat/disinformasi. Kegiatan memberikan pelatihan dan pendidikan. Hal ini penting agar masyarakat mengetahui cara membedakan informasi yang valid dan hoaks serta pentingnya memverifikasi informasi sebelum menyebarkannya. Pendidikan tentang literasi digital dan media juga dapat membantu masyarakat dalam menghadapi tantangan hoaks AI dalam bentuk workshop, webinar, dan pesanpesan kampanye anti hoaks yang terus disebarkan melalui media sosial. AI dengan cepat. Kerja sama lintas-platform dapat membantu dalam menanggulangi penyebaran hoaks secara luas. Mafindo telah mendapatkan sertifikasi kelas internasional dari lembaga IFCN/ Poynter dan secara rutin bekerja sama dengan platform-platform besar seperti Google. Facebook. WhatsApp. Instagram, dan lainnya untuk melawan hoaks di media sosial. Selain itu. Mafindo juga menjadi narasumber bagi pemerintah Indonesia. Singapura. Uni Eropa, dan PBB. Beberapa waktu lalu. Mafindo bekerja sama dengan WHO. UNICEF, dan CDC untuk melawan penyebaran hoaks seputar Covid-19. Peran komunitas online anti hoaks tentu sangat besar terutama mengatasi tantangan disrupsi hoaks AI. Namun, masyarakat juga berperan penting dalam mendukung hal Diantaranya menjadi konsumen informasi yang kritis, terus meningkatkan literasi digital dan edukasi terkait hoaks, berbagi informasi yang sah, melaporkan konten hoaks, menjadi bagian dari gerakan anti-hoaks serta membangun kesadaran komunitas. Seperti yang tergambar pada Gambar 9 dan juga yang disampaikan beberapa informan berikut ini: Gambar 8. Tools anti-hoaks Mafindo (Hoax Buster Tools, chatbot Kalimasada, website com (Sumber: https://linktr. ee/Mafind. Langkah ke . Pengembangan teknologi deteksi hoaks. Untuk membantu mengatasi masalah penyebaran hoaks. Mafindo bekerja sama dengan Kementeraian Kominfo dalam mengembangkan tools anti-hoaks seperti aplikasi Hoax Buster Tools, chatbot Kalimasada, website cekfakta. com, dan menggunakan Google Images. Melalui tools ini, masyarakat dapat memverifikasi informasi yang diterima dan membedakan antara hoaks dan fakta. Langkah . Kolaborasi antar platform. Komunitas anti-hoaks perlu bekerja sama dengan platform digital besar untuk mengidentifikasi dan menghapus konten hoaks AuKomunitas anti hoaks bisa membantu saya mengecek ataupun melihat hoaks yg beredar di dunia maya karena kalo tidak, maka membutuhkaneffort lebih utk mengecek sebuah konten apakah benar atau hoaks. Tetapi keterampilan/skill untuk bisa mengenali sebuah hoax atau tidak dan lainnya. Ay (Faizal Risani, anggota Komunitas Forum Anti Fitnah. Hasut, dan Hoaks, 2. AuSaya tidak bergabung dalam satu pun komunitas online anti hoaks, karena tidak relevan sama kehidupan sehar-hari saya. Sikap saya lebih ke bodo amat sih dan jarang liat Kalaupun ada berita mengarah ke hoaks mending skip, kecuali berita viral maka saya akan mencari sendiri kebenarannya. Biasanya cari info di Tiktok/Ig/Twt, baca komen karena biasanya ada pandangan lain. Tapi jika pandangan lain ini beda sekali, maka saya akan cari keberanan berita lainnya yang terkait. Ay (Zean Amadeus. Gen-Z, 2. AuKomunitas online anti hoaks penting ada karena itu sangat membantu literasi digital masyarakat memahami hoaks. Paling tidak masyarakat punya kesadaran literasi digital dan juga paham tentang etika digital. Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . (Kharisma Nasionalita. Pemerhati Teknologi Informasi Komunikasi, 2. Gambar 9. Interaksi anggota di ruang komentar akun komunitas anti hoaks menyikapi salah satu hoaks AI yang beredar di media sosial (Sumber:https://w. com/groups/fafh. Hasil penelitian mengungkapkan bahwa hoaks AI seperti konten palsu deepfake dapat menyesatkan orang. Sementara teknologi deteksi deepfake AI juga terus berkembang untuk mengidentifikasi dan mengungkap konten yang telah dimanipulasi seperti Deepware Scanner. Deepfake Detection Challenge (DFDC). Sensity. Microsoft Video Authenticator. DeepGuard dan lainnya. Pertarungan antara hoaks yang dibuat dengan menggunakan kecerdasan buatan (AI) dan teknologi deteksi deepfake yang juga menggunakan AI merupakan salah satu dinamika menarik dalam perkembangan teknologi informasi saat ini. Bahkan dalam sebuah kasus hoaks AI yang memanipulasi Mafindo alat elevenlabs. com dengan probabilitas diatas 80 persen. Sam Gregory menyatakan bahwa teknologi AI dapat digunakan untuk memerangi penyebaran hoaks dan konten manipulatif. Namun, juga diingatkan bahwa AI dapat digunakan untuk menciptakan hoaks yang lebih canggih lagi (TED, 2. Kesemuanya ini terkait erat dengan disrupsi teknologi yang mana teknologi yang lama tergantikan dengan yang baru, begitu Majid menyebutnya Aodisrupsi dalam disrupsiAo. Menurut Andrew Ng . alam E. Strickland, 2. , teknologi AI akan mengubah hampir semua industri pada masa depan dan meresap ke dalam setiap aspek kehidupan Disrupsi terkait erat dengan Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . perkembangan teknologi. Hal ini dapat dipahami karena teknologi berkembang dengan cepat sehingga ketika manusia menyadari bahwa teknologi dapat membuat tugas menjadi lebih mudah, cepat, efektif, dan efisien, dan juga dapat mengatasi masalah, maka cenderung untuk dimanfaatkan (Majid, 2. Dalam kasus hoaks AI, teknologi digunakan untuk halhal yang negatif, sekaligus juga digunakan sebagai penangkal yang positif. Seperti hasil penelitian yang dilakukan oleh (Chairunnisa et , 2. yang menyebutkan bahwa AI dengan algoritma yang tepat dapat menjadi solusi atas permasalahan penyebaran berita palsu. Namun menurut informan, tantangannya adalah teknologi yang cepat berkembang perlu didukung dengan kerja cepat juga dari komunitas online, sehingga literasi digital yang disampaikan kepada masyarakat tetap relevan dengan kemajuan teknologi untuk menangani hoaks AI. Tidak dipungkiri, dibalik semua ini, peran pemerintah sangat penting untuk tetap mangawali persoalan ini, meskipun selama ini penanganan hoaks sudah menjadi agenda prioritas pemerintah. Seperti melakukan kampanye edukasi, pelatihan dan workshop, literasi digital, kerja sama dengan platform online, pengembangan alat deteksi hoaks, dan penyusunan regulasi/kebijakan. Dari semua itu, penegakan peraturan yang ketat dan penegakan hukum terkait penyebar hoaks/ hoaks AI menjadi perhatian khusus dari persoalan ini. Elon Musk mengungkapkan bahwa potensi disrupsi yang ditimbulkan oleh kecerdasan buatan dapat menjadi ancaman serius bagi manusia jika tidak diatur dengan bijaksana (Jatmiko, 2. Pemerintah Indonesia telah mengambil langkah-langkah dalam mengatur teknologi AI. Beberapa peraturan yang berkaitan dengan pemanfaatan teknologi AI di Indonesia antara lain Permenkominfo Nomor 3 Tahun 2021 yang mengatur perizinan bagi pelaku usaha yang menggunakan AI. UU ITE dan peraturan turunannya yang mencakup terminologi agen elektronik. UU Pelindungan Data Pribadi yang mengatur pemrosesan data pribadi yang AI, pemanfaatan AI yang dikeluarkan oleh Kementerian Komunikasi dan Informatika dalam Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Buatan (Irfan, 2. Regulasi yang ketat terhadap penggunaan AI dalam produksi konten sangat penting, agar dapat membatasi penyebaran hoaks AI dan memberikan sanksi bagi pelaku yang sengaja menyebarkan informasi palsu. Hal ini dapat memberikan efek jera dan sinyal bahwa penyebaran informasi palsu tidak akan Terlepas dari semua itu, yang terpenting juga adalah mewaspadai perkembangan konten generatif AI, diperlukan kecakapan berpikir Claire Wardle menyoroti peran penting teknologi AI dalam mendeteksi dan memerangi hoaks namun menurutnya solusi untuk masalah hoaks tidak hanya bergantung pada teknologi, tetapi juga melibatkan literasi digital dan pendidikan informasi yang baik (Wardle, 2. Dalam siaran pers Kemkominfo. Wakil Menteri Kominfo Nezar Patria mengatakan bahwa berpikir kritis merupakan kunci penting dalam melawan hoaks, terutama karena hoaks semakin berkembang dan memiliki berbagai bentuk yang menyesatkan. Hal ini karena literasi digital menjadi begitu penting agar masyarakat tidak mudah percaya pada informasi yang memicu emosi sehingga terjebak di dalamnya. Masyarakat perlu memeriksa informasi ke sumber-sumber yang terpercaya untuk memastikan kebenarannya. Selain itu, kemampuan dalam pemecahan masalah, transparansi, dan memberdayakan masyarakat melalui literasi dan edukasi yang kritis juga sangat penting dalam menghadapi tantangan hoaks (Kominfo, 2. Kesadaran dan tindakan masyarakat dalam mengatasi penyebaran hoaks merupakan langkah penting dalam menjaga integritas informasi online dan membangun lingkungan digital yang lebih aman. Disamping itu, kolaborasi semua pihak terkait menjadi ujung tombak dari persoalan hoaks dan disrupsi AI. Seperti yang disampaikan oleh DiResta, et. bahwa teknologi AI dapat digunakan untuk mengidentifikasi pola-pola penyebaran hoaks dan konten yang merugikan, namun kerja sama antara platform online, peneliti, pemerintah, komunitas online dan masyarakat sama pentingnya dalam mengatasi masalah Jurnal Ilmiah Manajemen Informasi dan Komunikasi Vol. 9 No. 1 Juni 2025 ISSN : 2614-1272. e-ISSN : 2720-9857 Artificial Intelligenence Dan Hoaks: Tantangan Disrupsi Bagi Literasi Digital Masyarakat Di Komunitas Online Dan Upaya . SIMPULAN DAFTAR PUSTAKA Produksi konten hoaks kini tidak lagi hanya sebatas teks/gambar, namun telah merambah pada penggunaan teknologi AI jenis deepfake yang menggabungkan video, audio, dan teks yang semakin kompleks dan sulit diidentifikasi sebagai hoaks. Penerapan AI dalam produksi hoaks meliputi manipulasi gambar, video dan audio. generasi teks dan penyebaran otomatis melalui bot dan akun palsu di media sosial. Adapun tantangan utama persoalan ini adalah hoaks AI semakin canggih dan sulit untuk dideteksi secara manual, kontennya dapat memperkuat polarisasi dalam masyarakat dan memicu konflik antar kelompok. masyarakat semakin kehilangan kepercayaan terhadap media dan informasi yang disajikan. kerugian ekonomi, merusak reputasi dan mengakibatkan kerugian finansial yang membuahkan tantangan hukum terkait penipuan, pencemaran nama baik, dan pelanggaran hak cipta. dan peningkatan literasi digital masyarakat yang harus dilakukan secara lebih masif. Untuk mengatasi berbagai tantangan ini, komunitas online seperti Mafindo telah melakukan langkah-langkah diantaranya, terus mengupayakan peningkatan kesadaran publik yaitu edukasi/literasi digital kepada pengembangan teknologi deteksi hoaks, dan kolaborasi antar platform. Andika & M. Soemarno. Masalah Privasi dan Keamanan Data Pribadi pada Penerapan Kecerdasan Buatan. INNOVATIVE: Journal Of Social Science Research, 3, 4917Ae4929. Arly. Dwi. , & Andini. Implementasi Penggunaan Artificial Intelligence Dalam Proses Pembelajaran Mahasiswa Ilmu Komunikasi di Kelas A. Prosiding Seminar Nasional, 362Ae374. Chairunnisa. Radityo. Wicaksono. & Ayyasy. Penerapan Algoritma pada Artificial Intelligence sebagai Upaya Menangani Penyebaran Hoax. Cakrawala, 15. , 174Ae187. https://doi. org/10. 32781/cakrawala. Haripriya. , & Manikandan. Study Artificial Intelligence Technologies and Their Applications. International Journal of Scientific Research Computer Science. Engineering and Information Technology, 336Ae344. https://doi. org/10. 32628/cseit206455 Hussein. , & Hejase. Artificial Intelligence and Fake News. urnalistikos Tyrimai. April, 39Ae71. https://doi. org/10. 15388/zt/jr. Jayus. Disrupsi Teknologi Digital dalam Penanganan Krisis. Jurnal Pendidikan Tambusai, 7. , 1602Ae1610. Juditha. Hoax Communication Interactivity in Social Media and Anticipation (Interaksi Komunikasi Hoax di Media Sosial serta Antisipasiny. Journal Pekommas, 3. , https://doi. org/10. 30818/jpkm. Juditha. Interaksi Simbolik Dalam Komunitas Virtual Anti Hoaks Untuk Mengurangi Penyebaran Hoaks Symbolic Interactionism in Anti Hoax Virtual Community To Reduce the Spread of Hoax. Jurnal Penelitian Komunikasi Dan Pembangunan, 19. , 17Ae32. https://pdfs. org/1814/e30 Juditha. Literasi Informasi Melawan Hoaks Bidang Kesehatan di Komunitas Online. Jurnal ILMU KOMUNIKASI. SARAN