Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 PERLINDUNGAN KONSUMEN DI ERA CHATBOT DAN AI:
PENDEKATAN HUKUM BISNIS DIGITAL
I Gusti Ayu Widiadnyani.
Kadek Frediandrika Adnantara.
Politeknik Negeri Bali.
Fakultas Hukum Universitas Mahendradatta Denpasar.
e-mail: gustiayuwidia@pnb.
id, frediandrikastrong@gmail.
Abstract.
The development of digital technology in the Industry 4.
0 and Society 0 eras has brought significant changes in the interaction patterns between businesses and consumers.
One of the rapidly developing innovations is the use of Artificial Intelligence (AI) and chatbots as a means of customer service in various sectors, including banking, e-commerce, and financial technology .
Although this technology provides convenience and efficiency, its use also poses legal risks, such as misinformation, personal data leaks, and material and immaterial losses experienced by consumers.
This study aims to analyze legal protection for consumers who interact with chatbot- and AI-based services through a normative legal approach with literature studies and analysis of laws and regulations.
Some of the regulations reviewed include Law Number 8 of 1999 concerning Consumer Protection (UUPK).
Law Number 11 of 2008 concerning Electronic Information and Transactions (UU ITE) in conjunction with Law Number 19 of 2016 Law No.
1 of 2024.
Financial Services Authority (OJK) Regulation No.
6/POJK.
07/2022, and the New Criminal Code (Law No.
1 of Research results show that current legal protection for consumers is still partial and does not specifically regulate the use of AI.
AI is viewed merely as a tool, so responsibility remains with the business actors or corporations that operate it.
The principles of strict liability and vicarious liability apply, where business actors remain fully responsible for losses incurred, even if errors occur in the AI system.
Consumers have the right to compensation, personal data protection, and access to dispute resolution mechanisms, whether through negotiation, the Financial Services Authority (BPSK), the Financial Services Authority (OJK), or the courts.
Specific regulations on AI are needed that address ethics, security, and clear accountability mechanisms for business actors.
Thus, the development of AI technology can continue to support digital business innovation without neglecting consumer rights and protection in Indonesia's digital ecosystem.
Keywords: Consumer Protection.
Artificial Intelligence.
Chatbot.
Business Actor Responsibility.
Abstrak.
Perkembangan teknologi digital pada era Industri 4.
0 dan Society 5.
telah membawa perubahan signifikan dalam pola interaksi antara pelaku usaha dan konsumen.
Salah satu inovasi yang berkembang pesat adalah pemanfaatan Artificial Intelligence (AI) dan chatbot sebagai sarana pelayanan pelanggan di berbagai sektor, termasuk perbankan, e-commerce, dan financial technology .
Meskipun teknologi ini menghadirkan kemudahan dan efisiensi, penggunaannya juga menimbulkan risiko hukum, seperti kesalahan informasi, kebocoran data pribadi, hingga kerugian materiil dan immateriil yang dialami Penelitian ini bertujuan untuk menganalisis perlindungan hukum bagi Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 konsumen yang berinteraksi dengan layanan berbasis chatbot dan AI melalui pendekatan hukum normatif dengan studi kepustakaan dan analisis peraturan perundang-undangan.
Beberapa regulasi yang dikaji antara lain Undang-Undang Nomor 8 Tahun 1999 tentang Perlindungan Konsumen (UUPK).
Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) jo.
UU No.
19 Tahun 2016 jo.
Undang-Undang Nomor 1 Tahun 2024.
Peraturan Otoritas Jasa Keuangan (OJK) Nomor 6/POJK.
07/2022, serta KUHP Baru (UU No.
1 Tahun 2.
Hasil penelitian menunjukkan bahwa saat ini perlindungan hukum bagi konsumen masih bersifat parsial dan belum secara khusus mengatur penggunaan AI.
AI dipandang hanya sebagai alat sehingga tanggung jawab tetap berada pada pelaku usaha atau korporasi yang mengoperasikannya.
Prinsip strict liability dan vicarious liability berlaku, di mana pelaku usaha tetap bertanggung jawab penuh atas kerugian yang ditimbulkan, meskipun kesalahan terjadi pada sistem AI.
Konsumen memiliki hak untuk memperoleh ganti rugi, perlindungan data pribadi, dan akses terhadap mekanisme penyelesaian sengketa, baik melalui negosiasi.
BPSK.
Otoritas Jasa Keuangan, maupun pengadilan.
Perlunya regulasi khusus tentang AI yang mengatur etika, keamanan, serta mekanisme pertanggungjawaban yang jelas bagi pelaku usaha.
Dengan demikian, perkembangan teknologi AI dapat terus mendukung inovasi bisnis digital tanpa mengabaikan hak dan perlindungan konsumen dalam ekosistem digital Indonesia.
Kata kunci: Perlindungan Konsumen.
Artificial Intelligence.
Chatbot.
Tanggung Jawab Pelaku Usaha.
PENDAHULUAN
Perkembangan (Artificial Intelligence/AI) dan chatbot telah mengubah cara bisnis berinteraksi dengan konsumen.
Di Indonesia penggunaan chatbot dan AI dalam layanan bisnis semakin meluas, mencakup sektor perbankan, ecommerce, kesehatan, transportasi, hingga layanan publik.
Chatbot sebagai asisten virtual berbasis AI yang mampu memberikan respons cepat, personalisasi layanan, dan efisiensi operasional.
Namun di balik perlindungan konsumen, termasuk Chatbot komputer yang dirancang untuk meniru percakapan manusia secara otomatis baik melalui pesan teks maupun suara.
Dalam banyak platform digital mulai dari ecommerce, hingga sektor kesehatan, chatbot pertanyaan pelanggan, membantu menyelesaikan keluhan sederhana tanpa campur tangan manusia.
Penerapan chatbot belajar dari interaksi kualitas respons dari waktu ke Transformasi ini menandai pergeseran dari layanan berbasis manusia menuju interaksi digital yang sebagian besar dikendalikan Putra.
, & Haq.
Tanggung Jawab Hukum Penggunaan Artificial Intelligence Terhadap Pelanggaran Data Pribadi Pada Platform E-Commerce.
Commerce Law, 4.
Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 oleh sistem.
Namun membawa efisiensi dan kemudahan dikarenakan penggunaan AI juga menimbulkan berbagai persoalan hukum yang belum sepenuhnya terjawab oleh sistem hukum yang ada.
Salah satu persoalan utama adalah mengenai perlindungan hukum bagi konsumen apabila terjadi kerugian akibat menjalankan fungsinya.
Berkembangnya informasi dan komunikasi telah memberikan pengaruh yang sangat besar dalam dunia bisnis dan pelayanan publik.
Dalam konteks pelayanan konsumen, penggunaan AI terutama terwujud melalui chatbot, sistem rekomendasi, voice assistant, dan fitur-fitur personalisasi yang didorong oleh pembelajaran mesin .
achine learnin.
Teknologi ini memungkinkan pelaku usaha untuk memberikan layanan yang cepat, efisien, dan berskala besar tanpa memproses data dalam jumlah besar, melakukan prediksi, serta merespon konsumen secara real-time.
Dengan segala kelebihannya.
AI kini menjadi komponen penting dalam strategi bisnis digital modern.
Meskipun penggunaan AI dalam layanan konsumen membawa diabaikan bahwa terdapat berbagai risiko yang melekat.
Konsumen sebagai pihak yang berinteraksi berpotensi mengalami kerugian ketidakakuratan informasi, algoritma yang bias, atau bahkan pelanggaran terhadap hak privasi dan data pribadi.
Konsumen di era digital memiliki tingkat kerentanan yang lebih tinggi dibandingkan dengan era transaksi Dalam dengan chatbot dan AI, konsumen seringkali tidak menyadari bahwa mereka berhadapan dengan sistem Akibatnya konsumen tidak mengetahui batasan kemampuan sistem, tingkat keandalan informasi yang diberikan, serta hak-hak hukum yang mereka miliki ketika terjadi Adapun permasalahan nyata yang sering terjadi meliputi:3 Chatbot informasi yang tidak akurat atau menyesatkan, yang Konsumen menyampaikan keluhan atau karena keterbatasan sistem.
Terjadi pelanggaran privasi dan kebocoran data pribadi akibat pengumpulan dan pemrosesan data oleh AI.
Keputusan algoritma yang diskriminatif atau tidak adil terhadap kelompok tertentu.
Ketiadaan pertanggungjawaban hukum yang jelas ketika terjadi sengketa antara konsumen dan pelaku usaha yang menggunakan AI.
Situasi ini diperparah dengan ketimpangan informasi .
nformation Syafiqotuzzuhda.
Problematika Hukum Perlindungan Konsumen dalam menghadapi kejahatan berbasis artificial intellegence (Doctoral Universitas Islam Negeri Maulana Malik Ibrahi.
Chrisjanto.
, & Luhukay.
Perlindungan Hukum Terhadap Artificial Intelligence (A.
Di Indonesia.
Jurnal Legal Reasoning, 7.
, 224-248.
Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 asymmetr.
antara pelaku usaha dan Konsumen tidak memiliki pemahaman yang memadai tentang bagaimana sistem AI bekerja, termasuk bagaimana data mereka digunakan dan bagaimana keputusan layanan dihasilkan.
Kondisi ini menempatkan konsumen dalam posisi yang sangat lemah dalam Kasus-kasus kerugian ini semakin relevan mengingat AI tidak memiliki kehendak bebas atau kesadaran moral, sehingga tidak dapat dimintai PEMBAHASAN .
Perlindungan Hukum Bagi Konsumen Berinteraksi Layanan Bisnis Berbasis Chatbot dan Kecerdasan Buatan (AI) di Indonesia Perlindungan hukum adalah jaminan bagi warga negara agar hakhak mereka diakui, dipenuhi, dan dilindungi oleh aturan serta aparatur Di Indonesia, hak atas pengakuan, jaminan, perlindungan, dan kepastian hukum merupakan hak konstitusional yang dijamin UUD Pernyataan ini menempatkan perlindungan hukum sebagai fungsi mewujudkan keadilan dan ketertiban.
Perlindungan konsumen adalah bagian dari hukum konsumen yang kepentingan konsumen dari praktik bisnis yang merugikan.
Perlindungan ini mencakup hak atas informasi yang benar, hak atas keamanan, serta hak memperoleh ganti rugi apabila Hal tersebut menekankan hubungan yang tidak seimbang antara pelaku usaha dan konsumen, sehingga negara perlu hadir melalui instrumen hukum.
Dalam strict liability, pelaku usaha bertanggung jawab atas kerugian konsumen meskipun tanpa Dalam AI/Chatbot, strict liability ini relevan karena konsumen tidak memiliki kendali teknis terhadap sistem.
METODE PENELITIAN Artikel ini menggunakan metode penelitian hukum normatif dikarenakan fokus kajian berangkat Auperlindungan konsumen di era chatbot dan ai: pendekatan hukum bisnis digitalAy.
Kaburnya perumusan norma tersebut akan berimbas pada perlindungan hukum bagi konsumen yang berinteraksi dengan layanan kecerdasan buatan (AI) di Indonesia, serta tanggung jawab pelaku usaha terkait kerugian yang ditimbulkan oleh penggunaan AI dalam layanan Penelitian perundang-undangan .
tatute approac.
dan pendekatan analisis konseptual .
nalytical conceptual Sumber bahan hukum yang dipakai meliputi bahan hukum dikumpulkan melalui metode studi kepustakaan, setelah itu dipelajari dan ditelaah dengan bahan hukum yang relevan terhadap penelitian.
Hukum dan Penulisan Disertasi.
Denpasar:
Swastu Nulus Prayuti.
Dinamika perlindungan hukum konsumen di era digital: Analisis hukum terhadap praktik e-commerce dan Indonesia.
Jurnal Interpretasi Hukum, 5.
Diantha.
Dharmawan.
, &
Artha.
Metode Penelitian Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 sehingga pelaku usaha wajib memikul tanggung jawab penuh atas output sistem AI.
Efektivitas pengawasan, dan kepatuhan pelaku Konsumen berhak atas informasi yang benar, perlindungan data pribadi, serta hak menolak keputusan otomatis.
Sementara itu, pelaku usaha wajib memastikan akuntabilitas dan bertanggung jawab atas kerugian yang ditimbulkan meskipun terjadi akibat sistem AI.
Perusahaan e-commerce di Indonesia .
isalnya Tokopedia.
Shopee.
Lazada.
Blibl.
menggunakan chatbot untuk menjawab pertanyaan seputar produk, ongkos kirim, dan promo.
Selanjutnya transaksi .
emesanan, pembayara.
serta menangani pengaduan terkait barang tidak sesuai, retur, atau keterlambatan pengiriman.
Chatbot dipilih karena mampu memberikan pelayanan cepat dan efisien.
Namun, dalam praktiknya, tidak jarang chatbot memberikan jawaban yang menyesatkan, sehingga berpotensi merugikan konsumen.
Seorang marketplace untuk menanyakan apakah suatu produk sedang dalam promo gratis ongkir.
Chatbot otomatis menjawab bahwa produk tersebut memang mendapat promo gratis ongkir tanpa syarat.
6 Namun, setelah transaksi dilakukan, ternyata konsumen tetap dikenai biaya Konsumen dirugikan dan mengajukan komplain, memberikan jawaban berulang tanpa solusi, sehingga proses pengaduan Adapun hal yang seharusnya dibutuhkan konsumen .
Hak Konsumen atas Informasi yang Benar Berdasarkan Pasal 4 huruf c Undang-Undang Nomor 8 Tahun Tentang Perlindungan Konsumen/ UUPK berhak atas informasi yang benar, jelas, dan jujur mengenai kondisi barang dan Sehingga informasi yang diberikan chatbot tidak sesuai menyalahi kewajiban pelaku .
Kewajiban Pelaku Usaha Memberikan Informasi yang Benar Pasal 7 huruf b UndangUndang Nomor 8 Tahun 1999 Tentang Perlindungan Konsumen/ UUPK mewajibkan pelaku usaha memberikan informasi yang benar, jelas, dan jujur.
Chatbot adalah bagian dari sistem informasi pelaku usaha.
Oleh karena itu, kesalahan chatbot tetap menjadi tanggung jawab pelaku usaha.
Pembayun.
, & Gunawan.
Perlindungan Hukum terhadap Konsumen dalam Transaksi Digital:
Tinjauan terhadap Implementasi UU Perlindungan Konsumen Marketplance.
Jurnal Fakta Hukum, 3.
Puannandini.
Fabian.
Firdaus.
Mustopa.
, & Herdiyana.
Liabilitas Produk Ai Dalam Sistem Hukum Indonesia:
Implikasi Bagi Pengembang.
Pengguna.
Dan Penyedia Layanan.
Iuris Studia: Jurnal Kajian Hukum, 6.
, 24-33.
Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 .
Tanggung Jawab Kerugian Konsumen Dalam pasal 19 UndangUndang Nomor 8 Tahun 1999 Tentang Perlindungan Konsumen/ UUPK menegaskan pelaku usaha kompensasi, ganti rugi, atau penggantian atas kerugian yang dialami konsumen akibat barang/jasa.
Kompensasi dapat berupa pengembalian biaya ongkos kirim yang salah ditagihkan.
Dalam pasal 21 Peraturan Pemerintah Republik Indonesia Nomor 71 Tahun Tentang Penyelenggaraan Sistem dan Transaksi Elektronik Pendaftaran Sistem Elektronik menyediakan informasi yang Sehingga melalui chatbot yang tidak kewajiban tersebut.
Larangan Klausula Baku Jika membebaskan pelaku usaha dari tanggung jawab atas kesalahan chatbot, hal itu bertentangan dengan Pasal 18 Undang-Undang Nomor 8 Tahun Tentang Perlindungan Konsumen/ UUPK, sehingga batal demi .
Perlindungan Data Pribadi (UU PDP) Chatbot e-commerce biasanya .
lamat, riwayat belanj.
Jika terjadi penyalahgunaan data atau komplain, maka pelaku usaha melanggar Pasal 46 UndangUndang Nomor 27 Tahun 2022 Tentang Pelindungan Data Pribadi, karena tidak melakukan notifikasi insiden kepada konsumen.
Aspek Kontrak Elektronik
(UU ITE)
Transaksi antara konsumen dan pelaku usaha merupakan kontrak elektronik tersebut tercantum dalam pasal 18 UU ITE).
Meskipun perjanjian dilakukan secara elektronik .
, kontrak tetap mengikat dan harus dijalankan dengan iktikad Penyelesaian Internal dengan cara konsumen dapat terlebih dahulu menyampaikan keluhan kepada layanan pelanggan marketplace.
Sesuai Pasal 7 Undang-Undang Nomor 8 Tahun 1999 Tentang Perlindungan Konsumen/ UUPK, pelaku usaha wajib menanggapi dan Berdasarkan Pasal 52 UUPK, konsumen dapat mengajukan perkara ke Badan Penyelesaian Sengketa Konsumen (BPSK) untuk mediasi, konsiliasi, atau arbitrase apabila sengketa tidak terselesaikan di .
Kewajiban Penyelenggara Sistem
Elektronik
(PP
71/2.
Raad Kertha.
Vol.
No.
01 Periode Pebruari 2026 - juli 2026 internal perusahaan.
Konsumen juga dapat mengajukan gugatan perdata berdasarkan Pasal 1365 KUH Perdata .
erbuatan melawan huku.
dan Pasal 19 UUPK .
anggung jawab ganti rug.
Adanya ketimpangan informasi dan teknologi terhadap pelaku usaha.
Chatbot diprogram sesuai kepentingan bisnis, sehingga potensi kerugian konsumen besar jika tidak ada pengawasan.
Selanjutnya minimnya efektivitas pengaduan yang ada pada sistem menyediakan akses cepat ke petugas manusia, hal tersebut bertentangan Pasal Peraturan Pemerintah Republik Indonesia Nomor 71 Tahun 2019 Tentang Penyelenggaraan Sistem Transaksi Elektronik mewajibkan adanya mekanisme pengaduan yang efektif.
Adanya mengakibatkan konsumen sering diminta menginput data pribadi melalui chatbot.
Jika tidak dikelola sesuai prinsip minimisasi data seperti yang tercantum dalam pasal 20 Undang-Undang Nomor 27 Tahun 2022 Tentang Pelindungan Data Pribadi, hal ini dapat menimbulkan risiko kebocoran.
PENUTUP
Perlindungan Hukum Bagi Konsumen yang Berinteraksi dengan Layanan Bisnis Berbasis Chatbot dan Kecerdasan Buatan (AI) di Indonesia yaitu sudah memiliki dasar hukum, namun masih bersifat parsial dan belum spesifik.
Perlindungan hukum bagi konsumen yang berinteraksi dengan layanan bisnis berbasis chatbot dan AI di Indonesia masih menghadapi tantangan, terutama dalam aspek regulasi yang belum spesifik dan menyeluruh.
Konsumen memiliki hak untuk mendapatkan informasi yang benar, jelas, dan jujur sebagaimana diatur dalam UUPK.
Pelaku usaha memiliki tanggung jawab penuh atas risiko yang teknologi AI, baik dari sisi keamanan data maupun akurasi layanan.
Negara perlu hadir melalui regulasi dan pengawasan yang ketat, guna kepentingan antara pelaku usaha dan Harmonisasi regulasi, peningkatan kesadaran hukum, dan konsumen menjadi kunci untuk menciptakan ekosistem bisnis digital yang aman, adil, dan berkelanjutan di Indonesia.
Sehingga mengantisipasi perkembangan AI yang semakin kompleks, diperlukan regulasi yang komprehensif dan modern agar konsumen terlindungi secara optimal dalam ekosistem digital di masa depan.
Disemadi.
Urgensi regulasi Indonesia.
Jurnal Wawasan Yuridika, 5.
Nasution.
Purba.
Silalahi.
, & Purba.
Perlindungan hukum bagi konsumen dalam transaksi ecommerce berdasarkan Undang-Undang Perlindungan Konsumen.
PESHUM: Jurnal Pendidikan.
Sosial dan Humaniora, 4.
DAFTAR PUSTAKA