Kepada Yth. Presiden Republik Indonesia, Dewan Perwakilan Rakyat (DPR) RI, dan Kementerian Komunikasi dan Informatika (Kominfo),

Kecerdasan Buatan (Artificial Intelligence/AI) telah memberikan dampak besar dalam kehidupan kita, baik dalam meningkatkan efisiensi maupun membuka peluang baru. Namun, tanpa regulasi yang jelas, teknologi ini dapat disalahgunakan untuk tujuan yang merugikan masyarakat, bahkan menimbulkan ancaman serius terhadap privasi, keamanan, dan kehidupan bermasyarakat.

Salah satu kasus terkini yang menunjukkan urgensi regulasi AI terjadi di Indonesia pada Oktober 2024. Seorang korban deepfake berusia 12 tahun  melaporkan ke Polda Metro Jaya terkait dugaan pelecehan seksual menggunakan manipulasi foto berbasis teknologi AI yang di lakukan oleh seorang pria dewasa berusia 50 tahun. Foto korban dimanipulasi untuk menciptakan konten asusila yang tidak sesuai dengan kenyataan, yang kemudian dikirimkan melalui media elektronik kepada orang tua korban. Akibatnya, korban tidak hanya mengalami kerugian reputasi, tetapi juga trauma psikologis yang mendalam. (Tempo.co)

Kasus ini hanyalah satu dari banyak contoh penyalahgunaan AI di Indonesia. Data terbaru mencatat lonjakan signifikan dalam kejahatan berbasis teknologi AI. Menurut laporan PT Indonesia Digital Identity (VIDA), kasus penipuan menggunakan deepfake meningkat hingga 1.550% di Indonesia dari tahun 2022 hingga 2023. Teknologi deepfake digunakan untuk menciptakan video atau audio palsu yang sangat meyakinkan, yang kemudian dimanfaatkan untuk berbagai modus kejahatan, seperti penipuan finansial, manipulasi sosial, dan pencurian identitas. (antaranews.com)

Dampak Negatif Penyalahgunaan AI:

Privasi Terancam: Teknologi AI, terutama deepfake, memungkinkan manipulasi data pribadi dalam skala yang belum pernah terjadi sebelumnya. Foto, video, atau informasi identitas seseorang dapat diubah atau digunakan tanpa sepengetahuan mereka untuk tujuan yang merugikan, seperti membuat konten asusila, propaganda, atau bahkan dokumen palsu. Dalam kasus manipulasi foto korban pelecehan seksual di Indonesia, gambar asli dimodifikasi dengan teknologi AI untuk menciptakan hasil yang tidak nyata, namun sangat meyakinkan. Dampaknya tidak hanya pada reputasi, tetapi juga menghilangkan rasa aman individu dalam ruang digital. Privasi yang seharusnya menjadi hak dasar setiap orang kini berada di bawah ancaman serius.

Peningkatan Kejahatan Digital: Kasus kejahatan berbasis AI, seperti deepfake, menunjukkan tren peningkatan signifikan. Data dari PT Indonesia Digital Identity (VIDA) melaporkan lonjakan 1.550% pada kasus penipuan menggunakan deepfake di Indonesia antara tahun 2022 dan 2023. Pelaku kejahatan semakin canggih dalam memanfaatkan celah hukum untuk menjalankan modus seperti pencurian identitas, rekayasa sosial, dan pengambilalihan akun (Account Takeover). Kejahatan ini tidak hanya merugikan korban secara finansial tetapi juga menciptakan ketidakpercayaan terhadap sistem digital, yang pada akhirnya dapat menghambat kemajuan teknologi itu sendiri.

Pelecehan dan Trauma Psikologis: Kasus manipulasi foto korban menunjukkan betapa teknologi AI dapat digunakan sebagai alat untuk menyerang individu secara personal. Korban tidak hanya kehilangan reputasi, tetapi juga mengalami trauma psikologis yang berkepanjangan. Perasaan tidak berdaya akibat pelanggaran privasi ini sering kali memengaruhi kesehatan mental mereka, seperti kecemasan, depresi, dan rasa takut berinteraksi di dunia nyata maupun digital. Dalam masyarakat yang semakin bergantung pada teknologi, kasus seperti ini menimbulkan kekhawatiran besar tentang bagaimana melindungi individu dari ancaman psikologis akibat penyalahgunaan teknologi.

Ketidakamanan dalam Ekosistem Digital: Tanpa regulasi yang memadai, ekosistem digital di Indonesia menjadi medan yang rawan untuk penyalahgunaan teknologi AI. Saat ini, belum ada kerangka hukum yang spesifik untuk mengatur atau mencegah penyalahgunaan AI, sehingga pelaku kejahatan dapat beroperasi dengan bebas. Hal ini meninggalkan masyarakat tanpa perlindungan hukum yang jelas dan memadai. Ketidakamanan ini berpotensi memperburuk kepercayaan publik terhadap teknologi, yang pada akhirnya akan memperlambat adopsi dan inovasi yang seharusnya membawa manfaat besar bagi masyarakat.

Permintaan Kami:
Kami mendesak pemerintah Indonesia untuk segera:

1. Menyusun dan Mengesahkan Undang-Undang Khusus tentang AI: Regulasi ini harus mencakup pedoman etis, standar keamanan, dan mekanisme pengawasan untuk mencegah penyalahgunaan AI.
2. 
   Membentuk Badan Pengawas Teknologi AI: Sebuah badan independen yang bertugas memantau implementasi teknologi AI dan menindak pelanggaran yang terjadi.
3. 
   Meningkatkan Edukasi Publik tentang Risiko AI: Memberikan pengetahuan kepada masyarakat tentang potensi risiko dan cara melindungi diri dari penyalahgunaan teknologi ini.

Mengapa Ini Penting:
Kasus-kasus di atas menegaskan bahwa penyalahgunaan AI bukanlah ancaman yang jauh, melainkan masalah nyata yang sudah terjadi di sekitar kita. Tanpa regulasi yang jelas, masyarakat akan terus menjadi korban, sementara pelaku tetap dapat memanfaatkan teknologi ini tanpa takut konsekuensi hukum. Dengan regulasi yang kuat, Indonesia dapat memastikan AI digunakan untuk kepentingan bersama, mendukung inovasi, dan melindungi hak setiap individu.

Dukung Petisi Ini:
Kami mengajak seluruh lapisan masyarakat untuk mendukung petisi ini demi terciptanya regulasi yang melindungi kita semua dari dampak negatif penyalahgunaan AI. Tandatangani dan sebarkan petisi ini agar suara kita didengar oleh pemerintah!

Referensi:

https://www.tempo.co/hukum/anak-12-tahun-dapat-pelecehan-seksual-lewat-manipulasi-gambar-ai-1164186

https://www.antaranews.com/berita/4437365/vida-catat-penipuan-deepfake-di-indonesia-melonjak-1550-persen#google_vignette