Perkembangan teknologi Artificial Intelligence (AI) memunculkan ancaman baru yang belum mendapatkan perhatian serius, yaitu penyalahgunaan teknologi kloning suara atau voice cloning.

Dengan teknologi yang ada saat ini, suara seseorang dapat ditiru dengan sangat mirip hanya dari potongan audio beberapa detik di internet. Teknologi ini  dapat disalahgunakan untuk penipuan, penyebaran hoaks, pencemaran nama baik, hingga manipulasi bukti audio.

Masalahnya, perlindungan terhadap konten audio masih tertinggal.

Saat ini beberapa platform digital memang sudah menerapkan label untuk gambar atau video hasil AI. Namun untuk konten audio, mekanisme yang ada masih sangat terbatas dan bergantung pada kesadaran pembuat konten untuk memberi label sendiri.

Sistem seperti ini jelas tidak cukup. Pelaku penipuan atau penyebar informasi palsu tentu tidak akan secara sukarela memberi tahu bahwa suara yang mereka gunakan adalah hasil rekayasa AI.

Survei independen yang kami lakukan terhadap masyarakat pengguna internet menunjukkan bahwa 97,2% responden khawatir suara mereka dapat disalahgunakan, lebih dari 80% mulai meragukan keaslian rekaman audio yang beredar di internet, dan 85,4% mendukung adanya sistem deteksi serta pelabelan otomatis terhadap audio hasil AI oleh platform digital.

Kekhawatiran ini juga dirasakan di tingkat global. Survei yang dilakukan oleh Searchlight Institute di Amerika Serikat menunjukkan bahwa masyarakat mendukung perkembangan AI yang disertai dengan aturan dan perlindungan yang jelas. Ini menunjukkan bahwa regulasi AI bukan lagi pilihan, melainkan kebutuhan untuk menjaga keamanan dan kepercayaan publik.

Indonesia sendiri telah menunjukkan komitmen untuk mengatur konten berbasis AI. Namun hingga saat ini, penerapan terhadap konten audio masih menyisakan celah yang besar. Di tengah semakin mudahnya teknologi kloning suara diakses, belum ada mekanisme yang mampu memastikan bahwa masyarakat mengetahui apakah sebuah audio merupakan suara asli atau hasil rekayasa AI.

Jika kondisi ini terus dibiarkan, dampaknya bukan hanya meningkatnya risiko penipuan. Kita juga akan menghadapi krisis kepercayaan terhadap informasi digital. Rekaman suara yang seharusnya menjadi alat bukti atau sumber informasi dapat dengan mudah dipertanyakan keasliannya, sementara masyarakat semakin sulit membedakan mana yang nyata dan mana yang dibuat oleh AI.

Karena itu, kami Mahasiswa IISIP Jakarta mendesak Kementerian Komunikasi dan Digital Republik Indonesia untuk memperkuat regulasi mengenai konten audio berbasis AI serta mewajibkan platform digital menerapkan sistem deteksi dan pelabelan otomatis terhadap audio hasil AI atau audio yang telah dimanipulasi menggunakan AI.

Kami juga mendesak platform media sosial untuk mengambil tanggung jawab yang lebih besar dalam melindungi pengguna melalui sistem pelabelan yang jelas, transparan, dan tidak hanya bergantung pada kejujuran pembuat konten.

Perkembangan teknologi harus berjalan seiring dengan perlindungan terhadap masyarakat. Jangan sampai kemajuan AI justru membuat identitas suara semakin mudah disalahgunakan dan kepercayaan publik terhadap informasi digital semakin hilang.