Oleh: Dhita Karuniawati )*

Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) telah membuka peluang besar bagi transformasi digital di berbagai sektor, mulai dari pendidikan, kesehatan, pemerintahan, hingga industri kreatif. Di sisi lain, kemajuan teknologi ini juga menghadirkan tantangan baru berupa maraknya penyebaran hoaks, konten deepfake, serta fenomena halusinasi AI yang berpotensi menyesatkan masyarakat. Kondisi tersebut mendorong Indonesia memperkuat tata kelola digital agar pemanfaatan AI tetap memberikan manfaat tanpa mengorbankan keamanan, etika, dan kepercayaan publik.

Pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) terus mempercepat penyusunan kerangka regulasi AI sebagai fondasi bagi pengembangan teknologi yang bertanggung jawab. Langkah ini dinilai penting mengingat pemanfaatan AI berkembang jauh lebih cepat dibandingkan regulasi yang mengaturnya.

Wakil Menteri Komunikasi dan Digital, Nezar Patria mengatakan bahwa Peraturan Presiden tentang AI akan menjadi langkah awal dalam penerapan tata kelola AI sebelum pemerintah menyusun Undang-Undang AI yang lebih komprehensif. Pemerintah saat ini telah menuntaskan penyusunan Peraturan Presiden tentang Peta Jalan AI beserta Etika AI. Dokumen tersebut telah melalui pembahasan lintas kementerian dan lembaga, sehingga kini tinggal menunggu penetapan oleh Presiden.

Nezar menjelaskan peran pemerintah melalui Kementerian Komunikasi dan Digital adalah membangun kerangka regulasi, etika, serta kebijakan yang mendorong pemanfaatan AI secara bertanggung jawab di seluruh sektor. Implementasi teknologi AI menjadi kewenangan masing-masing kementerian, lembaga, maupun pelaku industri sesuai kebutuhan layanan dan bisnisnya.

Menurut Nezar, pembangunan ekosistem AI nasional tidak berdiri sendiri, melainkan terhubung dengan berbagai regulasi digital yang sedang disiapkan pemerintah, termasuk Satu Data Indonesia, Undang-Undang Informasi dan Transaksi Elektronik, Undang-Undang Pelindungan Data Pribadi, hingga regulasi mengenai ketahanan dan keamanan siber. Integrasi kebijakan tersebut akan memperkuat tata kelola data sekaligus menjadi fondasi bagi pemanfaatan AI yang aman, tepercaya, dan memberikan manfaat bagi masyarakat.

Penguatan regulasi menjadi semakin relevan seiring meningkatnya ancaman konten deepfake yang mampu memanipulasi gambar, suara, maupun video sehingga sulit dibedakan dari konten asli. Teknologi tersebut berpotensi digunakan untuk menyebarkan disinformasi, penipuan digital, hingga merusak reputasi seseorang. Di saat yang sama, kemampuan AI generatif menghasilkan teks secara otomatis juga memunculkan risiko penyebaran informasi yang tampak meyakinkan, tetapi sebenarnya tidak memiliki dasar fakta yang akurat.

Fenomena lain yang turut menjadi perhatian adalah halusinasi AI (AI hallucination), yakni kondisi ketika sistem AI menghasilkan jawaban yang terdengar logis, namun mengandung informasi keliru atau bahkan sepenuhnya fiktif. Apabila digunakan tanpa proses verifikasi, informasi tersebut dapat mempercepat penyebaran hoaks di ruang digital, terutama ketika masyarakat cenderung menerima hasil AI sebagai informasi yang benar.

Karena itu, penguatan tata kelola AI tidak hanya mengandalkan regulasi formal, tetapi juga dibangun melalui penerapan prinsip-prinsip etika. Sebelumnya, pemerintah telah menerbitkan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial yang menjadi pedoman bagi pelaku usaha dan penyelenggara sistem elektronik dalam mengembangkan maupun memanfaatkan teknologi AI secara bertanggung jawab. Pedoman tersebut menekankan prinsip transparansi, akuntabilitas, keamanan, penghormatan terhadap hak asasi manusia, serta perlindungan data pribadi sebagai fondasi pengembangan AI di Indonesia.

Dalam kajian mengenai implementasi etika AI, disebutkan bahwa Surat Edaran tersebut menjadi pijakan awal bagi terbentuknya tata kelola digital nasional yang lebih bertanggung jawab. Pendekatan berbasis etika dipandang mampu menyeimbangkan percepatan inovasi dengan perlindungan terhadap kepentingan publik sehingga perkembangan AI tetap berada dalam koridor nilai-nilai kemanusiaan dan kepastian hukum.

Selain pemerintah, kalangan ulama juga menilai pengawasan terhadap pemanfaatan AI memerlukan keterlibatan seluruh elemen masyarakat. Wakil Sekretaris Jenderal Majelis Ulama Indonesia (MUI) Bidang Informasi, Komunikasi, dan Digitalisasi (Infokomdigi), Dr Asrori S. Karni, menekankan pentingnya kolaborasi lintas sektor. Menurutnya, dampak dan potensi bahaya dari AI tidak dapat ditanggulangi oleh satu lembaga saja. Kolaborasi multipihak yang melibatkan pemerintah, akademisi, industri teknologi, media, organisasi masyarakat, dan komunitas digital menjadi syarat penting agar penyebaran informasi palsu dapat diminimalkan sekaligus meningkatkan literasi digital masyarakat.

Kolaborasi tersebut dinilai semakin penting karena tantangan AI tidak hanya bersifat teknis, tetapi juga menyangkut aspek sosial, budaya, hingga moral. Literasi digital menjadi salah satu instrumen utama untuk membangun kemampuan masyarakat dalam mengenali konten manipulatif, melakukan verifikasi informasi, serta memahami keterbatasan AI sebelum menggunakan atau menyebarkan hasil yang dihasilkan teknologi tersebut.

Penguatan tata kelola digital juga diharapkan mampu meningkatkan kepercayaan publik terhadap pemanfaatan AI di berbagai sektor. Dengan adanya regulasi yang jelas, standar etika yang kuat, serta mekanisme pengawasan yang efektif, inovasi AI dapat berkembang secara sehat tanpa mengabaikan perlindungan masyarakat dari penyalahgunaan teknologi.

Keberhasilan Indonesia membangun ekosistem AI tidak hanya ditentukan oleh kecanggihan teknologinya, tetapi juga oleh kemampuan menghadirkan tata kelola yang adaptif, transparan, dan akuntabel. Sinergi antara regulasi, etika, inovasi, serta partisipasi aktif seluruh pemangku kepentingan menjadi modal penting untuk memastikan AI berkembang sebagai teknologi yang memberikan manfaat luas bagi masyarakat sekaligus memperkuat ketahanan ruang digital nasional dalam menghadapi ancaman hoaks, deepfake, dan halusinasi AI.

*) Penulis adalah Kontributor Lembaga Studi Informasi Strategis Indonesia