RADAR TASIKMALAYA – Artificial Intelligence Governance atau tata kelola kecerdasan artifisial adalah rangkaian prinsip, aturan, kelembagaan, proses, dan mekanisme pengawasan yang mengarahkan pengembangan serta penggunaan sistem AI agar aman, adil, transparan, sesuai hukum, dan memberikan manfaat bagi masyarakat. Tata kelola ini mencakup seluruh siklus hidup AI, mulai dari penentuan kebutuhan, pengumpulan dan pengolahan data, pemilihan atau pengembangan sistem, pengujian, penerapan, pemantauan, hingga penghentian sistem yang tidak relevan.
AI Governance berbeda dari pengelolaan teknis semata. Pengelolaan teknis dapat berfokus pada kinerja sistem, sedangkan tata kelola juga mempertanyakan apakah sistem perlu digunakan, siapa yang terdampak, apakah keputusan dapat dijelaskan, siapa yang bertanggung jawab, dan bagaimana masyarakat dapat mengajukan keberatan. Dengan demikian, AI Governance merupakan bagian dari tata kelola publik yang menghubungkan teknologi, hukum, etika, manajemen risiko, dan kepentingan warga.
Perkembangan teknologi digital telah mendorong perubahan dalam cara pemerintah merencanakan kebijakan, mengelola administrasi, dan memberikan pelayanan kepada masyarakat. Salah satu teknologi yang berkembang pesat adalah kecerdasan artifisial atau artificial intelligence (AI). AI memungkinkan sistem komputer mengolah data, mengenali pola, menghasilkan prediksi, membantu komunikasi, dan mendukung pengambilan keputusan.
Dalam administrasi publik, AI berpotensi membantu pemerintah menjawab pertanyaan masyarakat, mengelompokkan pengaduan, menganalisis kebutuhan layanan, mendeteksi ketidakwajaran dalam data, serta meningkatkan kecepatan proses administrasi.
Penggunaan AI juga menimbulkan risiko, seperti pelanggaran privasi, kerahasiaan transparansi, dan kaburnya akuntabilitas atas keputusan otomatis yang merugikan warga negara. Namun adakah batasan konsep Tata Kelola Kecerdasan Buatan (tata kelola AI) dalam perspektif administrasi publik serta bagaimana strategi penerapannya di Indonesia. Oleh karena itu, penerapan AI tidak cukup hanya berfokus pada kecanggihan teknologi, Pemerintah memerlukan tata kelola yang mengatur tujuan penggunaan, kualitas data, pengawasan manusia, keamanan sistem, keterbukaan, evaluasi risiko, serta mekanisme pengaduan dan pemulihan.
Berdasarkan kajian literatur yang mengacu pada prinsip-prinsip global OECD AI Principles, yang diadopsi pada 2019 dan diperbarui pada 2024, mendorong AI yang inovatif dan terpercaya serta menghormati hak asasi manusia dan nilai demokrasi. UNESCO melalui Recommendation on the Ethics of Artificial Intelligence yang diadopsi pada 2021 juga menyediakan kerangka global untuk penggunaan AI yang menghormati martabat manusia, keberagaman, dan keberlanjutan (OECD, 2024; UNESCO, 2021)
Bagi Indonesia, isu ini relevan dengan transformasi digital pemerintahan dalam kebutuhan meningkatkan kualitas pelayanan publik. Tata kelola AI yang baik dapat membantu pemerintah memperoleh manfaat teknologi tanpa mengabaikan kepentingan umum, perlindungan data pribadi, dan prinsip negara hukum. Keberhasilan AI dalam pemerintahan tidak hanya diukur dari kecanggihan teknologi, melainkan dari kemampuan dalam melindungi hak warga negara dan meningkatkan kualitas pelayanan publik secara adil.
Pemerintah sendiri sudah mengatur regulasi seperti Pemerintah juga mengandalkan perangkat hukum seperti Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), serta Surat Edaran Menkominfo No. 9 Tahun 2023 tentang Pedoman Etika AI sebagai acuan dasar.
Adapun lembaga-lembaga yang bertanggung jawab atas penggunaan AI antara lain Kementerian Komunikasi dan Digital (Komdigi), Panitia Kerja (Panja) AI DPR RI, Instansi Pemerintah & Pejabat Publik Terkait. Berdasarkan panduan tata kelola, jika terjadi kesalahan atau keputusan fatal dari sistem AI dalam pelayanan publik, tanggung jawab hukum dan administratif tetap berada pada manusia (pejabat pembina atau instansi terkait) yang menggunakan sistem tersebut, bukan pada mesin algoritmanya (human in the loop).
Sistem AI dapat menghasilkan keputusan yang tidak adil jika data tidak mewakili masyarakat atau mengandung bias historis maka pemerintah perlu menguji hasil sistem berdasarkan kelompok yang relevan, memperbaiki kualitas data, serta memastikan kelompok rentan tidak dirugikan secara sistematis
Pemerintah perlu menjelaskan kapan AI digunakan, tujuan penggunaannya, jenis keputusan yang dibantu, serta batas kemampuan sistem. Penjelasan harus disesuaikan dengan konteks dan dapat dipahami oleh masyarakat serta memastikan informasi yang relevan dan dapat dipertanggungjawabkan.
Penggunaan AI harus memiliki tujuan yang jelas dan dasar pemrosesan yang sah. Data pribadi perlu dikumpulkan secukupnya, dijaga keamanannya, dibatasi aksesnya, dan tidak digunakan di luar tujuan yang dibenarkan. Penggunaan data sensitif membutuhkan pengamanan dan penilaian risiko yang lebih ketat.
Satu hal yang paling pentung bahwa sistem AI harus diuji sebelum digunakan, dipantau setelah diterapkan, dan dilindungi dari gangguan maupun penyalahgunaan. Pemerintah perlu menyiapkan prosedur ketika sistem gagal, menghasilkan keluaran keliru, atau mengalami serangan siber. Keputusan yang berdampak besar pada hak masyarakat, seperti akses terhadap bantuan sosial, pendidikan, pekerjaan, atau layanan penting, tidak seharusnya diserahkan sepenuhnya kepada AI tanpa pengawasan yang memadai. Petugas harus mampu memahami keterbatasan sistem, meninjau hasil, dan membatalkan keputusan otomatis jika diperlukan.
AI harus dirancang agar dapat diakses oleh masyarakat dengan tingkat literasi digital, bahasa, kemampuan, dan kondisi sosial ekonomi yang beragam. Saluran pelayanan non-digital tetap perlu tersedia bagi warga yang tidak dapat menggunakan teknologi. Keberhasilan AI dinilai dari manfaat publik, bukan hanya dari penghematan biaya atau kecepatan.
Implentasinya dalam layanan informasi publik melalui chatbot yang membantu menjawab pertanyaan mengenai persyaratan administrasi, jadwal layanan, dan prosedur pengajuan. Informasi harus merujuk pada sumber resmi dan menyediakan jalur untuk menghubungi petugas ketika pertanyaan kompleks atau jawaban sistem tidak pasti. Selain itu ada beberapa keunggulan dalam implementasi AI, antara lain Mengelompokkan dan memprioritaskan pengaduan masyarakat berdasarkan topik, lokasi, atau tingkat urgensi. Namun, pengelompokan otomatis perlu diperiksa agar laporan dari kelompok tertentu tidak diabaikan akibat kualitas data atau kesalahan klasifikasi. Mendukung analisis data untuk perencanaan kebijakan, misalnya memperkirakan kebutuhan transportasi, memetakan pola permintaan layanan, atau membantu mengidentifikasi wilayah yang memerlukan perhatian. Hasil analisis tetap perlu diuji dengan data lapangan dan pertimbangan profesional. Membantu dalam proses administrasi internal, seperti pencarian dokumen, ringkasan laporan, penerjemahan, dan pengolahan teks. Dokumen yang dihasilkan AI harus diverifikasi, terutama jika berisi dasar hukum, angka anggaran, atau informasi yang memengaruhi keputusan resmi. Sebagai pengawasan risiko dan deteksi anomali dalam proses tertentu. Sistem seperti ini sebaiknya menjadi alat bantu pemeriksaan, bukan bukti tunggal untuk menyimpulkan adanya pelanggaran. Pemeriksaan manusia dan prosedur yang adil tetap diperlukan.
Manfaat lain adalah peningkatan konsistensi proses administrasi dan kemampuan mendeteksi masalah lebih dini. Dalam jangka panjang, teknologi ini dapat mendorong inovasi pelayanan publik. Meski demikian, manfaat tersebut tidak otomatis muncul hanya karena AI diterapkan. Hasilnya bergantung pada kualitas data, kesiapan organisasi, kemampuan pegawai, infrastruktur, dan tata kelola yang diterapkan.
Selain keunggulan dan manfaat, AI juga memiliki beberapa risiko, pertama adalah bias algoritma. Jika data historis mencerminkan ketimpangan, sistem dapat mereproduksi ketidakadilan. Risiko kedua adalah kurangnya keterjelasan, model yang rumit dapat membuat warga sulit memahami alasan suatu keputusan. Risiko ketiga adalah perlindungan data, terutama ketika informasi pribadi dikumpulkan atau dibagikan tanpa pengamanan yang memadai. Risiko berikutnya adalah ketergantungan berlebihan pada teknologi. Pegawai dapat menerima hasil AI tanpa pemeriksaan kritis, padahal sistem dapat menghasilkan informasi salah atau tidak relevan. Tantangan lain mencakup kesenjangan akses digital, kekurangan tenaga ahli, biaya infrastruktur, integrasi sistem lama, serta belum seragamnya prosedur pengawasan. Oleh sebab itu, pemerintah perlu menilai risiko sesuai konteks dan dampak sistem. Sistem yang memengaruhi hak dasar masyarakat memerlukan standar pengujian dan pengawasan lebih ketat dibandingkan aplikasi berisiko rendah.
Oleh karena itu, kita sebagai warganegara dan pengguna AI, bijaklah dalam penggunaannya karena keberhasilan AI dalam pemerintahan tidak cukup diukur dari kecanggihan sistem. Keberhasilan harus dilihat dari kualitas layanan, perlindungan hak warga, pemerataan manfaat, kemampuan memperbaiki kesalahan, dan kepercayaan masyarakat. Pengawasan manusia, tata kelola data, penilaian risiko, keterlibatan publik, dan evaluasi berkala merupakan unsur penting untuk mewujudkan AI yang bertanggung jawab.
Pemerintah perlu mengembangkan pedoman AI sektor publik yang jelas dan berbasis risiko, memperkuat perlindungan data, meningkatkan kompetensi aparatur, serta memastikan adanya audit dan mekanisme pengaduan. Setiap penerapan AI sebaiknya dimulai dari kebutuhan layanan yang nyata dan diuji secara terbatas sebelum diperluas. Penelitian berikutnya dapat mengkaji penerapan AI pada instansi tertentu di Indonesia melalui studi kasus dan data empiris, sehingga manfaat dan tantangannya dapat dinilai secara lebih terukur. (Asep Supriadi)
Penulis adalah Mahasiswa Program Pasca Sarjana – Universitas Jenderal Soedirman (Unsoed).
