Kecerdasan buatan atau artificial intelligence (AI) semakin mudah ditemui dalam kegiatan sehari-hari. Ia membantu menulis, menerjemahkan bahasa, merangkum dokumen, membuat kode program, hingga menawarkan rancangan sebuah kurikulum. Dalam waktu yang relatif singkat, AI dapat menghasilkan sesuatu yang sebelumnya membutuhkan pekerjaan berjam-jam bahkan berhari-hari.
Salah satu persoalan dalam penggunaan AI bukan hanya terletak pada kecanggihan teknologi tersebut. Persoalan fundamental bahkan muncul ketika kita memercayai hasil yang diberikan tanpa memeriksa apakah hasil tersebut masih sesuai dengan tujuan awal dari luaran yang ingin dicapai.
Di sinilah akuntabilitas menjadi penting walaupun AI dapat menghasilkan output, tetapi tanggung jawab tersebut tetap berada pada manusia.
Bayangkan ini: sebuah program studi sedang menyusun kurikulum menggunakan AI. Mereka dapat memperoleh rancangan capaian pembelajaran, struktur mata kuliah, deskripsi mata kuliah, hingga berbagai matriks pendukung dalam waktu singkat. Hasilnya bahkan dapat terlihat sangat sistematis dan meyakinkan. Akan tetapi, kurikulum bukan sekadar dokumen yang harus tampak lengkap.
Tim harus mempertanyakan apakah rancangan tersebut benar-benar mencerminkan karakter program studi, kebutuhan mahasiswa, kompetensi lulusan yang ingin dibentuk, perkembangan keilmuan, hingga kemampuan sumber daya yang tersedia. Sebuah kurikulum dapat terlihat sangat baik di atas kertas, tetapi belum tentu tepat bagi lingkungan tempat kurikulum tersebut akan diterapkan. AI dapat membantu menyusun kurikulum, tetapi AI tidak hidup di dalam program studi tersebut. Manusia yang berada di dalamnya tetap lebih memahami mengapa kurikulum dibuat dan tujuan pendidikan apa yang hendak dicapai.
Hal serupa terjadi dalam pengembangan perangkat lunak.
Seorang programmer dapat memerintahkan AI untukmembuat fungsi, memperbaiki bugs, atau menghasilkan aplikasi yang cukup kompleks dalam sebuah prompt. Kemampuan tersebut sangat membantu. Masalah muncul ketika kode yang dihasilkan langsung digunakan hanya karena berhasil dijalankan. Dalam pengembangan perangkat lunak, “berjalan” tidak selalu berarti “benar”.
Kode bekerja pada satu kondisi tetapi gagal pada kondisi lain. Logikanya mungkin tidak sesuai kebutuhan, akses data mungkin terlalu luas atau justru terlalu sempit, atau terdapat konsekuensi keamanan yang tidak terlihat pada pengujian awal. Karena itu, programmer tetap perlu memahami dan meninjau kode yang digunakan.
Ketika terjadi masalah, mengkambing-hitamkan AI sebagai yang mengeksekusi kode tentu tidak menghapus tanggung jawab orang yang memutuskan untuk memasukkannya ke dalam sistem.
Fenomena ini yang perlu diwaspadai sebagai over-reliance atau ketergantungan berlebih terhadap AI. Bahayanya bukan karena AI dapat memberikan jawaban yang salah. Kesalahan mungkin saja terjadi, baik dilakukan mesin maupun manusia. Yang menjadi mimpi buruk adalah ketika manusia berhenti melakukan penilaian karena merasa AI telah melakukannya.
Proses yang seharusnya berupa meminta bantuan, membaca, menilai, memperbaiki, lalu memutuskan dapat berubah menjadi sekadar meminta, menerima, dan mengeklik persetujuan.
Masalah yang sama juga muncul ketika AI digunakan untuk mengatasi keterbatasan bahasa. Misalnya seseorang yang tidak memiliki kemampuan bahasa Inggris yang baik, sehingga meminta AI menerjemahkan atau menyusun sebuah tulisan. Tidak ada yang salah dengan hal tersebut. AI justru dapat menjadi alat yang sangat berguna untuk menjembatani keterbatasan kemampuan bahasa.
Namun, keterbatasan dalam menggunakan suatu bahasa bukan alasan untuk menyerahkan seluruh makna kepada AI.
Kita mungkin tidak mampu membuat kalimat sebaik yang dihasilkan AI, tetapi kita tetap mengetahui apa yang sebenarnya ingin kita sampaikan. Karena itu, hasil akhir tetap perlu diperiksa berdasarkan maksud dan tujuan awal. Pilihan kata, istilah, maupun struktur kalimat dalam bahasa yang berbeda dapat membawa penekanan dan interpretasi yang berbeda.
Dengan kata lain, kita dapat menyerahkan cara mengatakannya kepada AI, tetapi jangan menyerahkan maksud yang ingin dikatakan.
Prinsip yang sama berlaku dalam menjaga keamanan dan kerahasiaan data. Kemudahan berinteraksi dengan AI sering membuat pengguna memperlakukannya seperti ruang percakapan biasa. Dokumen internal, data mahasiswa, informasi kepegawaian, informasi keuangan, data penelitian, atau informasi lain yang semestinya terbatas dapat dengan mudah dimasukkan ke dalam layanan AI demi memperoleh jawaban yang cepat.
Padahal, kemudahan penggunaan tidak membatalkan kewajiban menjaga informasi.
Pengguna tetap harus mempertimbangkan data apa yang benar-benar diperlukan, informasi apa yang tidak boleh dibagikan, dan apakah penggunaan data tersebut sesuai dengan tujuan yang hendak dicapai. Lagi-lagi, manusialah yang harus melakukan penilaian.
Dalam tata kelola AI dikenal prinsip human-in-the-loop, yaitu manusia tetap terlibat dalam proses penggunaan AI. Namun, kehadiran manusia seharusnya tidak dimaknai sebatas adanya seseorang yang menekan tombol “setuju” pada akhir proses.
Pengawasan manusia baru memiliki arti apabila manusia benar-benar membaca, memahami konteks, mempertanyakan hasil, dan menentukan apakah keluaran AI layak digunakan.
Karena itu, hubungan yang sehat antara manusia dan AI dapat digambarkan sebagai hubungan antara pilot dan kopilot. Kopilot dapat membantu membaca informasi, memberikan alternatif, mengurangi beban kerja, dan mengingatkan berbagai hal yang mungkin terlewat. Tetapi arah perjalanan dan keputusan akhir tetap harus berada pada manusia.
AI boleh membantu kita menulis lebih cepat, membuat program lebih efisien, menyusun berbagai alternatif, bahkan membantu melihat kemungkinan yang sebelumnya tidak terpikirkan. Namun, tujuan tidak boleh ikut diserahkan kepadanya.
Pada akhirnya, ukuran penggunaan AI yang baik bukan seberapa banyak pekerjaan yang dapat kita serahkan kepada mesin, melainkan seberapa baik kita tetap mampu memastikan bahwa hasil yang diberikan membawa kita menuju tujuan yang sejak awal kita tentukan. (*)
Penulis: Mimbar Adi Nugraha
Pengelola Data Akademik – Biro Akademik, Kerjasama, Perencanaan, dan Kerjasama Universitas Siliwangi
