Apa itu tata kelola AI?
Saya memahami tata kelola AI sebagai keputusan, tanggung jawab, dan kontrol yang mengarahkan penggunaan AI dalam organisasi. Pertanyaan awal saya sederhana: siapa pemilik hasilnya, data apa yang boleh digunakan, siapa yang memeriksa jawaban, dan apa yang dilakukan ketika terjadi kesalahan? Kebijakan tertulis baru berguna ketika orang dapat menerapkannya dalam pekerjaan sehari-hari.
Dari mana perusahaan di Indonesia sebaiknya mulai?
Saya menyarankan satu alur kerja dan satu masalah bisnis yang jelas. Di perusahaan manufaktur, contohnya pencarian prosedur yang telah disahkan; di HR, penyusunan draf awal materi pembelajaran. Sebelum membeli alat baru, saya akan memetakan penggunaan AI yang sudah berjalan, termasuk penggunaan layanan publik oleh karyawan. Dengan demikian, kita dapat melihat eksperimen yang bermanfaat serta potensi paparan informasi rahasia.
Apa isi kebijakan penggunaan AI?
Saya menyarankan kebijakan ringkas tentang alat yang disetujui, data yang diperbolehkan, penggunaan yang dibatasi, pemeriksaan hasil, akuntabilitas, dan pelaporan insiden. Saya akan menyertakan contoh konkret informasi yang boleh dan tidak boleh dimasukkan. Saya juga akan memperjelas siapa yang menyetujui pengecualian dan kapan kebijakan ditinjau. Untuk persoalan privasi atau regulasi, saya melibatkan spesialis hukum dan keamanan yang relevan.
Siapa yang bertanggung jawab?
Saya mencari satu penanggung jawab bisnis yang memiliki tanggung jawab atas hasil, didukung rekan teknis, HR, keamanan, dan kepatuhan. Menurut saya, pemeriksaan manusia harus bermakna: pemeriksa membutuhkan pengetahuan, waktu, dan wewenang untuk mempertanyakan hasil AI. Untuk keputusan yang memengaruhi rekrutmen, kinerja, atau hubungan kerja, saya akan menelaah potensi ketidakadilan dan jalur bagi seseorang untuk mempertanyakan hasil sebelum mempertimbangkan penerapannya.
Contoh praktis: asisten kebijakan internal
Sebagai ilustrasi, bayangkan asisten HR yang menjawab pertanyaan dari kebijakan resmi. Saya akan membatasi sumber pada dokumen terkini yang telah disetujui, dengan hak akses yang sesuai. Saya akan menguji apakah jawabannya menunjuk sumber yang benar, mengakui ketidakpastian, dan meneruskan pertanyaan yang memerlukan pertimbangan manusia. Saya akan mengecualikan catatan personalia sensitif dari pilot kecuali persetujuan dan kontrol yang diperlukan sudah tersedia. Ini adalah ilustrasi perencanaan, bukan laporan hasil klien.
Bagaimana saya menyusun 90 hari pertama?
Pada 30 hari pertama, saya akan memperjelas tujuan bisnis, memetakan data dan risiko, menetapkan penanggung jawab, serta mencatat kondisi awal. Pada hari 31–60, saya akan mendukung pilot terbatas dengan pengguna terlatih, kontrol yang disepakati, dan mekanisme pelaporan kesalahan. Pada hari 61–90, saya akan meninjau manfaat, kegagalan, umpan balik pengguna, dan biaya berkelanjutan bersama penanggung jawab. Saya menyarankan perluasan hanya jika bukti mendukungnya; jadwal dan ruang lingkup bergantung pada kesiapan organisasi.
Bagaimana mengukur manfaat sekaligus risiko?
Saya membandingkan waktu yang dihemat dengan waktu untuk memeriksa dan memperbaiki hasil. Saya juga mempertimbangkan kualitas, adopsi, kesalahan, insiden, dan seluruh biaya operasional. Pada contoh asisten kebijakan, saya akan mengukur apakah pengguna lebih cepat memperoleh jawaban benar, apakah rujukan kebijakannya masih berlaku, dan seberapa sering intervensi manusia diperlukan. Bagi saya, peningkatan penggunaan saja belum membuktikan peningkatan kinerja.
Kapan konsultan atau advisor AI dapat membantu?
Saya dapat membantu pimpinan memperjelas prioritas, menetapkan tanggung jawab, menilai kesiapan SDM, dan menyusun roadmap implementasi yang praktis. Latar belakang saya dalam human capital, tata kelola operasional, kepatuhan, dan keberlanjutan membentuk perspektif ini. Fokus saya adalah strategi bisnis dan adopsi organisasi; untuk pembangunan sistem, integrasi, serta kajian hukum, saya bekerja bersama spesialis yang sesuai.
Bacaan lanjutan
Sebagai bacaan lanjutan, saya merekomendasikan NIST AI Risk Management Framework, rujukan sukarela untuk pengelolaan risiko AI. Saya akan menyesuaikan penggunaannya dengan konteks organisasi, bukan memperlakukannya sebagai sertifikasi atau pengganti ketentuan hukum setempat.