By Dr. Antonius Alijoyo
Kecerdasan Intelektual atau ‘Artificial Intelligence’ (AI) secara cepat menjadi aset strategis berbagai perusahaan Indonesia, mulai dari otomatisasi pelayanan pelanggan dan analitik prediksi terjadinya kecurangan (fraud), sampai dengan menjadi sistem dukungan dalam pengambilan keputusan organisasi. AI telah mengubah bagaimana perusahaan menghasilkan penciptaan nilai (value) mereka.
Di sisi lain, AI juga menimbulkan risiko baru seiring dengan berbagai kesempatan yang dihasilkan dari penggunaan AI tersebut. Berbagai risiko baru yang dapat timbul misal bias algoritma, pengambilan keputusan yang tidak transparan, pelanggaran privasi, pelanggaran kepatuhan tanpa disengaja, dan yang saat ini menjadi tantangan terbesar adalah menjaga kepercayaan pemangku kepentingan (Stakeholder Trust) karena adanya penggunaan AI dalam memberikan pelayanan dan/atau produk perusahaan kepada pelanggan dan/atau proses penciptaan nilai bagi pemangku kepentingan lainnya.
Untuk Dewan Komisaris dan Direksi Perusahaan, pertanyaan sentral bukan lagi mengenai apakah AI perlu diadopsi atau tidak, tetapi bagaimana governansi penggunaan AI yang disingkat “AI Governance” dijalankan secara bertanggung jawab. Dari perspektif inilah, penggunaan ISO/IEC 42001 dan ISO/IEC 42005 menjadi sangat relevan.
ISO/IEC 42001 yang diterbitkan di tahun 2023, adalah standar internasional pertama mengenai sistem manajemen kecerdasan buatan (Artificial Intelligence Management Systems atau disingkat AIMS). Standar tersebut memberikan organisasi suatu kerangka kerja terstruktur dalam penetapan kebijakan, mekanisme akuntabilitas, proses manajemen risiko, sistem pemantauan, dan bagaimana praktik peningkatan “AI Governance” secara terus-menerus sebaiknya dilakukan. Dalam hal ini, ISO/IEC 42001 tidak terfokus pada teknologi AI tertentu, tetapi membangun secara umum suatu sistem governansi menyeluruh di organisasi yang memastikan bahwa AI dikembangkan, dikerahkan, dan digunakan secara bertanggung jawab.
Melengkapi standar di atas adalah ISO/IEC 42005, diterbitkan di tahun 2025 yang menyediakan panduan bagaimana menjalankan “AI System Impact Assessments”. Standar ini membantu organisasi secara sistematis melakukan identifikasi, evaluasi, pendokumentasian, dan pengelolaan konsekuensi penggunaan sistem AI yang digunakan – baik yang disengaja maupun tidak disengaja terhadap individual, komunitas dan masyarakat luas. Standar ini memperkuat transparansi, akuntabilitas, dan kepercayaan sepanjang siklus hidup AI (AI lifecycle) di organisasi.
Bersama, kedua standar ini menjadi pondasi arsitektur governansi AI yang kuat. Standar ISO/IEC 42001 menjawab pertanyaan “Bagaimana organisasi menjalankan governansi AI mereka?” Sedangkan standar ISO/IEC 42005 menjawab pertanyaan “Apa dampak yang dapat terjadi dari penggunaan suatu sistem AI di organisasi, dan bagaimana dampak tersebut ditangani?”.
Untuk perusahaan Indonesia baik tercatat di bursa saham ataupun tidak, baik privat maupun BUMN/BUMD (Badan Usaha Miliki Negara/Daerah), relevansinya sangat signifikan karena:
- Governansi AI menjadi tanggung jawab tingkatan dewan governansi perusahaan, yaitu dewan komisaris dan direksi. Mereka diharapkan untuk mengerti tentang risiko utama strategis, operasional, kepatuhan, dan teknologi dari adopsi penggunaan sistem AI di organisasi mereka. Sejalan dengan meningkatnya pengaruh AI dalam pengambilan keputusan bisnis, dewan komisaris dan direksi harus mendemonstrasikan bahwa mereka telah menjalankan pengawasan yang layak baik dalam pemanfaatan kesempatan maupun dalam mitigasi risiko yang timbul dari pemanfaatan AI.
- Governansi AI memperkuat enterprise risk management (ERM). Organisasi yang telah mengadopsi ISO 31000, ISO 37000, ISO/IEC 38507, dan kerangka kerja GRC (Governance, Risk Management, Compliance) terintegrasi dapat menggunakan ISO/IEC 42001 sebagai perpanjangan alamiah arsitektur governansi mereka ke dalam era AI. Risiko AI menjadi bagian tidak terpisah pengawasan menyeluruh entitas dan bukan sekadar terbatas pada bagian permasalahan teknologi semata.
- Kepercayaan Digital (Digital Trust) menjadi keunggulan daya saing perusahaan. Para investor, regulator, pelanggan, dan mitra bisnis meningkat harapannya agar organisasi mendemonstrasikan praktik AI yang bertanggung jawab. ISO/IEC 42001 menyediakan bukti bahwa governansi AI dijalankan secara sistematis, tertelusuri dan teraudit, serta selaras dengan standar yang secara internasional diakui dan diterima. ISO/IEC 42005 lebih jauh lagi mendemonstrasikan bahwa organisasi secara aktif melakukan evaluasi dampak sosial dan etikal terhadap masyarakat secara umum, dan terhadap pemangku kepentingan dari pengerahan dan penggunaan AI oleh organisasi.
- Kedua standar mendukung kesiapan organisasi terhadap kehadiran aturan dan peraturan atau regulasi penggunaan sistem AI. Di seluruh dunia, regulators memperkenalkan persyaratan terkait AI yang terfokus pada akuntabilitas (accountability), transparansi (transparency), kewajaran (fairness), keterjelasan (explainability), dan pengawasan manusia (human oversight). Organisasi yang menerapkan ISO/IEC 42001 dan ISO/IEC 42005 akan berada dalam posisi lebih baik untuk merespon perkembangan regulasi di masa depan sembari mempertahankan ketangkasan atau kelincahan (agility) operasional mereka.
Untuk dewan komisaris, pertanyaan kunci governansi menjadi “apakah kita memiliki pengawasan (oversight) yang efektif dalam menangani baik risiko sisi bawah maupun risiko sisi atas dari penggunaan AI?”. Untuk direksi, pertanyaan lebih bersifat operasional “Apakah organisasi memiliki sistem manajemen yang kapabel dalam pemastian pengerahan AI yang bertanggung jawab”. ISO 42001 dan ISO 42005 menyediakan jawaban praktis terhadap kedua pertanyaan.
Dalam jaman Generative AI dan Agentic AI, governansi tidak dapat lagi terbatasi hanya sebagai kontrol finansial, pemantauan kepatuhan, dan manajemen risiko tradisional. Dalam hal ini, organisasi harus mengembangkan Governance Intelligence – yaitu kapabilitas untuk pengantisipasian, pengawasan, dan pengadaptasian organisasi terhadap risiko teknologi yang bekembang, dan pada saat bersamaan organisasi tetap dapat menjaga kepercayaan pemangku kepentingan mereka.
ISO 42001 dan ISO 42005 oleh karenanya tidak boleh dilihat sekedar sebagai standar teknis semata dan bersifat opsional. Mereka adalah instrumen governansi strategis yang fundamental untuk menolong dewan governansi dan manajemen dalam menjembatani kesenjangan governansi antara percepatan inovasi AI dan tanggung jawab dalam menjaga kepercayaan pemangku kepentingan serta memastikan keberlanjutan kinerja korporasi yang dapat berkelanjutan dan dipertanggung-jawabkan.
———-
Dr. Antonius Alijoyo adalah prinsipal CRMS Indonesia, dan profesor di bidang “AI Governance and Digital Trust Leadership”.
