Akuntabilitas Dewan Governansi di Era Kecerdasan Artifisial (Artificial Intelligence): Prinsip Governansi AI (INSEAD/KPMG) bagi dewan komisaris dan direksi.

admin admin
CRMS Articles
October 8, 2026

By Dr. Antonius Alijoyo

 

Di berbagai sektor, mulai dari perbankan, asuransi, telekomunikasi, kesehatan, manufaktur, hingga sektor publik, AI tidak lagi berada di pinggiran organisasi. AI telah masuk ke dalam proses bisnis inti dan semakin memengaruhi keputusan-keputusan penting yang berdampak pada pelanggan, karyawan, investor, regulator, dan masyarakat luas. Dalam konteks tersebut, muncul satu pertanyaan mendasar yang harus dijawab oleh setiap organisasi:

“Siapa yang bertanggung jawab ketika AI menghasilkan keputusan yang salah, bias, tidak etis, melanggar regulasi, atau merusak kepercayaan pemangku kepentingan?”. Jawabannya sederhana: “Akuntabilitas pada akhirnya berada di tangan Dewan Governansi, yaitu dewan komisaris dan direksi”.

Inilah pesan utama yang ingin disampaikan oleh dokumen AI Governance Principles for Boards yang dikembangkan oleh INSEAD Corporate Governance Centre bersama dengan KPMG (INSEAN/KPMG). Dokumen tersebut menegaskan bahwa tata kelola AI bukan lagi isu teknologi semata, melainkan isu tata kelola perusahaan, manajemen risiko, etika, keberlanjutan, dan kepemimpinan strategis di tingkat Dewan governansi (disingkat dewan) perusahaan. (INSEAD⁠)

AI Bukan Lagi Urusan Departemen Teknologi

Masih banyak anggota dewan memandang teknologi sebagai urusan manajemen dan fungsi teknologi informasi. Namun AI telah mengubah paradigma tersebut karena AI dapat memengaruhi keputusan bisnis, misal pemberian kredit di perbankan, underwriting di asuransi, perekrutan pegawai, deteksi fraud, analisis investasi, pengelolaan rantai pasok, pelayanan pelanggan, hingga pengambilan keputusan strategis.

Ketika AI mulai memengaruhi keputusan bisnis yang signifikan, maka pengawasannya tidak lagi dapat dianggap sebagai tanggung jawab eksklusif manajemen atau fungsi teknologi semata. Sejalan dengan hal tersebut, regulator, investor, dan pemangku kepentingan akan semakin bertanya:

“Apakah Dewan Governansi perusahaan telah menjalankan fungsi pengawasan yang memadai atas penggunaan AI?”. Pertanyaan inilah yang menjadikan Governansi AI sebagai agenda strategis baik bagi Dewan Komisaris maupun Direksi.

Lima Prinsip Tata Kelola AI yang Perlu Dipahami Dewan Governansi

INSEAD/KPMG mengidentifikasi lima prinsip utama yang dapat menjadi panduan bagi dewan governansi dalam menjalankan pengawasan terhadap AI. Prinsip-prinsip ini dirancang untuk membantu dewan menyeimbangkan inovasi, risiko, kepercayaan, dan penciptaan nilai jangka panjang. (INSEAD⁠). kelima prinsip tersebut adalah sebagai berikut:

  1. Strategic Oversight for Long-Term Value Creation
    Dewan governansi harus memastikan bahwa investasi dan inisiatif AI mendukung tujuan strategis organisasi serta menghasilkan nilai jangka panjang. Pertanyaan utama bagi dewan bukanlah “Apakah kita menggunakan AI?” Tetapi “Apakah penggunaan AI mendukung strategi dan keberlanjutan organisasi?”
  1. Active Technology and Security Oversight
    AI membawa risiko baru yang berkaitan dengan data, keamanan siber, model AI, ketergantungan pada vendor, dan ketahanan operasional. Dewan perlu memastikan bahwa organisasi memiliki mekanisme pengawasan yang memadai terhadap risiko-risiko tersebut.
  1. Workforce Transformation and Human Accountability
    AI akan mengubah cara manusia bekerja. Namun satu prinsip penting tidak boleh hilang, yaitu “AI dapat membantu pengambilan keputusan, tetapi akuntabilitas tetap berada pada manusia.”. Dalam hal ini, dewan perlu memastikan bahwa transformasi tenaga kerja berlangsung secara bertanggung jawab dan tetap menjaga peran penilaian manusia (human judgement).
  1. Building Trustworthy AI
    Kepercayaan merupakan aset yang semakin berharga di era AI. Dewan perlu memastikan bahwa AI yang digunakan organisasi bersifat transparan, dapat dijelaskan, adil, aman, andal, serta selaras dengan nilai-nilai luhur organisasi dan ekspektasi regulator.
  1. The Work of the Board
    Prinsip terakhir mungkin merupakan yang paling penting. AI tidak hanya mengubah organisasi, tetapi juga mengubah cara dewan menjalankan fungsi pengawasannya.Karena itu, Dewan perlu meningkatkan literasi AI, memperkuat kompetensi pengawasan, meninjau kembali struktur tata kelola, dan memastikan bahwa pengambilan keputusan dewan tetap relevan dalam era AI. (INSEAD⁠).

Dari Prinsip Menuju Implementasi: Keterkaitan dengan ISO/IEC 42001

Bagi banyak Dewan Komisaris dan Direksi, pertanyaan berikutnya adalah:

“Bagaimana prinsip-prinsip tersebut dapat diterapkan secara sistematis di dalam organisasi?”. Jawabannya dapat ditemukan pada ISO/IEC 42001 — Artificial Intelligence Management System (AIMS), standar internasional pertama yang secara khusus dirancang untuk tata kelola dan manajemen AI.

Seluruh prinsip yang disampaikan dalam dokumen INSEAD/KPMG, sesungguhnya telah diterjemahkan ke dalam persyaratan dan praktik yang terdapat dalam ISO/IEC 42001 tersebut: 

  • Prinsip ‘strategic oversight’ tercermin dalam persyaratan kepemimpinan dan arah strategis organisasi. 
  • Prinsip ‘active technology and security oversight’ diwujudkan melalui pengelolaan risiko dan pengendalian AI. 
  • Prinsip ‘workforce transformation and human accountability’ diterjemahkan melalui pengaturan peran, tanggung jawab, kompetensi, serta pengawasan manusia (human oversight). 
  • Prinsip ‘building trustworthy AI’ menjadi fondasi berbagai kontrol terkait, transparansi, akuntabilitas, fairness, keamanan, dan keandalan AI.
  • Prinsip ‘the Work of the Board’ tercermin melalui tuntutan kepemimpinan, pengawasan governansi, pemantauan, dan perbaikan terus-menerus. 

Dengan kata lain, ISO/IEC 42001 merupakan instrumen praktis untuk mengoperasionalkan prinsip-prinsip tata kelola AI yang direkomendasikan oleh INSEAD/KPMG di tingkat Dewan Governansi perusahaan. 

Memperkuat Governansi AI Melalui ISO/IEC 42005

Untuk memperkuat governansi AI sebaiknya dewan mengadopsi juga standar ISO/IEC 42005 – Artificial Intelligence (AI) – AI system impact assessment, yang sebaiknya diterapkan bersamaan dengan ISO 42001 tersebut di atas. Dalam hal ini, ISO/IEC 42005 memperluas perspektif governansi dengan membantu organisasi melakukan penilaian dampak AI terhadap individu, organisasi, masyarakat, dan pemangku kepentingan lainnya. Standar ini memperkuat kemampuan organisasi untuk menjawab pertanyaan yang semakin penting bagi Dewan, yaitu:

“Bukan hanya apakah AI bekerja dengan baik, tetapi apakah AI menghasilkan dampak yang dapat diterima, dipercaya, dan bertanggung jawab?”

Pendekatan tersebut sangat sejalan dengan semangat dalam dokumen INSEAD/KPMG yang menempatkan trust, accountability, transparency, dan responsible oversight sebagai fondasi utama governansi AI yang efektif. (KPMG⁠).

Penutup

Mari kita bersama menerapkan governansi AI yang terstruktur dengan menerjemahkan prinsip-prinsip di atas dalam kebijakan, proses bisnis, pengendalian, pengukuran dan mekanisme asurans yang nyata dan tertelusuri, sehingga mampu menjadikan penggunaan AI sebagai penjagaan dan/atau penciptaan nilai organisasi dalam jangka panjang secara akuntabel, bertanggung jawab dan etis.

Oleh karena itu, semakin awal perusahaan mulai mengadopsi standar ISO/IEC 42001 dan ISO/IEC 42005 akan semakin baik. Mereka akan memiliki posisi yang lebih kuat untuk membangun kepercayaan para pemangku kepentingan, memenuhi ekspektasi regulator, mengelola risiko AI secara efektif, dan menciptakan nilai berkelanjutan di era kecerdasan artifisial. Pada akhirnya, teknologi AI dapat didelegasikan kepada manajemen dan para ahli, namun akuntabilitas atas penggunaan AI yang bertanggung jawab akan selalu tetap berada di tangan Direksi dan Dewan Komisaris.

Related Posts