"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.
Wamen Nezar juga mengingatkan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI yang memiliki kemampuan melakukan penalaran dan pengambilan keputusan secara mandiri.
Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan penting tetap berada dalam pengawasan manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih lanjut, Wamen Nezar menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Karena itu, Wamen Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
Menurutnya, forum Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan langkah-langkah bersama dalam membangun ekosistem AI yang inovatif sekaligus bertanggung jawab.
