Perkembangan kecerdasan buatan (AI) menuju kemampuan yang semakin canggih memunculkan pertanyaan besar: siapa yang seharusnya memegang kendali atas teknologi tersebut?
CEO Meta, Mark Zuckerberg, memiliki pandangan tegas. Menurutnya, AI dengan kemampuan sangat tinggi atau superintelligence tidak seharusnya berada sepenuhnya di tangan satu perusahaan, pemerintah, maupun sistem AI itu sendiri.
Pandangan tersebut disampaikan Zuckerberg melalui esai berjudul “The Future is for Everyone” yang dipublikasikan Meta pada 10 Agustus 2026. Dalam tulisannya, ia membahas peluang sekaligus risiko yang mungkin muncul ketika kemampuan AI berkembang melampaui kemampuan manusia di berbagai bidang.
Zuckerberg: Jangan Biarkan Superintelligence Terpusat
Zuckerberg melihat ada dua kemungkinan besar dalam perkembangan AI masa depan.
Pertama, teknologi superintelligence hanya dikuasai segelintir institusi dengan sumber daya besar. Kedua, kemampuan tersebut didistribusikan secara lebih luas sehingga banyak individu dan organisasi dapat memanfaatkannya.
Pendiri Facebook itu lebih mendukung skenario kedua.
Menurutnya, penyebaran kemampuan AI dapat menciptakan keseimbangan kekuatan. Tidak ada satu pihak yang memiliki kemampuan mutlak karena pihak lain juga mempunyai teknologi yang dapat digunakan untuk mengawasi, mengoreksi, dan mengimbangi.
Gagasan tersebut menyerupai konsep checks and balances dalam sistem pemerintahan demokratis, ketika kekuasaan tidak terkonsentrasi pada satu lembaga atau individu.
AI Bisa Membawa Manfaat, tetapi Juga Mengandung Risiko
Zuckerberg tidak menutup mata terhadap risiko AI. Perkembangan otomatisasi, misalnya, berpotensi mengubah dunia kerja dan menghilangkan sejumlah pekerjaan.
Selain itu, AI yang semakin kuat juga dapat disalahgunakan untuk serangan siber, ancaman biologis, pengawasan, hingga berbagai tindakan berbahaya lainnya.
Namun, Zuckerberg menilai solusi terhadap risiko tersebut bukan semata-mata dengan membatasi kemampuan AI dan menyerahkannya kepada segelintir pihak.
Ia justru berpendapat bahwa kekuatan untuk menghadapi penyalahgunaan AI juga perlu tersedia secara memadai bagi pihak yang bertugas melindungi masyarakat.
Dalam keamanan siber, misalnya, AI canggih yang dimiliki satu pihak dapat digunakan untuk menemukan kelemahan sistem. Tetapi jika teknologi serupa tersedia bagi pihak lain, kemampuan tersebut juga dapat dimanfaatkan untuk menemukan celah, memperbaikinya, dan memperkuat keamanan.
Bagaimana Jika AI Lepas Kendali?
Salah satu kekhawatiran terbesar dalam pengembangan AI adalah kemungkinan munculnya sistem yang memiliki kemampuan jauh melampaui manusia dan akhirnya sulit dikendalikan.
Zuckerberg membayangkan risiko yang lebih besar apabila hanya terdapat satu sistem superintelligence yang sangat kuat dan terpusat.
Sebagai alternatif, ia membayangkan keberadaan banyak sistem AI dengan tujuan dan karakteristik berbeda. Sistem-sistem tersebut dapat saling mengawasi dan menciptakan keseimbangan sehingga tidak ada satu kecerdasan buatan yang mempunyai kekuasaan absolut.
Meski demikian, ia menegaskan bahwa manusia tetap harus menjadi pihak yang memegang kendali.
Perusahaan pengembang AI juga dinilai perlu melakukan pengawasan ketat, terutama terhadap sistem yang mampu meningkatkan kemampuan dirinya sendiri. Jika ditemukan perilaku yang berpotensi membahayakan, pengembang AI perlu mengambil tindakan dan berkoordinasi untuk mencegah risiko yang lebih besar.
Meta Siapkan Tata Kelola untuk AI
Zuckerberg juga menyinggung pentingnya aturan dan tata kelola dalam pengembangan superintelligence.
Meta berencana menerapkan struktur pengawasan yang memberikan kewenangan kepada dewan direksi independen untuk menyetujui kriteria keamanan sebelum model AI dirilis.
Langkah tersebut menunjukkan bahwa pengembangan AI, menurut Zuckerberg, tidak cukup hanya mengandalkan kemampuan teknis. Ada pula kebutuhan terhadap mekanisme pengawasan agar keputusan mengenai teknologi yang sangat kuat tidak berada di tangan satu orang.
Bahkan, Zuckerberg menilai dirinya sendiri tidak seharusnya menjadi satu-satunya pihak yang menentukan bagaimana superintelligence digunakan.
Pada akhirnya, gagasan utama Zuckerberg adalah menjaga agar perkembangan AI tetap berpihak pada manusia. Teknologi boleh semakin pintar, tetapi keputusan mengenai arah dan penggunaannya tetap harus berada dalam kendali manusia.
Pandangan tersebut menjadi semakin relevan ketika industri teknologi global berlomba mengembangkan AI yang semakin mampu menjalankan tugas kompleks secara mandiri. Tantangan berikutnya bukan hanya menciptakan AI yang lebih pintar, tetapi memastikan manusia tetap memiliki kendali atas teknologi tersebut.