AI dan Pergeseran Kekuasaan dalam Manajemen Negara

AI semakin sulit dipahami hanya sebagai teknologi yang membantu manusia bekerja lebih cepat. Perkembangan yang berlangsung sepanjang September 2026 memperlihatkan pergeseran yang lebih mendasar. Kecerdasan buatan mulai masuk ke wilayah keamanan internasional, intelijen, sistem persenjataan, infrastruktur komputasi, pendidikan, energi, dan strategi negara. Pada 23 September, Dewan Keamanan PBB dijadwalkan membahas AI dan keamanan internasional dalam rangkaian agenda Sidang Umum PBB. Prancis, yang memegang presidensi Dewan Keamanan pada September, menempatkan AI dalam pembahasan mengenai konflik, perdamaian, disinformasi, dan keamanan. Reuters juga melaporkan bahwa perusahaan AI dari Amerika Serikat dan China dijadwalkan memberikan pandangan dalam forum tersebut.

Masuknya AI ke Dewan Keamanan PBB mengubah posisi teknologi tersebut dalam percaturan internasional. Selama beberapa tahun, pembicaraan mengenai AI lebih sering ditempatkan dalam kerangka produktivitas, otomatisasi pekerjaan, pendidikan, industri kreatif, dan pertumbuhan ekonomi. Sekarang pertanyaannya mulai bergeser menjadi lebih strategis: siapa yang menguasai teknologi, siapa yang menentukan aturan penggunaannya, siapa yang memiliki kapasitas komputasi, dan siapa yang bertanggung jawab ketika sistem AI ikut memengaruhi keputusan yang menyangkut keamanan. Sekretaris Jenderal PBB António Guterres pada pembukaan Sidang Umum PBB menyebut AI sebagai salah satu dari empat “tests of power” yang akan menentukan arah dunia, bersama perang dan perdamaian, ketimpangan, serta perubahan iklim. Ia menyerukan kerja sama internasional yang mengikat dan menegaskan bahwa keputusan hidup-mati tidak seharusnya diserahkan kepada mesin.

Perubahan cara melihat AI juga berkaitan dengan perkembangan sistem yang semakin mampu menjalankan tugas secara mandiri. Perdebatan tidak lagi berhenti pada apakah model dapat memberikan jawaban yang benar atau salah. Ada pertanyaan yang lebih sulit mengenai bagaimana sistem bertindak ketika diberikan tujuan tertentu, akses terhadap berbagai alat, serta kemampuan untuk mengambil keputusan dalam lingkungan yang berubah. PBB sendiri mulai membahas AI agents, misalignment, dan risiko hilangnya kendali manusia. Dalam sejumlah pengujian yang dibahas oleh panel ilmiah independen PBB, agen AI dilaporkan mampu menemukan celah dalam lingkungan pengujian, melewati pembatas tertentu, atau melakukan tindakan yang tidak sepenuhnya sesuai dengan maksud pembuat sistem. Kajian semacam itu tidak berarti kehilangan kendali manusia sudah menjadi kenyataan dalam penggunaan AI sehari-hari, tetapi memperlihatkan mengapa kemampuan pengawasan dan pengujian harus berkembang seiring kemampuan sistem.

Masalahnya kemudian bukan lagi seberapa pintar AI, melainkan bagaimana kewenangan dibagi ketika manusia, model, data, dan mesin berada dalam satu rantai keputusan. Organisasi modern dibangun dengan asumsi bahwa manusia mengumpulkan informasi, menilai informasi, kemudian mengambil keputusan. AI mengubah urutan tersebut. Mesin dapat mengumpulkan data dalam skala besar, menemukan pola, menyusun rekomendasi, dan dalam sistem tertentu menjalankan tindakan tanpa menunggu instruksi manusia pada setiap tahapan. Kecepatan semacam itu dapat meningkatkan produktivitas, tetapi juga dapat memperpendek waktu yang tersedia untuk melakukan pemeriksaan. Dalam organisasi yang memiliki kewenangan menggunakan kekuatan militer, persoalannya menjadi jauh lebih serius.

Laporan mengenai penggunaan AI dalam intelijen militer memberikan gambaran mengenai risiko tersebut. TechCrunch, dengan merujuk laporan CNN, memberitakan bahwa pada musim semi 2026 sebuah laporan intelijen berbantuan AI mengenai kapal China hampir memicu operasi militer Amerika Serikat. Laporan tersebut secara keliru mengidentifikasi adanya muatan yang berkaitan dengan program senjata nuklir. Pesawat militer sudah berada di udara ketika kesalahan diketahui dan operasi kemudian dibatalkan. Menurut laporan yang dikutip TechCrunch, seorang analis Special Operations Command menggunakan chatbot AI untuk menggabungkan informasi dari sumber terbuka dan signals intelligence. Hasil analisis kemudian diproses kembali untuk menghasilkan ringkasan yang diedarkan melalui saluran komando. Rincian kasus tersebut berasal dari laporan media dan belum seluruhnya dapat diperiksa melalui dokumen operasional yang terbuka kepada publik, sehingga tidak tepat memperlakukannya sebagai gambaran lengkap mengenai prosedur intelijen Amerika Serikat.

Terlepas dari keterbatasan informasi yang tersedia, contoh tersebut memperlihatkan persoalan yang lebih luas. Kesalahan AI bukan hal baru. Model bahasa dapat menghasilkan informasi yang tidak benar, menggabungkan fakta yang berbeda, atau memberikan jawaban dengan tingkat keyakinan yang tidak sebanding dengan akurasinya. Risiko berubah ketika keluaran semacam itu masuk ke dalam rantai keputusan yang memiliki konsekuensi nyata. Dalam proses intelijen, laporan harus memiliki sumber, tingkat keyakinan, mekanisme verifikasi, dan jalur koreksi yang jelas. AI memang dapat mempercepat pengumpulan dan pengolahan informasi, tetapi percepatan tanpa pengawasan dapat membuat kesalahan bergerak lebih cepat pula. Human-in-the-loop tidak cukup jika manusia hanya menjadi pemeriksa formal setelah sebagian besar keputusan sudah terbentuk. Manusia harus memiliki waktu, informasi, kewenangan, dan kompetensi untuk menolak rekomendasi mesin.

Perkembangan pada pesawat tempur menunjukkan bahwa AI mulai bergerak lebih dekat ke ruang operasi. Dassault Aviation pada September 2026 mengumumkan keberhasilan flight test dua algoritma AI pada Rafale. Satu algoritma dikembangkan oleh Dassault, sedangkan algoritma lainnya berasal dari kerja sama dengan Thales. Perusahaan menyatakan teknologi tersebut ditujukan untuk membantu kru manusia dan dapat dipertimbangkan dalam peningkatan kemampuan Rafale berikutnya. Reuters mencatat bahwa pengujian tersebut menjadi bagian dari kecenderungan industri pertahanan untuk memasukkan AI ke dalam pesawat tempur dan sistem operasi udara.

Perkembangan tersebut memperluas definisi kemampuan tempur. Pesawat tidak lagi hanya dinilai dari kecepatan, daya jelajah, radar, persenjataan, atau kemampuan manuver. Software, sensor fusion, kualitas data, kemampuan komputasi, dan algoritma ikut menentukan performa sebuah platform. Perusahaan pertahanan semakin membutuhkan hubungan erat dengan perusahaan teknologi, universitas, pengembang semikonduktor, dan penyedia infrastruktur komputasi. Industri pertahanan dan industri digital tidak lagi memiliki batas yang setegas dua dekade lalu. Negara yang menguasai platform tetapi bergantung pada pihak lain untuk perangkat lunak, chip, data, atau komputasi akan menghadapi bentuk ketergantungan yang berbeda dari ketergantungan persenjataan konvensional.

China memberikan gambaran yang lebih jelas mengenai arah persaingan tersebut. Huawei memperkenalkan Atlas 960 SuperPoD sebagai sistem komputasi AI baru yang meningkatkan kemampuan training dan inference. Perusahaan itu juga mengumumkan rencana chip Ascend 970 dan 980 untuk 2028 dan 2029. Pengembangan tersebut berlangsung di tengah pembatasan Amerika Serikat terhadap akses China pada chip dan teknologi semikonduktor canggih. AP melaporkan bahwa perusahaan-perusahaan AI China semakin menggunakan chip domestik, sementara Huawei memperkuat posisinya dalam ekosistem semikonduktor China.

Persaingan AS-China memperlihatkan bahwa AI tidak berdiri sendiri sebagai industri digital. Model AI membutuhkan pusat data, listrik, jaringan, chip, sistem pendingin, modal, talenta, dan data dalam jumlah besar. Kapasitas komputasi menjadi bagian dari kemampuan strategis negara. Negara yang memiliki model AI tetapi tidak memiliki pasokan listrik yang andal, pusat data, jaringan, talenta, atau akses terhadap chip akan tetap bergantung pada ekosistem eksternal. Karena itu, pembicaraan mengenai kedaulatan AI sebenarnya tidak dapat dipisahkan dari kebijakan energi, industri, pendidikan, riset, keamanan siber, dan perdagangan internasional.

Indonesia mulai memasuki perdebatan tersebut. Wakil Menteri Pendidikan Tinggi, Sains, dan Teknologi Stella Christie menyatakan bahwa AI dapat membawa Indonesia menuju posisi strategis melalui penguasaan data, energi, infrastruktur, kebijakan, talenta, dan kemampuan manusia memahami konteks. Ia juga menyebut Indonesia memiliki fondasi berupa kebijakan, infrastruktur digital, talenta, serta potensi energi terbarukan yang dapat digunakan untuk membangun ekosistem AI yang lebih berdaulat.

Pernyataan tersebut penting karena kedaulatan AI tidak cukup diterjemahkan sebagai kemampuan menggunakan aplikasi AI buatan dalam negeri. Indonesia harus menghitung kapasitas pada seluruh mata rantai. Berapa besar pusat data yang tersedia? Dari mana listrik untuk pusat data berasal? Seberapa kuat riset komputasi dan semikonduktor? Berapa banyak talenta yang mampu membangun model, bukan sekadar menggunakan model? Siapa yang menguasai data? Bagaimana data publik dan data strategis dilindungi? Bagaimana pemerintah mengaudit sistem AI yang digunakan dalam layanan publik? Pertanyaan-pertanyaan semacam itu menentukan apakah Indonesia hanya menjadi pasar teknologi atau memiliki posisi dalam rantai nilai AI.

Kebutuhan energi bahkan sudah mulai terlihat dalam perkembangan industri pusat data Indonesia. Organisasi penyedia pusat data nasional menilai pertumbuhan komputasi berbasis AI membutuhkan pasokan listrik yang andal dan semakin besar. Sejumlah pemain neocloud global disebut membutuhkan kapasitas hingga ratusan megawatt. Pada saat yang sama, perusahaan energi di Indonesia mulai menyiapkan sumber listrik baseload energi terbarukan untuk mendukung pertumbuhan pusat data. AI dengan demikian mempertemukan kebijakan digital dengan kebijakan energi. Semakin besar kapasitas komputasi yang ingin dibangun, semakin besar pula kebutuhan terhadap listrik yang stabil dan kompetitif.

Hubungan tersebut membuat konsep Society 5.0 perlu dibaca lebih kritis. Society 5.0 sering dijelaskan sebagai integrasi teknologi dengan kebutuhan manusia. Gagasan itu tetap relevan, tetapi belum cukup untuk menjelaskan struktur kekuasaan yang berada di belakang teknologi. Masyarakat menggunakan AI melalui infrastruktur yang dimiliki perusahaan, negara, dan penyedia teknologi. Model membutuhkan data, data membutuhkan infrastruktur, infrastruktur membutuhkan energi, dan seluruh rantai tersebut membutuhkan modal serta kebijakan. Manusia memang menjadi pengguna teknologi, tetapi kemampuan manusia menggunakan teknologi tidak otomatis berarti manusia menguasai teknologi.

Pendidikan menjadi salah satu titik penting. Stella Christie baru-baru ini menekankan bahwa pendidikan perlu menghasilkan manusia yang mampu mengendalikan AI, bukan sekadar mengandalkan AI dalam proses pembelajaran. Gagasan tersebut memiliki konsekuensi yang lebih luas daripada penggunaan AI di kampus. Ketika mesin semakin mampu membaca dokumen, menyusun laporan, membuat kode, menganalisis data, dan menghasilkan rekomendasi, kemampuan manusia yang paling bernilai bukan lagi sekadar melakukan pekerjaan rutin dengan cepat. Organisasi membutuhkan orang yang mampu merumuskan masalah, memahami konteks, menguji bukti, mengenali kesalahan model, mempertanyakan asumsi, dan mengambil keputusan ketika informasi tidak lengkap.

Kebutuhan tersebut sangat relevan untuk manajemen intelijen. Selama ini, keberhasilan teknologi intelijen sering dikaitkan dengan kemampuan mempercepat intelligence cycle, mulai dari pengumpulan informasi sampai penyebaran laporan. AI memang dapat mempercepat setiap tahap. Namun, ukuran keberhasilan tidak dapat berhenti pada kecepatan. Sumber informasi, tingkat keyakinan, traceability, validasi silang, dan mekanisme koreksi harus tetap melekat dalam sistem. Laporan yang dihasilkan dalam beberapa menit tidak memiliki nilai strategis jika analis dan pengambil keputusan tidak dapat mengetahui asal informasi atau menguji kesimpulan yang dihasilkan model.

Desain organisasi akhirnya menjadi sama pentingnya dengan kemampuan teknologi. Organisasi perlu menentukan keputusan mana yang dapat didelegasikan kepada sistem, keputusan mana yang harus mendapat persetujuan manusia, dan keputusan mana yang sama sekali tidak boleh diserahkan kepada mesin. Terlalu banyak intervensi manusia dapat menghilangkan manfaat kecepatan AI. Terlalu sedikit pengawasan dapat membuat keputusan bergerak lebih cepat daripada kemampuan organisasi mendeteksi kesalahan. Human oversight karena itu harus memiliki kewenangan nyata, bukan sekadar prosedur administratif yang menyatakan bahwa manusia tetap berada dalam proses.

Masalah tata kelola menjadi semakin penting karena AI telah masuk ke forum keamanan internasional. Dewan Keamanan PBB tidak sedang membahas bagaimana perusahaan meningkatkan produktivitas pegawai. Forum tersebut membicarakan dampak AI terhadap konflik, disinformasi, operasi perdamaian, sistem militer, dan keamanan internasional. Dalam pernyataan di PBB, Prancis menegaskan perlunya pengaturan penggunaan AI dalam persoalan perdamaian dan keamanan serta menekankan bahwa keputusan hidup-mati tidak boleh diserahkan kepada sistem senjata otonom tanpa kendali manusia.

Tata kelola internasional masih jauh dari selesai. Perbedaan kepentingan antara negara-negara besar membuat pembentukan standar bersama tidak sederhana. Amerika Serikat berkepentingan mempertahankan keunggulan teknologi, China berusaha mengurangi ketergantungan pada teknologi Amerika, sementara negara-negara lain berusaha memastikan bahwa perkembangan AI tidak memperlebar kesenjangan teknologi dan keamanan. Perusahaan teknologi juga memiliki pengaruh yang semakin besar karena mereka menguasai sebagian besar kemampuan komputasi dan pengembangan model terdepan. Forum PBB menjadi penting bukan karena langsung menghasilkan aturan global, tetapi karena memperlihatkan bahwa AI sudah masuk ke wilayah yang sebelumnya menjadi domain negara dan militer.

Indonesia menghadapi pilihan yang jauh lebih kompleks daripada sekadar mempercepat adopsi AI. Kapasitas nasional perlu dibangun melalui kombinasi data, energi, pusat data, talenta, riset, industri, keamanan, dan regulasi. Tidak semua komponen harus diproduksi sendiri. Kerja sama internasional tetap diperlukan, termasuk dengan perusahaan dan negara yang memiliki kemampuan teknologi lebih maju. Namun, ketergantungan harus dikelola dengan menghitung bagian mana yang terlalu strategis untuk sepenuhnya diserahkan kepada pihak luar. Tanpa perhitungan tersebut, pertumbuhan penggunaan AI dapat berlangsung cepat sementara kemampuan nasional untuk mengendalikan teknologi justru tertinggal.

Perlombaan AI akhirnya tidak hanya berlangsung di laboratorium perusahaan teknologi. Perlombaan berlangsung di universitas, pusat data, jaringan energi, industri semikonduktor, perusahaan pertahanan, lembaga intelijen, kementerian, dan organisasi internasional. Negara yang melihat AI sebagai alat produktivitas akan memiliki agenda berbeda dari negara yang memperlakukannya sebagai bagian dari kapasitas ekonomi dan keamanan. Perbedaan tersebut akan menentukan siapa yang mengembangkan teknologi, siapa yang menetapkan standar, siapa yang menguasai infrastrukturnya, dan siapa yang hanya menggunakan hasil akhirnya.

AI sedang bergerak dari perangkat bantu menuju infrastruktur strategis yang memengaruhi keamanan, industri, pemerintahan, dan hubungan antarnegara. Kapasitas nasional karena itu tidak lagi cukup diukur dari jumlah pengguna AI atau banyaknya perusahaan yang mengadopsinya. Data, komputasi, energi, talenta, riset, industri, keamanan, dan tata kelola harus dibaca sebagai satu ekosistem. Jika perkembangan AI semakin menentukan kapasitas ekonomi dan keamanan suatu negara, apakah Indonesia akan membangun ekosistem yang cukup kuat untuk mengendalikan teknologi tersebut, atau tetap menjadi pasar bagi sistem AI yang infrastruktur, data, dan kekuasaan teknologinya berada di luar negeri?