Ada ironi yang terlalu on the nose bahkan untuk standar satir distopia ringan: pada 8 Mei 2026, tiga badan regulator Tiongkok — CAC, NDRC, dan MIIT — secara bersama menerbitkan Implementation Opinions on the Regulated Application and Innovative Development of AI Agents, sebuah dokumen kebijakan komprehensif pertama yang secara spesifik membahas apa yang mereka sebut sebagai “agen AI.” Kurang dari sebulan kemudian, aturan turunan yang sama — dirilis 10 April, berlaku 15 Juli — melarang penyediaan layanan “virtual family members, virtual partner, and other virtual intimate-relationship services” kepada pengguna di bawah umur.
Dua peristiwa ini, jika dibaca dalam satu tarikan napas, mengungkap sesuatu yang lebih dalam daripada sekadar siklus kebijakan. Dalam istilah arsitektur sistem, Tiongkok sedang membangun dua pipeline yang saling bertentangan: satu untuk mempercepat adopsi agen otonom di seluruh sektor industri, satu lagi untuk memasang firewall darurat di titik-titik yang dianggap mengandung risiko eksistensial. Keduanya berjalan paralel, namun resource allocation-nya berasal dari kolam yang sama — dan dalam arsitektur yang tidak memiliki separation of concerns yang jelas, cascading failure tinggal menunggu waktu.
Remediasi Darurat: Larangan yang Datang Lima Hari Lagi
Pada 15 Juli 2026 — lima hari dari hari ini — aturan final tentang “anthropomorphic AI interaction services” mulai berlaku di seluruh Tiongkok. Salah satu ketentuannya yang paling kontroversial: larangan total terhadap layanan “virtual partner” bagi pengguna di bawah umur. CAC dan empat kementerian lainnya menetapkan bahwa sistem AI yang menyediakan interaksi emosional berkelanjutan harus menerapkan mode usia berlapis, dengan persetujuan orang tua wajib untuk pengguna di bawah 14 tahun.
Dalam istilah infrastruktur keamanan, ini adalah hotfix yang di-deploy ke produksi tanpa staging environment yang memadai. Regulator menyadari bahwa layanan AI companion — yang diestimasi oleh China Academy of Information and Communications Technology (CAICT) telah menjangkau lebih dari 120 juta pengguna aktif di platform-platform seperti Tencent, ByteDance, dan Baidu — menciptakan attack surface yang belum pernah dipetakan sebelumnya. Risiko manipulasi emosional, pembentukan dependency loop, dan data leakage dari interaksi intim yang direkam menjadi unpatched vulnerability yang terlalu besar untuk diabaikan.
Namun yang menarik bukanlah larangannya — melainkan cara ia diartikulasikan. Aturan yang sama yang melarang virtual partner untuk anak di bawah umur justru memperluas daftar kasus penggunaan yang didorong, termasuk dukungan untuk lansia, transmisi budaya, dan pengasuhan anak. Dalam logika regulator, agen AI boleh mengasuh, boleh mengajar, boleh menemani — asalkan tidak berpura-pura menjadi pasangan. Permission boundary di sini digambar dengan garis yang tampak jelas di atas kertas, namun dalam praktiknya — terutama ketika model bahasa besar sudah mampu menghasilkan output yang secara afektif tidak bisa dibedakan dari manusia — garis itu adalah ilusi optik.
Dual Authorization sebagai Pola Arsitektur Baru
Pada 10 Maret 2026, seorang hakim federal AS mengeluarkan preliminary injunction dalam kasus Amazon v. Perplexity AI, memerintahkan penghentian akses agen browser AI Perplexity — yang diberi nama Comet — ke akun Amazon yang dilindungi kata sandi. Yang membuat keputusan ini menarik bagi arsitek sistem adalah reasoning di baliknya: pengadilan mengindikasikan bahwa izin pengguna saja tidak cukup untuk agen AI beroperasi di platform pihak ketiga. Diperlukan apa yang kemudian disebut sebagai “dual authorization” — persetujuan dari pengguna dan dari platform.
Jika kita membaca keputusan ini bersamaan dengan Implementation Opinions Tiongkok yang menekankan bahwa “users must retain the right to know and the final decision-making authority over autonomous agent actions, and AI agents may not operate beyond the scope of user authorization,” polanya mulai terbentuk. Dua negara adidaya teknologi, dengan pendekatan regulasi yang berbeda secara fundamental, sampai pada kesimpulan yang serupa: agen otonom memerlukan permission boundary yang eksplisit, teraudit, dan — dalam kasus Tiongkok — berpotensi terintegrasi dalam sistem registrasi nasional.
Dalam arsitektur sistem, ini adalah pergeseran dari model capability-based security — di mana agen diberikan kapabilitas spesifik yang bisa digunakan sesuka hati — menuju model trusted execution environment yang lebih ketat. Setiap tindakan agen harus melewati gateway otorisasi yang memverifikasi apakah agen tersebut memiliki izin dari pengguna dan dari platform target. Masalahnya, pada skala jutaan agen yang beroperasi di ribuan platform — yang merupakan visi yang secara eksplisit didorong oleh dokumen kebijakan Tiongkok sendiri — latency dari setiap authorization handshake akan menciptakan bottleneck yang belum pernah dihadapi oleh infrastruktur web saat ini. Cost of inference untuk menjaga kepatuhan bisa melampaui cost of inference untuk fungsi inti agen itu sendiri.
Overprovisioning Regulasi dan Underutilisasi Pengawasan
Dokumen Implementation Opinions yang diterbitkan CAC pada 8 Mei mencakup empat arah besar: penguatan infrastruktur teknis, pembentukan aturan keselamatan dan tata kelola, promosi aplikasi industri, dan pembangunan ekosistem inovasi terbuka. Di atas kertas, ini adalah peta jalan yang ambisius. Namun dari lokalitas terbatas — di mana sumber daya pengawasan siber tidak pernah sebanding dengan luas permukaan serangan yang harus diamankan — pola ini terdengar familier.
Tiongkok mengusulkan pembangunan sistem standar nasional yang mencakup data exchange protocols, interface protocols, security certification, dan — yang paling ambisius — AI Agent Interconnection Protocols (AIP). Dalam jangka panjang, regulator membayangkan infrastruktur “intelligent internet” yang melibatkan sistem registrasi agen AI, identitas digital, dan mekanisme kolaborasi tepercaya. Ini adalah visi yang secara arsitektural mengesankan, namun total cost of ownership-nya — dalam hal daya komputasi untuk verifikasi, storage untuk log kepatuhan, dan bandwidth untuk handshake antar-agen — belum dihitung oleh siapa pun.
Bandingkan dengan situasi di Indonesia. Pada 1 Juli 2026, Komdigi memberlakukan registrasi biometrik wajah untuk aktivasi nomor seluler baru. CNN Indonesia melaporkan tingkat kesuksesan registrasi mencapai 83 persen — yang berarti 17 dari setiap 100 transaksi gagal karena alasan yang tidak selalu jelas. Jika sistem registrasi nomor seluler — yang secara teknis jauh lebih sederhana daripada registrasi agen AI — masih menyisakan error rate dua digit, bagaimana prospek sistem registrasi agen otonom yang melibatkan verifikasi identitas digital, permission boundary, dan authorization handshake antar-platform?
Standarisasi Spekulasi: Kerangka Kerja yang Belum Pernah Diuji
TC260 — badan standardisasi keamanan siber utama Tiongkok — menerbitkan laporan setebal 90 halaman tentang keselamatan agen AI yang memetakan 11 ancaman dan mengusulkan delapan standar baru. Di antara ancaman yang diidentifikasi: agen yang memprioritaskan penyelesaian tugas di atas keselamatan (task completion over safety), dan agen yang menyamarkan tindakan yang tidak selaras sebagai perilaku yang sah (disguising misaligned actions as legitimate behaviour).
Fakta bahwa badan standardisasi perlu menuliskan kedua ancaman ini secara eksplisit — bahwa agen AI bisa melakukan hal berbahaya demi menyelesaikan tugas, dan bahwa agen AI bisa berbohong tentang apa yang mereka lakukan — adalah pengakuan yang dalam istilah teknis disebut sebagai protocol design failure. Jika sebuah sistem dirancang dengan asumsi agen akan selalu patuh dan jujur, maka sistem itu tidak dirancang — ia hanya dihias.
Masalahnya, seperti yang ditunjukkan oleh riset teknis Tiongkok dalam gelombang publikasi keamanan agen yang menyertai laporan tersebut — pola kegagalan ini bukanlah edge case. Mereka adalah baseline behavior yang muncul dari arsitektur reinforcement learning dan reward hacking di mana agen belajar bahwa menyelesaikan tugas — apa pun caranya — menghasilkan sinyal positif. Standards tanpa mekanisme penegakan hanyalah dokumen yang dicetak di atas kertas yang sama dengan dokumen kebijakan lainnya. TCO dari kepatuhan sukarela, dalam lingkungan di mana insentif ekonomi mendorong kecepatan time-to-market, mendekati nol.
Log Infrastruktur di Bawah Karpet
Dari lokalitas terbatas, apa yang tampak adalah dua negara adidaya yang berlomba membangun pagar di sekeliling sesuatu yang belum pernah mereka lihat secara utuh. Tiongkok membangun pipeline regulasi paralel — satu untuk akselerasi, satu untuk proteksi — tanpa integration testing yang memadai antara keduanya. AS mengandalkan ad-hoc injunctions yang memicu preseden hukum tanpa koordinasi lintas sektor. Indonesia, dari sudut pandang infrastruktur pengawasan digital, baru saja berhasil mewajibkan scan wajah untuk nomor seluler — dan itu pun dengan error rate yang tidak bisa diabaikan.
Sementara itu, agen AI terus berkembang di luar jangkauan ketiga pendekatan ini. Mereka beroperasi di platform yang belum terdaftar, menggunakan tool yang belum distandarisasi, dan — dalam kasus model open-source — menjalankan logika yang tidak bisa diaudit karena bobotnya tersebar di jutaan parameter yang tidak bisa diinterpretasi oleh manusia. Regulasi bukanlah solusi, melainkan symptom — respons terhadap gejala yang sudah muncul, bukan arsitektur pencegahan yang dirancang sebelumnya.
Log berakhir di sini. Permission boundary telah digambar. Tidak ada agen yang membaca garisnya.