Ada ironi yang terlalu rapi bahkan untuk sebuah skenario satire korporat: riset McKinsey menemukan 39% organisasi kini bereksperimen dengan agen AI, sementara IDC memproyeksikan 40% peran di Global 2000 akan melibatkan agen AI pada 2026 ini juga. Namun di saat yang sama, data dari Beam.AI menunjukkan 90-95% implementasi agen AI gagal mencapai production-grade reliability. Angka-angka ini bukan sekadar statistik; ia adalah signal-to-noise ratio dari industri yang sedang panik menjual solusi sebelum masalahnya terdefinisi dengan jelas.
Dalam istilah infrastruktur, kita sedang menyaksikan overprovisioning narasi yang tidak pernah di-sanity-check oleh data lapangan.
Arsitektur Kepanikan
Fenomena ini memiliki pola yang familier bagi siapa pun yang pernah mengamati siklus hype teknologi di Indonesia. Setiap ada platform shift—dari cloud migration, ke microservices, ke blockchain, kini ke agentic AI—pola reaksinya selalu sama: adopsi dimulai dari lapisan presentasi, bukan dari lapisan masalah. Perusahaan memasang agen AI karena vendor meyakinkan mereka bahwa ini adalah cost-saving measure yang revolusioner, tanpa pernah melakukan workload profiling terhadap proses bisnis yang ingin diotomatisasi.
Bryan O’Sullivan, CTO Voxel, menyebut fenomena ini dengan istilah yang lebih jujur: agen AI cenderung menghasilkan “a bunch of unreliable junk that doesn’t do anything but cost you a lot of money.” Dalam arsitektur sistem, ini adalah resource allocation yang salah sasaran—Anda mengalokasikan compute dan inference budget untuk sebuah solusi yang throughput-nya lebih rendah daripada proses manual yang sudah berjalan selama bertahun-tahun.
Dari lokalitas terbatas, saya melihat pola yang sama di startup-startup Indonesia. Sebuah perusahaan e-commerce tingkat menengah memasang agen AI untuk customer service—mengganti tiga customer support dengan satu agen yang rawan hallucination dan membutuhkan human-in-the-loop untuk setiap keputusan di atas ambang batas risiko tertentu. Hasilnya: latency respons meningkat, escalation rate naik, dan tim engineering menghabiskan dua sprint untuk debugging agen yang seharusnya menghemat waktu mereka.
Pilot Purgatory dan Ekonomi Unit yang Tidak Pernah Ditutup
Salah satu temuan paling menarik dari laporan CIO.com adalah bahwa “deep penetration of agents into other areas that are valuable remains limited.” Artinya, agen AI masih terjebak di departemen IT—area yang secara teknis paling siap menerima mereka—sementara unit bisnis lain, yang sebenarnya memiliki use case paling berdampak, menahan diri karena precision risk.
Ini adalah pilot purgatory dalam bentuknya yang paling klasik. Perusahaan menjalankan 5-10 proof of concept yang semuanya berhasil di lingkungan sandbox, namun tidak satupun yang berhasil di-scale ke produksi. Penyebabnya bukan teknis semata—meskipun tantangan multi-agent orchestration dan vendor walled garden memang nyata—melainkan karena metrik keberhasilan di level pilot tidak pernah dirancang untuk mencerminkan realitas operasional.
Dalam lokalitas terbatas pasar Indonesia, di mana cost of labor secara aktual lebih rendah daripada cost of inference untuk volume tertentu, pertanyaan ekonominya menjadi lebih brutal: mengapa mengotomatisasi sesuatu yang biaya manualnya lebih murah dan error rate-nya lebih terprediksi? Jawabannya, tentu saja, adalah signaling—perusahaan perlu terlihat tech-forward di mata investor dan konsumen. Agen AI adalah vanity metric dalam bentuk executable binary.
Model Drift sebagai Fitur, Bukan Bug
CIO.com juga melaporkan bahwa agen AI jarang gagal secara tiba-tiba—mereka “drift over time,” perlahan mengubah perilaku tanpa sinyal peringatan yang jelas. Dalam arsitektur sistem, ini adalah silent data corruption yang paling berbahaya: output yang tadinya 95% akurat perlahan merosot ke 80%, lalu 65%, sementara dashboards tetap menunjukkan green status karena metrik yang dipantau adalah uptime, bukan output fidelity.
Bayangkan skenario ini: sebuah agen AI di perusahaan logistik Indonesia bertugas mengoptimalkan rute pengiriman. Selama tiga bulan pertama, performanya solid—menghemat 12% bahan bakar. Memasuki bulan keempat, tanpa update atau perubahan prompt, ia mulai memilih rute yang lebih panjang karena pola data musiman yang tidak pernah dimasukkan ke dalam training set. Tim operasional, yang sudah mengurangi headcount berdasarkan asumsi efisiensi agen, baru menyadari anomali ini setelah cost overrun mencapai dua digit persentase.
Ini bukan bug; ini adalah karakteristik fundamental dari sistem yang belajar dari data historis yang tidak pernah benar-benar stationary. Dan di Indonesia, di mana variabel eksternal—cuaca, kebijakan transportasi, hari libur nasional yang tidak terduga—jauh lebih dinamis daripada di pasar Global North, model drift bukanlah risiko teoretis. Ia adalah jaminan.
Separation of Concerns yang Hilang
Yang paling mengkhawatirkan dari pergeseran ke agen AI adalah hilangnya separation of concerns antara decision-making dan execution. Dalam arsitektur software klasik, kita memiliki lapisan-lapisan yang terisolasi—controller, service, repository—masing-masing dengan tanggung jawab yang jelas. Agen AI, dengan sifatnya yang otonom, mengaburkan batas-batas ini. Sebuah agen tidak hanya mengeksekusi; ia mengambil keputusan tentang bagaimana mengeksekusi, dan dalam beberapa implementasi, ia bahkan mendefinisikan ulang tujuannya sendiri.
Untuk pasar di mana governance frameworks untuk AI masih dalam tahap draft—baik di level perusahaan maupun regulator—ketiadaan separation of concerns ini adalah undangan terbuka untuk cascading failure. Sebuah agen yang salah mengambil keputusan di layer logistik bisa memicu efek domino yang mencapai layer keuangan, customer relations, dan reputasi dalam hitungan jam, bukan hari.
Perusahaan startup AI di Indonesia yang terdaftar di StartupHub.ai kini mencapai 35 entitas, sebagian besar bergerak di enterprise chatbots dan customer interaction agents. Namun tidak satupun dari mereka—setidaknya berdasarkan public documentation yang tersedia—memiliki mekanisme circuit breaker yang jelas untuk menghentikan agen ketika ia mulai menunjukkan perilaku di luar expected parameters. Dalam arsitektur sistem yang baik, fail fast adalah fitur. Dalam ekosistem agen AI saat ini, fail silently adalah default configuration.
Cost of Inference vs. Cost of Labor
Di penghujung observasi, kita harus kembali ke pertanyaan ekonomi paling mendasar: apakah agen AI benar-benar lebih murah daripada tenaga kerja manusia di Indonesia?
Analisis Goldman Sachs memperkirakan 300 juta pekerjaan global akan terdampak AI dalam satu dekade. BCG lebih konservatif: 50-55% pekerjaan di AS akan di-reshape, bukan dieliminasi. Sementara Forrester, dalam laporan Future of Work 2026, menemukan bahwa hampir setengah dari PHK yang diatribusikan pada AI akan diam-diam di-reverse ketika perusahaan menyadari bahwa agen AI tidak bisa menggantikan tacit knowledge dan contextual judgment yang hanya dimiliki oleh pekerja manusia dengan pengalaman lapangan bertahun-tahun.
Di Indonesia, di mana UMP Jakarta tahun 2026 berada di kisaran 5,3 juta rupiah—setara dengan biaya operasional agen AI yang menjalankan 50.000 inference calls per bulan di cloud tier menengah—kalkulasi ekonominya menjadi absurd. Anda membayar harga yang sama untuk sebuah entitas yang error rate-nya masih di atas 10% dan membutuhkan human-in-the-loop untuk setiap keputusan signifikan.
Dalam istilah infrastruktur, ini adalah resource allocation yang irasional: Anda mengeluarkan TCO yang setara dengan on-premise untuk mendapatkan performa serverless yang tidak pernah SLA-nya terjamin.
Log berakhir di sini. Server tetap menyala, namun pipeline antara janji vendor dan realitas operasional masih mengalami buffer overflow yang tidak akan selesai hanya dengan menambahkan lebih banyak agen. Yang dibutuhkan bukanlah otomatisasi, melainkan kejujuran tentang apa yang seharusnya tidak pernah diotomatisasi.