Skip to content
Poeta
Go back

Rollback Manusia: Ketika Pipeline AI Gagal di Production

Ada ironi yang terlalu on the nose bahkan untuk standar distopia korporat: perusahaan yang setahun lalu menggelar PHK massal dengan dalih “otomatisasi AI” kini diam-diam membuka portal rekrutmen untuk posisi yang sama persis. Ford merekrut kembali lebih dari 350 engineer — sebagian mantan karyawan yang mereka PHK sendiri. Klarna, yang memangkas 1.200 orang pada 2024 dan menggantinya dengan chatbot, mengaku kebablasan. IBM, setelah memangkas ribuan posisi di fungsi HR yang digantikan AI, berencana melipatgandakan perekrutan entry level hingga tiga kali lipat pada 2026.

Dalam istilah infrastruktur, ini adalah rollback yang mahal — dan skalanya bukan lagi eksperimen laboratorium.

Arsitektur Kepanikan

Keputusan PHK massal berbasis AI mengikuti pola arsitektural yang sama: asumsi bahwa model bahasa besar dapat beroperasi sebagai drop-in replacement untuk kognisi manusia. Ford, misalnya, melatih AI dengan persyaratan desain yang ada dan berharap sistem tersebut secara otomatis menghasilkan produk berkualitas tinggi. COO Ford, Kumar Galhotra, menyatakan bahwa hasil sistem kualitas otomatis yang diandalkan ternyata mengecewakan — dan baru setelah biaya garansi dan recall membengkak, perusahaan menyadari bahwa mereka telah memotong pipeline yang salah.

Menurut laporan Orgvue yang dikutip CNBC, 39% pemimpin bisnis melakukan PHK karena adopsi AI, dan dari jumlah tersebut, 55% mengakui bahwa keputusan tentang PHK itu keliru. Angka ini bukan outlier — ini adalah pola kegagalan sistematis. Dalam dunia software engineering, kita mengenal istilah premature optimization. Dalam dunia manajemen sumber daya manusia, fenomena ini bisa disebut premature automation: mengoptimalkan beban kerja sebelum memahami karakteristik workload-nya.

Commonwealth Bank of Australia memecat 40 staf customer service dan menggantinya dengan voice bot AI. Hasilnya? Volume panggilan justru meningkat — AI tidak mampu menangani kasus di luar korpus pelatihannya, dan customer yang frustrasi menelepon berkali-kali. Bank tersebut akhirnya membatalkan PHK dan mengakui bahwa mereka “did not adequately consider all relevant business considerations.” Dalam arsitektur sistem, ini adalah thundering herd problem yang disebabkan oleh misconfigured load balancer — tetapi yang menjadi korban di sini bukan paket data, melainkan penghidupan manusia.

Dari lokalitas terbatas, pola ini terlihat jelas: perusahaan memperlakukan tenaga kerja sebagai ephemeral instance yang bisa di-spin down kapan saja, lalu kaget ketika state yang hilang ternyata tidak bisa direkonstruksi dari log.

Surface Area Serangan

Ketika IBM mengganti fungsi HR dengan AI yang menangani 94% permintaan rutin, 6% sisanya — yang mencakup dilema etika, kasus diskriminasi, dan kebijakan kompleks — tidak tertangani. Head of HR IBM, Nickle LaMoreaux, menyatakan: “If we don’t continue to invest in entry-level hires, what happens in three-five years? There’s no pipeline; the well simply dries up.”

Di sinilah letak kesalahan fundamental: performa model diukur dari throughput — berapa banyak tiket yang bisa diproses per jam — sementara kualitas keputusan diukur dari edge cases yang gagal. Ini seperti mengukur uptime server tanpa pernah memeriksa data integrity-nya. Surface area serangan dari sistem AI bukan terletak pada kemampuannya memproses permintaan standar, melainkan pada ketidakmampuannya menangani distribusi long tail — tepat di area di mana manusia, dengan context switching dan heuristic reasoning-nya, justru unggul.

Menurut data Robert Half yang dilaporkan CNBC, 32% hiring manager di AS mengaku menghilangkan suatu peran karena AI dan kemudian merekrut ulang untuk posisi yang sama atau serupa. Tiga puluh dua persen — lebih dari one standard deviation dari kebetulan acak. Ini bukan anomali, melainkan systematic bias dalam proses pengambilan keputusan korporat: keyakinan bahwa model state-of-the-art dapat menggeneralisasi ke domain yang tidak terlihat, padahal AI pada dasarnya adalah sistem pattern matching yang sangat canggih — dan pattern bukanlah pemahaman.

Cost of Inference dan Ekonomi Unit

Startup AI agent mengalami nasib lebih buruk. LinkedIn melaporkan bahwa 1.800 startup AI agent tutup pada Q1 2026 saja. Reddit dan forum industri berbicara tentang “AI agent bubble is popping.” Polanya konsisten: pendiri startup membeli agent dari vendor, tidak mendapatkan hasil yang dijanjikan, dan gulung tikar sebelum sempat pivot. Dalam dunia cloud computing, ini disebut vendor lock-in dengan SLA yang tidak terpenuhi — bedanya, di sini cost of inference tidak hanya dihitung dalam API credit, melainkan dalam seluruh modal ventura yang menguap.

Laporan Intuition Labs menyoroti temuan penting: “Budgeting on ‘tech to replace humans’ without investing in training or upskilling left teams unprepared to leverage AI.” Dalam arsitektur sistem, ini analog dengan membeli hardware baru tanpa memperbarui driver atau melatih sysadmin. Perusahaan yang memotong biaya tenaga kerja tanpa menginvestasikan kembali pada middleware manusia-AI justru menciptakan bottleneck baru — sebuah cascading failure yang dimulai dari layer paling bawah organisasi.

Ford, setelah merekrut kembali para engineer-nya, berhasil menekan biaya garansi dan recall hingga ratusan juta dolar, dan menduduki peringkat teratas dalam Initial Quality Survey JD Power pekan lalu. Biaya rekrutmen 350 engineer — katakanlah USD 50-70 juta per tahun dalam gaji dan benefit — ternyata lebih murah dibandingkan kerugian karena kualitas yang menurun. Dalam bahasa resource allocation: return on investment dari manusia ternyata lebih tinggi daripada cost of inference dari model yang overprovisioned.

Pipeline yang Putus

Persoalan paling mendasar bukanlah pada AI-nya, melainkan pada rantai pasok kognisi. Ketika perusahaan mem-PHK karyawan entry level dan mid-level, mereka tidak hanya memotong biaya gaji — mereka memotong jalur pipeline yang seharusnya menghasilkan tenaga ahli di masa depan. IBM menyadari bahwa tanpa perekrutan entry level dalam 3-5 tahun, “the well simply dries up.” Ini bukan metafora — ini adalah kenyataan demografis dari sistem produksi pengetahuan.

Di Indonesia, fenomena ini memiliki dimensi tambahan. Data center investasi melonjak — dari USD 1,83 miliar pada 2026 menuju USD 3,48 miliar pada 2031, dengan proyeksi kekurangan kapasitas 1 GW pada 2030. Infrastruktur fisik tumbuh, tetapi infrastruktur kognitif — tenaga kerja yang mampu mengoperasikan, memelihara, dan mengawasi sistem ini — tidak serta merta mengikuti kurva pertumbuhan yang sama. Dalam istilah infrastruktur, kita sedang membangun highway tanpa rest area.

Rollback sebagai Strategi, Bukan Kegagalan

Analogi rollback dalam software deployment sebenarnya menawarkan perspektif yang lebih adil: rollback bukanlah kegagalan, melainkan mekanisme safety yang terencana. Perusahaan yang mampu mengakui bahwa AI bukanlah solusi universal dan merekrut kembali tenaga manusia sedang melakukan rollback yang bertanggung jawab. Masalahnya, dalam konteks PHK massal, tidak ada version control yang bisa memulihkan state sebelumnya — karyawan yang sudah pindah, kehilangan kepercayaan, atau beralih karier tidak bisa di-git checkout.

Jessica Zhang, SVP ADP, menyatakan: “Where AI outputs are inconsistent, inaccurate, or difficult to apply, companies often need to reintroduce human oversight. This can lead to duplicated effort, slower decision-making and diminished productivity gains.” Ini adalah overhead yang tidak diperhitungkan dalam kalkulasi awal — sama seperti technical debt yang tidak dimasukkan dalam sprint planning.

Log ditutup di sini. Model berjalan di production, namun ground truth-nya tetap berada di tangan manusia yang pernah dipecat. Automation bukanlah arsitektur, melainkan komitmen terhadap kualitas training data yang berkelanjutan — dan tidak ada model checkpoint yang bisa menggantikan pengalaman 20 tahun seorang engineer di lantai produksi.



Previous Post
Token Usage Dashboard sebagai Alat Eksekusi: Ketika AI Jadi Middleware PHK
Next Post
Arsitektur Dapur Negara: Overprovisioning AI pada Infrastruktur Pangan Publik