Ada ironi yang terlalu rapi bahkan untuk skenario worst-case dalam tabletop exercise etika AI: perusahaan yang mendorong karyawannya mengonsumsi 73,7 triliun token AI dalam sebulan — dan membangun dashboard untuk melacaknya — kemudian menggunakan data yang sama untuk menentukan siapa yang layak dipertahankan. Pada 14 Juli 2026, dua puluh enam mantan karyawan Meta resmi menggugat perusahaan tersebut, mengklaim bahwa sistem AI internal — termasuk keystroke monitoring, AI token-usage dashboards, dan algorithmically assisted performance rankings — secara sistematis menarget pekerja yang sedang dalam protected leave untuk PHK massal 8.000 orang pada Mei lalu.
Dalam arsitektur sistem, ini bukan sekadar pelanggaran etika. Ini adalah cascading failure yang dimulai dari lapisan metrik yang salah.
Lapisan Metrik: Ketika Proxy Menjadi Realitas
Setiap sistem evaluasi pada dasarnya adalah proxy — pengukuran tidak langsung terhadap fenomena yang terlalu kompleks untuk diukur secara langsung. Dalam konteks produktivitas pekerja pengetahuan (knowledge worker), metrik seperti jumlah token AI yang dikonsumsi, jumlah commit ke repositori, atau durasi keystroke aktif adalah proxy yang sangat kasar. Namun seperti hukum Goodhart yang klasik: ketika sebuah metrik menjadi target, ia berhenti menjadi metrik yang baik.
Meta, menurut gugatan, menggunakan AI token-usage dashboards — dashboard yang sejatinya dirancang untuk mengukur adopsi internal alat AI — sebagai salah satu input dalam menentukan siapa yang akan terkena PHK. Dalam istilah infrastruktur, ini adalah kebocoran signal dari satu pipeline ke pipeline lain yang sama sekali berbeda ranahnya. Data yang dikumpulkan untuk tujuan productivity analytics tiba-tiba dialirkan ke pipeline workforce reduction tanpa transformation layer yang memadai. Tanpa normalisasi. Tanpa context. Tanpa separation of concerns.
Konsekuensinya persis seperti yang dideskripsikan dalam gugatan: karyawan yang mengambil cuti melahirkan, cuti orangtua, atau cuti sakit — periode di mana konsumsi token AI mereka secara alami turun ke nol — secara otomatis mendapat peringkat lebih rendah. Bukan karena kinerja mereka buruk, melainkan karena proxy yang digunakan tidak memiliki branch coverage terhadap skenario ketidakhadiran yang dilindungi undang-undang. By design, metrik ini tidak bisa diakumulasi oleh seseorang yang tidak hadir.
Surface Area Serangan: Dari Keystroke hingga Severance
Gugatan ini membuka surface area yang lebih luas dari sekadar token dashboard. Meta diduga menggunakan data keystroke dan activity monitoring — alat yang semula dipasang dengan narasi “produktivitas” dan “keamanan” — sebagai bukti performa. Dalam arsitektur sistem, ini adalah scope creep yang khas: API yang dibangun untuk satu tujuan, karena aksesnya sudah terbuka, kemudian dikonsumsi oleh endpoint lain yang tidak pernah dipertimbangkan dalam original spec.
Meta membantah dengan pernyataan standar: “Workforce management and organizational decisions were and are made by people, not AI.” Namun seperti yang pernah ditulis Bloomberg dalam investigasi algoritma PHK di berbagai perusahaan teknologi, narasi “manusia tetap memegang kendali” sering kali adalah abstraction layer yang menutupi kenyataan bahwa decision support system yang menyajikan peringkat telah membingkai pilihan yang tersedia. Dalam arsitektur sistem, ketika default output dari sebuah recommendation engine sudah menyajikan daftar 26 nama yang “paling rendah produktivitasnya,” override manual membutuhkan political capital yang tidak dimiliki sebagian besar manajer lini.
Dari lokalitas terbatas, pola ini terdengar familier. Regulasi ketenagakerjaan di Indonesia — termasuk UU Cipta Kerja — memang belum secara eksplisit membahas penggunaan AI dalam keputusan PHK. Tapi bukan berarti infrastruktur serupa tidak mulai diadopsi. Perusahaan platform besar di Jakarta sudah mulai mengintegrasikan dashboards productivity score yang mirip, dengan metrik yang sama rentannya terhadap bias struktural.
Cost of Inference Manusia: 73,7 Triliun Token dan 8.000 Nyawa
Salah satu fakta paling mencengangkan dari laporan internal Meta — yang bocor ke publik beberapa minggu sebelum gugatan diajukan — adalah bahwa karyawan Meta mengonsumsi 73,7 triliun token AI dalam satu bulan. Angka ini, yang dikutip Business Insider sebagai bukti “adopsi AI internal yang masif,” pada saat yang sama digunakan sebagai metrik produktivitas dalam proses PHK.
Dalam istilah resource allocation, ini adalah binding yang tragis. Semakin rajin seorang karyawan menggunakan alat AI yang didorong perusahaan, semakin tinggi token usage-nya. Semakin tinggi token usage-nya, semakin aman posisinya dalam peringkat. Namun karyawan yang cuti — termasuk cuti melahirkan yang dijamin undang-undang — tidak bisa berpartisipasi dalam game ini. Mereka offline saat leaderboard dihitung. Sistem tidak memiliki grace period, tidak memiliki weight adjustment, tidak memiliki outlier detection yang mengenali bahwa nilai nol untuk seorang karyawan yang sedang cuti melahirkan bukanlah data yang valid — melainkan data yang hilang.
Ini adalah kegagalan data quality pada level yang paling mendasar: kegagalan membedakan antara null dan zero. Antara “tidak ada data” dan “data menunjukkan nilai nol.” Antara ketidakhadiran yang sah dan ketidakhadiran yang menandakan underperformance.
Compliance sebagai Middleware: Regulasi yang Datang Setelah Bencana
Gugatan ini juga menarik karena menyebut secara spesifik pelanggaran terhadap California and New York City laws tentang bias testing untuk sistem AI yang baru diadopsi beberapa tahun terakhir. Di Indonesia, draft Presidential Regulation on AI Ethics yang saat ini dalam tahap finalisasi — dengan kerangka risk-based categorization dan mandatory labeling of AI-generated content — masih belum menyentuh sama sekali aspek employment decision systems.
Yang diregulasi adalah output AI — konten sintetis, deepfake, label risiko — bukan input-nya: data perilaku karyawan yang dikumpulkan secara diam-diam, diproses oleh model yang tidak diaudit, dan digunakan untuk keputusan yang mengubah hidup. Dalam arsitektur sistem, ini seperti menginspeksi response body sementara membiarkan request payload tidak tervalidasi. Surface area serangan tetap terbuka lebar.
Separation of Concerns yang Tidak Pernah Ada
Akar masalah dalam kasus Meta bukanlah AI sebagai teknologi, melainkan arsitektur pengambilan keputusan yang sengaja menggabungkan concerns yang secara fundamental harus dipisah. Data produktivitas — yang seharusnya berada di domain people analytics dengan access control ketat dan purpose limitation — dialirkan ke domain workforce reduction tanpa gateway atau policy enforcement point yang memadai. Metafora container orchestration tepat di sini: ketika dua layanan dengan security context berbeda berbagi volume mount yang sama, privilege escalation hanyalah masalah waktu.
Dua puluh enam karyawan yang menggugat mungkin hanya sampel kecil dari 8.000 yang terkena PHK. Namun gugatan mereka — yang diajukan secara anonim, dengan kekhawatiran retaliation yang sah — membuka jendela ke infrastruktur pengambilan keputusan yang selama ini beroperasi di balik abstraction layer narasi “efisiensi AI.” Di balik dashboard yang rapi dan token count yang mengesankan, ada pipeline yang bocor, proxy yang salah, dan keputusan yang diambil oleh sistem yang tidak pernah dirancang untuk keadilan.
Log berakhir di sini. Middleware tetap berjalan, namun routing rules-nya kini dipertanyakan di pengadilan — dan tidak ada hotfix yang bisa menggantikan arsitektur yang cacat sejak awal.