Applied AI
Membawa Prototipe AI Menjadi Produk yang Siap Produksi
Juli 2026 · 4 menit baca
Setiap produk AI dimulai dari momen ketika prototipe berhasil dan seisi ruangan antusias. Model menghasilkan sesuatu yang benar-benar mengesankan, seseorang berkata “kita harus merilis ini”, dan sebuah demo berubah menjadi roadmap. Yang disembunyikan momen itu adalah betapa sempitnya kondisi di baliknya: input yang dikurasi, operator yang sabar, tanpa tekanan biaya, dan tidak ada yang mengukur seberapa sering hasilnya sekadar layak, bukan luar biasa.
Saya melewati transisi ini saat membangun produk desain rumah berbantuan AI untuk konsumen — membawa sebuah kapabilitas generatif dari prototipe yang menjanjikan menjadi sesuatu yang diandalkan pengguna nyata di pasar nyata, dari prompt design sampai production image workflow. Pelajaran yang paling membekas: model jarang menjadi bagian tersulit. Jarak antara prototipe dan produk hampir seluruhnya berupa engineering di sekitarnya, dan ia diukur dalam keputusan-keputusan yang tidak glamor.
Tulisan ini membahas area tempat jarak itu paling terasa bagi saya — input, evaluasi, latency dan biaya, perilaku saat gagal, serta apa yang terjadi setelah peluncuran — pertanyaan yang sebaiknya diajukan tim tepat ketika sebuah prototipe mulai berubah menjadi komitmen.
Input nyata tidak seperti input demo
Prototipe mengonsumsi input yang dipilih orang yang mendemokannya. Produk mengonsumsi apa pun yang benar-benar diberikan pengguna: foto buram, permintaan ambigu, konten dalam bahasa yang tidak diduga, dan input yang tidak pernah diantisipasi antarmuka. Investasi engineering serius yang pertama adalah lapisan antara pengguna dan model — memvalidasi dan menormalkan apa yang masuk, membentuknya menjadi sesuatu yang ditangani model dengan baik, dan menolak sejak dini apa yang tidak akan pernah bisa ditangani. Prompt design juga hidup di sini: prompt yang bersinar dengan input bersih harus direstrukturisasi, kadang berkali-kali, agar tetap stabil di rentang input berantakan yang dihasilkan audiens sungguhan. Tidak ada dari pekerjaan ini yang terlihat di demo, dan semuanya menentukan apakah produk selamat melewati minggu-minggu pertamanya.
Evaluasi tidak boleh berhenti pada menilai sekilas
Di fase prototipe, penilaian kualitas berarti seseorang melihat output lalu mengangguk. Cara itu tidak bisa diskalakan, dan lebih buruk lagi, tidak mendeteksi regresi: ubah prompt atau pipeline, dan Anda tidak punya cara mengetahui apakah produk secara keseluruhan membaik atau memburuk. Sebelum peluncuran, kualitas harus menjadi terukur — sekumpulan input yang representatif, kriteria eksplisit tentang apa yang dianggap layak, dan proses yang bisa diulang untuk menilai output terhadap kriteria itu. Ia tidak perlu canggih untuk mengubah keadaan; evaluation set yang sederhana pun mengubah “saya rasa prompt ini lebih baik” menjadi klaim yang berbukti. Setiap perubahan yang memengaruhi generasi sebaiknya melewatinya, sebagaimana kode melewati test.
Latency dan biaya adalah keputusan produk
Beban kerja generatif lambat dan mahal dengan cara yang tidak dialami fitur konvensional, dan keduanya membentuk produk. Generasi yang memakan waktu cukup lama membutuhkan pengalaman asinkron — progres, notifikasi, sesuatu yang jujur — alih-alih spinner yang berpura-pura sistemnya cepat. Biaya per generasi dikalikan pemakaian nyata menjadi tagihan yang menentukan apakah bisnisnya masuk akal; ia memaksa pilihan tentang caching, tentang menakar beban kerja di balik tiap fitur, dan tentang request mana yang benar-benar layak menempuh jalur mahal. Memperlakukan latency dan biaya sebagai requirement produk yang menahan peluncuran, bukan optimasi pasca-rilis, adalah salah satu garis paling jelas antara tim yang berhasil merilis dan tim yang diam-diam memensiunkan fiturnya.
Rancang untuk hari ketika generasi gagal
Generasi pasti akan gagal: timeout, output yang menurun kualitasnya, error dari hulu, dan input kasus tepi yang salah ditangani pipeline. Yang membedakan sistem production bukan menghindari kegagalan, melainkan memutuskan perilakunya di muka. Generasi yang gagal butuh penanganan eksplisit yang bisa dipahami pengguna — jalur retry yang jelas, bukan layar rusak, dan jelas bukan hasil yang diam-diam menurun kualitasnya tapi disajikan seolah normal. Silent fallback sangat korosif pada produk AI karena kualitas output memang sudah probabilistik; jika sistem diam-diam menyajikan output terburuknya di hari-hari terburuknya, pengguna kehilangan kepercayaan sebelum tim menyadari ada yang salah. Kegagalan yang lantang adalah fitur.
Peluncuran adalah awal evaluasi, bukan akhirnya
Prototipe meraih keberhasilan awalnya melawan dunia yang statis. Production tidak statis: pola pemakaian bergeser ke input yang tidak pernah Anda uji, dan tumpukan teknologi di sekitarnya terus bergerak. Proses evaluasi yang dibangun sebelum peluncuran harus terus berjalan sesudahnya — memantau kualitas pada trafik nyata, memeriksa ulang setelah setiap perubahan pipeline, dan memperlakukan penurunan kualitas output yang perlahan sebagai insiden, bukan sekadar kesan. Prototipe membuktikan gagasannya satu kali. Produk harus terus membuktikannya, dan hanya disiplin di sekeliling model yang bisa melakukan itu.
Jika ada satu cara pandang baru yang ingin saya tawarkan kepada tim yang berdiri di transisi ini: prototipe bukanlah versi awal dari produk. Ia adalah argumen bahwa produknya layak dibangun. Produk yang sebenarnya adalah penanganan input, proses evaluasi, anggaran latency dan biaya, serta perilaku kegagalan yang membungkus gagasan awal itu — dan tim yang menganggarkan engineering di sekelilingnya, alih-alih memperlakukannya sebagai pemolesan, adalah tim yang fitur AI-nya masih berjalan setahun kemudian.