Bitcoin Builders menjalankan platform AI dengan 50K+ pengguna aktif harian dan jutaan generasi per hari, sepenuhnya didukung oleh model open-weight yang berjalan di GPU fleet milik sendiri.

Perusahaan ini terus beradaptasi dengan cepat terhadap model baru yang rilis mingguan dan hardware GPU terbaru yang tiba setiap kuartal.

Tim bertanggung jawab untuk mengoptimalkan sistem AI dari model baru hingga siap produksi dengan performa cepat dan efisien.

• Pengalaman mendeploy model open-weight ke produksi dalam skala besar (bukan notebook atau demo).

• Pengalaman dengan berbagai arsitektur model (LLMs, VLMs, image models) dan teknik optimasi (quantization, abliteration, pruning).

• Mampu menunjukkan hasil optimasi dengan angka (misal Xx lebih cepat, $Y/bulan hemat, Z% pengurangan latency).

• Pemahaman mendalam tentang cost-per-generation dan trade-off antara performa dan biaya.

• Pengalaman dengan PyTorch, torch.compile, DeepCache, dan teknik optimasi inferensi lainnya.

• Kemampuan bekerja secara independen dan cepat beradaptasi dengan model dan hardware baru.

• Pengalaman dengan dynamic adapter serving (LoRA hot-loading, multi-model routing) merupakan nilai tambah.

• Membangun dan mengelola sistem AI/ML Infrastructure dari awal, termasuk dynamic LoRA serving dengan 100+ adapter yang di-swap per request.

• Mengoptimasi inferensi model (DeepCache, torch.compile, quantization, abliteration) untuk performa dan efisiensi biaya.

• Mengadopsi hardware GPU terbaru secara berkala dan memastikan sistem tetap mutakhir.

• Benchmarking model open-weight baru, melakukan quantisasi, menguji kompatibilitas LoRA, dan memutuskan untuk deploy atau tidak.

• Mengoptimasi caching tingkat blok untuk arsitektur GPU terbaru (misal Blackwell) dan mengukur trade-off kualitas/kecepatan.

• Menganalisis data utilisasi GPU untuk mengidentifikasi pemborosan biaya dan merancang sistem auto-scaling.

• Mendiagnosis dan menyelesaikan masalah performa (misal spike latency pukul 3 pagi akibat OOM pada pod).

• Mengelola dan mengoptimasi sistem secara independen tanpa roadmap yang ditentukan sebelumnya.