Machine learning di VPS bisa berarti banyak hal — dari menjalankan model kecil untuk inference sampai melatih model. Kebutuhannya sangat berbeda.
KENALI DULU JENIS KEBUTUHANNYA
- 1Inference ringan — menjalankan model kecil untuk prediksi. Butuh RAM sedang.
- 2Fine-tuning kecil — menyesuaikan model kecil dengan data sendiri. Butuh RAM besar.
- 3Training dari nol — melatih model dari awal. Umumnya butuh GPU.
- 4Data processing — membersihkan dan mengolah dataset. Butuh CPU dan disk cepat.
SPESIFIKASI PER KEBUTUHAN
- Inference ringan: 2 GB RAM, 1 vCPU — paket Penta Rp30.000
- Inference + beberapa model: 4 GB RAM, 2 vCPU — Celestia Rp50.000
- Fine-tuning model kecil: 8 GB RAM, 4 vCPU — Hyperion Rp70.000
- Training serius: butuh GPU — VPS CPU tidak memadai
KAPAN VPS CPU TIDAK CUKUP?
- Melatih model besar seperti LLM dari nol
- Fine-tuning model bahasa berukuran besar
- Beban kerja yang butuh CUDA atau akselerasi GPU
Untuk kasus ini, pilihan realistisnya:
- 1Sewa GPU cloud secara per jam hanya saat dibutuhkan
- 2Latih di layanan notebook cloud, lalu deploy model ke VPS
- 3Gunakan API model dari provider, dan VPS hanya untuk orkestrasi
STRATEGI HEMAT YANG UMUM DIPAKAI
- Latih atau fine-tune di GPU cloud, deploy hasilnya ke VPS murah
- Simpan model di storage, bukan di memori, saat tidak dipakai
- Gunakan format model yang efisien seperti ONNX
- Batasi konkurensi inference agar RAM tidak habis
- Cache hasil inference untuk input yang berulang
TOOL YANG SERING DIPAKAI
- Python dengan scikit-learn, pandas, numpy untuk ML klasik
- PyTorch atau TensorFlow untuk deep learning
- ONNX Runtime untuk inference cepat di CPU
- Jupyter untuk eksplorasi, lalu pindahkan ke script produksi
CATATAN PENTING SOAL STORAGE
Dataset dan model bisa sangat besar. Pastikan paket storage cukup, dan pertimbangkan menyimpan dataset di object storage terpisah daripada memenuhi disk VPS.
Rekomendasi: mulai dari paket Penta Rp30.000 untuk eksperimen inference, naikkan ke Hyperion kalau mulai melakukan fine-tuning.