Kalkulator Biaya GPU
Estimasi biaya infrastruktur GPU di penyedia cloud dan hardware sendiri. Bandingkan harga instans H100, A100, L4, RTX 4090, dan MI300X dari AWS, GCP, Azure, Lambda Labs, RunPod, dan Vast.ai — dengan pemodelan diskon spot, analisis utilisasi GPU, dan perbandingan titik impas server sendiri. Berjalan 100 % di browser Anda.
Estimate GPU infrastructure costs across cloud providers and on-prem hardware. Compare hourly rates, spot discounts, and monthly totals for any GPU workload - runs privately in your browser.
Cloud Instance / GPU
GPU Specs: NVIDIA A10G
Workload Profile
Estimated Monthly GPU Cost
Annual Cost
$8,691.84
Per GPU-Hour
$1.006
Active Hours/Mo
720
Cost/Compute Hr
$1.44
Instance Cost Comparison
Same workload · sorted by monthly cost| Instance | $/hr | Monthly | Annual |
|---|---|---|---|
Vast.ai1× RTX 4090 24GB VRAM · 1 GPU | $0.350 | $252.00 | $3,024.00 |
GCPg2-standard-4 24GB VRAM · 1 GPU | $0.700 | $504.00 | $6,048.00 |
AWSg5.xlarge Selected 24GB VRAM · 1 GPU | $1.006 | $724.32 | $8,691.84 |
Lambda Labs1× A100 40GB 40GB VRAM · 1 GPU | $1.290 | $928.80 | $11,145.60 |
Vast.ai1× A100 80GB 80GB VRAM · 1 GPU | $1.400 | $1,008.00 | $12,096.00 |
RunPod1× A100 80GB 80GB VRAM · 1 GPU | $1.640 | $1,180.80 | $14,169.60 |
RunPod1× H100 SXM 80GB VRAM · 1 GPU | $3.490 | $2,512.80 | $30,153.60 |
AzureNC A100 v4 80GB VRAM · 1 GPU | $3.670 | $2,642.40 | $31,708.80 |
Lambda Labs8× H100 SXM5 80GB 80GB VRAM · 8 GPUs | $26.800 | $19,296.00 | $231,552.00 |
AWSp4d.24xlarge 40GB VRAM · 8 GPUs | $32.770 | $23,594.40 | $283,132.80 |
GCPa2-highgpu-8g 40GB VRAM · 8 GPUs | $32.770 | $23,594.40 | $283,132.80 |
AWSp4de.24xlarge 80GB VRAM · 8 GPUs | $40.970 | $29,498.40 | $353,980.80 |
Apa yang menentukan tagihan GPU
Tagihan tidak hanya bergantung pada jenis GPU: jam pemakaian harian, jumlah kartu, dan diskon yang berlaku sama besarnya dengan harga per jam.
Pilih instans, jam pemakaian per hari, jumlah GPU, dan diskon spot untuk mendapatkan biaya bulanan dan tahunan serta versi jam komputasi efektifnya.
- Jam yang ditagih = instans berjalan, meski GPU menganggur.
- Spot dan preemptible memangkas 50-70 % harga, dengan risiko interupsi.
- Utilisasi nyata mengubah jam yang ditagih menjadi jam komputasi berguna.
Memilih GPU sesuai beban kerja
GPU terkuat tidak selalu paling hemat. Keputusannya bergantung pada apakah beban Anda terikat throughput, memori, atau latensi.
- Beban terikat throughput (pelatihan batch besar): H100 biasanya sepadan.
- Beban terikat memori (inferensi batch kecil): A100 atau L40S bisa lebih murah.
- VRAM yang dibutuhkan pada FP16: bobot model plus 20-30 % ruang untuk konteks.
Membandingkan cloud dan server sendiri
Pembelian hanya menang pada utilisasi tinggi yang berkelanjutan. Jika pemakaian Anda terputus-putus, biaya tetap hardware tetap dibayar tanpa dimanfaatkan.
- Estimasi jam GPU bulanan dan utilisasi rata-rata nyata Anda.
- Hitung biaya cloud setara dengan dan tanpa diskon spot.
- Bandingkan dengan depresiasi plus listrik hardware sendiri selama 18-36 bulan.
- Putuskan berdasarkan titik impas dan toleransi Anda terhadap risiko interupsi.
Pertanyaan yang Sering Diajukan
Alat ini memperkirakan biaya finansial menjalankan beban kerja berakselerasi GPU di infrastruktur cloud atau hardware sendiri. Alat ini menghitung pengeluaran per jam, bulan, dan tahun berdasarkan jenis instans, jam pemakaian per hari, jumlah GPU, dan diskon spot opsional — memberi anggaran infrastruktur lengkap sebelum mengikat sumber daya.
Instans spot (AWS) dan VM preemptible (GCP) memakai kapasitas cloud yang menganggur dengan diskon besar, biasanya 50-70 % di bawah harga on-demand. Konsekuensinya, instans dapat dihentikan dengan pemberitahuan 2 menit saat penyedia membutuhkan kapasitas itu. Ideal untuk pelatihan dengan checkpointing, inferensi batch, dan beban yang toleran terhadap restart.
Panduan kasar untuk bobot FP16: 7B parameter ≈ 14 GB VRAM, 13B ≈ 26 GB, 34B ≈ 68 GB, 70B ≈ 140 GB. Kuantisasi INT8 memangkas kebutuhan sekitar setengahnya, INT4/GPTQ sekitar seperempatnya. Selalu tambahkan 20-30 % ruang untuk cache KV dan aktivasi saat inferensi. Untuk pelatihan, biasanya butuh 3-4× VRAM inferensi karena status optimizer dan gradien.
H100 SXM menawarkan sekitar 3× throughput FP16 dan ~1,7× bandwidth memori A100 80GB. Namun harganya juga 3-4× lebih mahal per jam. Untuk beban terikat throughput (pelatihan batch besar), H100 sering lebih hemat biaya. Untuk beban terikat memori (inferensi batch kecil), biaya per hasil berguna bisa tidak sepadan — A100 atau L40S bisa lebih ekonomis.
Server sendiri menang ketika utilisasi GPU konsisten tinggi (60 %+) dalam periode panjang (18 bulan+). Pada utilisasi tinggi, biaya per jam hardware milik sendiri (depresiasi + listrik) biasanya turun di bawah tarif on-demand cloud dalam 12-18 bulan untuk GPU kelas H100. Cloud menang untuk beban variabel, proyek singkat, atau saat butuh skalabilitas tanpa modal awal.
GPU-jam (atau jam dinding) adalah yang ditagih penyedia cloud: waktu instans berjalan, apa pun beban GPU sebenarnya. Jam komputasi (jam komputasi efektif) memperhitungkan utilisasi GPU nyata selama waktu itu. GPU dengan utilisasi 50 % selama 10 jam memberi 5 jam komputasi efektif tetapi ditagih 10 GPU-jam.
Harga mencerminkan tarif on-demand indikatif dari penyedia cloud utama dan cloud GPU khusus per pertengahan 2025. Harga nyata bervariasi menurut wilayah, diskon komitmen, dan ketersediaan spot. Selalu verifikasi harga terkini di halaman penyedia Anda sebelum menetapkan anggaran. Kalkulator ini untuk perencanaan dan perbandingan, bukan jaminan tagihan.
Sepenuhnya. Kalkulator berjalan 100 % di browser Anda. Semua input — pilihan instans, jam pemakaian, harga khusus, dan biaya server sendiri — diproses lokal di perangkat Anda dan tidak pernah dikirim ke server mana pun. Tidak perlu pendaftaran.