Inti bacaan

Jadwal pemakaian GPU sering kali disusun dari satu perkiraan sederhana. Hitung banyaknya operasi matematika yang diperlukan model, lalu bagi dengan kemampuan perangkat. Masalah muncul ketika pelatihan berhenti sejenak untuk mengevaluasi hasil atau menulis berkas berukuran besar. Pekerjaan pengguna berikutnya tetap harus menunggu meskipun komputer sedang melakukan sesuatu selain memperbarui bobot model.

Pada 18 November 2026, penulis dari Dharma-AI memaparkan analisis 272 pekerjaan fine-tuning, yaitu pelatihan lanjutan model dengan contoh yang lebih khusus. Data berasal dari log operasional dalam satu lingkungan perusahaan dengan GPU H200 yang dipakai bersama. Penulis mengukur selang sejak pekerjaan memperoleh GPU sampai pekerjaan selesai. Antrean sebelum GPU tersedia tidak masuk hitungan. Perbedaan definisi ini penting bila seseorang ingin memakai hasilnya untuk memberi perkiraan kepada pengguna.

Apa yang perlu dicatat sebelum memesan GPU?

Bayangkan dua kelompok di laboratorium kampus memperoleh slot berturut-turut. Kelompok pertama memperkirakan durasi dari kecepatan pemrosesan contoh latihan. Namun mereka juga menjalankan evaluasi tiap beberapa putaran dan menyimpan salinan model agar pekerjaan bisa dilanjutkan bila terputus. Kelompok kedua memerlukan waktu mulai yang bisa diandalkan. Sebelum menambah anggaran perangkat, pengelola bisa memeriksa berapa lama dua kegiatan pendukung tersebut menyita slot pertama.

Apa yang diukur penelitian?

Para penulis membandingkan hitungan berbasis operasi matematika dengan beberapa model prediksi yang memanfaatkan konfigurasi yang sudah tersedia sebelum pelatihan dimulai. Model CatBoost yang mereka pilih memakai 24 ciri. Di antaranya jumlah contoh yang melewati seluruh putaran evaluasi dan besaran terkait penyimpanan checkpoint, yakni salinan keadaan model pada tahap tertentu. Pengujian memakai validasi silang pada data dari lingkungan yang sama.

Dalam hasil yang dilaporkan, rata-rata besar kesalahan absolut CatBoost sekitar 1,71 jam. Ukuran itu merata-ratakan jarak antara perkiraan dan waktu sesungguhnya, baik perkiraan terlalu pendek maupun terlalu panjang. Angka tersebut tidak memberi kepastian setiap pekerjaan akan selesai dalam selang dua jam dari prediksi. Apalagi, perbedaan jenis perangkat atau kecepatan penyimpanan bisa mengubah pola yang dipelajari sistem.

Mulai dengan catatan waktu yang bisa digunakan ulang

Untuk percobaan kecil, catat waktu masuk antrean, waktu mendapat perangkat, awal dan akhir evaluasi, awal dan akhir penulisan checkpoint, serta waktu GPU dilepas. Simpan konfigurasi bersama catatan itu. Dua pekerjaan yang sama-sama berlangsung semalam bisa menyisakan persoalan yang berbeda. Satu mungkin lama menunggu perangkat, yang lain langsung mulai tetapi berulang kali menunggu penulisan berkas.

Untuk menyusun jadwal berikutnya, bandingkan beberapa pekerjaan yang ukuran model dan perangkatnya mirip. Tampilkan rentang durasi yang pernah diamati beserta kondisi yang paling memperlambat. Saat mengubah jadwal penyimpanan, pertimbangkan juga waktu pelatihan yang harus diulang jika sesi berhenti mendadak.

Seseorang membaca spreadsheet di laptop sebagai ilustrasi pekerjaan dengan data.
Foto ilustrasi pembacaan data pada komputer. Foto: Gorilla ROI Data Connector / Unsplash · Unsplash License

Sumber dan referensi

Analisis menggabungkan fakta bersumber dan penafsiran Nalarku.

Sumber diperiksa 19 Nov 2026, 20.23 WIB. Disusun dengan bantuan AI dan review editor.

Proses editorial dan penggunaan AI ·

NALAR PEKAN

Pahami kabar AI pilihan lewat email.

Kabar yang sudah ditinjau, konteks Indonesia, dan satu latihan untuk dicoba. Email dikirim ketika edisi sudah siap; konfirmasi alamatmu untuk berlangganan.

Memeriksa kesiapan pendaftaran email…

Pernah berlangganan? Kelola langganan atau daftar kembali.

Baca edisi web · Penggunaan data email