Mengatur Laptop untuk Kebutuhan Penggunaan Claude Code secara Offline

Penulis kebetulan menggunakan laptop dengan spesifikasi RAM 32GB dan GPU NVIDIA 6GB dirasa sudah cukup untuk menjalankan Claude Code secara offline dengan beban kerja relatif ringan-sedang. Dengan pengaturan yang tepat, ini bisa mendapatkan performa yang jauh lebih baik dibandingkan hanya mengandalkan CPU.

Berikut adalah panduan spesifik untuk menyiapkan hardware ASUS ROG Strix (boleh menggunaan laptop/PC apa saja yang setara atau lebih tinggi, tidak harus sama persis) sebelum menggunakan Claude Code dengan Ollama.

Langkah 1: Verifikasi & Optimalkan GPU NVIDIA

Langkah pertama adalah memastikan GPU aktif dan driver-nya sudah tepat.

1. Periksa Deteksi GPU:
   Buka Command Prompt atau PowerShell, lalu jalankan perintah:
   nvidia-smi
   
   Jika berhasil, akan melihat detail GPU, versi driver, dan status penggunaan memori (VRAM).
   
2. Perbarui Driver NVIDIA:
   
   Ollama memerlukan driver yang cukup baru untuk akselerasi CUDA. Untuk performa terbaik, unduh dan instal driver terbaru (minimal versi 551.61 untuk Windows) langsung dari situs resmi NVIDIA, bukan melalui GeForce Experience.
3. Paksa Ollama Gunakan GPU Diskrit:
   Beberapa laptop seperti ROG Strix biasanya memiliki GPU terintegrasi (iGPU) dan diskrit (dGPU). Agar Ollama tidak salah menggunakan iGPU yang lambat, perlu mengaturnya secara manual:
• Buka NVIDIA Control Panel.
• Masuk ke Manage 3D settings > Program Settings.
• Klik Add, lalu pilih ollama.exe (biasanya terletak di %LOCALAPPDATA%\Programs\Ollama).
• Pada opsi "Select the preferred graphics processor for this program", pilih High-performance NVIDIA processor.
• Klik Apply dan restart layanan Ollama.

Langkah 2: Sesuaikan Penyimpanan Model (Opsional)

Model AI berukuran besar (dapat mencapai puluhan GB). Secara default, model disimpan di folder home (C:\Users\NamaPengguna\.ollama). Jika drive C: terbatas, pindahkan ke drive lain (misalnya D:).

1. Buka Environment Variables di Windows (cari "environment variables" di Start Menu).
2. Di bagian "User variables", klik New.
3. Isi Variable name dengan OLLAMA_MODELS.
4. Isi Variable value dengan path folder baru kita, contoh: D:\OllamaModels.
5. Klik OK dan restart Ollama.

Langkah 3: Pilih Model Sesuai VRAM GPU

Ini adalah langkah paling krusial. Pilih model yang ukurannya sesuai dengan VRAM GPU agar semuanya dapat dimuat ke GPU dan performa tetap cepat.

• Jika VRAM GPU 8GB: Pilihan terbaik adalah qwen2.5-coder:7b (sekitar 4.5GB). Model ini memberikan keseimbangan sempurna antara kualitas coding dan kecepatan untuk kelas GPU ini.
• Jika VRAM GPU 16GB atau lebih: Jalankan model yang lebih besar dan lebih pintar seperti qwen2.5-coder:14b atau qwen2.5-coder:32b untuk tugas-tugas coding yang lebih kompleks.

Tips Optimasi Performa 💡

Jika respons terasa lambat, kita dapat menyesuaikan beberapa parameter saat menjalankan model untuk menghemat VRAM:

• Batasi Context Window: Secara default, Ollama dapat menggunakan context window yang besar. Untuk menghemat VRAM (1-2GB), batasi, misalnya: ollama run qwen2.5-coder:7b --ctx 4096.
• Atur GPU Layers: Jika model sedikit melebihi VRAM, Ollama akan otomatis melakukan partial offload (sebagian layer di GPU, sisanya di CPU). Sila memantaunya dengan nvidia-smi untuk memastikan sebagian besar layer sudah berjalan di GPU.

Dengan mengikuti langkah-langkah di atas, laptop akan siap untuk menjalankan Claude Code secara lokal dengan akselerasi GPU penuh, memberikan pengalaman ngoding yang responsif tanpa biaya API.

Setelah semua pengaturan ini selesai, dapat langsung melanjutkan ke langkah instalasi dan konfigurasi Claude Code. Selamat mencoba, semoga berhasil.