Tutorial Cara Menginstall LLama 3 di Windows 11

Llama 3, model bahasa besar terbaru dari Meta, membuka pintu bagi berbagai kemungkinan. Dari menjawab pertanyaan rumit hingga membantu pekerjaan rumah, kemampuannya hampir tak terbatas. Keuntungan terbesar? Anda bisa memanfaatkannya secara offline dengan menginstal Llama 3 secara lokal di komputer Windows 11 Anda. Artikel ini akan memandu Anda langkah demi langkah dalam proses instalasi yang mudah.

Menguak Potensi Llama 3 di Windows:

Memasuki dunia Llama 3 di Windows 11 mungkin terdengar menakutkan, tetapi dengan panduan ini, Anda akan merasakan kemudahannya. Walaupun metode instalasi melalui Python memerlukan keahlian teknis, ada cara yang lebih sederhana untuk mengakses kekuatan Llama 3. Mari selami kedua metode ini:

Metode 1: Jalankan Llama 3 di Windows 11 melalui Command Prompt:

Untuk memulai perjalanan ini, Anda perlu menggunakan Ollama, alat yang membantu Anda menjalankan model bahasa besar secara lokal. Ikuti langkah-langkah berikut:

1. Unduh Ollama: Kunjungi situs web resmi Ollama dan klik tombol "Download." Pilih opsi "Windows" dan unduh file exe untuk instalasi.

2. Instal Ollama: Jalankan file exe yang diunduh dan ikuti instruksi di layar untuk menginstal Ollama di komputer Anda. Setelah selesai, restart komputer Anda agar perubahan diterapkan.

3. Temukan Model Llama 3: Setelah Ollama terinstal, buka situs web Ollama dan klik opsi "Models." Di sini Anda akan melihat berbagai model Llama 3 yang tersedia. Llama 3.1 hadir dalam tiga variasi: 8B, 70B, dan 405B. Untuk Llama 3.2, tersedia dua versi: 1B dan 3B.

4. Pilih dan Jalankan Model Anda: Tentukan versi Llama 3 yang ingin Anda gunakan (misalnya, Llama 3.2) dan pilih parameter yang sesuai (1B atau 3B). Salin perintah yang disediakan di samping parameter yang dipilih.

5. Jalankan Perintah di Command Prompt: Buka Command Prompt di komputer Anda, tempel perintah yang disalin, dan tekan Enter. Tunggu beberapa saat hingga proses pengunduhan selesai. Kecepatan internet Anda akan memengaruhi durasi unduhan. Setelah selesai, Anda akan melihat pesan sukses di Command Prompt.

6. Mulai Interaksi: Sekarang, ketik pertanyaan atau instruksi Anda di Command Prompt untuk menggunakan model Llama 3.2 yang telah Anda instal. Anda bisa menggunakan perintah yang sama di Command Prompt untuk menjalankan Llama 3.1 atau 3.2 di kemudian hari.

Keuntungan dan Kekurangan:

Meskipun metode ini sederhana dan mudah diterapkan, ada satu kelemahan: riwayat percakapan Anda tidak akan tersimpan. Jika Anda menginginkan pengalaman yang lebih kaya dengan antarmuka pengguna yang lebih ramah dan fitur penyimpanan riwayat, maka metode selanjutnya adalah jawabannya.

Metode 2: Akses Llama 3 melalui Antarmuka Web di Windows 11:

Dengan menggunakan antarmuka web, Anda mendapatkan pengalaman yang lebih interaktif dan fungsional. Anda akan dapat mengakses riwayat percakapan Anda dan menikmati tampilan yang lebih baik. Untuk ini, Anda perlu menginstal Ollama dan Docker di komputer Anda.

1. Pastikan Ollama Terinstal: Jika Anda belum menginstal Ollama, ikuti langkah-langkah yang dijelaskan pada metode pertama untuk menginstalnya.

2. Unduh dan Instal Docker: Kunjungi situs web resmi Docker dan unduh installer untuk Windows. Jalankan file installer dan ikuti instruksi di layar untuk menginstal Docker di komputer Anda.

3. Buat Akun Docker: Setelah Docker terinstal, jalankan aplikasi Docker dan buat akun baru. Anda perlu mendaftar dan masuk ke akun Anda agar Docker dapat berfungsi dengan baik.

4. Jalankan Perintah Docker: Buka Command Prompt dan salin-tempel perintah berikut:

      docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
    

Use code with caution.

1. Tunggu Kontainer Docker: Proses ini akan memakan waktu beberapa saat karena Docker perlu mengunduh sumber daya yang diperlukan. Bersabarlah hingga proses selesai.

2. Akses Antarmuka Web: Setelah perintah selesai dijalankan, buka aplikasi Docker. Di bagian kiri, pilih "Containers." Anda akan melihat kontainer yang dibuat dengan port 3000:8080. Klik port tersebut untuk membuka tab baru di browser web Anda.

3. Buat Akun dan Mulai Berinteraksi: Anda akan diminta untuk membuat akun dan masuk. Setelah masuk, Anda dapat mulai menggunakan Llama 3 melalui browser web Anda. Perhatikan bahwa alamat web akan menunjukkan localhost:3000, yang menandakan bahwa Llama 3 sedang dijalankan secara lokal di komputer Anda.

4. Pilih Model Anda: Dari menu dropdown, pilih model Llama 3 yang ingin Anda gunakan. Jika Anda ingin menambahkan model lainnya, Anda perlu menginstalnya melalui Ollama menggunakan perintah yang sesuai.

5. Simpan dan Kelola Riwayat: Semua riwayat percakapan Anda akan disimpan dan dapat diakses di sisi kiri antarmuka web. Untuk keluar, cukup logout dari sesi Anda di browser web.

6. Hentikan Docker: Setelah selesai menggunakan Llama 3, buka aplikasi Docker dan klik tombol "Stop" untuk menghentikan kontainer Docker. Kemudian, Anda dapat menutup aplikasi Docker.

Memulai Lagi:

Untuk menggunakan Llama 3 melalui browser web Anda di lain waktu, cukup jalankan Ollama dan Docker. Tunggu beberapa menit hingga keduanya siap, lalu klik port di kontainer Docker untuk membuka server localhost di browser Anda. Masuk ke akun Anda dan mulai gunakan Llama 3!

Pertanyaan Umum:

Bisakah Llama 3 dijalankan di Windows?

Ya, Llama 3 dapat dijalankan di Windows, tergantung pada konfigurasi perangkat keras komputer Anda. Model 1B adalah yang paling ringan dan dapat dijalankan melalui Command Prompt.

Berapa RAM yang dibutuhkan untuk Llama 3?

Model 1B dari Llama 3.2 membutuhkan setidaknya 16 GB RAM untuk dapat berjalan dengan lancar. Selain itu, pastikan komputer Anda dilengkapi dengan GPU yang kuat. Model Llama 3 yang lebih besar membutuhkan sumber daya sistem yang lebih banyak.

Kesimpulan:

Dengan langkah-langkah yang mudah dan jelas, Anda dapat menginstal Llama 3 di Windows 11 secara lokal dan memanfaatkan kemampuannya yang luar biasa. Anda tidak perlu koneksi internet untuk mengakses model bahasa yang canggih ini. Mulailah petualangan Anda dengan Llama 3 dan buka potensi baru dalam menjelajahi dunia informasi!