Bagaimana untuk memasang LLaMA 3 pada Windows 11 PC?

Llama 3 ialah model bahasa besar terbaru Meta. Anda boleh menggunakannya untuk pelbagai tujuan, seperti menyelesaikan pertanyaan anda, mendapatkan bantuan dengan kerja rumah dan projek sekolah anda, dsb. Menggunakan Llama 3 pada mesin Windows 11 anda secara setempat akan membantu anda menggunakannya pada bila-bila masa walaupun tanpa akses kepada internet. Artikel ini menunjukkan kepada anda cara memasang Llama 3 pada PC Windows 11 .

fail kata laluan disimpan firefox

Cara memasang Llama 3 pada PC Windows 11

Memasang Llama 3 pada PC Windows 11 melalui Python memerlukan kemahiran teknikal dan pengetahuan. Walau bagaimanapun, beberapa kaedah alternatif membolehkan anda menggunakan Llama 3 secara setempat pada mesin Windows 11 anda. Saya akan menunjukkan kepada anda kaedah ini.

Untuk memasang Llama 3 pada PC Windows 11 anda, anda mesti melaksanakan beberapa arahan dalam Prompt Perintah. Walau bagaimanapun, ini hanya akan membenarkan anda menggunakan versi baris arahannya. Anda mesti mengambil langkah selanjutnya jika anda ingin menggunakan UI webnya. Saya akan menunjukkan kepada anda kedua-dua kaedah ini.

Sebarkan Llama 3 pada Windows 11 PC melalui CMD

Untuk menggunakan Llama 3 pada PC Windows 11 anda, anda perlu memasang Ollama pada mesin Windows anda. Langkah-langkah untuk perkara yang sama adalah seperti berikut:

1. melawat laman web rasmi Ollama .
2. Klik pada Muat turun butang dan kemudian pilih Windows .
3. Sekarang, klik pada Muat turun untuk Windows butang untuk menyimpan fail exe pada PC anda.
4. Jalankan fail exe untuk memasang Ollama pada mesin anda.

Setelah Ollama dipasang pada peranti anda, mulakan semula komputer anda. Ia sepatutnya berjalan di latar belakang. Anda boleh melihatnya dalam Dulang Sistem anda. Sekarang, klik pada pilihan Model di laman web Ollama. Anda akan melihat model yang berbeza.

Llama 3.1 tersedia dalam tiga parameter berikut:

• 8B
• 70B
• 405B

Yang terakhir ialah parameter terbesar dan jelas tidak boleh dijalankan pada PC kelas rendah. Llama 3.2 mempunyai dua parameter berikut:

• 1B
• 3B

Klik pada versi Llama yang anda mahu pasang pada PC anda. Sebagai contoh, jika anda ingin memasang Llama 3.2, klik pada Llama 3.2. Dalam menu lungsur, anda boleh memilih parameter yang ingin anda pasang. Selepas itu, salin arahan di sebelahnya dan tampalkannya ke dalam Command prompt.

Untuk kemudahan anda, saya telah menulis kedua-dua arahan untuk model Llama 3.2. Untuk memasang model Llama 3.2 3B, jalankan arahan berikut:

ollama run llama3.2:3b

Untuk memasang model Llama 3.2 1B, gunakan arahan berikut:

ollama run llama3.2:1b

Buka Prompt Perintah, taip mana-mana arahan yang disebutkan di atas (berdasarkan keperluan anda), dan tekan Masuk . Ia akan mengambil sedikit masa untuk memuat turun fail yang diperlukan. Masa muat turun juga bergantung pada kelajuan sambungan internet anda. Selepas selesai, anda akan melihat kejayaan mesej dalam Prompt Perintah.

Sekarang, taip mesej anda untuk menggunakan model Llama 3.2. Jika anda ingin memasang model Llama 3.1, gunakan arahan yang tersedia di tapak web Ollama.

Pada kali seterusnya anda melancarkan Command Prompt, gunakan arahan yang sama untuk menjalankan Llama 3.1 atau 3.2 pada PC anda.

Memasang Llama 3 melalui CMD mempunyai satu kelemahan. Ia tidak menyimpan sejarah sembang anda. Walau bagaimanapun, jika anda menggunakannya pada hos tempatan, sejarah sembang anda akan disimpan dan anda akan mendapat Antara Muka Pengguna yang lebih baik. Kaedah seterusnya menunjukkan cara melakukannya.

Gunakan UI Web Llama 3 pada Windows 11

Menggunakan Llama 3 pada pelayar web menyediakan antara muka pengguna yang lebih baik dan juga menyimpan sejarah sembang berbanding menggunakannya pada tetingkap CMD. Saya akan menunjukkan kepada anda cara untuk menggunakan Llama 3 pada pelayar web anda.

Untuk menggunakan Llama 3 dalam pelayar web anda, Llama 3 melalui Ollama dan Docker harus dipasang pada sistem anda. Jika anda belum memasang Llama 3 lagi, pasangkannya menggunakan Ollama (seperti yang dijelaskan di atas). Sekarang, muat turun dan pasang Docker daripadanya laman web rasmi .

mengapa saya tidak boleh menampal ke powerpoint

Selepas memasang Docker, lancarkannya dan daftar untuk membuat akaun. Docker tidak akan berjalan sehingga anda mendaftar. Selepas mendaftar, log masuk ke akaun anda pada apl Docker. Minimumkan Docker ke Dulang Sistem. Apl Docker dan Ollama sepatutnya berjalan di latar belakang. Jika tidak, anda tidak boleh menggunakan Llama 3 dalam pelayar web anda.

Sekarang, buka Prompt Perintah, salin arahan berikut, dan tampalkannya ke Prompt Perintah:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

bagaimana membuat pdf dicari percuma

Perintah di atas akan mengambil sedikit masa untuk memuat turun sumber yang diperlukan. Oleh itu, bersabarlah. Selepas selesai arahan, buka Docker dan pilih Bekas bahagian dari sebelah kiri. Anda akan melihat bekas dibuat secara automatik dengan port 3000:8080.

Klik pada port 3000:8080. Ini akan membuka tab baharu dalam penyemak imbas web lalai anda. Sekarang, daftar dan log masuk untuk menggunakan Llama 3 pada penyemak imbas web anda. Jika anda melihat bar alamat, anda akan melihat localhost:3000 di sana, yang bermaksud bahawa Llama 3 dihoskan secara tempatan pada komputer anda. Anda boleh menggunakannya tanpa sambungan internet.

Pilih model sembang Llama anda daripada menu lungsur. Jika anda ingin menambah lebih banyak model sembang Llama 3, anda perlu memasangnya melalui Ollama menggunakan arahan yang diperlukan. Selepas itu, model akan tersedia secara automatik dalam penyemak imbas web anda.

Semua sejarah sembang anda akan disimpan dan boleh diakses di sebelah kiri. Apabila anda ingin keluar, log keluar sesi anda dalam pelayar web anda. Selepas itu, buka aplikasi Docker dan klik pada Berhenti butang untuk menghentikan Docker. Sekarang, anda boleh menutup Docker.

Apabila anda ingin menggunakan Llama 3 dalam penyemak imbas web anda pada kali seterusnya, lancarkan Ollama dan Docker, tunggu beberapa minit, dan kemudian klik pada port dalam bekas Docker untuk membuka pelayan localhost dalam penyemak imbas web anda. Sekarang, log masuk ke akaun anda dan mula menggunakan Llama 3.

Saya harap ini membantu.

Bolehkah Llama 3 berjalan pada Windows?

Bergantung pada konfigurasi perkakasan komputer anda, anda boleh menjalankan Llama 3 pada sistem anda. Model 1Bnya adalah yang paling ringan. Anda boleh memasang dan menjalankannya pada sistem anda melalui gesaan arahan.

Berapa banyak RAM yang saya perlukan untuk Llama 3?

Model paling ringan Llama 3 ialah Llama 3.2 1B. Sistem anda sepatutnya mempunyai 16 GB RAM untuk menjalankan model Llama 3.2 1B. Di samping itu, sistem anda juga harus mempunyai GPU tugas berat. Model Llama 3 yang lebih tinggi memerlukan lebih banyak sumber sistem.

Baca seterusnya : Cara menggunakan Leonardo Phoenix AI .