Persyaratan untuk Menginstalasi Milvus dengan GPU
Halaman ini berisi daftar persyaratan perangkat keras dan perangkat lunak untuk menyiapkan Milvus dengan dukungan GPU.
Kemampuan komputasi
Kemampuan komputasi perangkat GPU Anda haruslah salah satu dari yang berikut ini: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.
Untuk memeriksa apakah perangkat GPU Anda memenuhi persyaratan, lihat Kemampuan Komputasi GPU Anda di situs web pengembang NVIDIA.
Driver NVIDIA
Driver NVIDIA untuk perangkat GPU Anda harus ada di salah satu distribusi Linux yang didukung, dan NVIDIA Container Toolkit telah diinstal dengan mengikuti panduan ini.
Untuk pengguna Ubuntu 22.04, Anda dapat menginstal driver dan container toolkit dengan perintah berikut:
$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545
Untuk pengguna OS lain, lihat panduan penginstalan resmi.
Anda dapat memeriksa apakah driver telah terinstal dengan benar dengan menjalankan perintah berikut:
$ modinfo nvidia | grep "^version"
version: 545.29.06
Anda disarankan untuk menggunakan driver versi 545 ke atas.
Persyaratan perangkat lunak
Anda disarankan untuk menjalankan klaster Kubernetes pada platform Linux.
- kubectl adalah alat baris perintah untuk Kubernetes. Gunakan versi kubectl yang berada dalam satu perbedaan versi kecil dari klaster Anda. Menggunakan versi terbaru dari kubectl membantu menghindari masalah yang tidak terduga.
- minikube diperlukan saat menjalankan klaster Kubernetes secara lokal. minikube membutuhkan Docker sebagai dependensi. Pastikan Anda menginstal Docker sebelum menginstal Milvus menggunakan Helm. Lihat Dapatkan Docker untuk informasi lebih lanjut.
| Sistem operasi | Perangkat lunak | Catatan |
|---|---|---|
| Platform Linux |
| Lihat Dokumen Helm untuk informasi lebih lanjut. |
Pertanyaan Umum
Bagaimana cara memulai cluster K8s secara lokal untuk tujuan pengujian?
Anda dapat menggunakan alat seperti minikube, kind, dan Kubeadm, untuk menyiapkan klaster Kubernetes secara lokal dengan cepat. Prosedur berikut ini menggunakan minikube sebagai contoh.
- Unduh minikube
Buka halaman Memulai, periksa apakah Anda telah memenuhi persyaratan yang tercantum di bagian Apa yang Anda perlukan, klik tombol yang menggambarkan platform target Anda, dan salin perintah untuk mengunduh dan menginstal biner.
- Memulai cluster K8s menggunakan minikube
$ minikube start
- Memeriksa status klaster K8s
Anda dapat memeriksa status klaster K8s yang terinstal menggunakan perintah berikut.
$ kubectl cluster-info
Pastikan Anda dapat mengakses klaster K8s melalui kubectl. Jika Anda belum menginstal kubectl secara lokal, lihat Menggunakan kubectl di dalam minikube.
Bagaimana cara memulai klaster K8s dengan node pekerja GPU?
Jika Anda lebih suka menggunakan node pekerja berkemampuan GPU, Anda dapat mengikuti langkah-langkah di bawah ini untuk membuat klaster K8s dengan node pekerja GPU. Kami menyarankan untuk menginstal Milvus pada cluster K8s dengan node pekerja GPU dan menggunakan kelas penyimpanan default yang disediakan.
- Menyiapkan node pekerja GPU
Untuk menggunakan node pekerja berkemampuan GPU, ikuti langkah-langkah di Mempersiapkan node GPU Anda.
- Mengaktifkan dukungan GPU pada K8
Terapkan nvidia-device-plugin dengan Helm dengan mengikuti langkah-langkah berikut .
Setelah menyiapkan, lihat sumber daya GPU dengan perintah berikut. Ganti <gpu-worker-node> dengan nama node yang sebenarnya.
$ kubectl describe node <gpu-worker-node>
Capacity:
...
nvidia.com/gpu: 4
...
Allocatable:
...
nvidia.com/gpu: 4
...
```