🚀 Coba Zilliz Cloud, Milvus yang sepenuhnya terkelola, secara gratis—rasakan performa 10x lebih cepat! Coba Sekarang>>

milvus-logo
LFAI
Beranda
  • Memulai
  • Home
  • Docs
  • Memulai

  • Instal Milvus

  • Jalankan Milvus dengan GPU

  • Persyaratan

Persyaratan untuk Menginstalasi Milvus dengan GPU

Halaman ini berisi daftar persyaratan perangkat keras dan perangkat lunak untuk menyiapkan Milvus dengan dukungan GPU.

Kemampuan komputasi

Kemampuan komputasi perangkat GPU Anda haruslah salah satu dari yang berikut ini: 6.0, 7.0, 7.5, 8.0, 8.6, 9.0.

Untuk memeriksa apakah perangkat GPU Anda memenuhi persyaratan, lihat Kemampuan Komputasi GPU Anda di situs web pengembang NVIDIA.

Driver NVIDIA

Driver NVIDIA untuk perangkat GPU Anda harus ada di salah satu distribusi Linux yang didukung, dan NVIDIA Container Toolkit telah diinstal dengan mengikuti panduan ini.

Untuk pengguna Ubuntu 22.04, Anda dapat menginstal driver dan container toolkit dengan perintah berikut:

$ sudo apt install --no-install-recommends nvidia-headless-545 nvidia-utils-545

Untuk pengguna OS lain, lihat panduan penginstalan resmi.

Anda dapat memeriksa apakah driver telah terinstal dengan benar dengan menjalankan perintah berikut:

$ modinfo nvidia | grep "^version"
version:        545.29.06

Anda disarankan untuk menggunakan driver versi 545 ke atas.

Persyaratan perangkat lunak

Anda disarankan untuk menjalankan klaster Kubernetes pada platform Linux.

  • kubectl adalah alat baris perintah untuk Kubernetes. Gunakan versi kubectl yang berada dalam satu perbedaan versi kecil dari klaster Anda. Menggunakan versi terbaru dari kubectl membantu menghindari masalah yang tidak terduga.
  • minikube diperlukan saat menjalankan klaster Kubernetes secara lokal. minikube membutuhkan Docker sebagai dependensi. Pastikan Anda menginstal Docker sebelum menginstal Milvus menggunakan Helm. Lihat Dapatkan Docker untuk informasi lebih lanjut.
Sistem operasiPerangkat lunakCatatan
Platform Linux
  • Kubernetes 1.16 atau yang lebih baru
  • kubectl
  • Helm 3.0.0 atau yang lebih baru
  • minikube (untuk Milvus mandiri)
  • Docker 19.03 atau yang lebih baru (untuk Milvus mandiri)
Lihat Dokumen Helm untuk informasi lebih lanjut.

Pertanyaan Umum

Bagaimana cara memulai cluster K8s secara lokal untuk tujuan pengujian?

Anda dapat menggunakan alat seperti minikube, kind, dan Kubeadm, untuk menyiapkan klaster Kubernetes secara lokal dengan cepat. Prosedur berikut ini menggunakan minikube sebagai contoh.

  1. Unduh minikube

Buka halaman Memulai, periksa apakah Anda telah memenuhi persyaratan yang tercantum di bagian Apa yang Anda perlukan, klik tombol yang menggambarkan platform target Anda, dan salin perintah untuk mengunduh dan menginstal biner.

  1. Memulai cluster K8s menggunakan minikube
$ minikube start
  1. Memeriksa status klaster K8s

Anda dapat memeriksa status klaster K8s yang terinstal menggunakan perintah berikut.

$ kubectl cluster-info

Pastikan Anda dapat mengakses klaster K8s melalui kubectl. Jika Anda belum menginstal kubectl secara lokal, lihat Menggunakan kubectl di dalam minikube.

Bagaimana cara memulai klaster K8s dengan node pekerja GPU?

Jika Anda lebih suka menggunakan node pekerja berkemampuan GPU, Anda dapat mengikuti langkah-langkah di bawah ini untuk membuat klaster K8s dengan node pekerja GPU. Kami menyarankan untuk menginstal Milvus pada cluster K8s dengan node pekerja GPU dan menggunakan kelas penyimpanan default yang disediakan.

  1. Menyiapkan node pekerja GPU

Untuk menggunakan node pekerja berkemampuan GPU, ikuti langkah-langkah di Mempersiapkan node GPU Anda.

  1. Mengaktifkan dukungan GPU pada K8

Terapkan nvidia-device-plugin dengan Helm dengan mengikuti langkah-langkah berikut .

Setelah menyiapkan, lihat sumber daya GPU dengan perintah berikut. Ganti <gpu-worker-node> dengan nama node yang sebenarnya.

  $ kubectl describe node <gpu-worker-node>

  Capacity:
  ...
  nvidia.com/gpu:     4
  ...
  Allocatable:
  ...
  nvidia.com/gpu:     4
  ...
  ```  

Coba Milvus yang Dikelola secara Gratis

Zilliz Cloud bebas masalah, didukung oleh Milvus dan 10x lebih cepat.

Mulai
Umpan balik

Apakah halaman ini bermanfaat?