Gambaran Umum Opsi Penerapan Milvus

Milvus adalah basis data vektor yang berkinerja tinggi dan dapat diskalakan. Milvus mendukung kasus penggunaan dengan berbagai ukuran, mulai dari demo yang berjalan secara lokal di Notebook Jupyter hingga cluster Kubernetes berskala besar yang menangani puluhan miliar vektor. Saat ini, ada tiga opsi penerapan Milvus: Milvus Lite, Milvus Standalone, dan Milvus Distributed.

Milvus Lite

Milvus Lite adalah pustaka Python yang dapat diimpor ke dalam aplikasi Anda. Sebagai versi ringan dari Milvus, ini sangat ideal untuk membuat prototipe cepat di Notebook Jupyter atau berjalan di perangkat pintar dengan sumber daya terbatas. Milvus Lite mendukung API yang sama dengan penerapan Milvus lainnya. Kode sisi klien yang berinteraksi dengan Milvus Lite juga dapat bekerja dengan instance Milvus dalam mode penerapan lainnya.

Untuk mengintegrasikan Milvus Lite ke dalam aplikasi Anda, jalankan pip install pymilvus untuk menginstalnya dan gunakan pernyataan MilvusClient("./demo.db") untuk menginstansiasi basis data vektor dengan file lokal yang menyimpan semua data Anda. Untuk lebih jelasnya, lihat Menjalankan Milvus Lite.

Milvus Standalone

Milvus Standalone adalah penerapan server mesin tunggal. Semua komponen Milvus Standalone dikemas ke dalam satu citra Docker, sehingga memudahkan penyebaran. Jika Anda memiliki beban kerja produksi tetapi memilih untuk tidak menggunakan Kubernetes, menjalankan Milvus Standalone pada satu mesin dengan memori yang cukup adalah pilihan yang baik. Selain itu, Milvus Standalone mendukung ketersediaan tinggi melalui replikasi master-slave.

Milvus Terdistribusi

Milvus Distributed dapat digunakan pada cluster Kubernetes. Penerapan ini memiliki fitur arsitektur cloud-native, di mana beban konsumsi dan permintaan pencarian ditangani secara terpisah oleh node yang terisolasi, sehingga memungkinkan redundansi untuk komponen penting. Ini menawarkan skalabilitas dan ketersediaan tertinggi, serta fleksibilitas dalam menyesuaikan sumber daya yang dialokasikan di setiap komponen. Milvus Distributed adalah pilihan utama bagi pengguna perusahaan yang menjalankan sistem pencarian vektor berskala besar dalam produksi.

Pilih Penerapan yang Tepat untuk Kasus Penggunaan Anda

Pemilihan mode penyebaran biasanya tergantung pada tahap pengembangan aplikasi Anda:

• Untuk Pembuatan Prototipe Cepat

  Jika Anda ingin membuat sesuatu dengan cepat sebagai prototipe atau untuk tujuan pembelajaran, seperti demo Retrieval Augmented Generation (RAG), chatbot AI, pencarian multi-modalitas, Milvus Lite itu sendiri atau kombinasi dari Milvus Lite dan Milvus Standalone sangat cocok. Anda dapat menggunakan Milvus Lite di notebook untuk membuat prototipe cepat dan mengeksplorasi berbagai pendekatan seperti strategi chunking yang berbeda di RAG. Anda mungkin ingin menggunakan aplikasi yang dibuat dengan Milvus Lite dalam produksi skala kecil untuk melayani pengguna yang sebenarnya, atau memvalidasi ide pada dataset yang lebih besar, misalnya lebih dari beberapa juta vektor. Milvus Standalone adalah pilihan yang tepat. Logika aplikasi untuk Milvus Lite masih dapat digunakan bersama karena semua penggunaan Milvus memiliki API sisi klien yang sama. Data yang disimpan di Milvus Lite juga dapat dipindahkan ke Milvus Standalone dengan alat baris perintah.

• Penerapan Produksi Skala Kecil

  Untuk produksi tahap awal, ketika proyek masih mencari kesesuaian produk dengan pasar dan kelincahan lebih penting daripada skalabilitas, Milvus Standalone adalah pilihan terbaik. Milvus Standalone masih dapat menskalakan hingga 100 juta vektor dengan sumber daya mesin yang cukup, namun membutuhkan lebih sedikit DevOps dibandingkan dengan mempertahankan cluster K8.

• Penerapan Produksi Skala Besar

  Ketika bisnis Anda berkembang pesat dan skala data melebihi kapasitas satu server, inilah saatnya untuk mempertimbangkan Milvus Distributed. Anda dapat tetap menggunakan Milvus Standalone untuk lingkungan pengembangan atau pementasan karena kenyamanannya, dan mengoperasikan cluster K8 yang menjalankan Milvus Distributed. Hal ini dapat mendukung Anda dalam menangani puluhan miliar vektor, serta memberikan fleksibilitas dalam menyesuaikan ukuran node untuk beban kerja khusus Anda, seperti kasus baca tinggi, tulis jarang atau tulis tinggi, baca rendah.

• Pencarian Lokal pada Perangkat Edge

  Untuk pencarian melalui perangkat yang bersifat pribadi atau sensitif di perangkat edge, Anda dapat menggunakan Milvus Lite di perangkat tanpa bergantung pada layanan berbasis cloud untuk melakukan pencarian teks atau gambar. Ini cocok untuk kasus-kasus seperti pencarian dokumen milik pribadi, atau deteksi objek di perangkat.

Pilihan mode penerapan Milvus tergantung pada tahap dan skala proyek Anda. Milvus menyediakan solusi yang fleksibel dan kuat untuk berbagai kebutuhan, mulai dari pembuatan prototipe yang cepat hingga penerapan perusahaan berskala besar.

• Milvus Lite direkomendasikan untuk dataset yang lebih kecil, hingga beberapa juta vektor.
• Milvus Standalone cocok untuk dataset berukuran sedang, dengan skala hingga 100 juta vektor.
• Milvus Distributed dirancang untuk penerapan skala besar, yang mampu menangani dataset dari 100 juta hingga puluhan miliar vektor.

Pilih opsi penerapan untuk kasus penggunaan Anda

Perbandingan fungsionalitas