Home
Blog
セマンティック検索と全文検索：Milvus 2.5ではどちらを選ぶべきか？

セマンティック検索と全文検索：Milvus 2.5ではどちらを選ぶべきか？

Engineering

December 17, 2024

David Wang, Jiang Chen

高性能ベクトルデータベースのリーディングカンパニーであるMilvusは、ディープラーニングモデルからのベクトル埋め込みを用いたセマンティック検索を長年専門としてきた。この技術は、RAG（Retrieval-Augmented Generation）、検索エンジン、レコメンダーシステムなどのAIアプリケーションに力を与えている。RAGやその他のテキスト検索アプリケーションの人気が高まるにつれ、コミュニティは従来のテキストマッチング手法とハイブリッド検索として知られるセマンティック検索を組み合わせることの利点を認識するようになった。このアプローチは、キーワードマッチングに大きく依存するシナリオにおいて特に有益である。このニーズに対応するため、Milvus 2.5では全文検索（FTS）機能を導入し、バージョン2.4からすでに利用可能なスパースベクトル検索およびハイブリッド検索機能と統合することで、強力な相乗効果を生み出している。

ハイブリッド検索は、複数の検索パスからの結果を組み合わせる手法である。ユーザーは、異なるデータフィールドを様々な方法で検索し、その結果をマージしてランク付けし、包括的な結果を得ることができる。今日一般的なRAGシナリオでは、典型的なハイブリッド・アプローチはセマンティック検索とフルテキスト検索を組み合わせている。具体的には、RRF（Reciprocal Rank Fusion）を使って、密な埋め込みベースの意味検索とBM25ベースの語彙マッチングの結果をマージし、結果のランキングを強化する。

この記事では、Anthropicが提供する9つのコードリポジトリからのコードスニペットで構成されるデータセットを使って、これを実証する。これは、RAGの一般的なユースケースであるAI支援コーディングボットに似ている。コードデータには多くの定義、キーワード、その他の情報が含まれているため、このコンテキストではテキストベースの検索が特に効果的である。一方、大規模なコードデータセットで訓練された高密度埋め込みモデルは、より高度な意味情報を捉えることができる。我々の目標は、実験を通じてこれら2つのアプローチを組み合わせることの効果を観察することである。

具体的なケースを分析することで、ハイブリッド検索に対する理解を深める。ベースラインとして、大量のコードデータで訓練された高度な高密度埋め込みモデル（voyage-2）を使用する。そして、ハイブリッド検索がセマンティック検索とフルテキスト検索の両方の検索結果を上回る事例（トップ5）を選び、これらの事例の背後にある特徴を分析する。

方法	パス@5
全文検索	0.7318
セマンティック検索	0.8096
ハイブリッド検索	0.8176
ハイブリッド検索（ストップワード追加）	0.8418

ケースバイケースでの品質分析に加え、データセット全体でPass@5メトリックを計算することで評価を広げた。この指標は、各クエリの上位5つの結果で見つかった関連性の高い結果の割合を測定します。我々の調査結果は、高度な埋め込みモデルが強固なベースラインを確立する一方で、それらを全文検索と統合することで、さらに優れた結果が得られることを示している。BM25の結果を検証し、特定のシナリオのためにパラメータを微調整することで、さらなる改善が可能であり、大幅な性能向上につながる可能性がある。

セマンティック検索とフルテキスト検索をハイブリッド検索と比較しながら、3つの異なる検索クエリに対して取得された具体的な結果を検証した。このレポで完全なコードをチェックすることもできる。

ケース1：ハイブリッド検索がセマンティック検索を上回る

クエリログファイルはどのように作成されますか？

このクエリの目的はログファイルの作成について問い合わせることで、正しい答えはログファイルを作成するRustコードのスニペットであるべきです。セマンティック検索の結果には、ログヘッダーファイルと、ロガーを取得するためのC++コードを紹介するコードがありました。しかし、ここでのキーは "logfile "変数です。ハイブリッド検索結果#hybrid 0で、この関連する結果を見つけた。ハイブリッド検索はセマンティック検索結果とフルテキスト検索結果をマージするので、当然フルテキスト検索からの結果である。

この結果に加えて、#hybrid 2では関連性のないテストモックコードを見つけることができ、特に "long string to test how those are handled "というフレーズが繰り返されている。これには、全文検索で使われるBM25アルゴリズムの背後にある原理を理解する必要がある。全文検索は、より頻度の低い単語とのマッチングを目指します（一般的な単語はテキストの識別性を低下させ、オブジェクトの識別を妨げるため）。自然テキストの大規模なコーパスに対して統計分析を行うとする。その場合、"how "は非常に一般的な単語であり、関連性スコアにほとんど寄与しないと結論づけるのは簡単である。しかし、この場合、データセットはコードで構成されており、コードの中に「how」という単語はあまり出現しないため、この文脈では「how」が重要な検索キーワードとなる。

グランド・トゥルース：正解は、ログファイルを作成するRustコードです。

use {
    crate::args::LogArgs,
    anyhow::{anyhow, Result},
    simplelog::{Config, LevelFilter, WriteLogger},
    std::fs::File,
};
pub struct Logger;
impl Logger {
pub fn init(args: &impl LogArgs) -> Result<()> {
let filter: LevelFilter = args.log_level().into();
if filter != LevelFilter::Off {
let logfile = File::create(args.log_file())
.map_err(|e| anyhow!(“Failed to open log file: {e:}”))?;
WriteLogger::init(filter, Config::default(), logfile)
.map_err(|e| anyhow!(“Failed to initalize logger: {e:}”))?;
}
Ok(())
}
}

セマンティック検索結果

##dense 0 0.7745316028594971 
/*
 * Licensed to the Apache Software Foundation (ASF) under one or more
 * contributor license agreements.  See the NOTICE file distributed with
 * this work for additional information regarding copyright ownership.
 * The ASF licenses this file to You under the Apache License, Version 2.0
 * (the "License"); you may not use this file except in compliance with
 * the License.  You may obtain a copy of the License at
 *
 *      http://www.apache.org/licenses/LICENSE-2.0
 *
 * Unless required by applicable law or agreed to in writing, software
 * distributed under the License is distributed on an "AS IS" BASIS,
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
 * See the License for the specific language governing permissions and
 * limitations under the License.
 */
#include "logunit.h"
#include <log4cxx/logger.h>
#include <log4cxx/simplelayout.h>
#include <log4cxx/fileappender.h>
#include <log4cxx/helpers/absolutetimedateformat.h>
##dense 1 0.769859254360199
void simple()
{
LayoutPtr layout = LayoutPtr(new SimpleLayout());
AppenderPtr appender = FileAppenderPtr(new FileAppender(layout, LOG4CXX_STR(“output/simple”), false));
root->addAppender(appender);
common();
            LOGUNIT_ASSERT(Compare::compare(LOG4CXX_FILE(<span class="hljs-string">&quot;output/simple&quot;</span>), LOG4CXX_FILE(<span class="hljs-string">&quot;witness/simple&quot;</span>)));
    }

    std::<span class="hljs-type">string</span> createMessage(<span class="hljs-type">int</span> i, Pool &amp; pool)
    {
            std::<span class="hljs-type">string</span> msg(<span class="hljs-string">&quot;Message &quot;</span>);
            msg.<span class="hljs-built_in">append</span>(pool.itoa(i));
            <span class="hljs-keyword">return</span> msg;
    }

    void common()
    {
            <span class="hljs-type">int</span> i = <span class="hljs-number">0</span>;

            <span class="hljs-comment">// In the lines below, the logger names are chosen as an aid in</span>
            <span class="hljs-comment">// remembering their level values. In general, the logger names</span>
            <span class="hljs-comment">// have no bearing to level values.</span>
            LoggerPtr ERRlogger = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;ERR&quot;</span>));
            ERRlogger-&gt;setLevel(Level::getError());

##dense 2 0.7591114044189453
log4cxx::spi::LoggingEventPtr logEvt = std::make_shared(LOG4CXX_STR(“foo”),
Level::getInfo(),
LOG4CXX_STR(“A Message”),
log4cxx::spi::LocationInfo::getLocationUnavailable());
FMTLayout layout(LOG4CXX_STR(“{d:%Y-%m-%d %H:%M:%S} {message}”));
LogString output;
log4cxx::helpers::Pool pool;
layout.format( output, logEvt, pool);
##dense 3 0.7562235593795776
#include “util/compare.h”
#include “util/transformer.h”
#include “util/absolutedateandtimefilter.h”
#include “util/iso8601filter.h”
#include “util/absolutetimefilter.h”
#include “util/relativetimefilter.h”
#include “util/controlfilter.h”
#include “util/threadfilter.h”
#include “util/linenumberfilter.h”
#include “util/filenamefilter.h”
#include “vectorappender.h”
#include 
#include 
#include 
#include 
#include 
#include 
#define REGEX_STR(x) x
#define PAT0 REGEX_STR(“\[[0-9A-FXx]]\ (DEBUG|INFO|WARN|ERROR|FATAL) . - Message [0-9]\{1,2\}”)
#define PAT1 ISO8601_PAT REGEX_STR(" ") PAT0
#define PAT2 ABSOLUTE_DATE_AND_TIME_PAT REGEX_STR(" ") PAT0
#define PAT3 ABSOLUTE_TIME_PAT REGEX_STR(" ") PAT0
#define PAT4 RELATIVE_TIME_PAT REGEX_STR(" ") PAT0
#define PAT5 REGEX_STR(“\[[0-9A-FXx]]\ (DEBUG|INFO|WARN|ERROR|FATAL) . : Message [0-9]\{1,2\}”)
##dense 4 0.7557586431503296
std::string msg("Message ");
            Pool pool;

            <span class="hljs-comment">// These should all log.----------------------------</span>
            LOG4CXX_FATAL(ERRlogger, createMessage(i, pool));
            i++; <span class="hljs-comment">//0</span>
            LOG4CXX_ERROR(ERRlogger, createMessage(i, pool));
            i++;

            LOG4CXX_FATAL(INF, createMessage(i, pool));
            i++; <span class="hljs-comment">// 2</span>
            LOG4CXX_ERROR(INF, createMessage(i, pool));
            i++;
            LOG4CXX_WARN(INF, createMessage(i, pool));
            i++;
            LOG4CXX_INFO(INF, createMessage(i, pool));
            i++;

            LOG4CXX_FATAL(INF_UNDEF, createMessage(i, pool));
            i++; <span class="hljs-comment">//6</span>
            LOG4CXX_ERROR(INF_UNDEF, createMessage(i, pool));
            i++;
            LOG4CXX_WARN(INF_UNDEF, createMessage(i, pool));
            i++;
            LOG4CXX_INFO(INF_UNDEF, createMessage(i, pool));
            i++;

            LOG4CXX_FATAL(INF_ERR, createMessage(i, pool));
            i++; <span class="hljs-comment">// 10</span>
            LOG4CXX_ERROR(INF_ERR, createMessage(i, pool));
            i++;

            LOG4CXX_FATAL(INF_ERR_UNDEF, createMessage(i, pool));
            i++;
            LOG4CXX_ERROR(INF_ERR_UNDEF, createMessage(i, pool));
            i++;

ハイブリッド検索結果

##hybrid 0 0.016393441706895828 
use {
    crate::args::LogArgs,
    anyhow::{anyhow, Result},
    simplelog::{Config, LevelFilter, WriteLogger},
    std::fs::File,
};
pub struct Logger;
impl Logger {
pub fn init(args: &impl LogArgs) -> Result<()> {
let filter: LevelFilter = args.log_level().into();
if filter != LevelFilter::Off {
let logfile = File::create(args.log_file())
.map_err(|e| anyhow!(“Failed to open log file: {e:}”))?;
WriteLogger::init(filter, Config::default(), logfile)
.map_err(|e| anyhow!(“Failed to initalize logger: {e:}”))?;
}
Ok(())
}
}
##hybrid 1 0.016393441706895828
/*

Licensed to the Apache Software Foundation (ASF) under one or more
contributor license agreements.  See the NOTICE file distributed with
this work for additional information regarding copyright ownership.
The ASF licenses this file to You under the Apache License, Version 2.0
(the “License”); you may not use this file except in compliance with
the License.  You may obtain a copy of the License at

 http://www.apache.org/licenses/LICENSE-2.0


Unless required by applicable law or agreed to in writing, software
distributed under the License is distributed on an “AS IS” BASIS,
WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
See the License for the specific language governing permissions and
limitations under the License.
*/
#include “logunit.h”
#include 
#include 
#include 
#include 

##hybrid 2 0.016129031777381897
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
};
}
##hybrid 3 0.016129031777381897
void simple()
{
LayoutPtr layout = LayoutPtr(new SimpleLayout());
AppenderPtr appender = FileAppenderPtr(new FileAppender(layout, LOG4CXX_STR(“output/simple”), false));
root->addAppender(appender);
common();
            LOGUNIT_ASSERT(Compare::compare(LOG4CXX_FILE(<span class="hljs-string">&quot;output/simple&quot;</span>), LOG4CXX_FILE(<span class="hljs-string">&quot;witness/simple&quot;</span>)));
    }

    std::<span class="hljs-type">string</span> createMessage(<span class="hljs-type">int</span> i, Pool &amp; pool)
    {
            std::<span class="hljs-type">string</span> msg(<span class="hljs-string">&quot;Message &quot;</span>);
            msg.<span class="hljs-built_in">append</span>(pool.itoa(i));
            <span class="hljs-keyword">return</span> msg;
    }

    void common()
    {
            <span class="hljs-type">int</span> i = <span class="hljs-number">0</span>;

            <span class="hljs-comment">// In the lines below, the logger names are chosen as an aid in</span>
            <span class="hljs-comment">// remembering their level values. In general, the logger names</span>
            <span class="hljs-comment">// have no bearing to level values.</span>
            LoggerPtr ERRlogger = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;ERR&quot;</span>));
            ERRlogger-&gt;setLevel(Level::getError());

##hybrid 4 0.01587301678955555
std::vectorstring> MakeStrings() {
return {
“a”, “ab”, “abc”, “abcd”,
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "

ケース2：ハイブリッド検索が全文検索を上回る

クエリーロガーを初期化する方法は？

このクエリは前のクエリとよく似ており、正解も同じコードスニペットだが、このケースではハイブリッド検索が（セマンティック検索によって）答えを見つけたのに対し、フルテキスト検索は見つけられなかった。この不一致の原因は、コーパス内の単語の統計的な重み付けにあり、これは質問に対する直感的な理解とは一致しません。このモデルは、「どのように」という単語の一致がここではそれほど重要ではないことを認識できなかった。logger "という単語は "how "よりも頻繁にコードに登場し、その結果、"how "が全文検索のランキングでより重要な意味を持つようになった。

GroundTruth

use {
    crate::args::LogArgs,
    anyhow::{anyhow, Result},
    simplelog::{Config, LevelFilter, WriteLogger},
    std::fs::File,
};
pub struct Logger;
impl Logger {
pub fn init(args: &impl LogArgs) -> Result<()> {
let filter: LevelFilter = args.log_level().into();
if filter != LevelFilter::Off {
let logfile = File::create(args.log_file())
.map_err(|e| anyhow!(“Failed to open log file: {e:}”))?;
WriteLogger::init(filter, Config::default(), logfile)
.map_err(|e| anyhow!(“Failed to initalize logger: {e:}”))?;
}
Ok(())
}
}

全文検索結果

##sparse 0 10.17311954498291 
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
        "long string to test how those are handled. Here goes more text. "
    };
}
##sparse 1 9.775702476501465
std::vectorstring> MakeStrings() {
return {
“a”, “ab”, “abc”, “abcd”,
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
##sparse 2 7.638711452484131
//   union (“x|y”), grouping ("(xy)"), brackets ("[xy]"), and
//   repetition count (“x{5,7}”), among others.
//
//   Below is the syntax that we do support.  We chose it to be a
//   subset of both PCRE and POSIX extended regex, so it’s easy to
//   learn wherever you come from.  In the following: ‘A’ denotes a
//   literal character, period (.), or a single \ escape sequence;
//   ‘x’ and ‘y’ denote regular expressions; ‘m’ and ‘n’ are for
##sparse 3 7.1208391189575195
/*

Licensed to the Apache Software Foundation (ASF) under one or more
contributor license agreements.  See the NOTICE file distributed with
this work for additional information regarding copyright ownership.
The ASF licenses this file to You under the Apache License, Version 2.0
(the “License”); you may not use this file except in compliance with
the License.  You may obtain a copy of the License at

 http://www.apache.org/licenses/LICENSE-2.0


Unless required by applicable law or agreed to in writing, software
distributed under the License is distributed on an “AS IS” BASIS,
WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
See the License for the specific language governing permissions and
limitations under the License.
*/
#include “logunit.h”
#include 
#include 
#include 
#include 

##sparse 4 7.066349029541016
/*

Licensed to the Apache Software Foundation (ASF) under one or more
contributor license agreements.  See the NOTICE file distributed with
this work for additional information regarding copyright ownership.
The ASF licenses this file to You under the Apache License, Version 2.0
(the “License”); you may not use this file except in compliance with
the License.  You may obtain a copy of the License at

 http://www.apache.org/licenses/LICENSE-2.0


Unless required by applicable law or agreed to in writing, software
distributed under the License is distributed on an “AS IS” BASIS,
WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
See the License for the specific language governing permissions and
limitations under the License.
*/
#include 
#include 
#include 
#include 
#include “…/logunit.h”

ハイブリッド検索結果


 ##hybrid 0 0.016393441706895828 
use {
    crate::args::LogArgs,
    anyhow::{anyhow, Result},
    simplelog::{Config, LevelFilter, WriteLogger},
    std::fs::File,
};
pub struct Logger;
impl Logger {
pub fn init(args: &impl LogArgs) -> Result<()> {
let filter: LevelFilter = args.log_level().into();
if filter != LevelFilter::Off {
let logfile = File::create(args.log_file())
.map_err(|e| anyhow!(“Failed to open log file: {e:}”))?;
WriteLogger::init(filter, Config::default(), logfile)
.map_err(|e| anyhow!(“Failed to initalize logger: {e:}”))?;
}
Ok(())
}
}
##hybrid 1 0.016393441706895828 
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
};
}
##hybrid 2 0.016129031777381897 
std::vector MakeStrings() {
return {
“a”, “ab”, “abc”, “abcd”,
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
"long string to test how those are handled. Here goes more text. "
##hybrid 3 0.016129031777381897 
LoggerPtr INF = Logger::getLogger(LOG4CXX_TEST_STR(“INF”));
INF->setLevel(Level::getInfo());
            LoggerPtr INF_ERR = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;INF.ERR&quot;</span>));
            INF_ERR-&gt;setLevel(Level::getError());

            LoggerPtr DEB = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;DEB&quot;</span>));
            DEB-&gt;setLevel(Level::getDebug());

            // Note: categories with undefined level
            LoggerPtr INF_UNDEF = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;INF.UNDEF&quot;</span>));
            LoggerPtr INF_ERR_UNDEF = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;INF.ERR.UNDEF&quot;</span>));
            LoggerPtr UNDEF = Logger::getLogger(LOG4CXX_TEST_STR(<span class="hljs-string">&quot;UNDEF&quot;</span>));

##hybrid 4 0.01587301678955555 
//   union (“x|y”), grouping ("(xy)"), brackets ("[xy]"), and
//   repetition count (“x{5,7}”), among others.
//
//   Below is the syntax that we do support.  We chose it to be a
//   subset of both PCRE and POSIX extended regex, so it's easy to
//   learn wherever you come from.  In the following: 'A' denotes a
//   literal character, period (.), or a single \ escape sequence;
//   'x' and 'y' denote regular expressions; 'm' and 'n' are for

スパース・ベクトル検索では、"How "や "What "のような情報量の少ない単語とのマッチングにより、低品質な検索結果が多く発生していることがわかった。データを調査することで、これらの単語が検索結果の干渉を引き起こしていることがわかった。この問題を軽減する1つのアプローチは、これらの単語をストップワードリストに追加し、マッチングプロセス中に無視することである。これにより、これらの一般的な単語の悪影響を排除し、検索結果の質を向上させることができる。

ケース3：ハイブリッド検索（ストップワード追加）はセマンティック検索を上回る

How "や "What "のような情報量の少ない単語をフィルタリングするためにストップワードを追加した後、微調整したハイブリッド検索がセマンティック検索よりも優れたパフォーマンスを示したケースを分析した。このケースの改善は、クエリ内の "RegistryClient "という用語をマッチさせたことによるもので、セマンティック検索モデルだけでは想起されなかった結果を見つけることができた。

さらに、ハイブリッド検索では、結果内の低品質なマッチの数が減少することに気づいた。この場合、ハイブリッド検索メソッドは、セマンティック検索とフルテキスト検索をうまく統合し、精度を向上させながら、より関連性の高い結果を導くことに成功した。

クエリーテストメソッドにおいて、RegistryClient インスタンスはどのように作成されますか？

ハイブリッド検索は、セマンティック検索だけでは見つけられなかった "RegistryClient "インスタンスの作成に関する答えを効果的に検索しました。ストップワードを追加することで、"How "のような用語による無関係な結果を避けることができ、より質の高いマッチと質の低い結果の減少につながりました。

/** Integration tests for {@link BlobPuller}. */
public class BlobPullerIntegrationTest {
private final FailoverHttpClient httpClient = new FailoverHttpClient(true, false, ignored -> {});
@Test
public void testPull() throws IOException, RegistryException {
RegistryClient registryClient =
RegistryClient.factory(EventHandlers.NONE, “gcr.io”, “distroless/base”, httpClient)
.newRegistryClient();
V22ManifestTemplate manifestTemplate =
registryClient
.pullManifest(
ManifestPullerIntegrationTest.KNOWN_MANIFEST_V22_SHA, V22ManifestTemplate.class)
.getManifest();
<span class="hljs-type">DescriptorDigest</span> <span class="hljs-variable">realDigest</span> <span class="hljs-operator">=</span> manifestTemplate.getLayers().get(<span class="hljs-number">0</span>).getDigest();

セマンティック検索結果


##dense 0 0.7411458492279053 
Mockito.doThrow(mockRegistryUnauthorizedException)
.when(mockJibContainerBuilder)
.containerize(mockContainerizer);
<span class="hljs-keyword">try</span> {
  testJibBuildRunner.runBuild();
  Assert.fail();

} <span class="hljs-keyword">catch</span> (BuildStepsExecutionException ex) {
  Assert.assertEquals(
      TEST_HELPFUL_SUGGESTIONS.forHttpStatusCodeForbidden(<span class="hljs-string">&quot;someregistry/somerepository&quot;</span>),
      ex.getMessage());
}

}
##dense 1 0.7346029877662659 
verify(mockCredentialRetrieverFactory).known(knownCredential, “credentialSource”);
verify(mockCredentialRetrieverFactory).known(inferredCredential, “inferredCredentialSource”);
verify(mockCredentialRetrieverFactory)
.dockerCredentialHelper(“docker-credential-credentialHelperSuffix”);
}
##dense 2 0.7285804748535156 
when(mockCredentialRetrieverFactory.dockerCredentialHelper(anyString()))
.thenReturn(mockDockerCredentialHelperCredentialRetriever);
when(mockCredentialRetrieverFactory.known(knownCredential, “credentialSource”))
.thenReturn(mockKnownCredentialRetriever);
when(mockCredentialRetrieverFactory.known(inferredCredential, “inferredCredentialSource”))
.thenReturn(mockInferredCredentialRetriever);
when(mockCredentialRetrieverFactory.wellKnownCredentialHelpers())
.thenReturn(mockWellKnownCredentialHelpersCredentialRetriever);
##dense 3 0.7279614210128784 
@Test
public void testBuildImage_insecureRegistryException()
throws InterruptedException, IOException, CacheDirectoryCreationException, RegistryException,
ExecutionException {
InsecureRegistryException mockInsecureRegistryException =
Mockito.mock(InsecureRegistryException.class);
Mockito.doThrow(mockInsecureRegistryException)
.when(mockJibContainerBuilder)
.containerize(mockContainerizer);
<span class="hljs-keyword">try</span> {
  testJibBuildRunner.runBuild();
  Assert.fail();

} <span class="hljs-keyword">catch</span> (BuildStepsExecutionException ex) {
  Assert.assertEquals(TEST_HELPFUL_SUGGESTIONS.forInsecureRegistry(), ex.getMessage());
}

}
##dense 4 0.724872350692749 
@Test
public void testBuildImage_registryCredentialsNotSentException()
throws InterruptedException, IOException, CacheDirectoryCreationException, RegistryException,
ExecutionException {
Mockito.doThrow(mockRegistryCredentialsNotSentException)
.when(mockJibContainerBuilder)
.containerize(mockContainerizer);
<span class="hljs-keyword">try</span> {
  testJibBuildRunner.runBuild();
  Assert.fail();

} <span class="hljs-keyword">catch</span> (BuildStepsExecutionException ex) {
  Assert.assertEquals(TEST_HELPFUL_SUGGESTIONS.forCredentialsNotSent(), ex.getMessage());
}

}

ハイブリッド検索結果


 ##hybrid 0 0.016393441706895828 
/** Integration tests for {@link BlobPuller}. */
public class BlobPullerIntegrationTest {
private final FailoverHttpClient httpClient = new FailoverHttpClient(true, false, ignored -> {});
@Test
public void testPull() throws IOException, RegistryException {
RegistryClient registryClient =
RegistryClient.factory(EventHandlers.NONE, “gcr.io”, “distroless/base”, httpClient)
.newRegistryClient();
V22ManifestTemplate manifestTemplate =
registryClient
.pullManifest(
ManifestPullerIntegrationTest.KNOWN_MANIFEST_V22_SHA, V22ManifestTemplate.class)
.getManifest();
DescriptorDigest realDigest = manifestTemplate.getLayers().<span class="hljs-keyword">get</span>(<span class="hljs-number">0</span>).getDigest();

##hybrid 1 0.016393441706895828 
Mockito.doThrow(mockRegistryUnauthorizedException)
.when(mockJibContainerBuilder)
.containerize(mockContainerizer);
<span class="hljs-keyword">try</span> {
  testJibBuildRunner.runBuild();
  Assert.fail();

} <span class="hljs-keyword">catch</span> (BuildStepsExecutionException ex) {
  Assert.assertEquals(
      TEST_HELPFUL_SUGGESTIONS.forHttpStatusCodeForbidden(<span class="hljs-string">&quot;someregistry/somerepository&quot;</span>),
      ex.getMessage());
}

}
##hybrid 2 0.016129031777381897 
verify(mockCredentialRetrieverFactory).known(knownCredential, “credentialSource”);
verify(mockCredentialRetrieverFactory).known(inferredCredential, “inferredCredentialSource”);
verify(mockCredentialRetrieverFactory)
.dockerCredentialHelper(“docker-credential-credentialHelperSuffix”);
}
##hybrid 3 0.016129031777381897 
@Test
public void testPull_unknownBlob() throws IOException, DigestException {
DescriptorDigest nonexistentDigest =
DescriptorDigest.fromHash(
“aaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaaa”);
RegistryClient registryClient =
    RegistryClient.factory(EventHandlers.NONE, <span class="hljs-string">&quot;gcr.io&quot;</span>, <span class="hljs-string">&quot;distroless/base&quot;</span>, httpClient)
        .newRegistryClient();

<span class="hljs-keyword">try</span> {
  registryClient
      .pullBlob(nonexistentDigest, ignored -&gt; {}, ignored -&gt; {})
      .writeTo(ByteStreams.nullOutputStream());
  Assert.fail(<span class="hljs-string">&quot;Trying to pull nonexistent blob should have errored&quot;</span>);

} <span class="hljs-keyword">catch</span> (IOException ex) {
  <span class="hljs-keyword">if</span> (!(ex.getCause() instanceof RegistryErrorException)) {
    <span class="hljs-keyword">throw</span> ex;
  }
  MatcherAssert.assertThat(
      ex.getMessage(),
      CoreMatchers.containsString(
          <span class="hljs-string">&quot;pull BLOB for gcr.io/distroless/base with digest &quot;</span> + nonexistentDigest));
}

}
}
##hybrid 4 0.01587301678955555 
when(mockCredentialRetrieverFactory.dockerCredentialHelper(anyString()))
.thenReturn(mockDockerCredentialHelperCredentialRetriever);
when(mockCredentialRetrieverFactory.known(knownCredential, “credentialSource”))
.thenReturn(mockKnownCredentialRetriever);
when(mockCredentialRetrieverFactory.known(inferredCredential, “inferredCredentialSource”))
.thenReturn(mockInferredCredentialRetriever);
when(mockCredentialRetrieverFactory.wellKnownCredentialHelpers())
.thenReturn(mockWellKnownCredentialHelpersCredentialRetriever);

結論

今回の分析から、さまざまな検索手法のパフォーマンスについて、いくつかの結論を導き出すことができる。ほとんどの場合、セマンティック検索モデルはクエリの全体的な意図を把握することで良い結果を得るのに役立つが、クエリにマッチさせたい特定のキーワードが含まれている場合には不十分である。

このような場合、埋め込みモデルはこの意図を明示的に表現しない。一方、全文検索は、この問題に直接対処することができる。しかし、単語がマッチしているにもかかわらず、関連性のない結果が出てくるという問題もあり、結果全体の質が低下する可能性があります。したがって、特定の結果を分析し、検索品質を向上させるために的を絞った戦略を適用することによって、このようなネガティブなケースを特定し、対処することが極めて重要である。RRFや重み付きリランカーのようなランキング戦略とのハイブリッド検索は、通常、良い基本オプションである。

Milvus 2.5における全文検索機能のリリースにより、我々は柔軟で多様な情報検索ソリューションをコミュニティに提供することを目指している。これにより、ユーザーは様々な検索手法の組み合わせを検討し、GenAI時代においてますます複雑化し多様化する検索要求に対応することができるようになる。Milvus 2.5で全文検索とハイブリッド検索を実装するコード例をご覧ください。