知識庫 / Spring / Spring AI RSS 訂閱

接下來，我們調用我們的 vectorStore bean 的 similaritySearch() 方法，並傳入我們的 searchRequest。 類似於 VectorStore 的 add() 方法，Spring AI 在查詢數據庫之前，會將我們的查詢轉換為其向量表示。

返回的文檔將包含與給定主題語義相關的引用，即使它們不包含確切的關鍵詞。

5.2. 通過元數據過濾

除了進行基本相似性搜索外，Oracle向量數據庫還支持根據保存的元數據過濾搜索結果。 這在我們需要縮小搜索範圍並在一個數據子集中執行語義搜索時非常有用。

讓我們再次搜索與特定主題相關的引言，但按特定作者進行過濾：

@ParameterizedTest
@CsvSource({
    "Walter White, Pride",
    "Walter White, Control",
    "Jesse Pinkman, Abuse and foul language",
    "Mike Ehrmantraut, Wisdom",
    "Saul Goodman, Law"
})
void whenSearchingCharacterTheme_thenRelevantQuotesReturned(String author, String theme) {
    SearchRequest searchRequest = SearchRequest
      .builder()
      .query(theme)
      .topK(MAX_RESULTS)
      .filterExpression(String.format("author == '%s'", author))
      .build();

    List<Document> documents = vectorStore.similaritySearch(searchRequest);

    assertThat(documents)
      .hasSizeGreaterThan(0)
      .hasSizeLessThanOrEqualTo(MAX_RESULTS)
      .allSatisfy(document -> {
          assertThat(document.getText())
            .isNotBlank();
          assertThat(String.valueOf(document.getMetadata().get("author")))
            .contains(author);
      });
}

在這裏，我們使用 @CsvSource 註解來查找使用各種字符-主題組合的引用。

我們按照之前的方式構建 SearchRequest，但這次，我們使用 filterExpression() 方法來限制結果為特定作者的引用。

6. 構建 RAG 對話機器人

雖然原生相似性搜索本身就非常強大，但我們可以在此基礎上構建一個智能、情境感知型 RAG 對話機器人。

6.1. 定義提示模板

為了更好地引導 LLM 的行為，我們將定義一個自定義提示模板。讓我們在 src/main/resources 目錄下創建一個新的 prompt-template.st 文件：

You are a chatbot built for analyzing quotes from the 'Breaking Bad' television series.
Given the quotes in the CONTEXT section, answer the query in the USER_QUESTION section.
The response should follow the guidelines listed in the GUIDELINES section.

CONTEXT:
<question_answer_context>

USER_QUESTION:
<query>

GUIDELINES:
- Base your answer solely on the information found in the provided quotes.
- Provide concise, direct answers without mentioning "based on the context" or similar phrases.
- When referencing specific quotes, mention the character who said them.
- If the question cannot be answered using the context, respond with "The provided quotes do not contain information to answer this question."
- If the question is unrelated to the Breaking Bad show or the quotes provided, respond with "This question is outside the scope of the available Breaking Bad quotes."

在這裏，我們明確定義了聊天機器人的角色，併為其提供了一套遵循的指南。

在我們的模板中，我們使用兩個佔位符，分別用尖括號括起來。Spring AI 將會自動用從向量數據庫檢索到的上下文和用户的提問替換 question_answer_context 和 query 佔位符，分別對應。

6.2. 配置 ChatClient Bean

接下來，我們定義一個類型為 ChatClient 的 Bean，它作為與配置好的聊天補全模型交互的主要入口點：

private static final int MAX_RESULTS = 10;

@Bean
PromptTemplate promptTemplate(
  @Value("classpath:system-prompt.st") Resource promptTemplate) {
    String template = promptTemplate.getContentAsString(StandardCharsets.UTF_8);
    return PromptTemplate
      .builder()
      .renderer(StTemplateRenderer
        .builder()
        .startDelimiterToken('<')
        .endDelimiterToken('>')
        .build())
      .template(template)
      .build();
}

@Bean
ChatClient chatClient(
  ChatModel chatModel,
  VectorStore vectorStore,
  PromptTemplate promptTemplate) {
    return ChatClient
      .builder(chatModel)
      .defaultAdvisors(
        QuestionAnswerAdvisor
          .builder(vectorStore)
          .promptTemplate(promptTemplate)
          .searchRequest(SearchRequest
            .builder()
            .topK(MAX_RESULTS)
            .build())
          .build()
      )
      .build();
}

在這裏，我們首先使用 @Value 註解檢索我們的提示模板內容，並將其用於定義一個 PromptTemplate Bean。我們還將其配置為使用尖括號作為分隔符。

接下來，我們使用 PromptTemplate Bean，以及 ChatModel 和 VectorStore Bean，來定義我們的 ChatClient Bean。我們使用 defaultAdvisors() 方法註冊一個 QuestionAnswerAdvisor 組件，該組件實現了 RAG 模式。

此外，在顧問組件中，我們配置一個 SearchRequest 以檢索前 10 個最相關的引用。Spring AI 將在調用 LLM 之前將它們注入到提示模板中。

6.3. 執行 RAG 操作

現在，配置了 ChatClient Bean 後，讓我們看看如何使用它來詢問自然語言問題：

@Autowired
private ChatClient chatClient;

@ParameterizedTest
@ValueSource(strings = {
    "How does the show portray the mentor-student dynamic?",
    "Which characters in the show portray insecurity through their quotes?",
    "Does the show contain quotes with mature themes inappropriate for young viewers?"
})
void whenQuestionsRelatedToBreakingBadAsked_thenRelevantAnswerReturned(String userQuery) {
    String response = chatClient
      .prompt(userQuery)
      .call()
      .content();

    assertThat(response)
      .isNotBlank();
      .doesNotContain(OUT_OF_SCOPE_MESSAGE, NO_INFORMATION_MESSAGE);
}

在這裏，當我們將 userQuery 傳遞給 prompt() 方法時，我們配置的 QuestionAnswerAdvisor 會在幕後執行 RAG 工作流程。 該顧問會查詢 Oracle 向量數據庫以獲取與用户問題相關的引用，並將它們注入到提示模板中，然後將組合後的提示發送到配置的 LLM 以獲取響應。

我們驗證響應不為空，並且不包含我們在模板中定義的備用消息。

7. 結論

在本文中，我們探討了如何將 Oracle 向量數據庫與 Spring AI 集成。

我們詳細介紹了所需的配置並實現了兩個關鍵的向量存儲功能：相似性搜索和 RAG。藉助 Testcontainers，我們搭建了 Oracle 向量數據庫的本地測試環境。

首先，我們從 Breaking Bad 引用 API 中獲取引用，並在應用程序啓動期間填充向量存儲。然後，我們對存儲的數據執行相似性搜索，以檢索與該劇主題相匹配的引用。

最後，我們實現了使用相似性搜索檢索到的引用作為上下文來回答用户查詢的 RAG 聊天機器人。