MiniMax 聊天

Spring AI 支持 MiniMax 提供的各种 AI 语言模型。您可以与 MiniMax 语言模型交互,并基于 MiniMax 模型创建多语言对话助手。

先决条件

您需要使用 MiniMax 创建一个 API 以访问 MiniMax 语言模型。

请在 MiniMax 注册页面 创建账户,并在 API 密钥页面 生成令牌。

Spring AI 项目定义了一个名为 spring.ai.minimax.api-key 的配置属性,您应该将其设置为从 API 密钥页面获得的 API Key 值。

您可以在 application.properties 文件中设置此配置属性:

spring.ai.minimax.api-key=<your-minimax-api-key>

为了在处理 API 密钥等敏感信息时增强安全性,您可以使用 Spring 表达式语言 (SpEL) 来引用环境变量:

# In application.yml
spring:
  ai:
    minimax:
      api-key: ${MINIMAX_API_KEY}
# In your environment or .env file
export MINIMAX_API_KEY=<your-minimax-api-key>

您也可以在应用程序代码中以编程方式设置此配置:

// Retrieve API key from a secure source or environment variable
String apiKey = System.getenv("MINIMAX_API_KEY");

添加仓库和 BOM

Spring AI 工件发布在 Maven Central 和 Spring Snapshot 仓库中。 请参阅 工件仓库 部分,将这些仓库添加到您的构建系统。

为了帮助进行依赖管理,Spring AI 提供了一个 BOM(物料清单),以确保在整个项目中使用的 Spring AI 版本一致。请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建系统。

自动配置

Spring AI 自动配置、启动模块的工件名称发生了重大变化。 有关更多信息,请参阅 升级说明

Spring AI 为 MiniMax 聊天客户端提供了 Spring Boot 自动配置。 要启用它,请将以下依赖项添加到您项目的 Maven pom.xml 文件中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-minimax</artifactId>
</dependency>

或添加到您的 Gradle build.gradle 构建文件中。

dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-model-minimax'
}

请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件。

聊天属性

重试属性

前缀 spring.ai.retry 用作属性前缀,允许您配置 MiniMax 聊天模型的重试机制。

属性 描述 默认值

spring.ai.retry.max-attempts

最大重试次数。

10

spring.ai.retry.backoff.initial-interval

指数退避策略的初始休眠持续时间。

2 秒。

spring.ai.retry.backoff.multiplier

退避间隔乘数。

5

spring.ai.retry.backoff.max-interval

最大退避持续时间。

3 分钟。

spring.ai.retry.on-client-errors

如果为 false,则抛出 NonTransientAiException,并且不尝试重试 4xx 客户端错误代码

false

spring.ai.retry.exclude-on-http-codes

不应触发重试的 HTTP 状态代码列表(例如,抛出 NonTransientAiException)。

spring.ai.retry.on-http-codes

应触发重试的 HTTP 状态代码列表(例如,抛出 TransientAiException)。

连接属性

前缀 spring.ai.minimax 用作属性前缀,允许您连接到 MiniMax。

属性 描述 默认值

spring.ai.minimax.base-url

要连接的 URL

[role="bare"][role="bare"]https://api.minimax.chat

spring.ai.minimax.api-key

API 密钥

-

配置属性

聊天自动配置的启用和禁用现在通过前缀为 spring.ai.model.chat 的顶级属性进行配置。 要启用,spring.ai.model.chat=minimax(默认启用) 要禁用,spring.ai.model.chat=none(或任何不匹配 minimax 的值) 此更改是为了允许配置多个模型。

前缀 spring.ai.minimax.chat 是属性前缀,允许您配置 MiniMax 的聊天模型实现。

属性 描述 默认值

spring.ai.minimax.chat.enabled (已删除且不再有效)

启用 MiniMax 聊天模型。

true

spring.ai.model.chat

启用 MiniMax 聊天模型。

minimax

spring.ai.minimax.chat.base-url

可选覆盖 spring.ai.minimax.base-url 以提供聊天专用 URL

[role="bare"][role="bare"]https://api.minimax.chat

spring.ai.minimax.chat.api-key

可选覆盖 spring.ai.minimax.api-key 以提供聊天专用 API 密钥

-

spring.ai.minimax.chat.options.model

要使用的 MiniMax 聊天模型

abab6.5g-chat (abab5.5-chatabab5.5s-chatabab6.5-chatabab6.5g-chatabab6.5t-chatabab6.5s-chat 指向最新模型版本)

spring.ai.minimax.chat.options.maxTokens

在聊天完成中生成的最大令牌数。输入令牌和生成令牌的总长度受模型的上下文长度限制。

-

spring.ai.minimax.chat.options.temperature

用于控制生成完成的明显创造性的采样温度。较高的值会使输出更随机,而较低的值会使结果更集中和确定性。不建议为相同的完成请求修改 temperature 和 top_p,因为这两个设置的交互难以预测。

0.7

spring.ai.minimax.chat.options.topP

采样温度的替代方法,称为核采样,其中模型考虑具有 top_p 概率质量的令牌结果。因此 0.1 表示只考虑包含前 10% 概率质量的令牌。我们通常建议更改此项或 temperature,而不是两者都更改。

1.0

spring.ai.minimax.chat.options.n

为每个输入消息生成多少个聊天完成选择。请注意,您将根据所有选择中生成的令牌数量收费。默认值为 1 且不能大于 5。具体来说,当温度非常小且接近 0 时,我们只能返回 1 个结果。如果此时 n 已设置且 >1,服务将返回非法输入参数 (invalid_request_error)

1

spring.ai.minimax.chat.options.presencePenalty

介于 -2.0 和 2.0 之间的数字。正值会根据新令牌是否出现在到目前为止的文本中来惩罚新令牌,从而增加模型谈论新主题的可能性。

0.0f

spring.ai.minimax.chat.options.frequencyPenalty

介于 -2.0 和 2.0 之间的数字。正值会根据新令牌在到目前为止的文本中的现有频率来惩罚新令牌,从而降低模型重复相同行的可能性。

0.0f

spring.ai.minimax.chat.options.stop

模型将停止生成由 stop 指定的字符,目前只支持 ["stop_word1"] 格式的单个停止词

-

您可以为 ChatModel 实现覆盖通用的 spring.ai.minimax.base-urlspring.ai.minimax.api-key。 如果设置了 spring.ai.minimax.chat.base-urlspring.ai.minimax.chat.api-key 属性,它们将优先于通用属性。 这对于您希望为不同的模型和不同的模型端点使用不同的 MiniMax 账户很有用。

所有以 spring.ai.minimax.chat.options 为前缀的属性都可以在运行时通过向 Prompt 调用添加请求特定的 运行时选项 来覆盖。

运行时选项

MiniMaxChatOptions.java 提供了模型配置,例如要使用的模型、温度、频率惩罚等。

在启动时,可以使用 MiniMaxChatModel(api, options) 构造函数或 spring.ai.minimax.chat.options.* 属性配置默认选项。

在运行时,您可以通过向 Prompt 调用添加新的、请求特定的选项来覆盖默认选项。 例如,为特定请求覆盖默认模型和温度:

ChatResponse response = chatModel.call(
    new Prompt(
        "Generate the names of 5 famous pirates.",
        MiniMaxChatOptions.builder()
            .model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue())
            .temperature(0.5)
        .build()
    ));

除了模型特定的 MiniMaxChatOptions 之外,您还可以使用通过 ChatOptions#builder() 创建的可移植 ChatOptions 实例。

示例控制器

创建一个新的 Spring Boot 项目,并将 spring-ai-starter-model-minimax 添加到您的 pom(或 gradle)依赖项中。

src/main/resources 目录下添加一个 application.properties 文件,以启用和配置 MiniMax 聊天模型:

spring.ai.minimax.api-key=YOUR_API_KEY
spring.ai.minimax.chat.options.model=abab6.5g-chat
spring.ai.minimax.chat.options.temperature=0.7

api-key 替换为您的 MiniMax 凭据。

这将创建一个 MiniMaxChatModel 实现,您可以将其注入到您的类中。 这是一个使用聊天模型进行文本生成的简单 @Controller 类的示例。

@RestController
public class ChatController {

    private final MiniMaxChatModel chatModel;

    @Autowired
    public ChatController(MiniMaxChatModel chatModel) {
        this.chatModel = chatModel;
    }

    @GetMapping("/ai/generate")
    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", this.chatModel.call(message));
    }

    @GetMapping("/ai/generateStream")
	public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        var prompt = new Prompt(new UserMessage(message));
        return this.chatModel.stream(prompt);
    }
}

手动配置

MiniMaxChatModel 实现了 ChatModelStreamingChatModel,并使用 低级 MiniMaxApi 客户端 连接到 MiniMax 服务。

spring-ai-minimax 依赖项添加到您项目的 Maven pom.xml 文件中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-minimax</artifactId>
</dependency>

或添加到您的 Gradle build.gradle 构建文件中。

dependencies {
    implementation 'org.springframework.ai:spring-ai-minimax'
}

请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件。

接下来,创建 MiniMaxChatModel 并将其用于文本生成:

var miniMaxApi = new MiniMaxApi(System.getenv("MINIMAX_API_KEY"));

var chatModel = new MiniMaxChatModel(this.miniMaxApi, MiniMaxChatOptions.builder()
                .model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue())
                .temperature(0.4)
                .maxTokens(200)
                .build());

ChatResponse response = this.chatModel.call(
    new Prompt("Generate the names of 5 famous pirates."));

// Or with streaming responses
Flux<ChatResponse> streamResponse = this.chatModel.stream(
    new Prompt("Generate the names of 5 famous pirates."));

MiniMaxChatOptions 提供了聊天请求的配置信息。 MiniMaxChatOptions.Builder 是一个流畅的选项构建器。

低级 MiniMaxApi 客户端

MiniMaxApi 提供了 MiniMax API 的轻量级 Java 客户端。

以下是如何以编程方式使用 API 的简单代码片段:

MiniMaxApi miniMaxApi =
    new MiniMaxApi(System.getenv("MINIMAX_API_KEY"));

ChatCompletionMessage chatCompletionMessage =
    new ChatCompletionMessage("Hello world", Role.USER);

// Sync request
ResponseEntity<ChatCompletion> response = this.miniMaxApi.chatCompletionEntity(
    new ChatCompletionRequest(List.of(this.chatCompletionMessage), MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue(), 0.7, false));

// Streaming request
Flux<ChatCompletionChunk> streamResponse = this.miniMaxApi.chatCompletionStream(
    new ChatCompletionRequest(List.of(this.chatCompletionMessage), MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue(), 0.7, true));

有关更多信息,请参阅 MiniMaxApi.java 的 JavaDoc。

MiniMax 模型支持网页搜索功能。网页搜索功能允许您搜索网页信息并在聊天响应中返回结果。

有关网页搜索的更多信息,请参阅 MiniMax ChatCompletion

以下是如何使用网页搜索的简单代码片段:

UserMessage userMessage = new UserMessage(
        "How many gold medals has the United States won in total at the 2024 Olympics?");

List<Message> messages = new ArrayList<>(List.of(this.userMessage));

List<MiniMaxApi.FunctionTool> functionTool = List.of(MiniMaxApi.FunctionTool.webSearchFunctionTool());

MiniMaxChatOptions options = MiniMaxChatOptions.builder()
    .model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.value)
    .tools(this.functionTool)
    .build();


// Sync request
ChatResponse response = chatModel.call(new Prompt(this.messages, this.options));

// Streaming request
Flux<ChatResponse> streamResponse = chatModel.stream(new Prompt(this.messages, this.options));

MiniMaxApi 示例