Amazon Bedrock
遵循 Bedrock 的建议,Spring AI 已转换为在 Spring AI 中使用 Amazon Bedrock 的 Converse API 实现所有聊天对话。 Bedrock Converse API 具有以下主要优点:
Converse API 不支持嵌入操作,因此这些操作将保留在当前 API 中,并且现有 |
Amazon Bedrock 是一项托管服务,通过统一的 API 提供来自各种 AI 提供商的基础模型。
Spring AI 通过实现 Spring EmbeddingModel
接口来支持通过 Amazon Bedrock 提供的 嵌入 AI 模型。
此外,Spring AI 为所有客户端提供了 Spring 自动配置和 Boot 启动器,使其易于为 Bedrock 模型进行引导和配置。
入门
有几个步骤可以开始使用
-
将 Bedrock 的 Spring Boot 启动器添加到您的项目中。
-
获取 AWS 凭证:如果您还没有 AWS 账户和配置好的 AWS CLI,此视频指南可以帮助您配置它:4 分钟内完成 AWS CLI 和 SDK 设置!。您应该能够获取您的访问密钥和安全密钥。
-
启用要使用的模型:转到 Amazon Bedrock,从左侧的 模型访问 菜单中,配置对您将要使用的模型的访问。
项目依赖
然后将 Spring Boot Starter 依赖项添加到您的项目的 Maven pom.xml
构建文件中:
<dependency>
<artifactId>spring-ai-starter-model-bedrock</artifactId>
<groupId>org.springframework.ai</groupId>
</dependency>
或添加到您的 Gradle build.gradle
构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-starter-model-bedrock'
}
请参阅 依赖管理 部分,将 Spring AI BOM 添加到您的构建文件中。 |
连接到 AWS Bedrock
使用 BedrockAwsConnectionProperties
配置 AWS 凭证和区域:
spring.ai.bedrock.aws.region=us-east-1
spring.ai.bedrock.aws.access-key=YOUR_ACCESS_KEY
spring.ai.bedrock.aws.secret-key=YOUR_SECRET_KEY
spring.ai.bedrock.aws.timeout=10m
region
属性是强制性的。
AWS 凭证按以下顺序解析:
-
Spring-AI Bedrock
spring.ai.bedrock.aws.access-key
和spring.ai.bedrock.aws.secret-key
属性。 -
Java 系统属性 -
aws.accessKeyId
和aws.secretAccessKey
。 -
环境变量 -
AWS_ACCESS_KEY_ID
和AWS_SECRET_ACCESS_KEY
。 -
来自系统属性或环境变量的 Web 身份令牌凭证。
-
所有 AWS SDK 和 AWS CLI 共享的默认位置 (
~/.aws/credentials
) 的凭证配置文件。 -
如果设置了
AWS_CONTAINER_CREDENTIALS_RELATIVE_URI
环境变量且安全管理器有权访问该变量,则通过 Amazon EC2 容器服务提供的凭证。 -
通过 Amazon EC2 元数据服务提供的实例配置文件凭证,或设置
AWS_ACCESS_KEY_ID
和AWS_SECRET_ACCESS_KEY
环境变量。
AWS 区域按以下顺序解析:
-
Spring-AI Bedrock
spring.ai.bedrock.aws.region
属性。 -
Java 系统属性 -
aws.region
。 -
环境变量 -
AWS_REGION
。 -
所有 AWS SDK 和 AWS CLI 共享的默认位置 (
~/.aws/credentials
) 的凭证配置文件。 -
通过 Amazon EC2 元数据服务提供的实例配置文件区域。
除了标准的 Spring-AI Bedrock 凭证和区域属性配置之外,Spring-AI 还支持自定义 AwsCredentialsProvider
和 AwsRegionProvider
bean。
例如,同时使用 Spring-AI 和 Spring Cloud for Amazon Web Services。Spring-AI 与 Spring Cloud for Amazon Web Services 凭证配置兼容。 |
启用选定的 Bedrock 模型
默认情况下,所有模型都已禁用。您必须使用 |
以下是支持的 <model>
:
模型 |
cohere |
titan (暂不支持批处理) |
例如,要启用 Bedrock Cohere 嵌入模型,您需要设置 spring.ai.bedrock.cohere.embedding.enabled=true
。
接下来,您可以使用 spring.ai.bedrock.<model>.embedding.*
属性来配置每个模型。
有关更多信息,请参阅下面每个受支持模型的文档。
-
Spring AI Bedrock Cohere 嵌入:
spring.ai.bedrock.cohere.embedding.enabled=true
-
Spring AI Bedrock Titan 嵌入:
spring.ai.bedrock.titan.embedding.enabled=true