Bedrock Anthropic 2 Chat
| Anthropic 2 Chat API 已被弃用，并由新的 Anthropic Claude 3 Message API 取代。请使用 Anthropic Claude 3 Message API 用于新项目。 |
Anthropic 的 Claude 是一个基于 Anthropic 在训练有帮助、诚实和无害的 AI 系统方面的研究的 AI 助手。Claude 模型具有以下高级功能
-
200k Token 上下文窗口：Claude 拥有 200,000 个令牌的慷慨容量，使其成为处理技术文档、代码库和文学作品等应用中的大量信息的理想选择。
-
支持的任务：Claude 的多功能性涵盖了摘要、问答、趋势预测和文档比较等任务，使从对话到内容生成等广泛的应用成为可能。
-
AI 安全功能：基于 Anthropic 的安全研究，Claude 在其交互中优先考虑帮助、诚实和无害，从而降低品牌风险并确保负责任的 AI 行为。
有关如何使用 AWS 托管模型的详细信息，请参阅 AWS Bedrock Anthropic 模型页面 和 Amazon Bedrock 用户指南。
| Anthropic 的 Claude 2 和 3 模型也可以直接在 Anthropic 自己的云平台上使用。Spring AI 提供专门的 Anthropic Claude 客户端来访问它。 |
先决条件
有关设置 API 访问的说明，请参阅 Spring AI 关于 Amazon Bedrock 的文档。
自动配置
将 spring-ai-bedrock-ai-spring-boot-starter 依赖项添加到您的项目的 Maven pom.xml 文件中
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bedrock-ai-spring-boot-starter</artifactId>
</dependency>或您的 Gradle build.gradle 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-bedrock-ai-spring-boot-starter'
}| 有关将 Spring AI BOM 添加到您的构建文件，请参阅 依赖项管理 部分。 |
启用 Anthropic 聊天
默认情况下，Anthropic 模型处于禁用状态。要启用它，请将 spring.ai.bedrock.anthropic.chat.enabled 属性设置为 true。导出环境变量是设置此配置属性的一种方法。
export SPRING_AI_BEDROCK_ANTHROPIC_CHAT_ENABLED=true聊天属性
前缀 spring.ai.bedrock.aws 是用于配置与 AWS Bedrock 连接的属性前缀。
| 属性 | 描述 | 默认值 |
|---|---|---|
spring.ai.bedrock.aws.region |
要使用的 AWS 区域。 |
us-east-1 |
spring.ai.bedrock.aws.timeout |
要使用的 AWS 超时时间。 |
5m |
spring.ai.bedrock.aws.access-key |
AWS 访问密钥。 |
- |
spring.ai.bedrock.aws.secret-key |
AWS 密钥。 |
- |
前缀 spring.ai.bedrock.anthropic.chat 是用于配置 Claude 的聊天模型实现的属性前缀。
| 属性 | 描述 | 默认值 |
|---|---|---|
spring.ai.bedrock.anthropic.chat.enable |
启用 Bedrock Anthropic 聊天模型。默认情况下禁用。 |
false |
spring.ai.bedrock.anthropic.chat.model |
要使用的模型 ID。有关支持的模型，请参见 AnthropicChatModel。 |
anthropic.claude-v2 |
spring.ai.bedrock.anthropic.chat.options.temperature |
控制输出的随机性。值范围为 [0.0,1.0]。 |
0.8 |
spring.ai.bedrock.anthropic.chat.options.topP |
采样时要考虑的令牌的最大累积概率。 |
AWS Bedrock 默认值 |
spring.ai.bedrock.anthropic.chat.options.topK |
指定生成器用于生成下一个令牌的令牌选择数量。 |
AWS Bedrock 默认值 |
spring.ai.bedrock.anthropic.chat.options.stopSequences |
配置生成器识别的最多四个序列。在遇到停止序列后，生成器将停止生成更多令牌。返回的文本不包含停止序列。 |
10 |
spring.ai.bedrock.anthropic.chat.options.anthropicVersion |
要使用的生成器的版本。 |
bedrock-2023-05-31 |
spring.ai.bedrock.anthropic.chat.options.maxTokensToSample |
指定在生成的响应中使用的最大令牌数。请注意，模型可能会在达到此最大值之前停止。此参数仅指定要生成的令牌的绝对最大值。我们建议限制为 4,000 个令牌以获得最佳性能。 |
500 |
查看 AnthropicChatModel 以获取其他模型 ID。支持的值为：anthropic.claude-instant-v1、anthropic.claude-v2 和 anthropic.claude-v2:1。模型 ID 值也可以在 AWS Bedrock 基模型 ID 文档 中找到。
所有以 spring.ai.bedrock.anthropic.chat.options 为前缀的属性都可以在运行时通过在 Prompt 调用中添加特定于请求的 运行时选项 来覆盖。
|
运行时选项
该 AnthropicChatOptions.java 提供模型配置，例如温度、topK、topP 等。
在启动时，可以使用 BedrockAnthropicChatModel(api, options) 构造函数或 spring.ai.bedrock.anthropic.chat.options.* 属性配置默认选项。
在运行时，您可以通过在 Prompt 调用中添加新的、特定于请求的选项来覆盖默认选项。例如，要覆盖特定请求的默认温度
ChatResponse response = chatModel.call(
new Prompt(
"Generate the names of 5 famous pirates.",
AnthropicChatOptions.builder()
.withTemperature(0.4)
.build()
));| 除了特定于模型的 AnthropicChatOptions 之外，您还可以使用可移植的 ChatOptions 实例，该实例使用 ChatOptionsBuilder#builder() 创建。 |
示例控制器
创建一个新的 Spring Boot 项目，并将 spring-ai-bedrock-ai-spring-boot-starter 添加到您的 pom（或 gradle）依赖项中。
在 src/main/resources 目录下添加一个 application.properties 文件，以启用和配置 Anthropic 聊天模型
spring.ai.bedrock.aws.region=eu-central-1
spring.ai.bedrock.aws.timeout=1000ms
spring.ai.bedrock.aws.access-key=${AWS_ACCESS_KEY_ID}
spring.ai.bedrock.aws.secret-key=${AWS_SECRET_ACCESS_KEY}
spring.ai.bedrock.anthropic.chat.enabled=true
spring.ai.bedrock.anthropic.chat.options.temperature=0.8
spring.ai.bedrock.anthropic.chat.options.top-k=15
将 regions、access-key 和 secret-key 替换为您的 AWS 凭据。
|
这将创建一个 BedrockAnthropicChatModel 实现，您可以将其注入到您的类中。以下是一个使用聊天模型进行文本生成的简单 @Controller 类的示例。
@RestController
public class ChatController {
private final BedrockAnthropicChatModel chatModel;
@Autowired
public ChatController(BedrockAnthropicChatModel chatModel) {
this.chatModel = chatModel;
}
@GetMapping("/ai/generate")
public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
return Map.of("generation", chatModel.call(message));
}
@GetMapping("/ai/generateStream")
public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
Prompt prompt = new Prompt(new UserMessage(message));
return chatModel.stream(prompt);
}
}手动配置
The BedrockAnthropicChatModel 实现 ChatModel 和 StreamingChatModel，并使用 低级 AnthropicChatBedrockApi 客户端 连接到 Bedrock Anthropic 服务。
将 spring-ai-bedrock 依赖项添加到您项目的 Maven pom.xml 文件中
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bedrock</artifactId>
</dependency>或您的 Gradle build.gradle 构建文件中。
dependencies {
implementation 'org.springframework.ai:spring-ai-bedrock'
}| 有关将 Spring AI BOM 添加到您的构建文件，请参阅 依赖项管理 部分。 |
接下来，创建一个 BedrockAnthropicChatModel 并将其用于文本生成
AnthropicChatBedrockApi anthropicApi = new AnthropicChatBedrockApi(
AnthropicChatBedrockApi.AnthropicModel.CLAUDE_V2.id(),
EnvironmentVariableCredentialsProvider.create(),
Region.EU_CENTRAL_1.id(),
new ObjectMapper(),
Duration.ofMillis(1000L));
BedrockAnthropicChatModel chatModel = new BedrockAnthropicChatModel(anthropicApi,
AnthropicChatOptions.builder()
.withTemperature(0.6f)
.withTopK(10)
.withTopP(0.8f)
.withMaxTokensToSample(100)
.withAnthropicVersion(AnthropicChatBedrockApi.DEFAULT_ANTHROPIC_VERSION)
.build());
ChatResponse response = chatModel.call(
new Prompt("Generate the names of 5 famous pirates."));
// Or with streaming responses
Flux<ChatResponse> response = chatModel.stream(
new Prompt("Generate the names of 5 famous pirates."));低级 AnthropicChatBedrockApi 客户端
The AnthropicChatBedrockApi 提供的是基于 AWS Bedrock Anthropic Claude 模型 的轻量级 Java 客户端。
以下类图说明了 AnthropicChatBedrockApi 接口和构建块
客户端支持 anthropic.claude-instant-v1、anthropic.claude-v2 和 anthropic.claude-v2:1 模型，用于同步（例如 chatCompletion()）和流式（例如 chatCompletionStream()）响应。
以下是一个使用 API 以编程方式的简单代码片段
AnthropicChatBedrockApi anthropicChatApi = new AnthropicChatBedrockApi(
AnthropicModel.CLAUDE_V2.id(), Region.EU_CENTRAL_1.id(), Duration.ofMillis(1000L));
AnthropicChatRequest request = AnthropicChatRequest
.builder(String.format(AnthropicChatBedrockApi.PROMPT_TEMPLATE, "Name 3 famous pirates"))
.withTemperature(0.8f)
.withMaxTokensToSample(300)
.withTopK(10)
.build();
// Sync request
AnthropicChatResponse response = anthropicChatApi.chatCompletion(request);
// Streaming request
Flux<AnthropicChatResponse> responseStream = anthropicChatApi.chatCompletionStream(request);
List<AnthropicChatResponse> responses = responseStream.collectList().block();有关更多信息，请参阅 AnthropicChatBedrockApi.java 的 JavaDoc。
