简介

Integration Problem

Spring AI 项目旨在简化集成人工智能功能的应用程序开发,避免不必要的复杂性。

该项目借鉴了知名的 Python 项目,如 LangChain 和 LlamaIndex,但 Spring AI 并非这些项目的直接移植。创建此项目的初衷是相信下一波生成式 AI 应用浪潮将不仅仅属于 Python 开发者,而是会普及到多种编程语言中。

Spring AI 解决了 AI 集成的根本性挑战:将您的企业数据和 API 与 AI 模型连接起来
Interactive

Spring AI 提供了作为开发 AI 应用基础的抽象。这些抽象具有多种实现,可以通过最少的代码更改轻松实现组件切换。

Spring AI 提供以下功能:

  • 跨 AI 提供商的 Chat、文本转图像和 Embedding 模型的可移植 API 支持。支持同步和流式 API 选项。还可访问特定于模型的功能。

  • 支持所有主要的 AI 模型提供商,如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括:

  • 结构化输出 - 将 AI 模型输出映射到 POJO。

  • 支持所有主要的 向量数据库提供商,如 Apache Cassandra、Azure Cosmos DB、Azure Vector Search、Chroma、Elasticsearch、GemFire、MariaDB、Milvus、MongoDB Atlas、Neo4j、OpenSearch、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis、SAP Hana、Typesense 和 Weaviate。

  • 跨向量存储提供商的可移植 API,包括新颖的类似 SQL 的元数据过滤 API。

  • 工具/函数调用 - 允许模型请求执行客户端工具和函数,从而按需访问必要的实时信息并采取行动。

  • 可观测性 - 提供 AI 相关操作的洞察。

  • 用于数据工程的文档摄取 ETL 框架

  • AI 模型评估 - 用于帮助评估生成内容和防止幻觉响应的工具。

  • Spring Boot AI 模型和向量存储自动配置及 Starter。

  • ChatClient API - 用于与 AI 聊天模型通信的流畅 API,在惯用法上类似于 WebClient 和 RestClient API。

  • Advisors API - 封装了常见的生成式 AI 模式,转换发送给语言模型 (LLM) 和从其接收的数据,并提供了跨各种模型和用例的可移植性。

  • 支持 聊天对话记忆检索增强生成 (RAG)

这组功能使您能够实现常见的用例,例如“文档问答”或“与文档聊天”。

概念部分 提供了 AI 概念及其在 Spring AI 中的表示的高级概览。

入门 部分向您展示如何创建您的第一个 AI 应用程序。后续章节将深入探讨每个组件和常见用例,采用以代码为中心的方法。