简介

spring ai logo with text

Spring AI 项目旨在简化集成人工智能功能的应用程序开发，避免不必要的复杂性。

该项目从 LangChain 和 LlamaIndex 等著名的 Python 项目中汲取灵感，但 Spring AI 并非这些项目的直接移植。 该项目建立的信念是，下一波生成式 AI 应用将不仅限于 Python 开发者，而是将普及到多种编程语言。

Spring AI 解决了 AI 集成的根本挑战：将您的企业数据和 API 与 AI 模型连接起来。
spring ai integration diagram 3

Spring AI 提供了作为开发 AI 应用程序基础的抽象。 这些抽象具有多种实现，可以通过最少的代码更改轻松地进行组件替换。

Spring AI 提供以下功能：

  • 跨 AI 提供商（用于聊天、文本到图像和嵌入模型）的可移植 API 支持。支持同步和流式 API 选项。还可访问模型特定功能。

  • 支持所有主要的 AI 模型提供商，例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括：

  • 结构化输出 - 将 AI 模型输出映射到 POJO。

  • 支持所有主要的 向量数据库提供商，例如 Apache Cassandra、Azure Cosmos DB、Azure Vector Search、Chroma、Elasticsearch、GemFire、MariaDB、Milvus、MongoDB Atlas、Neo4j、OpenSearch、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis、SAP Hana、Typesense 和 Weaviate。

  • 跨向量存储提供商的可移植 API，包括新颖的类 SQL 元数据过滤器 API。

  • 工具/函数调用 - 允许模型请求执行客户端工具和函数，从而按需访问必要的实时信息并采取行动。

  • 可观测性 - 提供对 AI 相关操作的洞察。

  • 用于数据工程的文档摄取 ETL 框架。

  • AI 模型评估 - 帮助评估生成内容并防止幻觉响应的实用工具。

  • AI 模型和向量存储的 Spring Boot 自动配置和 Starter。

  • ChatClient API - 与 AI 聊天模型通信的流畅 API，在习惯上类似于 WebClient 和 RestClient API。

  • Advisors API - 封装了常见的生成式 AI 模式，转换发送到和来自大型语言模型 (LLM) 的数据，并提供了跨各种模型和用例的可移植性。

  • 支持 聊天对话记忆 和 检索增强生成 (RAG)。

此功能集使您能够实现常见用例，例如“关于您的文档的问答”或“与您的文档聊天”。

概念部分 提供了 AI 概念及其在 Spring AI 中的表示的高级概述。

入门 部分向您展示如何创建您的第一个 AI 应用程序。 随后的部分将以代码为中心的方法深入探讨每个组件和常见用例。