Skip to content

stark0824/llmops-api

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

1 Commit
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

LlmOps-Api

这是一个基于 Flask 框架构建的智能聊天机器人 Web 应用。项目集成了 LangChain 进行对话逻辑编排,通过 OpenAI 的 GPT 模型提供自然语言理解与生成能力,并利用 SQLAlchemy 管理用户会话与历史记录。此外,通过 LangSmith 对链的调用进行监控与调试,确保机器人响应的质量和可追溯性。

该机器人可应用于客服、知识问答、闲聊等多种场景,具备可扩展的对话流程和灵活的数据库支持。

主要特性

  • 🤖 智能对话:基于 OpenAI GPT 模型生成自然、流畅的回复。
  • 🧠 LangChain 集成:利用 LangChain 的链式调用和 Prompt 模板,轻松构建复杂对话逻辑。
  • 🔍 LangSmith 监控:集成 LangSmith 对每一次链调用进行追踪、调试和性能分析。
  • 🗃️ 数据库支持:使用 SQLAlchemy ORM 管理用户信息、对话历史,支持 SQLite/MySQL/PostgreSQL。
  • 🌐 Web 界面:基于 Flask 提供 RESTful API 和简洁的前端聊天界面。 -🔧 可扩展:模块化设计,方便添加新功能、替换模型或接入其他服务。

技术栈

  • 后端框架:Flask
  • ORM:SQLAlchemy + Flask-SQLAlchemy
  • AI 框架:LangChain
  • 大语言模型:OpenAI API(Deepseek-chat)
  • 调试监控:LangSmith
  • 数据库:SQLite(开发)/ MySQL / PostgreSQL(生产)

项目目录

.
├── app # 项目入口
│   ├── http # http 接口
├── config # 配置文件
├── env # 环境变量
├── internal # 内部模块
│   ├── core # 核心模块
│   ├── exception # 异常处理
│   ├── extension # 扩展模块
│   ├── handler # 请求处理
│   ├── middleware # 中间件
│   ├── model # 模型
│   ├── router  # 路由
│   ├── schedule # 定时任务
│   ├── schema # 模型
│   ├── server # 服务
│   ├── service # 服务模块
│   └── task # 任务模块
├── pkg # 第三方包
├── pytest.ini # pytest 配置
├── README.md # 项目描述
├── storage # 本地存储
└── test

About

使用 Flask 和 LangChain 构建的智能 AI Agent 应用模板。它将大型语言模型(LLM)的强大能力封装为可交互的 Web 服务,支持通过 RESTful API 或简单的 Web 界面与 Agent 进行对话、执行任务和获取智能响应。

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages