实时 AI 聊天
技能即代码
基于 Go 构建的高性能 WebSocket AI 服务框架,S3 动态技能加载赋能 LLM, 事件溯源管理会话生命周期,流式透明的思考与响应过程。
为生产环境而生
从实时通信到安全防护,LingFlow 提供构建企业级 AI 聊天应用所需的一切能力
流式透明响应
客户端实时接收 AI 思考过程与最终响应,system_thinking + system_response 双阶段流式推送,完全可控可追溯。
S3 技能热加载
技能以 Markdown 文件存储于 S3,无需重新编译即可热更新。支持动态加载、关键词检索、智能匹配。
事件溯源架构
所有状态变更以不可变事件记录,支持完整审计追踪、会话回放、时间旅行调试。
七层安全防护
Token 认证、Origin 白名单、IP 限流、速率限制、提示注入检测、内容审查、Guardrail 集成。
AI 技能创建
通过 #create_skill 命令让 AI 自动生成技能,两阶段提交 + 事务锁 + 速率限制确保安全可靠。
多云部署支持
支持本地服务器、Docker、Kubernetes、AWS Lambda + API Gateway 多种部署方式,灵活扩展。
分层设计,松耦合架构
清晰的层次划分,从连接管理到服务编排,每一层都独立可扩展
- WebSocket 连接管理
- 心跳检测引擎
- 认证与鉴权
- Origin / IP 限制
- 连接池管理
- 消息路由分发
- 流式响应编排
- 技能检索执行
- AI 技能创建器
- 提示注入防护
- AWS Bedrock LLM
- S3 技能存储
- 事件溯源存储
- 聚合与投影
- 命令总线
技能即 Markdown
一个 .md 文件就是一个技能,S3 存储即开即用,AI 自动创建秒级上线
流式透明,实时响应
完整的消息协议体系,思考过程与最终响应双阶段流式推送
Vue 3 + TypeScript 前端
完整的前端演示应用,MVVM 架构,生产就绪的中文交互界面
灵活的部署选项
从单节点到 Kubernetes 集群,从传统服务器到 Serverless,随业务规模自由选择
Docker 部署
快速启动,适合中小型项目和开发测试环境
- 单命令启动
- 环境变量配置
- 水平扩展简单
- 资源占用低
Kubernetes
企业级容器编排,适合大规模生产环境
- 自动扩缩容
- 滚动更新零停机
- 健康检查自愈
- Ingress + TLS
AWS Lambda
按调用付费,极致弹性,无需管理服务器
- 零运维成本
- 自动弹性伸缩
- API Gateway 集成
- 按需计费
构建下一代 AI 聊天应用
加入 LingFlow,用 S3 技能 + 事件溯源 + 流式响应,打造生产级实时 AI 服务