WebSocket · S3 · Event Sourcing

实时 AI 聊天
技能即代码

基于 Go 构建的高性能 WebSocket AI 服务框架,S3 动态技能加载赋能 LLM, 事件溯源管理会话生命周期,流式透明的思考与响应过程。

~2ms 消息延迟
10k+ 并发连接
0s 技能热更新
7层 安全防护
lingflow — zsh
$ go run main.go
// 启动 LingFlow 服务...
[INFO] WebSocket 服务启动 :4030
[INFO] 从 S3 加载技能 ... 已加载 12 个技能
[INFO] 事件溯源存储已就绪
[OK] 服务运行中 - MODE: production
$

为生产环境而生

从实时通信到安全防护,LingFlow 提供构建企业级 AI 聊天应用所需的一切能力

流式透明响应

客户端实时接收 AI 思考过程与最终响应,system_thinking + system_response 双阶段流式推送,完全可控可追溯。

📦

S3 技能热加载

技能以 Markdown 文件存储于 S3,无需重新编译即可热更新。支持动态加载、关键词检索、智能匹配。

🔗

事件溯源架构

所有状态变更以不可变事件记录,支持完整审计追踪、会话回放、时间旅行调试。

🛡️

七层安全防护

Token 认证、Origin 白名单、IP 限流、速率限制、提示注入检测、内容审查、Guardrail 集成。

🤖

AI 技能创建

通过 #create_skill 命令让 AI 自动生成技能,两阶段提交 + 事务锁 + 速率限制确保安全可靠。

☁️

多云部署支持

支持本地服务器、Docker、Kubernetes、AWS Lambda + API Gateway 多种部署方式,灵活扩展。

分层设计,松耦合架构

清晰的层次划分,从连接管理到服务编排,每一层都独立可扩展

LingFlow 系统架构图
连接层
  • WebSocket 连接管理
  • 心跳检测引擎
  • 认证与鉴权
  • Origin / IP 限制
  • 连接池管理
服务层
  • 消息路由分发
  • 流式响应编排
  • 技能检索执行
  • AI 技能创建器
  • 提示注入防护
基础设施层
  • AWS Bedrock LLM
  • S3 技能存储
  • 事件溯源存储
  • 聚合与投影
  • 命令总线

技能即 Markdown

一个 .md 文件就是一个技能,S3 存储即开即用,AI 自动创建秒级上线

LingFlow 技能检索机制
/vulnerability_scanner
检测系统漏洞和安全威胁,提供安全评估报告与修复建议
/threat_intel
分析安全威胁情报和攻击趋势,追踪最新漏洞与 CVE
/security_audit
系统配置安全审计,合规性检查与加固建议
#create_skill
AI 自动生成新技能,两阶段提交确保安全可靠

流式透明,实时响应

完整的消息协议体系,思考过程与最终响应双阶段流式推送

LingFlow WebSocket 协议

Vue 3 + TypeScript 前端

完整的前端演示应用,MVVM 架构,生产就绪的中文交互界面

LingFlow 演示应用截图

灵活的部署选项

从单节点到 Kubernetes 集群,从传统服务器到 Serverless,随业务规模自由选择

推荐入门
🐳

Docker 部署

快速启动,适合中小型项目和开发测试环境

  • 单命令启动
  • 环境变量配置
  • 水平扩展简单
  • 资源占用低
生产级
☸️

Kubernetes

企业级容器编排,适合大规模生产环境

  • 自动扩缩容
  • 滚动更新零停机
  • 健康检查自愈
  • Ingress + TLS
Serverless

AWS Lambda

按调用付费,极致弹性,无需管理服务器

  • 零运维成本
  • 自动弹性伸缩
  • API Gateway 集成
  • 按需计费

构建下一代 AI 聊天应用

加入 LingFlow,用 S3 技能 + 事件溯源 + 流式响应,打造生产级实时 AI 服务