LJuntiljingGitHub →
Open to Work·杭州·AI Agent
untiljing

untiljing
AI Agent / LLM Application Engineer

I build observable, production-oriented AI Agent systems.

我构建可观测、可调试、可工程化落地的 AI Agent 系统。 4 年研发经验，曾负责 MindStudio Insight 三大核心模块，现自主构建 LumiAgent。

查看 LumiAgent 联系获取简历GitHub
LumiAgent Framework AuthorAgent Observability · RAG · MCPMindStudio Insight · Module Owner
Agent Runtime
LumiAgent trace session
live
thought.step
07
ReAct 推理步骤
tool.calls
03
检索 / 文件 / MCP
token.used
12.8k
Prompt + Completion
fallback
ready
Provider 故障转移
01context.build → retrieve.docs
02tool.github.search → observation.merge
03llm.router.primary → answer.synthesize
About

从复杂系统、AI 基础软件到 Agent 基础设施

我是一名面向 AI Agent 与 LLM 应用基础设施方向的工程师，关注如何让 Agent 不只是“能跑”，而是可观察、可调试、可评估、可持续迭代。

01 · 复杂业务系统

Full-stack Systems

在广联达负责成本测算等复杂 B/S 业务模块，从工程数据计算、WebSocket 流式回传到 SQL 与前端性能优化，积累端到端交付能力。

02 · AI 基础软件

AI Profiling Tools

负责 MindStudio Insight Timeline / Memory / Operator 三大模块，处理 GB 级 Profiling 数据解析与大规模可视化。

03 · Agent 基础设施

Observable Agents

将性能调优工具中的可观测性思维迁移到 LumiAgent，围绕 Trace、Token、工具调用链、RAG 召回和评估闭环构建 Agent 框架。

Core Strengths

不是只会调 API，而是理解 Agent 系统如何运行

用 6 个能力面支撑 AI Agent / LLM 应用工程师定位：框架、可观测性、RAG、工具、大模型性能和全栈交付。

01
ReAct / Memory / Router

Agent Framework

熟悉 ReAct、Plan-and-Execute、Reflection 等 Agent 范式，并在 LumiAgent 中实践 Agent Core、Memory、Tool Layer 与 LLM Router。

02
Trace / Token / Evaluation

LLM Observability

受 MindStudio Insight 性能可视化经验启发，关注 Agent 执行过程中的 Trace、Token、工具调用链、失败回退与评估闭环。

03
Retrieve / Rerank / Context

RAG Pipeline

掌握 Loader、Splitter、Embedding、ChromaDB、Reranker、Context Builder 等 RAG 工程链路，关注召回质量与端到端效果评估。

04
Function Calling / Tool Bridge

MCP / Tool Use

熟悉 Function Calling、Tool Use 与 MCP 工具接入，关注工具热插拔、权限边界、失败处理和调用链追踪。

05
Prefill / Decode / KV Cache

Transformer Performance

理解大模型训练/推理中的算子分布、KV Cache、Prefill / Decode 阶段耗时，可迁移至 LLM 应用延迟分析。

06
Python / C++ / TypeScript

Full-stack Engineering

具备 Python、C++、TypeScript、React、WebSocket、JupyterLab Extension 等全栈能力，能独立完成工具型产品交付。

Featured Project

LumiAgent

内置可观测性的轻量级开源 Agent 框架

很多 Agent Demo 只能证明“能跑”，却很难解释执行过程中发生了什么：为什么调用这个工具？Token 花在哪里？RAG 是否召回正确？失败后如何回退？LumiAgent 的目标是让 Agent 可观察、可调试、可评估、可持续优化。

L1
Platform Adapter
CMD / Web REST+WS / 飞书 / 钉钉 / 企微
L2
Unified Message Bus
UnifiedMessage 统一抽象
L3
Agent Core
ReAct 引擎 / ContextBuilder / 4 层 Memory / Sub-Agents
L4
LLM Layer
多 Provider + LLMRouter（primary / fallback / round-robin）
L5
Tool Layer
内置工具 + MCP 协议热插拔桥接
L6
RAG Layer
Loader → Splitter → Embedder → ChromaDB → Reranker
Observability Layer/Trace、Token、Tool Chain、Error、Evaluation 贯穿所有执行层。
Agent Runtime
LumiAgent trace session
live
thought.step
07
ReAct 推理步骤
tool.calls
03
检索 / 文件 / MCP
token.used
12.8k
Prompt + Completion
fallback
ready
Provider 故障转移
01context.build → retrieve.docs
02tool.github.search → observation.merge
03llm.router.primary → answer.synthesize
L1–L6

6-layer Architecture

从平台接入到 RAG 全链路，每层职责单一可独立替换

6D

Evaluation Loop

回答质量 / 工具准确率 / RAG 召回 / 记忆一致性 / 安全 / 延迟

Hot Plug

MCP Tool Bridge

符合协议的工具服务可热插拔接入 Agent 执行链

5+

LLM Router

OpenAI / Anthropic / DeepSeek 等 Provider 的路由与故障转移

Nanobot
轻量化、模块解耦
LangGraph
状态机式编排
LlamaIndex
RAG 流水线分层
MindStudio Insight
Tracing / Token / 失败回退作为框架一等公民
查看详情 →GitHub →
Projects

三个最能代表当前定位的项目

首页只突出 LumiAgent、MindStudio Insight 与 JupyterLab Extension，其他项目作为工程能力补充。

★
作者 / 维护者 · 2025.01 – 至今

LumiAgent

Observable AI Agent Framework

多平台 AI Agent 框架，6 层分层架构，受 MindStudio Insight 启发把 Tracing / Token / 失败回退当一等公民。

Python 3.11+FastAPIPydantic v2asyncioChromaDBMCP SDK
GitHub →Details →
★
模块 Owner · 2024.04 – 至今

MindStudio Insight

Large-scale AI Profiling Visualization Tool

MindStudio Insight 大模型性能调优工具。我作为 Timeline / Memory / Operator 三大模块 Owner，覆盖算子时序、显存占用、算子耗时可视化。

C++TypeScriptReactWebSocketProfiling
GitCode →Details →
★
唯一贡献者 · 2024.10 – 至今

MSInsight JupyterLab Extension

Remote AI Profiling in Jupyter

作为唯一贡献者独立完成 JupyterLab 插件形态，让算法工程师在远程训练服务器上无需本地 GUI 即可查看性能数据。

TypeScriptReactJupyterLabWebSocket
Details →
Archive
数字新成本平台 · 成本测算：Java 全栈 + WebSocket 流式回传 + 性能优化，公司优秀团队奖。
灯塔项目 · NLP 算法平台：Word2Vec + TextCNN 文本分类，Bi-LSTM + CRF 命名实体识别。
个人网站：Next.js 14 App Router + TypeScript + Tailwind，把网站本身作为工程作品展示。
Experience

工作经历

时间轴 · 4 年研发，从 NLP 到性能调优工具到 Agent 框架。

  1. 高级软件开发工程师

    ·MindStudio Insight
    2024.04 – 至今·AI Profiling Visualization·杭州

    MindStudio Insight · 源码 — 面向 AI 开发全流程的可视化性能调优工具，帮助开发者定位大模型训练/推理过程中的性能瓶颈。

    5 万行
    Timeline / Memory / Operator 三大核心模块 Owner
    1000+
    JupyterLab Extension 累计下载（唯一贡献者）
    分钟 → 秒
    百兆级 Profiling 文件首屏加载性能优化
    • C++ 高性能解析 GB 级 Profiling 数据，TS + React 实现复杂可视化交互，WebSocket 流式推送避免浏览器卡顿
    • 独立设计并交付 JupyterLab Extension 形态，让算法工程师在远程训练机上无需本地 GUI 即可分析性能
    • 通过分块加载、虚拟滚动、Web Worker 并行解析等手段，把首屏从分钟级降至秒级
    C++TypeScriptReactWebSocketProfiling性能优化

  2. 软件开发工程师

    ·广联达科技股份有限公司
    2022.11 – 2024.02·数字新成本平台·北京

    成本测算 / 收支通 — 轻量级工程 ERP 平台核心业务模块的全栈研发与性能优化。

    优秀团队奖
    公司年度优秀团队开发项目奖
    -50%
    定制化二开成本下降
    -60%
    整体开发流程缩短
    • 前端 MVC 分层处理工程数据计算、界面、交互；后端 WebSocket 长连接进行大工程数据计算与流式回传
    • 通过方法复杂度分析、SQL 索引优化、计算表达式重构，把多个核心卡点从分钟级响应优化至秒级
    • 抽提主流程公共方法，代码复用率提升 40%，打通成本测算上下游业务链路
    JavaSpring BootVueWebSocketMySQL性能调优

  3. 数据分析工程师（实习）

    ·广联达科技股份有限公司
    2021.07 – 2021.09 / 2022.07 – 2022.10·集团灯塔项目·北京

    灯塔 NLP 算法平台 — 集团公共数据分析平台的算法接口研发，早期 NLP 经验为后续转向 LLM/Agent 奠定基础。

    部门 → 集团
    项目从部门级立项升级为集团级公共平台
    Word2Vec + TextCNN
    供采/招投标 HTML 文档自动归类
    Bi-LSTM + CRF
    命名实体识别准确率达业务上线标准
    • 针对 OBS 数据库中的 HTML 文档构建多分类模型，实现文件类型自动归类
    • BIOES 标注 + Bi-LSTM + CRF，从非结构化文本中提取单位、地址等关键实体
    • 基于软件埋点数据进行使用路径推荐与功能组合优化
    PythonPyTorchNLPTextCNNBi-LSTM+CRF
Writing

把项目经验沉淀成可讨论的工程观点

这些文章是网站的技术深度入口，用来支撑面试中关于 Agent 工程化、框架取舍和性能优化的追问。

8 minDraft

为什么 Agent 系统需要可观测性

从 MindStudio Insight 到 LumiAgent：Agent 系统除了日志和接口耗时，还需要观察 Prompt、Token、思考步骤、工具调用链和 RAG 召回。

AgentObservabilityTracing
10 minDraft

LumiAgent 架构设计：一个轻量级 Agent 框架应该包含什么？

拆解 Platform Adapter、Agent Core、LLM Router、MCP Bridge、RAG Layer、Evaluator 与 Trace 的设计取舍。

LumiAgentArchitectureMCP
9 minDraft

从 LangChain 到 Nanobot：Agent 框架设计取舍对比

从抽象层级、状态管理、RAG、Tool Calling、可观测性和生产落地复杂度对比主流框架。

LangChainLangGraphRAG
Contact

聊聊？

对 AI Agent 工程化、可观测性与 LLM 应用基础设施感兴趣的团队，欢迎来聊。

Email
untiljing@gmail.com

请复制邮箱联系我；如需完整简历，可在邮件中说明来意。

GitHub
@untiLJing-git

查看开源项目与代码活动。

期望职位：AI Agent 应用开发工程师 / LLM 应用工程师 · 期望城市：杭州