电子记事本Chapter XXXV · Vol. MMXXVI
XXXV.Chapter 35 · 电子记事本
仓库同步于 2026年7月16日

从后端工程师转 AI 应用开发,先看哪 10 份资料

后端工程师转 AI 应用开发,不需要一开始补完整机器学习体系。先围绕 API、RAG、评估、部署和成本控制建立工程闭环。

后端工程师转向 AI 应用开发,最短路径不是补一遍机器学习理论,而是把已有的 API、数据库、鉴权和运维能力,迁移到“输出不稳定、成本按调用发生、结果需要评估”的系统里。

先深挖四个主资源

第一阶段只保留四个主入口,每个入口都对应一次必须完成的工程动作。

| 主资源 | 为什么现在读 | 第一次实践成本 | 可检查产物 | | --- | --- | --- | --- | | OpenAI API 文档 | 先建立调用、结构化输出、超时和错误边界 | 约 2–3 小时;需要 API、HTTP 与密钥管理基础 | 一个带 schema 校验、超时和失败记录的接口 | | LlamaIndex | 用一个数据框架理解文档进入检索系统的完整路径 | 半天;需要 Python、文件处理与索引概念 | 文档清单、索引配置、引用与一条删除验证 | | Ragas | 把“回答看起来不错”改造成固定问题集上的可比较结果 | 半天;前提是已经有人工检查过的问题与依据 | 20 条问题、参考依据、失败分类和版本对照 | | LiteLLM | 仅在多模型、预算或调用治理成为真实问题时引入网关 | 半天到一天;需要部署、日志和代理配置经验 | 单模型代理、预算字段、上游失败日志与移除方案 |

OpenAI 文档不是开源课程,页面与示例的复用边界要按具体条款判断。LlamaIndex 与 LiteLLM 的开源部分采用 MIT,但 LiteLLM 同时存在 enterprise 目录与商业能力;Ragas 为 Apache-2.0。核验日期均为 2026-07-15。维护信号只能说明入口仍在更新,实际兼容性必须锁定版本后验证。

其余六份只在缺口出现时打开

Vercel AI SDK用于流式 UI 与取消状态;LangChain用于需要更多编排组件时的对照;Qdrant用于元数据过滤、备份与向量服务边界;Unstructured用于复杂文档解析;OpenFGA用于关系权限和越权反例;garak用于模型与对话系统的失败探测、提示注入和数据泄漏等红队检查。

这六项不是第二阶段必修课。只有当前项目已经出现对应缺口,才安排 60–120 分钟做官方最小入口;到时记录版本、维护日期、许可证、启动依赖、失败位置和移除成本。否则继续使用简单基线。

一句话解读:资料选择应由系统暴露的缺口触发,而不是由仓库热度触发。

一句话解读:这十份资料不是十个知识点,而是十种故障出现时可以回查的工程入口。

维护信息怎样进入学习记录

Vercel AI SDK、Ragas、Qdrant、Unstructured、OpenFGA 与 garak 的仓库 LICENSE 为 Apache-2.0;LangChain、LlamaIndex 为 MIT。每次真正引入候选时,还要记录核验日期、锁定版本、官方 Quickstart 是否可运行、最近 release 是否包含迁移说明,以及关键集成是否另有许可。最近提交只能证明有人维护,不能证明目标版本与你的环境兼容。

从后端能力到 AI 能力的四次迁移

第一次迁移是从 JSON 契约转向“模型输出需要约束和校验”。第二次是从数据库查询转向“解析、切分、检索、引用共同决定答案”。第三次是从单元测试转向固定样本、人工标准和版本回归。第四次是从服务监控转向同时观察延迟、token、成本、拒答和人工接管。

用一个内部文档问答项目串起来

先用原生 SDK 完成结构化回答,再接入少量干净文档。出现复杂 PDF 时才看 Unstructured;需要过滤时再引入 Qdrant;有稳定问题集后使用 Ragas;只有多模型路由成为真实需求时才部署 LiteLLM;多部门数据隔离出现后再研究 OpenFGA。

这个顺序故意把框架放晚。它让每个新增组件都对应一个已经观察到的失败,而不是把教程架构完整复制进项目。

学习曲线的三个断点

前置知识是 HTTP、JSON、异常处理,以及独立启动一个后端服务的能力。

第一处断点是结构化输出:模型返回“看起来对”的文本,却不满足程序契约。第二处是检索评估:你会发现引用存在不等于依据正确。第三处是生产治理:缓存、预算、权限和安全测试开始互相影响。跨过每一处都应留下失败样本,而不是只保存成功演示。

对应到学习产物,第一阶段应交付可校验的 API 与错误样本,适合已经会 HTTP、JSON、异常处理的后端开发者;第二阶段应交付文档清单、检索依据和问题集,需要基本数据库与索引概念;第三阶段才交付预算、权限模型和运行告警,需要日志、鉴权与部署经验。若连一个普通 Web 服务都无法独立运行,先补后端基础,这条路线不会替你讲框架、路由和数据库入门。

一句话解读:转型的学习曲线不是从 Python 走向 AI,而是从确定性接口走向可审计的不确定性。

最小路线

第一周只做一个原生 SDK 接口,覆盖超时、空响应和 schema 校验。第二步加入一小组文档与 20 个手工问题,逐条标出依据。第三步从表格中选择一个与当前失败最相关的工具,并做加入前后的对照。最后写清成本字段、人工兜底和未覆盖风险。

一句话解读:从后端转 AI 的毕业证不是“会用十个库”,而是能解释一次错误发生在调用、数据、检索、评估还是权限层。

哪些人不该按这条路学

目标是预训练、模型结构研究或论文复现的人,需要另一套数学与训练路线。只做一次性原型的人也不必部署网关和权限系统。最常见的浪费,是在没有评估样本时研究评估框架,或在只有一个模型时先建多模型网关。

真实项目里更隐蔽的失败是“把框架跑通当成迁移完成”:例如回答带了引用,却没有检查引用是否支持结论;接口返回合法 JSON,却把不确定内容填进必填字段。遇到这类问题应退回样本和验收标准,不能继续叠加库。本文也不覆盖训练、微调和大规模推理基础设施。

用发票字段提取检验能力迁移

选一批版式不同的发票,要求系统返回供应商、日期、金额和币种。后端经验会帮助你定义 schema、超时、重试和幂等,但 AI 部分会新增三类问题:图片模糊时字段不是“空”而是“不确定”;总额和税额可能在格式上都合法;模型升级后,同一张票据的输出可能变化。第一轮只用原生 SDK,把这些情况写进 20 条样本。

随后再判断缺口。版式解析失败才研究 Unstructured;需要回查合同或供应商规则才加入检索;版本间差异无法观察才引入评估工具。验收时比较的是字段正确、应拒绝却未拒绝、人工修正和单次处理记录,而不是接口吞吐量一个指标。这个小项目能把后端能力和新责任放在同一张表里,比另做一个聊天机器人更适合判断转型进度。

我的取舍

先选 OpenAI 文档、LlamaIndex 和 Ragas,足够完成第一轮工程闭环。LiteLLM 只有在多模型或预算治理出现后才进入;其余六份继续留在查询清单里。这样读者看到的是一条有主次、有启动成本、有退出条件的路线,而不是十个仓库名组成的目录。

下一步是从现有后端项目挑一个只读场景,写下输入、输出、三种失败和人工兜底,再从十份资料中只打开能解释第一个失败的入口。一周后用同一组 20 个问题复跑;结果没有可比较的变化,就移除新工具。

从后端工程师转 AI 应用开发,先看哪 10 份资料35
分享

// comments

0 threads

登录 后可留言、回复。

  • 还没有留言,来做第一个。