SOFTC 服务体系

04 / AI NATIVE ENGINEERING08 项核心服务

AI 原生工程体系

连接场景、知识、模型、工具、智能体、交付流程与运行治理，构建可组合、可评测、可持续演进的企业 AI 工程体系。

AI 基座知识工程ModelOpsAgentOpsAI DevOps评测治理

企业挑战

让 AI 从分散试点进入可规模化的工程体系

场景与平台脱节

试点围绕单一工具展开，缺少业务优先级、责任边界和规模化路线。

AI 资产彼此割裂

知识、模型、Prompt、工具、工作流和 Agent 难以统一发现、复用和治理。

从验证到生产存在断层

实验环境、评测方法、发布流程和运行底座没有形成连续工程链路。

效果、安全和成本不可见

缺少离线与在线评测、调用观测、权限审计和成本运营机制。

AI 工程价值链

贯通从场景定义到持续运营的完整工程闭环

01场景设计
识别价值、优先级、人机责任与证据边界。
02知识工程
把企业数据转化为可授权、可引用、可评测的知识服务。
03模型工程
统一模型选择、实验、注册、评测、发布与运行。
04智能体工程
组合模型、记忆、知识、工具与工作流完成复杂任务。
05交付运行
连接研发流程、资源底座、发布门禁与运行观测。
06评测治理
以质量、安全、成本和审计证据推动持续改进。

服务工作包

八项服务共同构成企业 AI 基座与工程能力

AI 原生架构规划与场景设计

识别场景、设计人机协作、目标架构、能力地图和演进路线。

工程融合: 把模型、知识、工具与 Agent 放入明确业务责任和证据边界。
业务价值: 形成场景驱动且可分阶段落地的 AI 转型蓝图。
关键交付: AI 原生架构蓝图 · 场景清单与建设路线

AI 资源和运行体系建设

建设模型服务、模型网关、推理服务、向量数据库以及知识、Prompt 和工具资源管理。

工程融合: 统一承载 AI 应用所需资源与服务，与 Kubernetes、GPU 基础运行底座分层解耦。
业务价值: 形成可发现、可调用、可观测的 AI 运行资源体系。
关键交付: AI 资源与运行架构 · 模型、向量库与工具服务

企业知识工程与 RAG 体系建设

建设知识采集、加工、索引、检索、权限、评测和运营闭环。

工程融合: 用 RAG 连接模型与经授权企业知识，要求引用证据可追溯。
业务价值: 形成可复用、可评测、可持续运营的知识服务。
关键交付: 知识工程架构 · RAG 管道与评测集

ModelOps 体系建设

建设模型注册、版本、实验、评测、发布、观测与回退。

工程融合: 以可重现实验和评测证据管理模型生命周期。
业务价值: 提高模型从开发到生产运行的可追溯性。
关键交付: ModelOps 流程 · 模型注册、评测与发布机制

AgentOps 体系建设

建设 Agent 资产、编排、调试、评测、可观测、权限与审计。

工程融合: 将 Agent 的模型调用、检索、工具调用和人工审批纳入可追溯运行链路。
业务价值: 让 Agent 从试验性应用变为可评测、可运营的工程对象。
关键交付: AgentOps 流程 · Agent 评测、观测与安全配置

AI DevOps 与研发工程体系建设

将 AI 编码、测试、评审、知识与自动化工具纳入研发流程。

工程融合: 为开发者提供受治理的 AI 辅助，以测试、审查和发布门禁验证产出。
业务价值: 在不牺牲质量和可追溯性的前提下改善研发体验。
关键交付: AI DevOps 应用规范 · AI 辅助研发工具与度量机制

AI 应用评测、安全与治理

建设评测集、自动与人工评估、红队、权限、审计、安全与成本治理。

工程融合: 对模型、RAG 和 Agent 建立从离线验证到在线观测的证据链。
业务价值: 为 AI 应用上线与持续运营提供可审核依据。
关键交付: AI 评测与治理框架 · 评测集、安全基线与审计报告

AI 工程平台与开发工具链建设

建设统一 AI 基座 Portal、开发工作台、资产目录、模板、工具集成与自助服务。

工程融合: 将知识、模型、Prompt、工具和 Agent 封装为可组合的工程资产。
业务价值: 降低 AI 应用工程门槛并提高资产复用率。
关键交付: AI 工程平台 · 开发工具链、资产目录与模板

可复用 AI 资产

把 AI 能力沉淀为可发现、可组合、可治理的工程资产

统一资产目录与工程上下文

通过版本、权限、依赖、评测和运行数据连接每一类资产，让团队复用能力而不是重复组装。

知识

文档、数据、术语、图谱与权限上下文

模型

基础模型、领域模型、Embedding 与重排模型

Prompt

模板、变量、版本、测试集与使用策略

Workflow

任务分解、节点编排、状态与人工审批

API

业务服务、数据服务与标准化调用契约

MCP

工具发现、上下文协议与受控服务连接

Skill

可复用任务技能、说明、工具与验证规则

Agent

角色、记忆、知识、工具、计划与行为策略

AI 工程运营体系

用八类 Ops 能力管理 AI 应用的完整生命周期

KnowledgeOps

管理知识采集、加工、权限、质量、版本与使用反馈。

ModelOps

管理模型实验、注册、评测、发布、观测和退役。

PromptOps

管理 Prompt 资产、版本、测试、效果和适用范围。

WorkflowOps

管理工作流定义、运行状态、异常、补偿与审批。

AgentOps

管理 Agent 资产、编排、评测、观测、权限与审计。

EvaluationOps

持续管理数据集、指标、基线、回归和线上反馈。

AI DevOps

把 AI 能力嵌入需求、开发、测试、评审和交付过程。

SimulationOps

通过仿真环境、场景和数据支撑复杂系统验证。

核心生命周期

分别治理模型与智能体，统一连接评测、发布与运行证据

MODELOPS

模型从实验到持续改进

01实验
记录数据、参数、代码和环境
02注册
统一模型元数据、版本与责任
03评测
验证质量、安全、性能与成本
04发布
通过审批、灰度和策略进入生产
05观测
跟踪调用、延迟、质量与漂移
06改进
回滚、再训练、替换或退役

AGENTOPS

智能体从设计到可运营

01设计
定义角色、目标和责任边界
02组合
连接模型、知识、记忆、工具与 Skill
03调试
回放任务链路、状态与工具调用
04评测
验证任务完成度、依据、安全和成本
05发布
配置权限、策略、审批和运行环境
06观测
跟踪推理、检索、工具和人工节点
07运营
基于反馈更新资产、规则与行为策略

AI 研发和交付

AI 增强研发活动，流程与质量门禁保持责任边界

01需求
检索知识、澄清范围并生成可审核草案
02设计
辅助架构分析、接口设计与影响评估
03开发
提供受治理的代码、知识和工具上下文
04测试
生成测试、补充边界并分析失败原因
05评审
解释变更、识别风险并保留人工决策
06交付
连接流水线、质量门禁、审批与发布
07运营
将事件、反馈与研发资产连接成改进闭环

AI 提供检索、分析、生成与建议；测试、评审、审批和业务验收仍然决定软件能否进入生产。

评测、安全与治理

以可查证证据控制质量、风险与运营成本

质量评测

模型、RAG、Workflow 与 Agent 的离线、回归和在线评测。

安全防护

内容安全、Prompt 防护、工具权限、数据边界与红队验证。

权限审计

身份、角色、资源授权、人工审批和完整操作记录。

运行观测

跟踪模型调用、检索证据、工具执行、任务链路和失败。

成本运营

分析 Token、GPU、模型与场景成本，建立预算和配额机制。

发布门禁

以评测基线、安全策略、业务验收和责任审批控制上线。

企业 AI 基座

五层架构连接工作入口、工程能力、AI 服务与运行底座

01
统一 AI 基座 Portal
角色工作台、场景空间、资产目录、自助服务与运营视图。
02
AI 工程与智能体层
知识工程、ModelOps、AgentOps、AI DevOps、评测与仿真工程。
03
AI 能力服务层
RAG、模型服务、工作流、Prompt、API、MCP、Skill 与工具服务。
04
AI 资源与运行层
Kubernetes、GPU 调度、分布式计算、推理、向量数据库与存储。
05
治理与开放集成层
身份权限、安全策略、审计、可观测、成本治理与企业系统集成。

建设路径

从高价值场景出发，逐步形成平台、流程与内生能力

01评估与场景规划
盘点战略、场景、数据、人才、系统和风险，形成优先级。
02最小可用 AI 基座
围绕高价值场景建立 Portal、知识、模型、工具和评测基础。
03ModelOps 与 AgentOps 试点
用真实业务验证生命周期、流程、平台和治理机制。
04平台化与规模推广
沉淀目录、模板、标准和自助服务，支持更多团队与场景。
05运营优化与能力转移
通过 FDE 共创、培训、度量、复盘和资产移交形成内生能力。

交付成果

交付 AI 基座，也交付可持续运营的工程机制

AI 战略与总体架构蓝图

场景组合、能力地图、目标架构、边界原则和分期建设路线。

AI 资源与运行底座

CPU/GPU 资源池、容器调度、模型推理、数据与存储运行设计。

知识工程与 RAG 体系

知识加工、检索、权限、引用、质量与持续运营机制。

ModelOps 与 AgentOps 体系

模型和 Agent 的资产、流程、评测、发布、观测与运营闭环。

AI 工程 Portal 与工具链

角色工作台、资产目录、模板、自助服务、IDE 与工程工具集成。

评测、安全与治理机制

评测集、质量基线、安全策略、权限审计、成本与发布门禁。