云原生架构-服务网格

一、服务网格本质服务网格的本质是把微服务之间通信的“脏活累活”——重试、加密、监控、限流——从每个服务的业务代码里抽出来交给一个统一的、独立的基础设施层去干。业务代码只关心业务逻辑通信治理由网格统一负责。在没有服务网格的时代一个 Spring Cloud 微服务要处理通信需要在代码里写服务发现调用、负载均衡选择、超时重试、熔断降级、日志埋点、mTLS 加密。这些逻辑散落在几十个服务、多种语言里中间件升级意味着所有服务都要改代码、重新上线。服务网格把这些能力从业务进程中剥离出来放到每个服务旁边的一个独立代理进程Sidecar里。业务代码只管发请求代理负责后面所有的事。二、核心优势无侵入业务代码零改造这是服务网格区别于所有传统微服务框架的最本质特征。传统方案Spring Cloud、Dubbo需要业务代码引入 SDK、写注解、处理治理逻辑。服务网格对业务完全透明业务代码不需要任何改动就能获得流量治理、加密、可观测能力。多语言统一治理Spring Cloud 绑定 JavaDubbo 绑定 Java。但一个公司往往同时有 Java、Go、Python、Node.js。服务网格的 Sidecar 是独立进程与业务语言无关一套治理规则覆盖所有语言。这是它相比 SDK 方案的决定性优势。治理能力与业务解耦独立升级中间件要升级改 Sidecar 版本即可业务服务完全不受影响。新增一个治理能力控制面下发新配置数据面自动生效。不需要改任何业务代码不需要重新编译任何服务。统一控制面全局策略一致性所有服务的治理策略由控制面统一管理。运维团队可以在一个地方定义“所有服务间通信必须加密”“订单服务到支付服务的调用超时不超过 2 秒”然后自动下发到整个网格避免了每个服务各自为政、配置不一致的问题。三、架构组成和实现机制服务网格在架构上分为数据平面和控制平面两层。数据平面实际转发流量、执行策略、采集数据。控制平面不碰流量只负责告诉数据平面“该怎么干”。1、数据平面Data Plane由部署在每个服务实例旁边的 Sidecar 代理组成。在 Kubernetes 中Sidecar 容器与业务容器运行在同一个 Pod 内共享网络命名空间通过修改路由规则劫持业务进程的所有进出流量。代理理解 HTTP、gRPC、TCP 等协议执行控制面下发的策略路由、加密、限流、上报遥测。组成一组部署为 Sidecar 的智能代理典型实现是 EnvoyIstio 默认数据面。每个服务实例旁都有一个 Sidecar接管该实例所有进出流量。核心作用第一流量转发。 所有服务间通信都经过 Sidecar。服务A调用服务B流量先到A的Sidecar再到B的Sidecar最后才到B的业务容器。业务代码对此完全无感知。第二策略执行。 控制面下发的路由规则、熔断策略、安全策略最终都由Sidecar执行。比如“5%流量走v2版本”“失败率超50%就熔断”“只允许order-service调用payment-service”这些规则在Sidecar上生效。第三遥测采集。 Sidecar自动记录每个请求的延迟、状态码、流量大小并注入追踪上下文。这些数据是后续可观测性的基础。关键特征数据平面是无状态的。它不存储配置所有规则来自控制面下发。Sidecar可以随时重启、替换不影响业务逻辑。形象理解数据平面像酒店里的服务员——端茶倒水、引路开门、记录客人需求实际干活的是他们。但他们不制定规则规则由管理层下达。2、控制平面Control Plane管理和配置所有 Sidecar 代理。核心职责包括服务发现从 Kubernetes 监听 Service/Endpoint 变化、证书签发与轮换、策略下发通过 xDS 协议推送给所有 Sidecar、遥测数据聚合。组成典型实现是 Istiod。它不参与实际流量转发只负责管理和配置数据平面。核心作用第一配置下发。 运维人员通过YAML声明路由规则、安全策略、熔断配置。控制面把这些高级规则转换为Envoy能理解的配置格式通过xDS协议推送到所有Sidecar。第二服务发现。 控制面从Kubernetes等服务注册中心获取服务列表和端点信息转换为网格内部的服务注册表下发给Sidecar。Sidecar因此知道“服务B现在有哪些实例可用”。第三证书管理。 控制面充当证书颁发机构CA为每个工作负载签发身份证书并负责自动轮换。这是零信任安全的基础。第四策略决策。 控制面根据配置决定“什么流量该走什么路径”“谁可以访问谁”然后把决策结果下发给Sidecar执行。关键特征控制平面是有状态的。它维护着整个网格的配置状态、证书状态、服务注册状态。控制面不可用时已有的数据面转发通常仍可继续Sidecar缓存了最后一次有效配置但新部署的服务将无法获得证书和策略。形象理解控制平面像酒店的管理层——制定服务标准、分配任务、管理门禁权限。他们不直接服务客人但没有他们服务员就不知道该怎么干。3、Sidecar 的作用Sidecar 的职责可以用一句话概括接管业务容器的所有进出网络流量替它完成通信治理的全部杂活。具体来说它承担以下五类工作流量劫持与转发Sidecar 通过修改 Pod 的网络路由规则iptables把业务容器的所有进出流量都劫持到自己的代理进程中。业务容器以为自己在直接调用目标服务实际上请求先经过 Sidecar由它决定发给谁。服务治理服务发现从控制面获取目标服务的可用实例列表负载均衡在多个实例中选择一个熔断与重试下游失败时自动重试或熔断防止故障扩散超时控制设置请求超时时间避免请求无限等待限流限制请求速率防止过载安全通信mTLS 加密为进出流量自动加密双方互相验证证书身份认证验证调用方的工作负载身份是否合法访问控制根据控制面下发的策略决定是否放行该请求可观测性数据采集指标自动记录请求延迟、错误率、QPS日志生成访问日志记录每次调用的来源、目标、结果链路追踪生成 Span 并透传 TraceID把跨服务调用串联成完整链路以上数据无需业务代码埋点由 Sidecar 自动上报。策略执行控制面下发的所有策略路由规则、安全策略、限流阈值最终都由 Sidecar 执行。Sidecar 是策略的执行点控制面是策略的决策点。4、工作流程Sidecar 启动时向控制面注册获取自己的身份证书和初始配置。业务进程发起调用流量被 Sidecar 劫持。Sidecar 根据控制面下发的路由规则选择目标实例执行加密、重试、熔断等策略。目标 Sidecar 验证来源身份决定是否放行。整个过程的指标、日志、链路数据由 Sidecar 自动上报。整个过程业务代码没有参与任何治理逻辑。5、无代理模式ProxylessSidecar 模式带来资源开销和延迟增加的问题。无代理服务网格用 SDK 替代 Sidecar由服务框架直接对接控制面省去代理进程降低延迟和资源消耗代价是失去了语言透明性。四、五大核心架构能力1、服务治理管理服务之间怎么可靠地互相调用包括服务发现、负载均衡、动态路由、熔断、重试、超时、限流。实现机制Sidecar 代理拦截业务进程的进出流量依据控制面下发的规则执行转发决策。服务发现由控制面从 Kubernetes 的 Service/Endpoint 中获取动态感知实例变化。负载均衡算法在 Sidecar 内执行。熔断和限流规则以声明式配置定义Sidecar 实时统计指标并触发策略。实现机制详细流程假设订单服务要调支付服务。流量被劫持订单服务的业务容器发出 HTTP 请求目标地址 payment-service:8080。Pod 启动时注入的 iptables 规则捕获这个出站报文将其重定向到 Sidecar 监听的 15001 端口。业务代码以为自己在直接调支付服务实际上请求先到了 Sidecar。Sidecar 查路由表SidecarEnvoy收到请求后查看控制面下发的路由配置。VirtualService 中定义目标为 payment-service 的请求转发到 v2 子集。Sidecar 据此确定目标子集。查负载均衡策略Sidecar 再查 DestinationRule确认 v2 子集有哪些实例可用。假设有三个 Pod 实例Sidecar 按配置的轮询算法选一个。执行治理策略如果配置了错误率超过 5% 时熔断 30 秒Sidecar 实时统计对支付服务的调用成功率。触发熔断后后续请求直接返回降级响应不再转发。重试、超时、限流同理都在这一步由 Sidecar 执行。转发并记录Sidecar 把请求转发到选中的支付服务 Pod。对方 Pod 的 Sidecar 在 15006 端口接收验证后转发给业务容器。整个过程的延迟、状态码被自动记录。解决的问题传统 SDK 方案Spring Cloud、Dubbo将服务发现、负载均衡、熔断重试等逻辑嵌入业务代码升级中间件需修改所有服务。服务网格将这些能力剥离到代理层业务代码零改造且治理规则独立于业务生命周期。关联架构原则服务化原则服务间标准化通信、弹性原则限流熔断保护系统稳定性。效果请求成功率提升故障隔离后影响面缩小。修改 VirtualService 权重流量切换秒级生效无需重启 Pod。服务间通信经过 Sidecar 后控制面可实时下发新规则无需重启业务容器即可更新治理策略。代价Sidecar 引入带来额外网络跳数。业务进程 → 内核协议栈 → Sidecar → 内核协议栈 → 容器网络 → 目标 Sidecar → 目标业务进程相比直连多出多次网络栈处理和数据拷贝。Sidecar 模式虽然实现了治理与业务解耦但带来了高资源消耗和请求延迟增长的问题。2、可观测性无需业务代码埋点自动生成指标、日志、链路追踪数据让分布式系统的内部状态可被观测。实现机制Sidecar 代理位于所有流量的必经之路上自动捕获进出流量生成指标、访问日志、链路追踪数据。所有遥测由代理上报到 Prometheus、Jaeger 等系统业务代码无需埋点。实现机制详细流程采集原始数据每次转发请求时Envoy 在本地记录访问日志条目同时更新内部统计计数器——比如 envoy_cluster_upstream_rq_completed 累计完成的请求数envoy_cluster_upstream_rq_time 记录延迟分布。生成链路 Span对于启用追踪的请求Sidecar 生成一个 Span并在请求头中注入 x-request-id、b3 等追踪标识。下游服务的 Sidecar 提取这些标识生成子 Span最终汇聚成完整的调用链。上报数据指标通过 /metrics 端点暴露被 Prometheus 定期抓取。追踪数据通过 OTLP 协议导出到 Jaeger 或 OpenTelemetry Collector。访问日志可输出到 stdout由 Fluent Bit 采集后发送到 Loki 或 Elasticsearch。可视化Kiali 基于这些数据展示服务依赖图标注流量分布与错误热点。Grafana 仪表盘展示延迟 P50/P99、错误率、QPS 趋势。解决的问题分布式调用链断裂排查故障靠猜。传统监控需手动拼接跨服务日志不同团队维护独立监控系统服务依赖关系难以关联分析。服务网格将可观测性能力下沉到网络通信层实现端到端链路可视化。关联架构原则可观测性原则核心实现载体。Sidecar 代理天然位于流量路径上是生成遥测数据的最佳位置。效果故障平均发现时间MTTD和平均修复时间MTTR显著缩短。所有服务的调用关系、延迟分布、错误来源一目了然。Istio 通过自动注入追踪头实现跨服务链路追踪Envoy 生成根 Span 并附加追踪头后续服务提取上下文生成子 Span最终汇聚至 Jaeger 形成可视化调用链。代价全量数据采集带来存储成本急剧上升需要采样和分级存储策略。遥测数据量可能远超业务数据本身。Istio 默认只开启少量 Envoy 指标以避免拖垮监控后端。3、零信任安全基于工作负载身份而非 IP实现服务间通信的加密和访问控制核心假设是网络内外的所有流量都不可信。实现机制控制面为每个工作负载签发 X.509 证书证书包含 SPIFFE URI 身份。通信双方 Sidecar 互相验证证书后建立 mTLS 加密通道。授权策略基于身份定义默认拒绝仅显式添加允许规则。证书自动签发、轮换、吊销业务无感知。实现机制详细流程一次 mTLS 握手身份签发控制面Istiod为每个 Pod 的 Sidecar 签发一张 X.509 证书证书中包含 SPIFFE URI 身份例如 spiffe://cluster.local/ns/frontend/sa/web-app。Istiod 通过 SDS秘密发现服务 把证书分发给每个 Envoy Sidecar。Sidecar 把证书存在内存中不落盘降低泄露风险。证书有有效期到期前自动轮换业务完全无感知。发起连接订单服务的业务代码发出一条请求目标是 payment-service。这条请求被 Sidecar 拦截后Sidecar 需要和支付服务的 Sidecar 建立TLS 连接。且需要验证对方的证书 SAN ID 匹配 spiffe://cluster.local/ns/payment/sa/payment-service。互验证书订单服务的 Sidecar 和支付服务的 Sidecar 开始 mTLS 握手。这个过程和普通 TLS 握手的区别在于双方都要出示证书双方都要验证对方。授权决策加密通道建立后订单服务的请求到达支付服务的 Sidecar。但身份合法不等于什么都能干。支付服务的 Sidecar 还要查一份 AuthorizationPolicy授权策略允许 - 来源身份cluster.local/ns/order/sa/order-service - 访问路径/pay - 请求方法POST 拒绝其他所有请求身份不匹配清单里的规则直接拒绝返回 403请求根本到不了业务容器。解决的问题传统边界安全假设内网可信Pod IP 频繁变化使 IP 白名单失效。Kubernetes 网络默认明文被攻陷的 Pod 可嗅探节点本地流量、暴露 API 密钥和凭证且没有内置服务身份Pod 可互相冒充。关联架构原则零信任原则核心实现载体、韧性原则微隔离限制攻击影响范围。效果服务间通信默认加密身份验证在 Sidecar 层自动完成应用代码无需改动。空的 AuthorizationPolicyspec: {}意味着默认拒绝所有流量符合零信任默认拒绝原则。PeerAuthentication 资源支持 STRICT、PERMISSIVE、DISABLE 三种模式PERMISSIVE 用于迁移阶段允许混合流量STRICT 用于生产环境强制 mTLS。代价mTLS 证书管理增加运维复杂度证书轮换失败可能导致通信中断。加密和认证引入额外延迟和 CPU 消耗。多租户环境中VirtualService 的路由规则是网格级别的一个命名空间中的恶意规则可能影响其他命名空间。4、渐进交付通过流量切分实现金丝雀发布、蓝绿部署、A/B 测试让新版本在小范围验证后再逐步放量。实现机制DestinationRule 定义服务的版本子集VirtualService 控制流量在子集间的分布。支持按权重切分和按请求内容切分。修改配置后由控制面通过 xDS 推送到 Sidecar秒级生效无需重启 Pod。实现机制详细流程一次金丝雀发布订单服务从 v1 升级到 v2部署新版本部署 v2 的 Deployment副本数设为 1或更多但暂时不给它任何流量。新旧版本同时存在但流量完全在旧版本上。新版本处于待命状态随时可以接流量也可以随时撤掉定义子集在 DestinationRule 中定义 subsetsv1 和 v2。每个子集通过 Pod 标签选择对应的版本。从模糊的新旧变成可被程序识别的标签。Sidecar 靠这些标签来识别目标版本。切流量修改 VirtualService设置路由规则weight: 90 给 v1weight: 10 给 v2。这一步不需要改任何业务代码也不需要重启 Pod。控制面把新规则通过 xDS 推送到所有 Sidecar秒级生效。观察指标v2 接收 10% 流量后通过可观测性能力对比 v1 和 v2 的错误率、延迟。如果 v2 指标正常把权重调成 50/50再调成 0/100。如果 v2 出错把权重调回 100/0 即可回滚。基于内容分流可选除了按权重还可以按请求头分流。比如所有 user-type: admin 的请求走 v2其他走 v1。这用于让内部用户先体验新版本。按权重是随机抽样按内容是定向投放。两者可以组合使用——先让内部用户走 v2同时 10% 的普通用户也走 v2双重验证。解决的问题新版本全量上线风险高出问题只能停机回滚。传统方式下流量切分依赖负载均衡器精度低且难以按请求特征分流。关联架构原则自动化原则发布流程自动化、持续演进原则支持架构渐进升级。效果流量切分精度远超 Kubernetes 原生方案。原生 K8s 要通过调整副本数比例来控制流量1% 的金丝雀需要至少 100 个副本。Istio 支持精确的百分比和基于内容的分流且与扩缩容完全解耦。蓝绿部署中0 权重的目标仍保留在配置中便于快速回滚。代价流量切分规则需要精细设计粒度过粗验证不充分过细则管理成本高。依赖服务网格控制面的可用性控制面故障可能影响发布能力。权重分配在低流量场景下实际分布可能与配置值有偏差需要足够多的请求才能收敛。5、策略执行所有策略路由规则、安全策略、限流阈值通过控制面统一下发到数据面执行策略以代码形式管理可审计、可回滚。实现机制控制面将声明式配置VirtualService、DestinationRule、AuthorizationPolicy转换为 Envoy 可理解的配置通过 xDS 协议推送到每个 Sidecar。Sidecar 动态更新本地监听器、路由表后续流量按新策略处理。控制面是决策点Sidecar 是执行点。实现机制详细流程控制面监听变化用户通过 kubectl apply 创建或修改一个 VirtualService。Istiod 控制面监听 Kubernetes API Server感知到这个变化。转换配置Istiod 把用户定义的声明式配置VirtualService、DestinationRule、AuthorizationPolicy转换成 Envoy 能理解的配置结构——监听器、路由表、集群信息、证书配置。通过 xDS 推送Istiod 通过 gRPC 流式连接把配置推送给每个 Sidecar。xDS 是一组发现服务的总称CDS 下发集群信息EDS 下发端点列表RDS 下发路由规则LDS 下发监听器配置SDS 下发证书。Istio 1.22 默认启用了 Delta xDS只推送变化的增量降低 CPU 和内存开销。Sidecar 更新配置Envoy 收到推送后动态更新本地的监听器和路由表不重启进程。后续流量立即按新规则处理。确认与重试Envoy 通过 ACK/NACK 机制确认配置应用成功。如果配置有误比如引用了一个不存在的子集Envoy 会 NACKIstiod 可以回滚到上一个版本。解决的问题治理规则散落在各服务中配置不一致且难以审计。策略变更需要重新部署服务无法动态生效。xDS 协议解决了配置动态分发的问题使策略变更可以秒级生效。关联架构原则自动化原则策略即代码、GitOps 管理、零信任原则安全策略统一下发。效果策略变更秒级生效无需重启服务。策略以 Git 代码形式管理可审计、可回滚。控制面是决策点Sidecar 是执行点两者分离使策略管理集中化执行分布化。控制面监听 Kubernetes 资源变化通过 ADS聚合发现服务一次请求即可获取 LDS、RDS、CDS、EDS 等所有配置。代价控制面成为单点配置错误可能瞬间影响整个网格。xDS 推送的可靠性和性能在超大规模场景下存在瓶颈。控制面与数据面之间的 gRPC 流需要保持长连接网络抖动可能导致配置同步延迟。