Cloudflare 从 Nginx 到 Pingora:性能、效率与安全的全面升级


在互联网的快速发展中,高性能、高效率和高安全性的网络服务成为了各大互联网基础设施提供商的核心追求。Cloudflare 作为全球领先的互联网安全和基础设施公司,近期做出了一个重大技术决策:弃用长期使用的 Nginx,转而采用其内部开发的基于 Rust 的新一代代理服务——Pingora。
在这里插入图片描述

一、弃用 Nginx 的原因

在这里插入图片描述

(一)架构限制影响性能

Nginx 作为一款高性能的 HTTP 和反向代理服务器,多年来一直是 Cloudflare 的核心组件之一。然而,随着 Cloudflare 业务规模的迅速扩张,Nginx 的架构局限性逐渐显现。Nginx 的 worker(进程)架构导致每个请求只能由单个 worker 处理,这不仅造成了 CPU 内核之间的负载不平衡,还使得执行 CPU 密集型或阻塞 I/O 任务的请求会减缓其他请求的速度。此外,Nginx 的连接池与单个 worker 相对应,限制了连接的重用率。当增加更多的 worker 进行扩展时,连接会分散在更多的孤立池中,导致连接重用率下降,增加了资源消耗。

(二)功能扩展困难

Nginx 虽然在 Web 服务器、负载均衡器或简单的网关方面表现出色,但对于更高级、定制化的功能需求,其扩展性存在明显不足。Cloudflare 在尝试围绕 Nginx 构建所需功能时,面临着与上游代码库保持一致的挑战,这并不容易实现。此外,Nginx 社区的活跃度有限,开发工作往往缺乏开源社区的支持和协作。

二、Pingora 的优势

(一)性能提升

Pingora 采用 Rust 编程语言开发,Rust 的内存安全和高性能特性使其在处理高并发请求时表现优异。Pingora 的多线程架构允许跨所有线程共享连接,从而实现更好的连接重用率,减少了 TCP 和 TLS 握手的时间。实际数据显示,Pingora 的 TTFB(第一个字节时间)中位数减少了 5 毫秒,第 95 百分位数减少了 80 毫秒。对于一个主要客户,Pingora 将连接重用率从 87.1% 提高到 99.92%,减少了 160 倍的新连接。

(二)效率优化

在生产环境中,Pingora 在相同流量负载的情况下,消耗的 CPU 和内存资源分别减少了约 70% 和 67%。Rust 代码的运行效率高于旧的 Lua 代码,多线程模型也使得跨请求共享数据更加高效。

(三)安全性增强

Rust 的内存安全语义保护 Cloudflare 免受未定义行为的影响,使其相信服务将正确运行。这使得 Cloudflare 能够更多地关注服务更改将如何与其他服务或客户来源进行交互,以更高的节奏开发功能,而不用背负内存安全和难以诊断崩溃的问题。

三、Pingora 的使用示例

Cloudflare 官方提供了一个简单的 Pingora 使用示例,展示了如何快速构建一个负载均衡器:

use pingora_core::services::background::background_service;
use pingora_core::server::configuration::Opt;
use pingora_core::server::Server;
use pingora_core::upstreams::peer::HttpPeer;
use pingora_core::Result;
use pingora_load_balancing::{health_check, selection::RoundRobin, LoadBalancer};
use pingora_proxy::{ProxyHttp, Session};
use std::sync::Arc;pub struct LB(Arc<LoadBalancer<RoundRobin>>);#[async_trait::async_trait]
impl ProxyHttp for LB {type CTX = ();fn new_ctx(&self) -> Self::CTX {}async fn upstream_peer(&self, _session: &mut Session, _ctx: &mut ()) -> Result<Box<HttpPeer>> {let upstream = self.0.select(b"", 256).unwrap();let peer = Box::new(HttpPeer::new(upstream, true, "one.one.one.one".to_string()));Ok(peer)}
}fn main() {let opt = Opt::from_args();let mut my_server = Server::new(Some(opt)).unwrap();my_server.bootstrap();let mut upstreams = LoadBalancer::try_from_iter(["1.1.1.1:443", "1.0.0.1:443"]).unwrap();let hc = health_check::TcpHealthCheck::new();upstreams.set_health_check(hc);upstreams.health_check_frequency = Some(std::time::Duration::from_secs(1));let background = background_service("health check", upstreams);let upstreams = background.task();let mut lb = pingora_proxy::http_proxy_service(&my_server.configuration, LB(upstreams));lb.add_tcp("0.0.0.0:6188");my_server.add_service(lb);my_server.add_service(background);my_server.run_forever();
}

在这个示例中,Pingora 使用 Rust 的异步编程特性,通过简单的代码实现了负载均衡器的基本功能。它展示了 Pingora 的灵活性和开发效率,同时也体现了 Rust 在处理高并发网络服务时的优势。

四、Pingora 的 GitHub 链接

Cloudflare 已经正式开源了 Pingora 框架,源代码采用 Apache License,托管在 GitHub。以下是 Pingora 的 GitHub 仓库链接,你可以在这里查看代码、提交问题或参与贡献:

  • Pingora GitHub 仓库地址:https://github.com/cloudflare/pingora

五、总结

Cloudflare 从 Nginx 转向 Pingora 是一个具有里程碑意义的决策。Pingora 不仅在性能、效率和安全性方面显著优于 Nginx,还为 Cloudflare 提供了更强大的功能扩展能力。随着 Cloudflare 将 Pingora 开源,这一技术变革有望为整个互联网行业带来新的启示和机遇,推动更多企业探索更高效、更安全的网络服务解决方案。


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.pswp.cn/bicheng/84575.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

从编辑到安全设置: 如何满足专业文档PDF处理需求

随着数字化办公的发展&#xff0c;PDF 已成为跨平台文档交互的标准格式。无论是在日常办公、学术研究&#xff0c;还是项目协作中&#xff0c;对 PDF 文件进行高效编辑与管理的需求日益增长。功能全面、操作流畅且无额外负担的 PDF 编辑工具&#xff0c;它是一款在功能上可与 A…

Kafka消费者组位移重设指南

#作者&#xff1a;张桐瑞 文章目录 一、Kafka 与传统消息引擎的核心差异二、重设消费者组位移的核心原因三、重设位移的两大维度与七种策略四、重设位移的实现方式&#xff08;一&#xff09;Java API 方式&#xff08;二&#xff09;命令行脚本方式&#xff08;Kafka 0.11&am…

分类模型:逻辑回归

1、针对设计&#xff1a;二分类 Logistic 回归最初是为二分类问题设计的&#xff0c; Logistic 回归基于概率&#xff0c;通过 Sigmoid 函数转换输入特征的线性组合&#xff0c;将任意实数映射到 [0, 1] 区间内。 通过引入一个决策规则&#xff08;通常是概率的阈值&#xff…

CppCon 2015 学习:C++ WAT

这段代码展示了 C 中的一些有趣和令人困惑的特性&#xff0c;尤其是涉及数组访问和某些语法的巧妙之处。让我们逐个分析&#xff1a; 1. assert(map[“Hello world!”] e;) 这一行看起来很不寻常&#xff0c;因为 map 在这里被用作数组下标访问器&#xff0c;但是在前面没有…

vscode自定义主题语法及流程

vscode c/c 主题 DIY 启用自己的主题(最后步骤) 重启生效 文件–>首选项–>主题–>颜色主题: 也可以在插件里找到哈 手把手教你制作 在C:\Users\jlh.vscode\extensions下自己创建一个文件夹 里面有两个文件和一个文件夹 具体内容: package.json: {"name&…

前端传递日期范围(开始时间和结束时间),后端解析及查询

前端技术&#xff1a;Vue3 TypeScript Element Plus 后端技术&#xff1a;Java Spring Boot MyBatis 应用效果&#xff1a; 原来方案 1、前端日期控件使用 el-date-picker&#xff0c;日期显示格式和日期值返回格式都为&#xff1a;YYYY-MM-DD <el-form :model"…

零基础设计模式——行为型模式 - 命令模式

第四部分&#xff1a;行为型模式 - 命令模式 (Command Pattern) 接下来&#xff0c;我们学习行为型模式中的命令模式。这个模式能将“请求”封装成一个对象&#xff0c;从而让你能够参数化客户端对象&#xff0c;将请求排队或记录请求日志&#xff0c;以及支持可撤销的操作。 …

禁止 Windows 更新后自动重启

Windows 默认会在安装重要更新后自动重启&#xff0c;但你可以调整设置来避免这种情况&#xff1a; ​​方法 1&#xff1a;通过组策略&#xff08;适用于 Windows 专业版/企业版&#xff09;​​ 按 Win R&#xff0c;输入 gpedit.msc 打开 ​​本地组策略编辑器​​。导航…

GoldenDB简述

GoldenDB是国产的分布式数据库。它彻底解决了事务一致性&#xff0c;数据实时一致性的问题。采用的是Shared Nothing&#xff08;分片式存储&#xff09;的分布式架构。就是不共享数据&#xff0c;各自节点持有各自的数据。对比不共享的&#xff0c;还有其他两种分布式架构&…

训练过程中的 Loss ?

文章目录 在我们训练的过程中&#xff0c;设置好这个epochs也就是训练的轮次&#xff0c;然后计算这个损失函数&#xff0c;我们可以知道这个具体的训练的情况&#xff0c;那么在训练的过程中&#xff0c;这个损失函数的变化有哪些情况&#xff1f;对应的一个解释情况是怎么样的…

S2B2B农产品供应链交易多平台开发有哪些发展前景?如何维护?

一、S2B2B农产品供应链交易多平台开发的未来发展前景 本文将由小编为您介绍关于S2B2B农产品供应链交易多平台开发的内容&#xff0c;希望能够帮助大家。在数字化时代&#xff0c;农产品供应链的数字化转型成为了一种必然趋势。S2B2B(Supplier to Business to Business)模式通过…

关于有害的过度使用 std::move

翻译&#xff1a;2023 11 月 24 日On harmful overuse of std::move cppreference std::move 论 std::move 的有害过度使用 - The Old New Thing C 的 std::move 函数将其参数转换为右值引用&#xff0c;这使得其内容可以被另一个操作“消费”&#xff08;移动&#xff09;。…

Ubuntu24.04 onnx 模型转 rknn

前面的环境配置有点懒得写&#xff0c;教程也很多&#xff0c;可以自己找 rknn-toolkit2 gitee 地址&#xff1a;pingli/rknn-toolkit2 试了很多开源的代码&#xff0c;都没办法跑通&#xff0c; 最后自己改了一版 微调后的 qwen2 模型适用 from rknn.api import RKNN impor…

Electron通信流程

前言 今天讲Electron框架的通信流程&#xff0c;首先我们需要知道为什么需要通信。这得益于Electron的多进程模型&#xff0c;它主要模仿chrome的多进程模型如下图&#xff1a; 作为应用开发者&#xff0c;我们将控制两种类型的进程&#xff1a;主进程和渲染器进程 。 …

uni-app项目实战笔记1--创建项目和实现首页轮播图功能

ps:本笔记来自B站咸虾米壁纸项目 一.创建项目&#xff0c;完成项目初始化搭建 1.在HBuilder X创建wallper项目&#xff0c;使用默认模块&#xff0c;选择vue&#xff1b; 2.在项目根目录下创建common目录&#xff0c;用于存放静态资源&#xff0c;创建项目时自动生成static目…

机械制造系统中 PROFINET 与 PROFIBUS-DP 的融合应用及捷米科技解决方案

在机械制造领域&#xff0c;工业通信网络的兼容性与灵活性直接影响产线的自动化水平与生产效率。当前&#xff0c;多数机械制造系统采用PROFINET 控制器构建核心网络架构&#xff0c;并通过微波无线连接实现设备互联。随着工业网络的发展&#xff0c;系统中常需同时集成PROFINE…

MCP 协议系列序言篇:开启 AI 应用融合新时代的钥匙

文章目录 序言&#xff1a;AI 应用层进入 MCP 时代为什么 MCP 开启 AI 应用融合新时代的钥匙为什么是 MCP&#xff1f;它与 Function Calling、Agent 有什么区别&#xff1f;Function CallingAI AgentMCP&#xff08;Model Context Protocol&#xff09; MCP 如何工作MCP Serve…

【threejs】每天一个小案例讲解:光照

代码仓 GitHub - TiffanyHoo/three_practices: Learning three.js together! 可自行clone&#xff0c;无需安装依赖&#xff0c;直接liver-server运行/直接打开chapter01中的html文件 运行效果图 知识要点 常见光照类型及其特点如下&#xff1a; 1. 环境光&#xff08;Ambi…

大模型在输尿管下段积水预测及临床应用的研究

目录 一、引言 1.1 研究背景与意义 1.2 研究目的 1.3 研究范围与限制 1.4 文献综述 1.5 研究方法和框架 二、相关理论与概念 2.1 大模型技术原理 2.2 输尿管下段积水病理机制 2.3 大模型在医学预测领域的应用 三、大模型预测输尿管下段积水的方法 3.1 数据收集 3.…

gitlab相关操作

2025.06.11今天我学习了如何在终端使用git相关操作&#xff1a; 一、需要修改新的仓库git地址的时候&#xff1a; &#xff08;1&#xff09;检查当前远程仓库 git remote -v 输出示例&#xff1a; origin https://github.com/old-repo.git (fetch) origin https://github.c…