为何AI推理正推动云计算从集中式向分布式转型

作者简介:Vineeth Varughese是Akamai亚太及日本地区的云产品市场负责人,在云计算、人工智能(AI)及市场进入策略(GTM)领域拥有丰富经验。

传统云平台在利用海量数据训练AI模型方面表现出色,但随着企业希望进一步扩展和优化AI应用,这些平台的局限性逐渐显现。

在Akamai委托Forrester进行的一项研究中,揭示了IT领导者和开发者在使用传统云平台时遇到的问题。多数受访者认为,在AI推理时代,将计算资源迁移至边缘计算
有助于降低延迟、减少带宽占用并优化成本。

随着AI训练为AI推理铺平了道路,我们需要能够应对更高工作负载和计算需求的解决方案,同时确保性能不受影响,终端用户体验保持流畅。

AI推理转型对应用开发的影响

当AI的计算需求从训练转向推理时,这对AI应用开发者意味着什么?

J.Gold Associates总裁兼首席分析师Jack Gold指出,当前训练与推理的计算资源占比为80%训练、20%推理。他预测未来三年内这一比例将逆转,变为80%推理、仅20%训练。

image.png

AI推理是指利用已训练模型从新数据中得出结论的过程。随着更多模型通过庞大数据集完成训练,下一阶段的任务是运用这些模型处理新信息,从而扩展AI解决方案的能力。

与此同时,用户对应用的个性化、高性能和实时数据处理需求日益增长,这意味着当前的云解决方案必须适应这一变化。

为何传统云架构难以满足需求

AI推理的目标是为AI应用提供实时结果和更流畅的用户体验。然而,传统云解决方案面临三大关键挑战,使其难以支撑AI的扩展与优化:

研究中揭示的开发者与IT领导者的主要痛点包括:
• 延迟问题(56%受访者遭遇处理延迟)
• 成本问题(60%受访者受困于存储/计算成本)
• 扩展困难(45%受访者难以实现规模化)

“多数受访者表示,其当前的 云策略阻碍了他们在应用中构建实时数据驱动决策的能力。”传统云解决方案已难以满足AI扩展与优化的需求。那么,是否存在更有效的替代方案?

边缘计算让数据处理更贴近用户端,从而减少延迟、提升性能,帮助开发者更高效地扩展应用。然而,边缘计算也存在挑战,包括合规与监管问题、供应商锁定,以及难以招聘和留住具备相关技能的技术人才。边缘计算通常采用不同的架构设计、专用协议和多样化供应商,导致运营复杂性增加和业务风险上升。

分布式云计算:AI应用开发的下一阶段

一种快速获得IT领导者青睐的替代方案是分布式云计算。研究中超半数受访者表示,他们目前正在自主管理某种形式的分布式架构。

image.png

多数受访者认为,由于额外存储与计算成本以及高延迟导致的处理延迟,其当前的云策略阻碍了他们在应用中实现实时数据驱动决策的能力。

与边缘计算类似,分布式云架构允许开发者从更靠近用户的位置提供数据,从而优化应用、云数据库、流媒体及其他工作负载的延迟和性能。

不同之处在于,分布式云计算的数据存储位置更加多样化,可涵盖第三方数据中心、本地设施和私有云环境。

随着AI推理的普及,更多应用和扩展机会将涌现,对高效数据处理方式的需求也将随之增长。
应用用户将期待快速响应和无缝体验。通过投资分布式架构,开发者能够满足现代应用对实时数据处理和推理的需求,从而确保企业在用户端保持竞争优势。

分布式云计算如何匹配企业目标

研究发现,分布式云架构的灵活性——既能将计算资源部署在靠近终端用户的位置,又能保持集中管理——解决了受访者的主要顾虑,包括:
• 55%认为其可降低业务风险
• 54%认为其有助于控制成本激增
• 49%认为其能加快价值实现速度

分布式云架构优于边缘计算的一点在于,它允许开发者使用与核心云计算相同的技能、架构范式和云原生工具来部署和管理AI应用。

此外,分布式云在构建应用时还能提供更低的延迟、更好的可扩展性、更高的可靠性,以及对数据的更强控制力。

是否应尽早转型?

Akamai与Forrester的研究显示,IT领导者和应用开发者正优先关注AI创新、数字化体验升级、个性化体验优化及数据管理改进等目标。分布式云的优势恰好与这些需求直接契合。

image.png

基于对AI推理发展的预测以及分布式云部署的上升趋势,转向分布式架构似乎是明智之选。尽早行动有助于企业在市场和AI技术演进中保持竞争力。

如需了解更多关于分布式云、边缘计算与传统云架构的未来对比,请立即下载完整报告。

  • 在这项由Akamai委托Forrester Consulting进行的研究中,来自零售、媒体和电信行业的163位北美云战略决策者分享了他们对云计算现状的看法。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.pswp.cn/diannao/87024.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ar 导航导览技术如何实现的?室内外融合定位与ar渲染技术深度解析

本文面向:移动开发工程师、AR技术研究者、室内外导航系统产品经理,旨在提供核心问题的参考方案:如何实现室内外无缝切换的精准定位(GPS蓝牙Beacon)虚拟导航路径与实景画面的实时叠加原理。 如需获取ar导航导航技术解决…

电路问题处理:SGMII链路中的AC耦合电容摆放位置

SGMII链路中的AC耦合电容摆放位置 目前是有个板子,其上分别有fpga,fpga的gtx口出sgmii千兆以太网链路,通过高速连接器互联, 通常高速差分链路的AC耦合电容放在靠近接收端位置,如果在同一个板内的话没啥疑惑的直接靠近…

激光雷达 + 视觉相机:高精度位姿测量方案详解

激光雷达 视觉相机:高精度位姿测量方案详解 引言 在航天器交会对接、自动驾驶、机器人导航等领域,位姿(位置姿态)测量的精度和鲁棒性至关重要。单一的传感器(如激光雷达或视觉相机)往往难以满足复杂场景的…

【整数递增加法拆分】2022-4-11

缘由整数拆分问题,但是怎么输出这个数位最多。-编程语言-CSDN问答 void 整数递增加法拆分() {//缘由https://ask.csdn.net/questions/7687667?spm1005.2025.3001.5141int n 0, c 1, f c, t n;string sc "";cin >> n; t n;while (t){if (t &…

Hashcat使用教程:快速上手密码恢复工具

在信息安全领域,密码破解是不可或缺的一环。而 Hashcat,作为当前最强大的密码恢复工具之一,因其高效的性能与灵活的配置广受好评。本文将介绍 Hashcat 的基础用法,帮助新手快速上手,同时遵守合法使用的基本原则。 一、…

萌系盲盒陷维权风暴,Dreams委托David律所已立案,速避雷

美国律所David代理Dreams USA, Inc.发起全新维权案件,维权矛头指向旗下三大萌系盲盒品牌:Sonny Angel、SMISKI和HIPPERS,跨境卖家需提高警惕。 案件基本情况: 起诉时间:2025-6-9 案件号:2025-cv-06422 …

aflplusplus:开源的模糊测试工具!全参数详细教程!Kali Linux教程!(三)

使用 afl-cc 这是 afl-fuzz 的辅助应用程序。它可以作为 gcc 和 clang 的直接替代品,让您使用所需的运行时工具重新编译第三方代码。 1. -help 显示可用选项 afl-cc -help 其他选项同上,这里不再展开叙述。 afl-clang 1. --help 显示可用选项 a…

安卓开发常用框架与库详解

安卓开发常用框架与库详解 安卓应用开发过程中,选择合适的开发框架和第三方库,可以极大提升开发效率、应用性能和代码的可维护性。本文对主流的安卓开发框架和库进行系统梳理,按功能模块分类,涵盖UI开发、网络请求、图片加载、数…

【项目实训#09】智能代码文件助手模式前后端设计与实现

【项目实训#09】智能代码文件助手模式前后端设计与实现 文章目录 【项目实训#09】智能代码文件助手模式前后端设计与实现一、背景简介二、技术方案与架构设计2.1 整体架构2.2 前端技术选型2.3 后端技术选型 三、前端代码替换服务实现3.1 代码替换服务设计3.2 处理生成的代码3.3…

JAVA-springboot 异常处理

SpringBoot从入门到精通-第10章 异常处理 一、异常简介 传统的Java程序都是由try-catch语句捕捉异常,而Spring Boot项目采用了全局异常类的概念------所有方法均将异常抛出,并且专门安排一个类统一拦截并处理这些异常。这样做的好处是可以把异常处理的…

VIC-3D应用指南系列之:DIC数字图像相关技术与热成像(VIC-3D IR System助力热载荷测试)

本篇文章详细讲述了利用VIC-3D 10将数字图像相关DIC数据与红外相机热成像的温度数据相结合的操作流程。核心步骤包括: 相机选型与系统搭建 测试环境配置 VIC-Snap参数设置 双系统标定(DIC与红外) 外部参数计算 测试图像采集 红外…

adoc(asciidoc)转为markdown的方法,把.adoc文件转换为markdown格式

要将.adoc文件转换为markdown格式,可以按照以下步骤操作: 安装必要工具: sudo apt install pandoc asciidoc转换流程: 先将asciidoc转换为docbook格式: asciidoc -b docbook foo.adoc然后将docbook转换为markdown&…

2022mpsPTE岗位笔试题

2022年9月完成了PTE岗位的笔试,并通过了。浅浅的还有一点印象,之前有朋友也想来,就放在这里,供需要的朋友看。 前两个题是关于C语言的。 语言不限,C也可。 一个是输出2到100偶数之和,主要就是调用for循环。…

使用Cursor + Devbox + Uniapp 一站式AI编程开发移动端(App、H5、小程序)

文章目录 前言📖一、工具介绍🛠️1. Cursor:AI驱动的智能代码编辑器2. Devbox:可复现的开发环境管理3. Uniapp:跨平台应用开发框架 二、环境配置与集成🔮1. 安装与配置Devbox2. 配置Cursor连接Devbox环境3.…

[智能客服project] AI提示词配置 | 主协调器 | 闲鱼协议工具

第五章:AI提示词配置 欢迎回来! 在第四章:意图路由器中,我们了解了机器人如何通过IntentRouter确定由哪个专家代理(如PriceAgent或TechAgent)处理用户消息。 但代理被选定后,如何知道该说什么…

CMake 构建系统概述

关键要点 研究表明,CMake 是一种强大的跨平台构建系统,广泛用于 C 项目。证据倾向于认为,CMake 通过生成本地构建文件(如 Makefile、Visual Studio 项目)简化软件构建。它似乎可能支持多种平台,包括 Windo…

如何顺利将电话号码转移到新iPhone?

当您升级到新 iPhone 时,您需要做的第一件事就是转移您的电话号码。幸运的是,以目前的技术,很容易解决如何将电话号码转移到新iPhone上。此外,传输过程也得到了简化。您可以轻松地将旧手机更换为新 iPhone,而不会丢失任…

java面试总结-20250609

DDD领域设计模型怎么理解? mysql和mongoDB分别适用于哪些业务场景? 查询的场景,数量级的差异? mongodb为什么用B树?用的什么数据引擎,部署方式使用什么模式,分片分了多少片,路由方…

使用GpuGeek训练图像分类器:从入门到精通

引言 在当今人工智能蓬勃发展的时代,图像分类作为计算机视觉的基础任务之一,已经广泛应用于医疗诊断、自动驾驶、安防监控等诸多领域。然而,对于许多初学者和中小型企业来说,构建一个高效的图像分类系统仍然面临诸多挑战&#xf…

Qt Widget类解析与代码注释

#include "widget.h" #include "ui_widget.h"Widget::Widget(QWidget *parent): QWidget(parent), ui(new Ui::Widget) {ui->setupUi(this); }Widget::~Widget() {delete ui; }//解释这串代码,写上注释 当然可以!这段代码是 Qt …