WebRTC(二):工作机制

核心组成

  • GetUserMedia:获取本地音视频设备(摄像头、麦克风)数据流。
  • RTCPeerConnection:实现点对点的媒体流传输和网络连接管理。
  • RTCDataChannel:点对点的任意数据通道(除音视频外传输数据)。

运行流程

信令协商(建立连接前的协商阶段)

WebRTC 本身不规定信令方式,通常通过 WebSocket、HTTP、SIP、XMPP 等信令服务器完成:

  • 双方交换网络信息(IP、端口等),叫做 ICE Candidate
  • 双方交换媒体协商信息,叫做 SDP(Session Description Protocol),包括音视频编码格式、分辨率、码率等。

信令通道是 WebRTC 连接建立的必要前提,但它本身不包含在 WebRTC 标准内。

NAT穿越和网络连接建立

  • WebRTC 使用 ICE(Interactive Connectivity Establishment) 协议。
  • ICE 会收集所有可能的网络候选地址(本地 IP、STUN 服务器分配的公网 IP、中继服务器 TURN 分配的地址)。
  • 双方互相尝试连接这些地址,最终确定一条可用的点对点路径。

媒体流捕获和编码

  • 通过 getUserMedia 获取本地摄像头和麦克风流。
  • 媒体数据经浏览器内置编码器压缩,支持 VP8/VP9/H.264(视频),Opus/G.711(音频)等编码格式。

点对点媒体流传输

  • 利用 RTCPeerConnection,双方建立点对点的连接。
  • 媒体流(音频、视频)和数据流通过这个连接实时双向传输。
  • 支持加密传输(DTLS-SRTP),确保通信安全。

RTCPeerConnection调用过程:

在这里插入图片描述

调用时序图:

在这里插入图片描述

数据通道通信

  • RTCDataChannel 允许点对点传输任意数据,如文字聊天、文件传输、游戏数据等。
  • 基于 SCTP 协议,支持可靠和不可靠数据传输。

连接维护和状态更新

  • WebRTC 会实时监控网络状态,自动调整连接路径。
  • 支持动态带宽调节、码率控制和丢包恢复机制,确保流畅通信。

总结

+-----------------------+                           +-----------------------+
|       浏览器A          |                           |       浏览器B          |
+-----------------------+                           +-----------------------+|                                                       || 1. 获取本地媒体流 (getUserMedia)                        ||------------------------------------------------------>||                                                       ||<------------------------------------------------------||                                                       || 2. 创建 RTCPeerConnection 对象                         ||                                                       || 3. 创建 Offer SDP(Session Description)               ||------------------------------------------------------>||                                                       ||                                                       | 4. 接收 Offer SDP|                                                       | 5. 创建 RTCPeerConnection|                                                       | 6. 创建 Answer SDP|                                                       |------------------------------------------------------>||                                                       || 7. 接收 Answer SDP                                     ||<------------------------------------------------------||                                                       || 8. 双方开始交换 ICE Candidates(网络候选)             ||<-------------------------> (通过信令服务器传递)        ||                                                       || 9. ICE 协议测试所有候选路径,选出最佳连接路径           ||                                                       || 10. 建立 DTLS-SRTP 加密的点对点连接                     ||                                                       || 11. 双方通过 RTCPeerConnection 发送音视频流             ||<--------------------------->                            ||                                                       || 12. RTCDataChannel 传输任意数据(如文本、文件等)       ||<--------------------------->                            ||                                                       || 13. 连接维护与状态更新(动态调节码率、重连等)           ||                                                       |
  1. 获取本地媒体流

    • 通过调用 navigator.mediaDevices.getUserMedia() 获取摄像头和麦克风的音视频流。

    • 用户浏览器弹出授权提示,用户允许后返回本地流。

  2. 创建 RTCPeerConnection 对象

    • 新建一个连接对象,负责管理媒体流和数据通道。
  3. 创建 Offer SDP

    • 发送方创建会话描述(SDP),告知自己支持的音视频格式、网络信息等。
  4. 信令交换

    • 发送方将 Offer SDP 发送给接收方。

    • 接收方收到后,创建自己的 RTCPeerConnection。

    • 接收方创建 Answer SDP 并返回发送方。

    • 双方确认彼此能力和参数。

  5. ICE Candidate 交换

    • 双方通过信令服务器互相发送所有可用的网络候选地址(IP + 端口)。

    • 这些地址包括本地网络地址、STUN 获取的公网地址、TURN 中继地址。

  6. ICE 连接检测

    • 双方尝试所有候选路径,逐个测试连接性。

    • 选择最佳路径(最快、最稳定的点对点连接)。

  7. 建立安全连接

    • 通过 DTLS(Datagram Transport Layer Security)加密握手,建立加密的传输通道。

    • 媒体通过 SRTP(Secure Real-time Transport Protocol)安全传输。

  8. 媒体流传输

    • 双方开始点对点实时传输视频和音频流。

    • 支持视频、音频的编码解码和同步。

  9. 数据通道传输

    • 通过 RTCDataChannel 发送非音视频数据,如文本消息、文件数据、游戏状态等。
  10. 连接维护和状态更新

    • WebRTC 会自动监测连接状态,处理网络变化。

    • 实时调整码率,保证音视频质量。

    • 出现连接问题时,自动尝试重新建立连接。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.pswp.cn/web/83291.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

机器学习+城市规划第十五期:时空地理加权回归(STGWR)

机器学习城市规划第十五期&#xff1a;时空地理加权回归&#xff08;STGWR&#xff09; 引言 随着城市化进程的加速&#xff0c;城市规划面临越来越多复杂的挑战。在传统的城市规划中&#xff0c;通常会考虑到地理位置的影响&#xff0c;但往往忽略了时间维度。而在现代城市的…

用虚拟机安装macos系统之后进入Boot Manager页面

安装教程&#xff1a;在VMware中安装macos系统教程 在VMware中安装macos系统时启动后进入Boot Manager界面&#xff0c;通常是由于虚拟机的固件类型设置于镜像不兼容所致。 解决办法&#xff1a;虚拟机默认使用UEFI启动模式&#xff0c;但是部分macos镜像需要切换到BIOS模式才…

基于API的Redis缓存实现

1.使用Redis API 进行业务数据缓存管理 编写一个进行业务处理的类ApiCommentService,使用Autowired注解注入Redis API中常用的RedisTemplate&#xff08;类似于Java基础API中的JdbcTemplate&#xff09;&#xff1b; 然后在数据查询、修改和删除三个方法中&#xff0c;根据业…

前沿论文汇总(机器学习/深度学习/大模型/搜广推/自然语言处理)

文章目录 1 前言2 大模型/自然语言处理2.1 FreeAL&#xff1a;在大模型时代实现无需人工的主动学习2.2 COLD&#xff1a;中文攻击性语言检测基准2.3 将词汇的对比信息融入词嵌入以实现反义词-同义词区分2.4 LogRAG&#xff1a;基于检索增强生成的半监督日志异常检测2.5 RankRAG…

PP-OCRv5 ubuntu20.04 OCR识别服务

目录 说明 使用 效果 下载 说明 PP-OCRv5 ubuntu20.04 OCR识别服务 使用 1、下载后解压 2、进入目录、运行程序 效果 1、浏览器访问 2、接口调用 下载 方式1 源码下载 方式2 通过网盘分享的文件&#xff1a;lw.PP_OCRService.tar.gz 链接: https://pan.baidu.com…

VScode打开后一直显示正在重新激活终端 问题的解决方法

一、问题 本人打开“.py”文件后&#xff0c;同时会出现以下两个问题。 1、VScode一直循环在”正在重新激活终端“ 2、日志显示intellicode报错&#xff1a; Sorry, something went wrong activating IntelliCode support for Python. Please check the “Python” and “VS I…

uniapp 实现腾讯云音视频通话功能

uniapp 深度集成腾讯云音视频通话功能实战指南 一、技术架构解析 腾讯云音视频解决方案采用IM信令控制层TRTC媒体传输层的双架构设计&#xff0c;实现核心能力解耦&#xff1a; #mermaid-svg-DKBpT4CVDkqU1IBw {font-family:"trebuchet ms",verdana,arial,sans-ser…

linux常见问题之截取文件指定行数

linux常见问题之截取文件指定行数 一、命令概述 在处理大文本文件时&#xff0c;我们打开该文件会非常不方便&#xff0c;比如服务器上的日志文件&#xff0c;于是我们常常需要提取特定的行进行分析。Linux 系统中提供了多个强大的命令行工具&#xff0c;可以帮助我们高效地完…

微前端 - Native Federation使用完整示例

这是一个极简化的 Angular 使用angular-architects/native-federation 插件的微前端示例&#xff0c;只包含一个主应用和一个远程应用。 完整示例展示 项目结构 federation-simple/ ├── host-app/ # 主应用 └── remote-app/ # 远程应用 创建远程应用 (remote…

无服务器架构的企业级应用深度解析:Serverless技术选型与成本模型

📋 目录 引言:无服务器架构的兴起无服务器架构核心概念主流Serverless平台技术对比企业级应用场景分析成本模型深度分析私有化部署与云端服务对比决策框架构建最佳实践与建议未来发展趋势结论引言:无服务器架构的兴起 在云计算快速发展的今天,无服务器架构(Serverless)…

内网有猫和无线路由器,如何做端口映射从而实现外网访问

内网猫和无线路由器端口映射配置指南 端口映射&#xff08;Port Forwarding&#xff09;是将外网请求引导到内网特定设备和端口的技术&#xff0c;常用于远程访问、搭建服务器等场景。以下是配置方法&#xff1a; 基本原理 猫&#xff08;调制解调器&#xff09;&#xff1a…

Spring boot应用监控集成

Spring Boot应用监控集成记录 背景 XScholar文献下载应用基于Spring Boot构建&#xff0c;需要接入Prometheus监控系统。应用已部署并运行在服务器上&#xff0c;需要暴露metrics端点供Prometheus采集。 初始状态 应用信息 框架: Spring Boot 2.x部署端口: 10089服务器: L…

安宝特案例丨又一落地,Vuzix AR眼镜助力亚马逊英国仓库智能化升级!

Vuzix M400智能眼镜近日落地亚马逊&#xff08;英国&#xff09;仓库&#xff0c;通过解放双手、免提操作优化物流效率。 安宝特&VuzixAR智能眼镜解决方案为亚马逊仓库提供实时决策支持、无缝对接员工-主管-企业管理系统&#xff0c;并加速了新员工培训流程&#xff0c;优…

ui框架-文件列表展示

ui框架-文件列表展示 介绍 UI框架的文件列表展示组件&#xff0c;可以展示文件夹&#xff0c;支持列表展示和图标展示模式。组件提供了丰富的功能和可配置选项&#xff0c;适用于文件管理、文件上传等场景。 功能特性 支持列表模式和网格模式的切换展示支持文件和文件夹的层…

使用QMediaPlayer开发音乐播放器

编译完成的程序下载:【免费】使用QMediaPlayer开发音乐播放器资源-CSDN文库 完整源码:使用QMediaPlayer开发音乐播放器源码资源-CSDN文库 需求分析: 1.本地音乐播放器 核心播放功能 支持常见音频格式本地播放MP3、WAV、FLAC 等 2.播放控制:播放 / 暂停 / 停止 / 上一曲…

Linux-07 ubuntu 的 chrome 启动不了

文章目录 问题原因解决步骤一、卸载旧版chrome二、重新安装chorme三、启动不了&#xff0c;报错如下四、启动不了&#xff0c;解决如下 总结 问题原因 在应用中可以看到chrome&#xff0c;但是打不开(说明&#xff1a;原来的ubuntu系统出问题了&#xff0c;这个是备用的硬盘&a…

【Redis】缓存雪崩、缓存击穿、缓存穿透

目录 1、缓存雪崩【1】定义【2】原因【3】解决方案[1]差异化过期时间[2]多级缓存[3]熔断降级[4]缓存永不过期异步更新 2、缓存击穿【1】定义【2】原因【3】解决方案[1]互斥锁[2]逻辑过期[3]热点数据加载 3、缓存穿透【1】定义【2】原因【3】解决方案[1]缓存空对象[2]布隆过滤器…

【论文阅读笔记】万花筒:用于异构多智能体强化学习的可学习掩码

摘要 在多智能体强化学习&#xff08;MARL&#xff09;中&#xff0c;通常采用参数共享来提高样本效率。然而&#xff0c;全参数共享的流行方法通常会导致智能体之间的策略同质&#xff0c;这可能会限制从策略多样性中获得的性能优势。为了解决这一关键限制&#xff0c;我们提出…

vue2 , el-select 多选树结构,可重名

人家antd都支持&#xff0c;elementplus 也支持&#xff0c;vue2的没有&#xff0c;很烦。 网上其实可以搜到各种的&#xff0c;不过大部分不支持重名&#xff0c;在删除的时候可能会删错&#xff0c;比如树结构1F的1楼啊&#xff0c;2F的1楼啊这种同时勾选的情况。。 可以全…

golang循环变量捕获问题​​

在 Go 语言中&#xff0c;当在循环中启动协程&#xff08;goroutine&#xff09;时&#xff0c;如果在协程闭包中直接引用循环变量&#xff0c;可能会遇到一个常见的陷阱 - ​​循环变量捕获问题​​。让我详细解释一下&#xff1a; 问题背景 看这个代码片段&#xff1a; fo…