计算机算术7-浮点基础知识

1. 浮点表示

截屏2025-08-23 10.30.05.png

其中b表示基底,e表示指数,s表示尾数,注意在s的表示过程中,有个隐藏1.同时还有个符号位
截屏2025-08-23 10.31.08.png
从下面这个图可以看出,向上溢出和向下溢出的概念,overflow表示的是数的绝对值超过了最大的表示范围;向下溢出(underflow)表示的是数的绝对值小于最小能表示的范围(除0以外)
截屏2025-08-23 10.34.43.png

2. IEEE浮点数格式

2.1 hp/sp/dp 表示

主要以单精度浮点数为例,1bit符号位,8bit指数位,23bit尾数位。其中指数位表示的指数等于true_exp +bias。23bit尾数位,还需要加上一个隐藏位才是真正的尾数表示。
截屏2025-08-23 10.39.22.png

2.2 特殊数表示

包括0/无穷/subnormal/NaN等。其中可以注意一下尾数范围的表示方法。
截屏2025-08-23 10.58.15.png

3. 基本的浮点运算

3.1 浮点加法

小阶向大阶看齐,指数对齐之后然后进行加减运算。大阶不向小阶看齐的原因是对其运算之后,尾数还得进行移位,指数还得运算。加运算之后,尾数的结果范围是(1, 4), 可能产生进位,指数需要加1;减运算之后,尾数的结果是(0,2), 可能非常接近于0,尾数需要左移动,指数减去尾数前导零。
截屏2025-08-25 22.28.58.png

3.2 浮点乘法

如果两个数都是normal的数,那么s1s2的范围是(1, 4), 归一化之后,指数最多只需要加1,但是如果支持subnormal的数,那么s1s2的范围就是(0, 4),尾数可能有许多前导0,这样尾数就需要左移。
截屏2025-08-25 22.46.03.png

3.3 浮点除法

浮点除法的难点和浮点乘法一样,当两个数都是normal的情况下,s1/s2的结果仍然是normal的,指数相减之后即可处理。但是如果存在subnormal的情况,我们一般会先进行尾数移位,将尾数的范围限制在[1,2)之间,然后进行处理。
截屏2025-08-25 22.56.47.png

3.4 乘累加

乘累加在乘法过程中是不会进行舍入的,也即乘法过程不允许有精度损失
截屏2025-08-25 23.00.51.png

3.5 开根号

先将指数变为偶数,然后再进行开根。
截屏2025-08-25 23.02.03.png

4. 舍入模式

总共有5种舍入模式,四舍五入,向偶数舍入;四舍五入,向奇数舍入
截屏2025-08-25 23.10.25.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/bicheng/95173.shtml
繁体地址,请注明出处:http://hk.pswp.cn/bicheng/95173.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

设计模式8-命令模式

定义 Command Partern: 将一个请求封装成一个对象,从而让你使用不同的请求把客户端参数化,对请求排队或者记录请求日志,可以提供命令的撤销和恢复功能。(核心思想是将“动作”与“执行者”解耦) 场景 GUI:…

数据结构(顺序表力扣刷题)

1.移除元素 给你一个数组 nums 和一个值 val,你需要 原地 移除所有数值等于 val 的元素。元素的顺序可能发生改变。然后返回 nums 中与 val 不同的元素的数量。 假设 nums 中不等于 val 的元素数量为 k,要通过此题,您需要执行以下操作&…

机器学习 - Kaggle项目实践(6)Dogs vs. Cats Redux: Kernels Edition 猫狗二分类

Dogs vs. Cats Redux: Kernels Edition | Kaggle 任务:给定猫狗图像数据集 进行二分类。 Cats or Dogs - using CNN with Transfer Learning | Kaggle(参考) Cats or Dogs | Kaggle (我的kaggle) 本文介绍了使用Re…

基础的汇编指令

目录 1、接上一个csdn特殊功能寄存器 1.1CPSR寄存器 1.2SPSR寄存器 1.3CPSR寄存器的高四位和第四位 ​编辑 2、汇编指令的分类 3、汇编指令的基本格式 4、数据搬移指令(赋值指令) 4.1指令码 4.2指令格式 4.3测试代码 4.5立即数 4.6ldr伪指令 …

Docker实战避坑指南:从入门到精通

摘要:文人结合自身微服务实践,系统梳理从安装适配、镜像拉取,到运行配置、构建优化、多容器编排、数据持久化、监控运维等 Docker 全流程高频踩坑点,给出可落地的解决方案,帮助读者快速规避同类问题并提升容器化效率。…

《Bishop PRML》10.1. Variational Inference(2)理解VAE

通过VAE与AE理解变分分布的变量 如何理解变分推断公式中,Z和X的含义是什么? 知乎 变分自编码器VAE的数学原理。 csdn 变分自编码器(VAE)的数学原理以及实现 Loss functions in Variational Autoencoders (VAEs) 一文解释 VAE+ELBO AE的编码和解码是确定性的。VAE的解码过程…

函数调用中的初始化与赋值——深入理解C++对象的生命周期

技术博客:函数调用中的初始化与赋值——深入理解C对象的生命周期引言在C编程中,理解函数调用过程中参数传递、对象创建和返回值处理的细节对于编写高效且无误的代码至关重要。本文将通过一个具体的例子来探讨函数调用时实参到形参的转换过程,…

矩阵微积分的链式法则(chain rule)

矩阵微积分的链式法则(chain rule)与标量情况一样,用于求复合函数的导数,但由于涉及矩阵和向量的求导,维度匹配和布局约定(numerator-layout vs. denominator-layout)必须格外小心。下面给出常见…

网络编程4-并发服务器、阻塞与非阻塞IO、信号驱动模型、IO多路复用..

一、并发服务器1、单循环服务器(顺序处理) 一次只能处理一个客户端连接,只有当前客户端断开连接后,才能接受新的客户端连接2、多进程/多线程并发服务器while(1) {connfd accept(listenfd);pid fork(); // 或 pthread_cr…

在 WSL2-NVIDIA-Workbench 中安装Anaconda、CUDA 13.0、cuDNN 9.12 及 PyTorch(含完整环境验证)

在 WSL-NVIDIA-Workbench(NVIDIA AI Workbench & Ubuntu 22.04)中 安装 Anaconda、CUDA 13.0、cuDNN 9.12 及 PyTorch 步骤也可参阅: 在WSL2-Ubuntu中安装Anaconda、CUDA13.0、cuDNN9.12及PyTorch(含完整环境验证&#xf…

Shell编程核心入门:参数传递、运算符与流程控制全解析

Shell编程核心入门:参数传递、运算符与流程控制全解析 在Linux/Unix系统中,Shell作为命令解释器和脚本语言,是自动化运维、批量处理任务的核心工具。掌握Shell脚本的参数传递、运算符使用和流程控制,能让你从“手动执行命令”升级…

如何用 Kotlin 在 Android 手机开发一个应用程序获取网络时间

使用 NTP 协议获取网络时间在 build.gradle 文件中添加以下依赖:implementation commons-net:commons-net:3.6创建 NTP 时间获取工具类:import org.apache.commons.net.ntp.NTPUDPClient import org.apache.commons.net.ntp.TimeInfo import java.net.In…

python智慧交通数据分析可视化系统 车流实时检测分析 深度学习 车流量实时检测跟踪 轨迹跟踪 毕业设计✅

博主介绍:✌全网粉丝50W,前互联网大厂软件研发、集结硕博英豪成立软件开发工作室,专注于计算机相关专业项目实战6年之久,累计开发项目作品上万套。凭借丰富的经验与专业实力,已帮助成千上万的学生顺利毕业,…

计算机视觉第一课opencv(四)保姆级教学

目录 简介 一、轮廓检测 1.查找轮廓的API 2.代码分析 2.1.图像二值化处理 2.2轮廓检测 2.3轮廓绘制 2.4轮廓面积计算 2.5轮廓周长计算 2.6筛选特定面积的轮廓 2.7查找最大面积的轮廓 2.8绘制轮廓的外接圆 2.9绘制轮廓的外接矩形 二、轮廓的近似 三、模板匹配 简…

基于Vue2+elementUi实现树形 横向 合并 table不规则表格

1、实现效果 共N行&#xff0c;但是每一列对应的单元格列数固定&#xff0c;行数不固定2、实现方式说明&#xff1a;使用的是vue2 elementUI表格组件 js实现<template><div class"table-container" ><el-table height"100%" :span-metho…

深度学习在计算机视觉中的应用:对象检测

引言 对象检测是计算机视觉领域中的一项基础任务&#xff0c;目标是在图像或视频帧中识别和定位感兴趣的对象。随着深度学习技术的发展&#xff0c;对象检测的准确性和效率都有了显著提升。本文将详细介绍如何使用深度学习进行对象检测&#xff0c;并提供一个实践案例。 环境准…

node.js 安装步骤

在Node.js中安装包通常通过npm(Node Package Manager)来完成,这是Node.js的包管理工具。以下是安装Node.js和通过npm安装包的基本步骤: 1. 安装Node.js 方法一:使用nvm(Node Version Manager) 推荐使用nvm来安装Node.js,因为它允许你安装多个Node.js版本,并轻松地在…

面试-故障案例解析

一、NFS故障&#xff0c;造成系统cpu使用率低而负载极高。故障概述: 公司使用NFS为web节点提供共享存储服务,某一天下午发现web节点CPU使用率低,而负载极高.登录web节点服务器排查发现后段NFS服务器故障. 影响范围: 网站看不到图片了。 处理流程: 通过ssh登录NFS服务…

医疗AI时代的生物医学Go编程:高性能计算与精准医疗的案例分析(一)

摘要: 随着高通量测序、医学影像和电子病历等生物医学数据的爆炸式增长,对高效、可靠、可扩展的计算工具需求日益迫切。Go语言凭借其原生并发模型、卓越的性能、简洁的语法和强大的标准库,在生物医学信息学领域展现出独特优势。本文以“生物医学Go编程探析”为主题,通过三个…

针对 “TCP 连接建立阶段” 的攻击

针对 “TCP 连接建立阶段” 的攻击一、定义二、共性防御思路三、攻击手段3.1、SYN 洪水攻击&#xff08;SYN Flood&#xff09;3.2、Land 攻击&#xff08;Land Attack&#xff09;一、定义 什么是针对 “TCP 连接建立阶段” 的攻击&#xff1f;核心特征是利用 TCP “三次握手…