浮点数

Scala 浮点数

匿名 (未验证) 提交于 2019-12-02 23:41:02
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/chen18677338530/article/details/91419935 浮点数介绍 浮点类型分类 浮点数的使用说明 object TypeDemo4 { def main(args: Array[String]): Unit = { var num1:Float = 3.1415f var num2:Double = 2.22222 println(num1 + num2) } } 运行结果: 指数形式: 文章来源: https://blog.csdn.net/chen18677338530/article/details/91419935

信息学奥赛C++语言:均值

匿名 (未验证) 提交于 2019-12-02 23:36:01
【题目描述】 给出一组样本数据,包含n个浮点数,计算其均值,精确到小数点后4位。 【输入】 输入有两行,第一行包含一个整数n(n小于100),代表样本容量;第二行包含n个绝对值不超过1000的浮点数,代表各个样本数据。 【输出】 输出一行,包含一个浮点数,表示均值,精确到小数点后4位。 【输入样例】 2 1.0 3.0 【输出样例】 2.0000 代码 #include<cstdio> using namespace std; int n,i; double s=0,m; int main() { scanf("%d",&n); for(i=1;i<=n;i++) { scanf("%lf",&m); s=s+m; } printf(" %.4lf",s/n*1.0); return 0; } 文章来源: https://blog.csdn.net/zsbailong/article/details/90741235

Hive之数据类型

匿名 (未验证) 提交于 2019-12-02 23:03:14
基础数据类型与java数据类型一致 整型 TINYINT ― 微整型,只占用1个字节,只能存储0-255的整数。 Float和double 两者的主要区别如下: 1.在内存中占有的字节数不同 单精度浮点数在机内存占4个字节 双精度浮点数在机内存占8个字节 2.有效数字位数不同 单精度浮点数有效数字8位 双精度浮点数有效数字16位 3.数值取值范围 单精度浮点数的表示范围:-3.40E+38~3.40E+38 双精度浮点数的表示范围:-1.79E+308~-1.79E+308 4.在程序中处理速度不同 一般来说,CPU处理单精度浮点数的速度比处理双精度浮点数快,如果不声明,默认小数为double类型,所以如果要用float的话,必须进行强转 timestamps 新增timestamps可以是整数,也就是距离unix新纪元时间(1970年1月1日午夜12点)的秒数;也可以是浮点数,即距离unix新纪元时间的秒数,精确到纳秒(小数点后9位);还可以是字符串,即JDBC所约定的时间字符串格式,格式为YYYY-MM-DD hh:mm:ss.fffffffff。 Timestamps表示utc协调世界时。不同时区互相转换内置函数to_utc_timestamps和from_utc_timestamps。 集合数据类型 Struct,对象,定义struct(street:string,city

python数据类型――Number

匿名 (未验证) 提交于 2019-12-02 22:54:36
Python3 支持 int、float、bool、complex(复数)。 在Python 3里,只有一种整数类型 int,表示为长整型,没有 python2 中的 Long。 数值运算 >>>5 + 4 # 加法 9 >>> 4.3 - 2 # 减法 2.3 >>> 3 * 7 # 乘法 21 >>> 2 / 4 # 除法,得到一个浮点数 0.5 >>> 2 // 4 # 除法,得到一个整数 0 >>> 17 % 3 # 取余 2 >>> 2 ** 5 # 乘方 32 进制转换 1. 十进制转二进制、八进制、十六进制 1.1 转二进制:bin(num) def dec2bin(num): temp = [] if num < 0: return '-' + dec2bin(-num) while True: num, m = divmod(num, 2) temp.append(str(m)) if num == 0: return ''.join(temp[::-1]) 1.2 转八进制:oct(num) 实现: 1.3 转十六进制:hex(num) 实现: base = [str(x) for x in range(10)] + [chr(x) for x in range(ord('A'),ord('A')+6)] # base = ['0', '1', '2', '3'

Python学习(一)数据类型和变量

匿名 (未验证) 提交于 2019-12-02 22:51:30
十六进制用 0x 前缀和0-9,a-f表示,例如: 0xff00 , 0xa5b4c3d2 二、浮点数 浮点数就是小数 浮点数可以用数学写法,如 1.23 , 3.14 , -9.01 ,等等。但是对于很大或很小的浮点数,就必须用科学计数法表示,把10用e替代,1.23x10 9 就是 1.23e9 ,或者 12.3e8 ,0.000012可以写成 1.2e-5 ,等等。 整数和浮点数在计算机内部存储的方式是不同的,整数运算永远是精确的,而浮点数运算则可能会有四舍五入的误差。 三、字符串 字符串是用单引号或者双引号括起来的任意文本,文本中有单引号时就用双引号括起来,文本中有双引号时就用单引号括起来。 文本中既有单引号又有双引号的话,用转义字符来标识 ' I\'m\"OK\"! ' \ \表示 \ 字符本身 Python还允许用 r'' 表示 '' 内部的字符串默认不转义 转义字符 描述 \(在行尾时) 续行符 \\ 反斜杠符号 \' 单引号 \" 双引号 \a 响铃 \b 退格(Backspace) \e 转义 \000 空 \n 换行 \v 纵向制表符 \t 横向制表符 \r 回车 \f 换页 \oyy 八进制数,yy代表的字符,例如:\o12代表换行 \xyy 十六进制数,yy代表的字符,例如:\x0a代表换行 \other 其它的字符以普通格式输出 用 \n

Mysql2:数据类型

家住魔仙堡 提交于 2019-12-02 22:05:01
Mysql支持多种数据类型,主要有数值类型、日期/时间类型、字符串类型。 1)数值数据类型:整数类型TINYINT、SMALLINT、MEDIUMINT、INT、BIGINT         浮点小数数据类型FLOAT、DOUBLE          定点小数类型DECIMAL 2)日期/时间类型:YEAR、TIME、DATE、DATETIME、TIMESTAMP 3)字符串类型:CHAR、VARCHAR、BINARY、VARBINARY、TEXT、ENUM、SET等。字符串类型又分为文本字符串和二进制字符串。 整数类型        不同类型整数存储所需的字节数不同,根据占用字节数可以求出每一种数据类型的取值范围,例如TINYINT需要1个字节(8bits)存储,那么它的无符号的最大值为2**8 -1 即255;有符号最大值为 2**7 -1= 127.   下表是不同数据类型的取值范围            添加数据表时的数据类型int(11)中,11表示该数据类型指定的显示宽度,指定能够显示的数值中数字的个数。   显示宽度和数据类型的取值范围无关。显示宽带只是知名Mysql最大可能显示的数字个数,数值的位数小于指定的宽度时会由空格填充;如果插入了大于显示宽度的值,只要该值不超过该类型的取值范围,数值依然可以插入,能够显示出来。   定义表结构时,如果不指定显示宽度

计算机科学基础知识

。_饼干妹妹 提交于 2019-12-02 21:59:21
1. 计算机科学基础知识   1.1 数制及其转换     二进制、八进制、十进制和十六进制等常用数制及其相互转换   1.2 计算机内数据的表示     数的表示(原码、反码、补码、移码表示,整数和实数的表示,精度和溢出)      原码表示法 :最高位是符号位。数值X的原码记为[X] 原 ,如果机器字长为n(即采用n个二进制位表示数据),则原码表示:     [+0] 原 =0 0000000  [-0] 原 =1 0000000     [+1] 原 =0 0000001  [-1] 原 =1 0000001     [+127] 原 =0 1111111  [-127] 原 =1 1111111     [+0.5] 原 =0 .1000000  [-0.5] 原 =1 .1000000      反码表示法 :数值X的反码记为[X] 反 ,如果机器字长为n,则原码表示:正数的反码表示同原码,负数的反码表示将正数原码表示中的01反过来。      补码表示法 :负数的补码表示将正数原码表示中的01反过来再+1。0有唯一补码,全为0。     [+0.5] 补 =0 .1000000  [-0.5] 补 =1 .1000000     [+1] 补 =0 0000001  [-1] 补 =1 1111111      在 计算机系统中常采用补码来表示和运算数据

如何理解IEEE 754标准对Java中float值和double值的规定

匿名 (未验证) 提交于 2019-12-02 21:53:52
在Java语言中,我们可以使用float和double这两种基本数据类型来表示特定的数据。 这两种数据类型,本质上是浮点数(floating-point number),浮点是一种对于实数的近似值数值表现法,由一个有效数字加上幂数来表示。 之所以使用浮点数,是因为计算机在使用二进制运算的过程中,无法将所有的十进制小数准确的换算为二进制,只能使用近似值来表示。 使用浮点数表示数值的方法很多,在Java中,和C语言一样,float和double都采用了使用最为广泛的IEEE 754标准。 IEEE 754标准的全称为 IEEE二进制浮点数算术标准(ANSI/IEEE Std 754-1985) ,其中ANSI是美国国家标准学会(American National Standards Institute)的缩写,IEEE是电器电子工程师学会(Institute of Electrical and Electronics Engineers)的缩写,754是该标准的编号,1985则是该标准发布的年份。 符号位(sign bit) ,第二部分为 指数偏移值(exponent bias) 用于存储浮点数的指数部分,第三部分为 分数(fraction) 用于存储浮点数的有效数的小数部分。 以一个具体的float值为例,Java中的float值采用的是IEEE754中的单精度标准

java---表示数字的基本类型

匿名 (未验证) 提交于 2019-12-02 21:53:52
数字的基本类型有整数型(4)、浮点型(2)、单字符型(1)、布尔型(2)、其中还包括了强制转换和隐式转换。 ------------------ ---------------------------- ---------------------------- ---------------------------- ---------------------------- 1) 8 λ 16 λ 32 λ 64 λ 小于 32 位数的变量,都按 int 结果计算。 byte和short可以隐式转换成int,但是long不可以。 强转符比数学运算符优先级高。 ------------------ ---------------------------- ---------------------------- ---------------------------- ---------------------------- 2)两种浮点数类型(float、double): 32 λ , 后缀 F 或 f , 1 位符号位,8 位指数,23 位有效尾数 64 λ ,最常用, 后缀 D 或 d , 1 位符号位,11 位指数,52 位有效尾 2.浮点数字面量默认都为 double 类型 , 所以在定义的 float 型数据后面加F 或 f 4. 浮点数是不精确的

学习笔记――浮点数的除零

匿名 (未验证) 提交于 2019-12-02 21:52:03
所有的浮点数值计算都遵循IEEE 754规范,用于表示溢出和出错情况的三个特殊的浮点数值,±inf、NaN。 源码注释: If the argument is {@code 0x7ff0000000000000L}, the result is positive infinity. If the argument is {@code 0xfff0000000000000L}, the result is negative infinity. If the argument is any value in the range * {@code 0x7ff0000000000001L} through * {@code 0x7fffffffffffffffL} or in the range * {@code 0xfff0000000000001L} through * {@code 0xffffffffffffffffL}, the result is a NaN. Demo:1.0、0.0和0的浮点数值输出: double d1 = Double . parseDouble ( "1.0" ); BigDecimal bd1 = new BigDecimal ( d1 ); System . out . println ( bd1 ); //1 double d2 = Double