浮点数

数据类型 计算机顾名思义就是可以做数学计算的机器，因此，计算机程序理所当然地可以处理各种数值。但是，计算机能处理的远不止数值，还可以处理文本、图形、音频、视频、网页等各种各样的数据，不同的数据，需要定义不同的数据类型。在JavaScript中定义了以下几种数据类型: Number JavaScript不区分整数和浮点数，统一用Number表示，以下都是合法的Number类型: 12 // 整数 3.14 // 浮点数 1.1e3 // 科学计数法 1.1 x 1000 -12 // 负数 NaN // 表示Not a Number,无法计算结果时候使用 Infinity // 无限大 字符串 字符串是以单引号'或双引号"括起来的任意文本 布尔值 用true、false表示布尔值，也可以通过布尔运算计算出来: true; // 这是一个true值 false; // 这是一个false值 2 > 1; // 这是一个true值 2 >= 3; // 这是一个false值 数组 数组是一组按顺序排列的集合，集合的每个值称为元素。JavaScript的数组可以包括任意数据类型。例如: var arr = [1, 2, 3.14, 'Hello', null, true]; 数组用[]表示，元素之间用,分隔。数组的元素可以通过索引来访问。请注意，索引的起始值为0. arr[0]; //

时间模块 Python中有很多方便我们处理时间信息的模块 time 模块 datetime 模块 pytz 模块 dateutil 模块 这里我们着重介绍的是前两种 time模块 time.time() 返回当前时间于 Unix 时间 (1970.1.1 00:00:00) 经过的秒数 返回值也称作 时间戳 ，是一个 浮点数 类型 time.localtime(seconds) 将 时间戳秒数 转换为表示 本地时间 的 时间元组 如果没有传入参数，则直接返回 当前本地时间 的 时间元组 时间元组： (tm_year, tm_mon, tm_mday, tm_hour, tm_min, tm_sec, tm_wday, tm_yday, tm_isdst) tm_wday ：从0开始，表示星期几 tm_yday ：第几天 tm_isdst ：夏令时的决定旗标 time.sleep(seconds) 推迟 程序的运行，参数为推迟的 秒数 time.clock() 一般用来衡量 程序 的 耗时 win ： 第一次调用： 浮点数形式 返回当前 CPU 运行时间 第二次调用： 浮点数形式 返回距离 上次调用 该函数至此次的 时间间隔 Linux ： 浮点数返回当前的程序执行时间 time.asctime(tupletime) 将一个 时间元组 返回为一个 可读形式 字符串 >>> time

参考： MOOC-袁春风：计算机系统基础(一) 第二周 定点数与浮点数 整数、浮点数在计算机中的存储 一般数值数据包括 整数 和 实数 。数值数据在计算机中表示主要关心三个方面：进位计数制、定/浮点表示、二进制编码。 进位计数制： 十进制：0, 1, 2, 3, 4, 5, 6, 7, 8, 9 二进制：0, 1 八进制：0, 1, 2, 3, 4, 5, 6, 7 十六进制：0, 1, 2, 3, 4, 5, 6, 7, 8, 9, A, B, C, D, E, F 进制转换（R进制）：整数部分，除R取余，上右下左；小数部分，乘R取整，上左下右。 简便方法： 835=512+256+64+2+1=>1101000011 0.6875=0.5+0.125+0.0625=>0.1011（小数点在计算机中如何表示） 定、浮点表示（解决 小数点 问题） 定点数 ：约定机器中所有数据的小数点位置固定不变，通常将定点数表示成纯小数（小数点固定在数值部分的最高位之前）或纯整数（小数点固定在数值部分的最后面）。 定点小数 用来表示浮点数的尾数部分； 定点整数 用来表示整数。整数又分为 带符号整数 和 无符号整数 。有无符号位决定了数值的表示范围。 浮点数 ：利用指数达到浮动小数点的效果，将实数X表示为 \(X=(-1)^s \times M \times R^E\) 。S取0或1，决定X的 符号

一、数字类型 　　表示数字或数值的数据类型称为数字类型,Python语言提供3种数字类型：整数、浮点数和复数，分别对应数学中的整数、实数和复数，下面就一起来了解一下他们吧！ 1.整数类型 　　整数类型与数学中整数的概念一致，整数类型共有4种进制表示：十进制、二进制、八进制和十六进制。 例： 进制种类　　　　 引导符号 描述 十进制 无 默认情况，例如123，-456 二进制 0b 或 0B 由字符 0 到 1 组成，例如，0b1101，0B1101 八进制 0o 或 0O 由字符 0 到 7 组成，例如，0b761，0B761 十六进制 0x 或 0X 由字符 0 到 9 、a 到 f 、A 到 F 组成，例如，0xABC，0XABC 2.浮点数类型 　　浮点数类型与数学中实数的概念一致，表示带有小数的数值。 　　浮点数由两种表示方法：十进制表示和科学技术法表示，例如：1.0、2.3、3.14、56e4、12E2. 　　其中科学计数法使用字母e或E作为幂的符号，<a>e<b> = a*(10b) 3.复数类型 　　复数类型表示数学中的复数。 　　Python语言中，复数的虚数部分通过后缀 “J” 或 “j” 来表示，例如：1.58+4j 或 4.87+1J 二、数字类型的操作 1.数值运算操作符 Python提供了9个基本的数值操作运算符，如下所示： 　　x + y　　和 　　x

一、二进制 bin() 在python中可以用bin()内置函数获取一个十进制的数的二进制 计算机容量单位 8bit = 1 bytes 字节，最小的存储单位，1bytes缩写为1B 1KB = 1024B 1MB = 1024KB 1GB = 1024MB 1TB = 1024 GB 1PB = 1024 TB 1EB = 1024 PB 1ZB = 1024 EB 1YB = 1024 ZB 1BB = 1024 YB 二、字符编码 Unicode编码：国际标准字符集，它将世界的各种语言的每个字符定义个唯一的编码，以满足跨平台、跨语言的文本信息转换。Unicode(统一码、万国码)规定所有的字符和符号最少由16位来表示（2个字节），即2**16 = 65536. UTF-8 ，是对Unicode编码的压缩优化，它不在使用最少2个字节，而是将所有的字符和符号分类，ascii码中的内容用1个字节来保存，欧洲的字符用2个字节来保存，东亚的字符用3个字节保存。 windows 系统中文版默认编码是GBK MAC \Linux 系统默认编码是UTF-8 三、浮点数 浮点数 是属于有理数中某特定子集的数的数字表示，在计算机中用以近似表示任意某个实数。包括整数和分数，包含有限小数和无线循环小数。 无限不循环的小数不是浮点数 整数和浮点数在计算机内部存储的方式是不同的，整数运算永远是精确的

1. 基本格式 %c 字符 %s 字符串 %d 、 %i 有符号十进制整数 %u 无符号十进制整数 %f 表示按浮点数的格式输出 %e 表示按指数形式的浮点数的格式输出 %g 用来输出实数，输出格式为f格式或e格式，系统根据数据占宽度m大小，自动选择占宽度较小的某种格式输出，g格式符不输出小数点后无意义的零。 %o 八进制整数 %x 十六进制整数 %p 指针 2. %2d、% 02d、%.2d、%-2d % 2d是将数字按宽度为2，采用右对齐方式输出，若数据位数不到2位，则左边补空格。 % 02d，和% 2d差不多，只不过左边补0 %.2d：从执行效果来看，和% 02d一样 “%-2d”：左对齐 3. %7.4f、%.17g printf("%7.4f\n",123.456789); 输出123.4568，%7.4f 表示输出的浮点数最多数字有7个，小数部分数字有4个，输出的浮点数右对齐。 %.17g：小数部分最多输出17位小数。 来源： https://blog.csdn.net/it_is_me_a/article/details/100668719

Java基本数据类型及其运算 1. 整型运算 四则运算 对于整型类型，Java只定义了带符号的整型，因此，最高位的bit表示符号位（0表示正数，1表示负数）。各种整型能表示的最大范围如下： byte：-128 ~ 127 short: -32768 ~ 32767 int: -2147483648 ~ 2147483647 long: -9223372036854775808 ~ 9223372036854775807 因此存在溢出情况，求解溢出情况只需要将具体的数换为二进制进行加减即可，如果最高位变为1，则溢出之后的数又会变为负数 注：没有必要为了节省内存而使用byte和short进行整数运算,范围太小，即使确定了在byte类型内，后期的各种与int的转换会使代码十分冗余，难以维护 int i = 0 while ( i > 0 ) { //不是死循环，因为会溢出变为负数 i += 1000 ; } 移位运算 在计算机种整数总是以2进制的形式存在 //左移，包括符号位向左截断相应的位数，而右边用0补上 int shitNum = 15 ; //00000000 00000000 00000000 00001111 int shitNumLeft1 = shitNum << 1 ; //00000000 00000000 00000000 00011110 System . out

一、引子 到今天为止，专栏已经过半了。过去的20多讲里，我给你讲的内容，很多都是围绕着怎么提升CPU的性能这个问题展开的。我们先回顾一下第4讲，不知道你是否还记得这个公式： 程序的CPU执行时间 = 指令数 × CPI × Clock Cycle Time 这个公式里，有一个叫CPI的指标。我们知道，CPI的倒数，又叫作IPC（Instruction Per Clock），也就是一个时钟周期里面能够执行的指令数，代表了CPU的吞吐率。那么，这个指标，放在我们前面几节反复优化流 水线架构的CPU里，能达到多少呢？ 答案是，最佳情况下，IPC也只能到1。因为无论做了哪些流水线层面的优化，即使做到了指令执行层面的乱 这说明，无论指令后续能优化得多好，一个时钟周期也只能执行完这样一条指令，CPI只能是1。但是，我们现在用的Intel CPU或者ARM的CPU，一般的CPI都能做到2以上，这是怎么做到的呢？ 今天，我们就一起来看看，现代CPU都使用了什么 “黑科技”。 二、多发射与超标量：同一实践执行的两条指令 1、整数和浮点数计算的电路，在CPU层面也是分开的 之前讲CPU的硬件组成的时候，我们把所有算术和逻辑运算都抽象出来，变成了一个ALU这样的“黑盒子”。你应该还记得第13讲到第16讲，关于加法器、乘法器、乃至浮点数计算的部分，其实整数的计算和 浮点数的计算过程差异还是不小的。实际上

shell中的赋值和操作默认都是字符串处理，在此记下shell中进行数学运算的几个特殊方法。以后用到的时候能够来看，呵呵 1、错误方法举例 a) var=1+1 echo $var 输出的结果是1+1，悲剧，呵呵 b) var=1 var=$var+1 echo $var 输出结果是1+1。依旧悲剧，呵呵 2、正确方法 1)使用let var=1 let "var+=1" echo $var 输出结果为2。这次没有悲剧 注意： a)经我測试let差点儿支持全部的运算符，在网上看到一篇文章说“let不支持++、--和逗号、(、)”,但经我測试自加、自减、以及括号的优先级都得到了非常好的支持 b)方幂运算应使用“**” c)參数在表达式中直接訪问，不必加$ d)普通情况下算数表达式能够不加双引號，可是若表达式中有bash中的keyword则需加上 e)let后的表达式仅仅能进行整数运算 2)使用(()) var=1 ((var+=1)) echo $var 输出结果为2 注意： (())的用法与let全然同样 3)使用$[] var=1 var=$[$var+1] echo $var 输出结果位2 注意： a)$[]将中括号内的表达式作为数学运算先计算结果再输出 b)对$[]中的变量进行訪问时前面须要加$ c)$[]支持的运算符与let同样，但也仅仅支持整数运算 4)使用expr

Php: BCMath bc是Binary Calculator的缩写。bc*函数的参数都是操作数加上一个可选的 [int scale]，比如string bcadd(string $left_operand, string $right_operand[, int $scale])，如果scale没有提供，就用bcscale的缺省值。这里大数直接用一个由0-9组成的string表示，计算结果返回的也是一个 string。 bcadd — 将两个高精度数字相加 bccomp — 比较两个高精度数字，返回-1, 0, 1 bcdiv — 将两个高精度数字相除 bcmod — 求高精度数字余数 bcmul — 将两个高精度数字相乘 bcpow — 求高精度数字乘方 bcpowmod — 求高精度数字乘方求模，数论里非常常用 bcscale — 配置默认小数点位数，相当于就是Linux bc中的”scale=” bcsqrt — 求高精度数字平方根 bcsub — 将两个高精度数字相减 首先看一段代码: <?php $a = 0.1; $b = 0.7; var_dump(($a + $b) == 0.8); 打印出来的值居然为 boolean false 这是为啥?PHP手册对于浮点数有以下警告信息: Warning 浮点数精度 显然简单的十进制分数如同 0.1 或 0.7