硬盘存储

索引碎片的检测和整理

非 Y 不嫁゛ 提交于 2019-12-29 02:08:12
存储数据是为了查找数据,存储结构影响数据查找的性能。对无序数据进行查找,最快的查找算法是哈希查找;对有序数据进行查找,最快的查找算法是平衡树查找。在传统的关系型数据库中,聚集索引和非聚集索引都是平衡树(B-Tree)类型的存储结构,用于顺序存储数据,便于实现数据的快速查找。除了提升数据查找的性能之外,索引还能减少硬盘IO和内存消耗。通常情况下,硬盘IO是查找性能的瓶颈,由于索引是数据表的列的子集,这意味着,索引只存储部分列的数据,占用的硬盘空间比全部列少了很多,因此,数据库引擎只需要消耗相对较少的硬盘IO和内存buffer,就能把索引数据加载到内存中。 索引以B-Tree结构存储在数据文件中,分为叶子节点和非叶子节点,叶子节点用于存储数据,而非叶子节点(中间节点和根节点)用于存储索引键,节点数据按照索引键排序。理论上,一旦数据集确定下来,索引查找的时间消耗就只跟索引结构的层次有关系,层次越多,查找数据所消耗的时间越多。碎片会影响索引的层次结构,但是,碎片并不总是破坏者,碎片有利于数据的更新。 在数据的物理存储上,索引和数据存储在硬盘上的数据文件中,数据文件以页(Page)为最小单位分割,每一个Page是8KB,物理位置上连续的8个Page叫做一个区(Extent),每一个区是64KB。区是空间分配的基本单位,而页是数据存储的基本单位。 从物理存储上来看,索引是由一系列的分段

八国离线谷歌卫星影像地图内网发布

不羁岁月 提交于 2019-12-27 18:09:38
1. 概述 最近,水经注承接了新疆某单位的《八国离线谷歌卫星影像地图内网发布》项目,该项目的数据内容主要包括了哈萨克斯坦、吉尔吉斯斯坦、塔吉克斯坦、乌兹别克斯坦和土库曼斯坦等中亚五国,以及阿富汗、土耳其和巴基斯坦共8个国家的WGS84 Web墨卡脱谷歌卫星影像数据和地名标签数据。 《八国离线谷歌卫星影像地图内网发布》项目数据一共分两期交付,第一期为中亚五国与阿富汗数据,该数据存储于一块西部数据硬盘中,前段时间已成功完成交付。 目前,新疆某单位《八国离线谷歌卫星影像地图内网发布》项目第二期数据,也于近期交付完成。第二期数据主要包括土耳其和巴基斯坦谷歌卫星影像和地名路网标签,它们分别存储于两个西数硬盘中。 西部数据硬盘 2. 土耳其864GB离线地图数据 土耳其全国离线地图数据单独存储于一块西数据硬盘中,如下图所示。 土耳其数据硬盘 在土耳其全国离线地图数据硬盘中,除了有"土耳其"数据文件夹外,还包括"工具"文件夹和"接图表"文件夹,如下图所示。 土耳其数据硬盘内容 土耳其全国数据共864GB,其中卫星影像812GB,地名道路标签33.2GB。卫星影像和标签各534个离线文件,共267个金字塔文件分块。 土耳其离线地图大小 3. 巴基斯坦683GB离线地图数据 巴基斯坦全国离线地图数据单独存储于一块西数据硬盘中,如下图所示。 巴基斯坦数据硬盘 在巴基斯坦全国离线地图数据硬盘中,除了有

磁盘分区格式化和文件系统管理

倖福魔咒の 提交于 2019-12-27 07:10:15
一、硬盘分区 1.每个扇区,512字节 2.每个磁道划分为63个扇区 3.逻辑磁头(盘面)数设为255个 4.一个柱面的大小=255x63x512字节=8 MB 5.硬盘或分区的容量=柱面的大小x柱面数 磁面( head ) 1.硬盘一般是由一片或几片圆形薄膜叠加而成。每个圆形薄膜都有两个"面"(Side),这两个面都是用来存储数据的。 2.依次称为0面、1面、2面……由于每个面都专有一个读写磁头,也常用0头(head)、1头……称之。 3.硬盘面数(或头数),少的只有2面,多的可达数十面。 track------ 磁道 ----- 一个圈 1.读写硬盘时,磁头不动,磁盘是旋转的,则连续写入的数据是排列在一个 圆周上的。我们称这样的圆周为一个磁道(Track)。 2.磁头不动,就是在一个磁道上读写 3.磁头移动,就会在不同磁道上读写 cylinder---- 柱面 --------- 外观象一个圆筒子 各面上磁道号相同的 磁道合起来,称为一个柱面(cylinder)距轴的距离相同的一组track cylinder也是磁盘分区时的最小单位,分区是按磁道和柱面连续分布的 Sector 一个track上可以容纳数KB的数据,而主机读写时往往并不需要一次读写那么多,于是,磁道又被按512字节划分成若干段,每段称为一个扇区(Sector)。 一个扇区size是固定的512字节 硬盘启用过程

编程语言的作用及与操作系统和硬件的关系

ぐ巨炮叔叔 提交于 2019-12-26 19:18:13
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> 一、编程语言的作用及与操作系统和硬件的关系 作用:编程语言是计算机语言,是一种程序员与计算机之间沟通的介质,通过编程语言可以使得计算机能够根据人的指令一步一步去工作,完成某种特定的任务。 关系:编程语言会通过编译软件写成程序,程序是不能直接和硬件来进行交互的,而操作系统是用来管理计算机硬件设备的,所以我们可以就可以在操作系统上来运行程序,让操作系统去管理与配置内存、决定系统资源供需的优先次序、控制输入与输出、操作网络与管理文件系统等基本任务。 二、应用程序、操作系统、硬件之间的关系 硬件上运行操作系统,操作系统上运行应用程序,应用程序通过Windows API调用操作系统函数从而和计算机硬件交互。 三、 cpu 、内存、磁盘之间的关系 1.CPU即中央处理器,CPU从内存或缓存中取出指令,放入指令寄存器,并对指令进行解码,然后发出各种控制命令,从而完成一条指令的执行。 2.CPU并不能直接调用存储在硬盘上的系统、程序和数据,必须将硬盘的有关内容通过总线存储在内存中,才能被CPU读取运行。因而,内存可以理解为硬盘和CPU的“中转站”。 3.当运行数据大小超出物理内存的时候,这时系统就会将硬盘上的部分空间模拟成内存——虚拟内存,并将暂时不运行的程序或不使用的数据存放到这部分空间之中,等待需要的时候方便及时调用。 4

RAID 0、1、5、1+0总结

孤人 提交于 2019-12-26 05:31:47
RAID(Redundant Array Of Independent Disk,独立磁盘冗余阵列),可以提供比普通磁盘更快的速度、更高的安全性,生产环境中服务器在安装时一般都会做RAID,RAID的创建有两种方式,一种是软RAID(由操作系统来实现,生产环境下一般不采用,因为是基于系统,所以一旦系统挂掉了,数据就挂了),另一种是硬RAID(使用的是RAID卡,也叫阵列卡等的一种独立于系统之外的卡,当系统挂掉之后可以保证磁盘数据的安全性)。 RAID 0:(String 条带模式) 要求:至少需要两块磁盘 优点:数据分散存储于不同磁盘上,在读写时可以实现并发,是所有RAID级别中存储性能最高的;磁盘利用率100%; 缺点:没有容错功能,一旦其中一块磁盘挂掉全部数据将都会顺坏 RAID 1:(Mirroring 镜像卷) 要求:至少需要两块磁盘 优点:用过硬盘镜像数据实现数据冗余,保证数据的安全性,在两块盘上互为备份,当原始数据繁忙时,可以直接从镜像备份中读取数据; 缺点:是RAID级别中单位成本最高的,当其中一块磁盘挂掉时,系统可以直接切换到镜像盘上读写,并且不需要重组失效的数据,磁盘利用率50%; RAID 5原理:数据以块为单位分散存储在各个硬盘上,RAID 5不对数据进行备份,而是把数据和与其对应的奇偶校验信息存储到组成的RAID5的各个磁盘上

RAID学习

放肆的年华 提交于 2019-12-26 02:08:19
RAID学习 RAID的由来 1.1什么是RAID 磁盘阵列(Redundant Arrays of Independent Drives)又称RAID,有“独立磁盘构成的具有冗余能力的阵列”之意。 1.2 为什么做RAID 提到RAID 就不可避免要说说硬盘,硬盘的类型从IDE硬盘到SATA硬盘、SAS硬盘继而到现在的SSD硬盘,各种性能都在提升,速度也在不断提高。但是在类似机场这种大型的生产环境下,单块甚至几块硬盘已经无法发挥作用,就需要另辟蹊径找到更佳的提升磁盘性能的方法,于是IT人创造了磁盘阵列这一概念。磁盘阵列就是将很多单块的磁盘组合在一起,构成一个磁盘组。磁盘阵列的诞生,不仅再一次解决了数据访问速度的难题,同时还降低了部分硬盘损坏影响整个系统的风险。 RAID级别详解 2.1 RAID 0(条带化技术)  为了提高传输速率,RAID 0实现了通过在多个磁盘上并行操作来大幅提高访问速度这一功能,其原理是让很多磁盘驱动器同时读写数据。举个例子:假如有2块磁盘,没有RAID技术之前是先写满一块磁盘然后再继续写下一块磁盘,而RAID 0技术的实现使得多块磁盘同时读写成为现实,那么2块硬盘的并行操作在同一时间内磁盘读写的速度就提升了2倍。所以用RAID 0可以达到单个磁盘驱动器几倍的速率。如下图所示: 虽然RAID 0可以提供更多的空间和更好的性能,但是RAID

浪潮获取cpu、内存、硬盘等信息(redfish协议+restfull协议)

偶尔善良 提交于 2019-12-25 17:33:40
import requests import json requests.packages.urllib3.disable_warnings() ###原理:cpu、内存、存储分别使用不同的url获取到值,如url不一致只分别修改对应的第一个url即可,后面的详细参数的URL函数自动提取 class GetHostInfo(object): def __init__(self,ipaddr,username,password): self.ip=ipaddr.strip() self.URLprefix='https://'+ipaddr.strip() self.username=username.strip() self.password=password.strip() global token ##同时存在4-5个token链接,每个token链接时间为5分钟,可以自己设置。该token是在响应头获取到的,直接用到redfish认证的header中。 global CSRFToken ##该token是在响应的文本或json格式中获取到的,需要经过处理、加工后用到restfull认证的header中。 global cookie ##该cookie是在响应头获取到的,需要经过处理、加工后用到restfull认证的header中。 CSRFToken=0 cookie=0

网络硬盘

人走茶凉 提交于 2019-12-25 03:52:28
1、http://www.filefront.com/ 无限空间,速度比较理想,推荐! 2、http://www.megashares.com/ 上传1.5G文件,无限制下载 。 3、http://www.filefactory.com/upload/ 可以上传1.5G的文件,保存30天。 4、http://datapickup.com/ 上传1.5G文件,保存7天 。 5、http://www.yousendit.com/ 上传1G文件,保留7天,限制下载次数,可多线程,推荐! 6、http://www.transferbigfiles.com/ 上传1G文件,保存5天 。 7、http://www.zupload.com/ 允许上传500m的文件,几乎无时限。 8、http://www.spread-it.com/ 上传500M文件,30天没人下砍档 。 9、http://ww3.sharebigfile.com/ 上传300M文件,可以开多个线程无限制下载,非常好! 10、http://fileupyours.com/ 上传200M文件,无限期保存,无限期下载 。 http://www.lx1000.cn/ 国家: 中文 硬盘大小: 100 MB 支持文件: 普通文件 图片文件 音乐文件 视频文件 文件限制: 50 MB 对外共享: 否 临时文件: 否 上传方式: 浏览器

Windows 7下硬盘安装CentOS6.4的解决方法

前提是你 提交于 2019-12-24 13:23:01
Part I   前言    最近打算在硬盘上安装CentOS6.4,之前因为都是在虚拟机上安装,没有遇到什么问题,实际在硬盘安装的时候,问题就接踵而来,因为网上安装CentOS6.4的教程很多了,我就不详细写了,这篇博客主要写安装的一些注意点和问题总结,在安装过程中遇到问题的朋友,可以来这里查阅,也欢迎大家留言讨论,希望可以与大家共勉。 Part II  准备    我下载的CentOS6.4是X86_64的版本,大概有4.05G左右,相信大家在安装过程中都会遇到这样一个问题,那就是空间不够。为什么呢,因为Linux是不支持NTFS格式的硬盘读写的,在Windows和Linux下都能读写的磁盘格式是FAT32,而FAT32最大只能支持单个文件4G的大小,如果单个文件超过了4G就无法存放,所以在安装的过程中非常的头疼,在查阅总结了大家的一些方法后,现归纳如下。   首先,需要的软件有三个,一个是 EasyBCD ,这个软件用来管理和设置开机启动项。第二个是 DiskGenius ,这个用来更改分区,因为在安装过程中需要先对硬盘进行分区,当然你用其他的分区软件也可以。最后一个是 Ext2Fsd ,这个软件用来在windows下查看ext3/4格式的分区,因为windows下最常见的分区格式是NTFS和FAT32,而Linux下则常用ext3/4

面对HP MSA存储中硬盘掉线的情况,学会这种解决方式至关紧要

好久不见. 提交于 2019-12-24 11:09:22
一、HP MSA存储设备信息 1、存储空间由8块450GB SAS的硬盘组成。 2、7块硬盘组成一个RAID5的阵列,1块作为热备盘。 二、HP MSA存储设备故障描述 1、RAID5阵列中出现2块硬盘损坏,而此时只有一块热备盘成功激活,因此导致RAID5阵列瘫痪,上层LUN无法正常使用。 2、RAID阵列中某些磁盘掉线,导致整个存储不可用。因此需要先对所有磁盘做物理检测,检测完后确认硬盘无物理故障。接着使用坏道检测工具检测磁盘坏道,发现也无坏道。 三、HP MSA存储备份数据 考虑到数据的安全性以及可还原性,在做数据恢复之前需要对所有源数据做备份,以防万一其他原因导致数据无法再次恢复。使用dd命令或winhex工具将所有磁盘都镜像成文件。备份完部分数据如下图: 四、HP MSA存储故障分析 1、分析故障原因 经推断可能是由于某些磁盘读写不稳定导致故障发生。因为HP MSA2000控制器检查磁盘的策略很严格,一旦某些磁盘性能不稳定,HP MSA2000控制器就认为是坏盘,就将认为是坏盘的磁盘踢出RAID组。而一旦RAID组中掉线的盘到达到RAID级别允许掉盘的极限,那么这个RAID组将变的不可用,上层基于RAID组的LUN也将变的不可用。目前初步了解的情况为基于RAID组的LUN有6个,均分配给HP-Unix小机使用,上层做的LVM逻辑卷,重要数据为Oracle数据库及OA服务端。