海量数据

海量数据处理是基于海量数据上的存储、处理、操作。 所谓海量，就是数据量很大，可能是TB级别甚至是PB级别，导致无法一次性载入内存或者无法在较短时间内处理完成。面对海量数据，我们想到的最简单方法即是分治法，即分开处理，大而化小，小而治之。我们也可以想到集群分布式处理。 1 海量数据的存储：为大数据分析做准备 传统关系型数据库 传统关系型数据库在 数据存储上主要面向结构化数据，聚焦于便捷的数据查询分析能力、按照严格规则快速处理事务（transaction）的能力、多用户并发访问能力以及数据安全性的保证。其结构化的数据组织形式，严格的一致性模型，简单便捷的查询语言，强大的数据分析能力以及较高的程序与数据独立性等优点获得广泛应用。 但是 面向结构化数据存储的关系型数据库已经不能满足当今互联网数据快速访问、大规模数据分析挖掘的需求。 它主要缺点： 1) 对于半结构化、非结构化的海量数据存储效果不理想。像电子邮件、 超文本、标签（Tag）以及图片、音视频等各种非结构化的海量数据。 2）关系模型束缚对海量数据的快速访问能力： 关系模型是一种按内容访问的模型。即在传统的关系型数据库中，根据列的值来定位相应的行。这种访问模型，会在数据访问过程中引入耗时的输入输出，从而影响快速访问的能力。虽然，传统的数据库系统可以通过分区的技术（水平分区和垂直分区） ，来减少查询过程中数据输入输出的次数以缩减响应时间

一说海量数据有人就说了直接用大数据，那只能说不太了解这块，为此我们才要好好的去讲解一下海量的处理 海量数据的处理分为两种情况 1）表中有海量数据，但是每天不是很快的增长 2）表中有还流量数据，而且每天很快速的增长 针对这了两种情况，我们给出的解决方案也不太一样，而且也不是所有的项目都是这样的情况。 海量数据的解决方案 1）使用缓存 2）页面静态化技术 3）数据库优化 4）分离数据库中活跃的数据 5）批量读取和延迟修改 6）读写分离 7）使用NoSql和Hadoop等技术 8）分布式部署数据库 9）应用服务和数据库分离 10）使用搜索引擎搜索数据库中的数据 11）进行业务的拆分 千万级数数据，mysql实际上确实不是什么压力，InnoDB的存贮引擎，使用B+数存储结构，千万级的数据量，基本也就是三四层的搜索，如果是配置合适的索引，性能基本也不是问题 但有时候业务上面的增长，导致数据还会继续增长，为了应对这方面的问题而必须要做扩展了此时可能首先考虑的就是分库分表 数据的切分： 就是通过某种特定的条件，将我们存放在同一个数据库中的数据分散的存放到多个数据库中，以达到分散单台数据库负载的效果，即为分库分表 分表 把一张表按一定的规则分解成N个具有独立存储空间的实体表。系统读写时需要根据定义好的规则得到对应的字表明，然后操作它 1)什么时候考虑分表？ *