mysql导入sql文件

优化导入数据到MariaDB、Mysql(InnoDB)的速度

二次信任 提交于 2019-12-04 21:24:57
关键配置:关闭binlog 环境:8G的sql文件,300多个InnoDB数据表, ( 用MysqlWorkbench导出的数据,用HeidiSql导入,因为正式环境是mysql,可以用 MysqlWorkbench,而 MariaDB用不了导出,要用 HeidiSql,直接用 mysqldump、source命令也可以 )。导出耗时6分钟,导入耗时55分钟(有待提高,跟进中) 版本:MariaDB 10 1.注释“log-bin=mysql-bin”、“binlog_format=mixed” 2.“ innodb_flush_log_at_trx_commit ” 设置为“ 2 ” 3.导入完成后,一定要记得设置为原来的 附MysqlWorkbench生成的导出命令 18:24:07 Dumping XXXXXX (all tables) Running: mysqldump.exe --defaults-extra-file="c:\users\admini~1\appdata\local\temp\2\tmpo4jjp3.cnf" --user=root --max_allowed_packet=1G --host=localhost --port=3306 --default-character-set=utf8 --routines " XXXXXX " 18:30

【转载】mysql的三种备份方式

杀马特。学长 韩版系。学妹 提交于 2019-12-04 21:21:01
一、备份的目的 做灾难恢复:对损坏的数据进行恢复和还原 需求改变:因需求改变而需要把数据还原到改变以前 测试:测试新功能是否可用 二、备份需要考虑的问题 可以容忍丢失多长时间的数据; 恢复数据要在多长时间内完; 恢复的时候是否需要持续提供服务; 恢复的对象,是整个库,多个表,还是单个库,单个表。 三、备份的类型 1、根据是否需要数据库离线 冷备(cold backup) :需要关mysql服务,读写请求均不允许状态下进行; 温备(warm backup) : 服务在线,但仅支持读请求,不允许写请求; 热备(hot backup) :备份的同时,业务不受影响。 注: 1、这种类型的备份,取决于业务的需求,而不是备份工具 2、MyISAM不支持热备,InnoDB支持热备,但是需要专门的工具 2、根据要备份的数据集合的范围 完全备份:full backup,备份全部字符集。 增量备份: incremental backup 上次完全备份或增量备份以来改变了的数据,不能单独使用,要借助完全备份,备份的频率取决于数据的更新频率。 差异备份:differential backup 上次完全备份以来改变了的数据。 建议的恢复策略: 完全+增量+二进制日志 完全+差异+二进制日志 3、根据备份数据或文件 物理备份:直接备份数据文件 优点: 备份和恢复操作都比较简单,能够跨mysql的版本,

Mysql备份与恢复

烂漫一生 提交于 2019-12-04 21:03:38
通常数据库备份数据文件、 binlog 日志文件和 my.cnf 配置文件都应在其他地方保存一份甚至多份 仅备份是没有任何意义, 需要在测试环境中做日常恢复演练, 测试备份的可用性, 恢复较比备份更加的重要 备份: 能够有效防止设备故障以及人为误操作带来的数据丢失, 例如:将数据文件保存在远端。 冗余: 数据有多分冗余, 但不等于备份, 只能防止机械故障丢失的数据, 例如: 主备模式、数据库集群。 Mysql逻辑备份与恢复 完整备份与恢复 增量备份与恢复 Mysql物理备份与恢复 完整备份与恢复 增量备份与恢复 toc 数据库备份必须考虑因素 数据的一致性 服务的可用性 数据库备份方式 逻辑备份: 备份 DDL DML DCL 语句, 适用于中小型数据库, 效率相对低下。 mysqldump、mydumper 物理备份: 直接复制数据库文件, 适用于大型数据库环境, 效率相对较高。 xtrabackup、inbackup、cp、tar、lvm snapshot 数据库备份模式 完全备份 增量备份 差异备份 Mysql逻辑备份与恢复 Mysql自带逻辑备份工具 mysqldump , 可以保证数据备份一致性, 以及服务可用性 不管物理备份还是逻辑备份, 必须开启 binlog 日志 mysqldump -h 服务器 -u 用户名 -p 密码 数据库名 > 备份文件.sql -A, -

【巨杉数据库SequoiaDB】巨杉Tech | 巨杉数据库数据高性能数据导入迁移实践

强颜欢笑 提交于 2019-12-04 20:22:32
SequoiaDB 一款自研金融级分布式数据库产品,支持标准SQL和分布式事务功能、支持复杂索引查询,兼容 MySQL、PGSQL、SparkSQL等SQL访问方式。SequoiaDB 在分布式存储功能上,较一般的大数据产品提供更多的数据切分规则,包括:水平切分、范围切分、主子表切分和多维切分方式,用户可以根据不用的场景选择相应的切分方式,以提高系统的存储能力和操作性能。 为了能够提供简单便捷的数据迁移和导入功能,同时更方便地与传统数据库在数据层进行对接,巨杉数据库支持多种方式的数据导入,用户可以根据自身需求选择最适合的方式加载数据。 本文主要介绍巨杉数据库集中常见的高性能数据导入方法,其中包括巨杉工具矩阵中的 Sdbimprt导入工具,以及使用SparkSQL, MySQL和原生API 接口进行数据导入,一共四种方式。 Sdbimprt工具导入 sdbimprt 是 SequoiaDB 的数据导入工具,是巨杉数据库工具矩阵中重要组成之一,它可以将 JSON 格式或 CSV 格式的数据导入到 SequoiaDB 数据库中。 关于工具说明与参数介绍,请参考: http://doc.sequoiadb.com/cn/sequoiadb-cat_id-1479195620-edition_id-0 。 一、示例 下面简单介绍一下如何使用 sdbimprt 工具将 csv 文件导入到

mysql执行导入sql出错

元气小坏坏 提交于 2019-12-04 20:21:19
开发环境:phpStudy2014 (mysql5.5.40) mysql-front操作工具 导入sql的时候报错 the used table type doesn't support FULLTEXT indexes 错误原因: 目前只有myisam支持fulltext的 innodb不支持。 show engines\G 发现 引擎没错。那么就是sql文件中引擎被设置的innodb了。 5.5中 innodb不支持 全文索引 解决办法: 升级mysql 5.6 成功。 来源: oschina 链接: https://my.oschina.net/u/2280651/blog/600346

Mysql 8.0.13 安装

时光总嘲笑我的痴心妄想 提交于 2019-12-04 19:52:43
问题一: 利用拷贝data目录文件的方式迁移mysql数据库 其实迁移数据库,一般用sql文件就行,把A服务器数据库的表结构和数据等等导出,然后导入到B服务器数据库, 但是这次数据文件过大,大约有40个G,使用命令行导入,效果不是很好,经常在执行过程中报错、卡死。 最后参考网上的帖子,复制源数据库的data目录下的文件,完成数据迁移。 步骤如下: 1.首先要确定data目录在哪里 这个问题困扰了我很久,因为网上的帖子大部分只是说拷贝mysql数据库目录下的data文件夹中的数据,但是data目录到底在哪里,并未说明,我开始是拷贝的MySQL安装目录中的data文件夹,但是显然这是错误的,拷贝后并未出现需要的数据库。 其实是拷贝mysql的数据存放路径,具体如下 C:\ProgramData\MySQL\MySQL Server 5.6\data(注意:ProgramData文件夹是隐藏的,需要先显示出来) (也可以使用命令 show global variables like "%datadir%";来查找data目录 ) 2.需要拷贝的文件包括:数据库文件(例如上图所示的gd_base、common、gd_dbwizard等数据库)和 ibdata1 (这个必须拷贝) 3.停掉mysql服务,将拷贝的文件复制到目标数据库的data目录中

MySQL --13 主从复制

帅比萌擦擦* 提交于 2019-12-04 19:10:14
目录 一.主从复制简介 二.主从复制原理 三、主从复制搭建实战 四.主从复制基本故障处理 五.延时从库 企业案例: 模拟环境 一.主从复制简介 复制是 MySQL 的一项功能,允许服务器将更改从一个实例复制到另一个实例。 1)主服务器将所有数据和结构更改记录到二进制日志中。 2)从属服务器从主服务器请求该二进制日志并在本地应用其内容。 3)IO:请求主库,获取上一次执行过的新的事件,并存放到relaylog 4)SQL:从relaylog中将sql语句翻译给从库执行 二.主从复制原理 主从复制的前提 1)两台或两台以上的数据库实例 2)主库要开启二进制日志 3)主库要有复制用户 4)主库的server_id和从库不同 5)从库需要在开启复制功能前,要获取到主库之前的数据(主库备份,并且记录binlog当时位置) 6)从库在第一次开启主从复制时,时必须获知主库:ip,port,user,password,logfile,pos 7)从库要开启相关线程:IO、SQL 8)从库需要记录复制相关用户信息,还应该记录到上次已经从主库请求到哪个二进制日志 9)从库请求过来的binlog,首先要存下来,并且执行binlog,执行过的信息保存下来 主从复制涉及到的文件和线程 主库: 1)主库binlog:记录主库发生过的修改事件 2)dump thread:给从库传送(TP)二进制日志线程 从库:

MySQL--11 备份的原因

半世苍凉 提交于 2019-12-04 19:09:26
目录 一.备份的原因 二.备份的类型 三.备份的方式 四.备份策略 五.备份工具 六、企业故障恢复案例 1.模拟环境 2.模拟恢复数据过程: 一.备份的原因 运维工作的核心简单概括就两件事: 1)第一个是保护公司的数据. 2)第二个是让网站能7*24小时提供服务(用户体验)。 1)备份就是为了恢复。 2)尽量减少数据的丢失(公司的损失) 二.备份的类型 冷备份: 这些备份在用户不能访问数据时进行,因此无法读取或修改数据。这些脱机备份会阻止执行任何使用数据的活动。这些类型的备份不会干扰正常运行的系统的性能。但是,对于某些应用程序,会无法接受必须在一段较长的时间里锁定或完全阻止用户访问数据。 温备份: 这些备份在读取数据时进行,但在多数情况下,在进行备份时不能修改数据本身。这种中途备份类型的优点是不必完全锁定最终用户。但是,其不足之处在于无法在进行备份时修改数据集,这可能使这种类型的备份不适用于某些应用程序。在备份过程中无法修改数据可能产生性能问题。 热备份: 这些动态备份在读取或修改数据的过程中进行,很少中断或者不中断传输或处理数据的功能。使用热备份时,系统仍可供读取和修改数据的操作访问。 三.备份的方式 逻辑备份: 1. 逻辑备份 1)binlog 2)into outfile mysql> select * from world.city into outfile '/tmp

Apollo-mysql-docker部署

独自空忆成欢 提交于 2019-12-04 17:49:56
1、前置准备工作 部署Apollo的目标服务器要求: (1)Linux 发行版本建议CentOS7 (由于Apollo服务内置3个JVM进程 所有系统可用内存建议不低于2G) (2)安装MySQL 版本5.6.5+(为Apollo部署MySQL服务,也可以借用已经部署好的MySQL服务) (3)安装JDK 版本1.8+ (4)安装Docker 版本1.13+ (5)安装docker-compose yum - y install epel - release yum - y install python - pip pip install docker - compose (6)安装unzip解压工具 yum install zip unzip (7)服务器IP情况假设如下: MySQL 部署所在服务器 IP 为 MySQL_IP (下文均通过这个来指代) 假设 MySQL 登录用户名密码为 root / 123456 Apollo 部署所在服务器 IP 为 Apollo_IP (下文均通过这个来指代) 特别注意:由于业务系统需要访问 Apollo 获取配置,如果 Apollo_IP 和业务系统不再一个局域网,那么 Apollo_IP 必须是外网 IP ,同理,由于 Apollo 需要访问 MySQL ,如果 MySQL_IP 和 Apollo_IP 不属于同一个局域网,

Apollo-mysql-普通部署

混江龙づ霸主 提交于 2019-12-04 17:49:05
1、前置准备工作 部署Apollo的目标服务器要求: (1)Linux 发行版本建议CentOS7 (由于Apollo服务内置3个JVM进程 所以系统可用内存建议不低于2G) (2)安装MySQL 版本5.7.22(为Apollo部署MySQL服务,也可以借用已经部署好的MySQL服务) (3)安装JDK 版本1.8+ (4)安装unzip解压工具 yum install zip unzip (5)服务器IP情况假设如下: MySQL 部署所在服务器 IP 为 MySQL_IP (下文均通过这个来指代) 假设 MySQL 登录用户名密码为 root / 123456 Apollo 部署所在服务器 IP 为 Apollo_IP (下文均通过这个来指代) 特别注意:由于业务系统需要访问 Apollo 获取配置,如果 Apollo_IP 和业务系统不再一个局域网,那么 Apollo_IP 必须是外网 IP ,同理,由于 Apollo 需要访问 MySQL ,如果 MySQL_IP 和 Apollo_IP 不属于同一个局域网, MySQL_IP 也必须是外网 IP 2、从FTP服务器下载Apollo初始安装文件apollo-mysql-simple.zip 下载地址:ftp://mdm.sunwayworld.com:6821/mdm/soft/apollo/apollo-mysql