mysql导入sql文件

大数据框架开发基础之Sqoop(1) 入门

我们两清 提交于 2020-01-11 00:15:12
Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。 Sqoop的基本认知 原理 将导入或导出命令翻译成mapreduce程序来实现。 在翻译出的mapreduce中主要是对inputformat和outputformat进行定制。 安装 Sqoop的安装也很简单,首先我们需要有有一个 Sqoop安装包 ,这个包老夫也提供了。 我们在如下目录中: drwxr-xr-x 2 corp corp 4096 Dec 19 2017 bin -rw-rw-r-- 1 corp corp 55089 Dec 19 2017 build.xml -rw-rw-r-- 1 corp corp 47426 Dec 19 2017 CHANGELOG.txt -rw-rw-r-- 1 corp corp 9880 Dec 19 2017 COMPILING.txt drwxr-xr-x 2 corp corp 4096 Dec 19 2017 conf drwxr-xr-x 5 corp corp 4096 Dec 19 2017 docs drwxr

MySQL全量、增量备份与恢复

我只是一个虾纸丫 提交于 2020-01-10 21:55:48
数据备份的重要性 在生产环境中,数据的安全性是至关重要的,任何数据的丢失都可能产生严重的后果 造成数据丢失的原因 1.程序错误 2.人为错误 3.计算机失败 4.磁盘失败 5.zai难和偷窃 数据库备份的分类 物理备份: 对数据库操作系统的物理文件(如数据文件、日志文件等)的备份 物理备份又可分为脱机备份(冷备份)和联机备份(热备份) -冷备份:是在关闭数据库的时候进行的 -热备份:数据库处于运行状态,这种备份方法依赖于数据库的日志文件 逻辑备份:对数据库组件(如表等数据库对象)的备份 表:表的结构文件(FRM)、数据文件(MYD)、索引文件(MYI) 从数据库的备份策略角度,备份可分为 1.完全备份 每次对数据进行完整的备份 完全备份:会把服务器内的所有数据全部备份,每次都这么执行 优点:安全 缺点:数据备份冗余,占用磁盘空间 2.差异备份 备份那些自从上次完全备份之后被修改过的文件 前提是必须要备份一次完全备份,接下来每次只备份基于完全备份的基础上被修改过的文件 3.增量备份 只有那些在上次完全备份或者增量备份后被修改的文件才会被备份 差异备份与增量备份比较: 相同点:基础都是完全备份 不同点:差异备份只参考基础的完全备份, 增量备份是参考上一次的数据备份与当前状态进行对比,备份被修改的文件 增量备份效率更高,空间利用率很高,但是在安全性能不高 mysql完全备份

MySQL数据库的导出和导入

廉价感情. 提交于 2020-01-10 05:17:13
MySQL的 导出 : 导出数据可数据和结构,database_name数据名称; mysqldump -u root -p database_name > sqlname.sql MySQL的 导入 : 进入要导出的mysql数据库; mysql -u root -p; 没有库则创建库: create database database_name; 进入database_name数据库; use database_name; 导入sql文件结构和数据; source /path/sqlname.sql 来源: CSDN 作者: 湖口县长 链接: https://blog.csdn.net/Hacker_xiao/article/details/103887894

mysql主从复制

冷暖自知 提交于 2020-01-10 02:24:15
mysql主从数据库配置 如何配置mysql主从数据库 首先确保主从服务器上的Mysql版本相同 主数据库服务器配置: 1. 修改主数据库的配置文件 my.ini, 修改之后重启 Mysql 服务。 [mysqld] port=3306 server-id=10 #与从数据库不同 log-bin=c:\log-bin.log #日志文件 binlog-do-db=tpceshi #这里设置需要在主服务器记录日志的数据库,只有在这里设置了的数据库才能被复制到从服务器 binlog-ignore-db=mysql #这里设置在主服务器上不记度日志的数据库 2. 打开 mysql 命令行登陆 mysql, , 设置一个从数据库的账户,给从数据库分配复制权限 mysql>GRANT REPLICATION SLAVE ON *.* TO slave001'@'192.168.0.99' IDENTIFIED BY '123456'; slave001: 用户名 192.168.0.99 :IP 123456 :密码 3.show masterstatus; 显示主数据库状态 File: 数据库日志文件 Position: 日志位置 这2个选项用于在从数据库服务器中配置 //////////////// 从数据库数据同步 //////////////// 好了,现在可以停止主数据的的更新操作

CentOS7.5源码shell脚本自动安装MySQL5.7.28多实例

跟風遠走 提交于 2020-01-09 23:50:11
在文章上一篇文章中https://blog.51cto.com/8355320/2463218 我使用的是手动源码安装mysql5.7.28,安装过程还是比较耗时,我编写了shell自动安装脚本,请大家参考,脚本我测试没有出现问题,脚本我有二次修改里面的实例名与变量名,可能存在不一致,请自行对比确认下。脚本中有什么可以优化的还请多多指点,谢谢!!以下是脚本中的几点说明: 1、mysql5.7.28软件包(脚本中配置wget下载,如果下载比较慢,可以事先下载好,上传到 /opt 路径下,并注释对应行的wget下载代码,另外源码安装过程比较耗时,安装请耐心等待),软件包名称如下: #boost_1_59_0.tar.gz #mysql-boost-5.7.28.tar.gz 2、两个mysql数据库脚本上传路径: /opt 包含如下文件(注意sql脚本中的实例名),sql测试脚本名称如下: #testone.sql #testtwo.sql 实例dbtwo有添加lower_case_table_names = 1参数 实例dbone没有添加 4、根据服务器磁盘分配情况,创建对应软链接,脚本我配置的路径是/data,根据需要修改,例如: #mkdir /home/{data,deploy} #ln -s /home/data/ /data 5、修改(确保局域网内值唯一)

mysqldump 数据库备份

本小妞迷上赌 提交于 2020-01-09 20:48:06
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> mysqldump:数据库备份程序 有3种方式来调用 mysqldump : mysqldump [options] db_name [tables] mysqldump [options] ---database DB1 [DB2 DB3...] mysqldump [options] --all--database 如果没有指定任何表或使用了---database或--all--database选项,则转储整个数据库。 备份一个数据库. mysqldump -uroot -p123456 mysql > mysql_backup.sql 这里备份了database mysql的结构和数据,生成的sql文件不会有创建database mysql的语句。 可以用一个命令备份mysql,test多个数据库: mysqldump -u root -p123456 --database mysql test > my_databases.sql 生成的sql文件有创建database mysql和test的语句 备份所有数据库: mysqldump -u root -p123456 --all-databases > all_databases.sql 导出mysql这个数据库的结构 mysqldump -u

MySQL数据库安装及数据库创建

北城以北 提交于 2020-01-08 21:20:44
1.下载安装包 cd mkdir download cd download wget -c -m -O mysql-5.7.20-linux-glibc2.12-x86_64.tar.gz https://cdn.mysql.com//Downloads/MySQL-5.7/mysql-5.7.20-linux-glibc2.12-x86_64.tar.gz 2.创建用户和组 groupadd mysql useradd -g mysql -s /sbin/nologin mysql 3.解压到指定目录 cd cd download tar -zxvf mysql-5.7.20-linux-glibc2.12-x86_64.tar.gz -C /usr/local cd /usr/local/ ln -s mysql-5.7.20-linux-glibc2.12-x86_64 mysql 4.配置PATH echo “export PATH=$PATH:/usr/local/mysql/bin” >> /etc/profile source /etc/profile 5.数据库目录规划 文件类型 实例3306 软链 数据datadir /usr/local/mysql/data /data/mysql/data 参数文件my.cnf /usr/local/mysql/etc/my

从xtrabackup备份恢复单表

强颜欢笑 提交于 2020-01-08 02:16:48
目前对MySQL比较流行的备份方式有两种,一种上是使用自带的mysqldump,另一种是xtrabackup,对于数据时大的环境,普遍使用了xtrabackup+binlog进行全量或者增量备份,那么如何快速的从xtrabackup备份中恢复单张表呢?从mysql 5.6版本开始,支持可移动表空间(Transportable Tablespace),利用这个功能也可以实现单表的恢复,下面进行从备份中恢复单张innodb表进行演练。 1. 针对InnoDB表恢复 2. 开启了参数innodb_file_per_table 3. 安装工具:mysql-utilities,其中mysqlfrm可以读取表结构。 进行mysql-utilities安装: yum install mysql-utilities -y 创建一个测试,往里面插入数据后进行备份: <test>(root@localhost) [xuanzhi]> show create table tb1\G *************************** 1. row *************************** Table: tb1 Create Table: CREATE TABLE `tb1` ( `id` int(11) NOT NULL AUTO_INCREMENT, `name` char(10)

mysql备份与还原

[亡魂溺海] 提交于 2020-01-07 19:25:06
mysql备份与还原 一、备份常用操作基本命令 1、备份命令mysqldump格式 格式:mysqldump -h主机名 -P端口 -u用户名 -p密码 –database 数据库名 > 文件名.sql 2、备份MySQL数据库为带删除表的格式 备份MySQL数据库为带删除表的格式,能够让该备份覆盖已有数据库而不需要手动删除原有数据库。 mysqldump --add-drop-table -uusername -ppassword -database databasename > backupfile.sql 3、直接将MySQL数据库压缩备份 mysqldump -hhostname -uusername -ppassword -database databasename | gzip > backupfile.sql.gz 4、备份MySQL数据库某个(些)表 mysqldump -hhostname -uusername -ppassword databasename specific_table1 specific_table2 > backupfile.sql 5、同时备份多个MySQL数据库 mysqldump -hhostname -uusername -ppassword –databases databasename1 databasename2

Sqoop的安装和使用

天涯浪子 提交于 2020-01-07 14:10:11
一、概述 sqoop 是 apache 旗下一款“Hadoop 和关系数据库服务器之间传送数据”的工具。 核心的功能有两个: 导入、迁入 导出、迁出 导入数据 :MySQL,Oracle 导入数据到 Hadoop 的 HDFS、HIVE、HBASE 等数据存储系统 导出数据 :从 Hadoop 的文件系统中导出数据到关系数据库 mysql 等 Sqoop 的本质还是一个命令行工具,和 HDFS,Hive 相比,并没有什么高深的理论。 sqoop: 工具:本质就是迁移数据, 迁移的方式:就是把sqoop的迁移命令转换成MR程序 hive 工具,本质就是执行计算,依赖于HDFS存储数据,把SQL转换成MR程序 二、工作机制 将导入或导出命令翻译成 MapReduce 程序来实现 在翻译出的 MapReduce 中主要是对 InputFormat 和 OutputFormat 进行定制 三、安装 1、前提概述 将来sqoop在使用的时候有可能会跟那些系统或者组件打交道? HDFS, MapReduce, YARN, ZooKeeper, Hive, HBase, MySQL 下载地址 http://mirrors.hust.edu.cn/apache/ sqoop (1)上传解压缩安装包到指定目录 [hadoop@hadoop3 ~]$ tar -zxvf sqoop-1.4.6.bin