mysql数据库

大数据技术之Sqoop

≡放荡痞女 提交于 2020-02-13 13:35:31
大数据技术之Sqoop 第1章 Sqoop简介 Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。 Sqoop项目开始于2009年,最早是作为Hadoop的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop独立成为一个Apache项目。 Sqoop2的最新版本是1.99.7。请注意,2与1不兼容,且特征不完整,它并不打算用于生产部署。 第2章 Sqoop原理 将导入或导出命令翻译成mapreduce程序来实现。 在翻译出的mapreduce中主要是对inputformat和outputformat进行定制。 第3章 Sqoop安装(搭建) 安装Sqoop的前提是已经具备Java和Hadoop的环境。 3.1 下载并解压Sqoop架包 mkdir /usr/local/sqoop cd /usr/local/sqoop tar -zxvf sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz rm -rf sqoop-1.4.7.bin__hadoop-2.6.0.tar

mysql导入sql脚本

断了今生、忘了曾经 提交于 2020-02-13 12:15:14
例如:我的用户名是root 密码是123 sql脚本存在C盘 名字为test.sql 数据库为test 有两种方法可以执行脚本 1:打开CMD输入以下命令(不需要转换目录) > mysql -u root -p123 进入 MYSQL 后 mysql >use test; mysql > source c:/test.sql ok执行完了,你可以用show tables;查看有哪写表(记得语句后有个分号) 还可以用desc tableName;查看你的表结构 2:打开CMD输入以下命令(进入mysql的bin目录) d:\mysql\bin> mysql -u root -p123 test < c:/test.sql 来源: https://www.cnblogs.com/Dot-Boy/archive/2008/08/04/1260185.html

免 mysqldump 命令备份 MySQL 数据库

可紊 提交于 2020-02-13 11:15:53
使用官方提供的 mysqldump 命令可以轻松地备份SQL,但是通常应用服务器和数据库服务器不是放在一块的儿,是否可以通过纯 Java 或 JDBC 来实现备份呢?答案是可以的,笔者根据 此思路 进行了与 AJAJX-Data 的整合,代码行数更精简,只有 200 多行代码。 但是,必须指出,这种思路有不少缺点,自然是不能代替官方工具的了。备份表结构通过 SHOW CREATE TABLE 语句完成,——这个没问题,只是备份实体数据时,是通过 SELECT * FROM table 备份所有行的,200 多行的代码可见考虑的情况不是很全,有其数据类型没有加进来,只能说可以应付普通的情况了。第二是效率问题,通过 JDBC 和 SELECT * 扫描表,数据量大的时候可见是不理想的。 要说靠谱自然是官方的工具完善,本文提供的思路权且当作一种应急的功能,“有备份总比没有好”,而且也不用央求运维帮忙啦 完整代码如下。 package com.ajaxjs.backup; import java.io.IOException; import java.sql.Connection; import java.sql.ResultSetMetaData; import java.sql.SQLException; import java.sql.Statement; import java

MySQL之Xtrabackup备份与恢复

谁说胖子不能爱 提交于 2020-02-13 11:02:29
MySQL之Xtrabackup备份与恢复 一、Xtrabackup介绍   MySQL冷备、mysqldump、MySQL热拷贝都无法实现对数据库进行增量备份。在实际生产环境中增量备份是非常实用的,如果数据大于50G或100G,存储空间足够的情况下,可以每天进行完整备份,如果每天产生的数据量较大,需要定制数据备份策略。例如每周实用完整备份,周一到周六实用增量备份。而Percona-Xtrabackup就是为了   实现增量备份而出现的一款主流备份工具,xtrabakackup有2个工具,分别是xtrabakup、innobakupe。   Percona-xtrabackup是 Percona公司开发的一个用于MySQL数据库物理热备的备份工具,支持MySQL、Percona server和MariaDB,开源免费,是目前较为受欢迎的主流备份工具。xtrabackup只能备份innoDB和xtraDB两种数据引擎的表,而不能备份MyISAM数据表。 二、Xtrabackup优点 (1)备份速度快,物理备份可靠 (2)备份过程不会打断正在执行的事务(无需锁表) (3)能够基于压缩等功能节约磁盘空间和流量 (4)自动备份校验 (5)还原速度快 (6)可以流传将备份传输到另外一台机器上 (7)在不增加服务器负载的情况备份数据 三、Xtrabackup备份原理

mysql基本操作

两盒软妹~` 提交于 2020-02-13 11:01:47
对用户授权的操作 grant 权限 on 数据库名.表名 to 用户名@’可以访问的地址’ identified by “密码” 权限: all 所有权限 usage 无权限 select,update,insert,delete,等权限 数据库.表名:   *.*   所有数据库的所有表         数据库名.*  单个数据库的所有表        数据库名.表名   单个数据库的某个表 用户名: 授权的用户名 可以访问的地址:% 所有地址,但是localhost不能访问     localhost  只有localhost可以访问      192.168.1.0/24  可以访问网段地址      192.168.1.1  只能某个地址访问 flush privileges; 刷新授权 操作 给bigdata用户授予在localhost登录,对mysql数据库进行create,select,update,insert,delete操作,但是不设置密码就可以登陆 12 mysql> grant create,select,update,insert,delete on mysql.* to bigdata@'localhost';mysql> flush privileges; 登录数据库查看权限: 1 mysql>show grants; 大专栏 mysql基本操作 >

Navicat遇到1130错误该如何处理

时间秒杀一切 提交于 2020-02-13 10:05:02
用 Navicat 连接远程MySQL数据库时,有时会出现“Navicat for mysql 1130错误”,提示错误内容为不允许连接MySQL服务。很多人都以为是防火墙在作怪,其实关掉防火墙依然不能解决这个问题,本教程将为大家介绍Navicat for MySQL 1130错误的解决方法。 Navicat for MySQL 1130错误 问题描述: 1130 - Host 'localhost' is not allowed to connect to this MySQL server 原因分析: MySQL只有一个root用户,修改root密码后选了MD5,提交后重新 登陆就会出现Host 'localhost' is not allowed to connect to this MySQL server"错误提示。 解决方法: 编辑 my.ini 在[mysqld]的段中加上一句:skip-grant-tables 例如:Java代码 [mysqld] datadir=/var/lib/mysql socket=/var/lib/mysql/mysql.sock skip-name-resolve skip-grant-tables 这样就可以跳过MySQL的访问控制,任何人都可以在控制台以管理员的身份进入MySQL数据库。 需要注意的是,在修改完密码以后

mysql : show processlist 详解

*爱你&永不变心* 提交于 2020-02-13 06:21:20
最近排查一些MySQL的问题,会经常用到 show processlist,所以在这里把这个命令总结一下,做个备忘,以备不时只需。 首先是几条常用的SQL。 1、按客户端 IP 分组,看哪个客户端的链接数最多 select client_ip,count(client_ip) as client_num from (select substring_index(host,':' ,1) as client_ip from information_schema.processlist ) as connect_info group by client_ip order by client_num desc;    2、查看正在执行的线程,并按 Time 倒排序,看看有没有执行时间特别长的线程 select * from information_schema.processlist where Command != 'Sleep' order by Time desc;  3、找出所有执行时间超过 5 分钟的线程,拼凑出 kill 语句,方便后面查杀 (此处 5分钟 可根据自己的需要调整SQL标红处) 可复制查询结果到控制台,直接执行,杀死堵塞进程 select concat('kill ', id, ';') from information_schema.processlist

java详细面试题

时间秒杀一切 提交于 2020-02-13 06:00:23
struts和springMVC区别? stringbuffer和stringbuilder区别? mybatis原理? soa原理? dubbo的原理? solr怎么搭建,倒序索引? MQ消息队列? SQL语句? maven以及本地仓库? final关键字? 为什么使用ssm而不用ssh? struts2和springmvc区别? 开发工具,jvm,gc,设计模式,平时开发工程是你自己搭建吗? 项目中用到的技术dubbo,zookeeper,solr等? 这三年工作中你统计过自己的代码量大概有多少? redis是多例的还是单例的,在多线程时怎么使用? hashmap线程冲突怎么解决? 介绍一下spring,mybatis。aop用的是静态代理还是动态代理? 介绍电商项目,开发周期多长?技术人员有多少?任务怎么分配什么时候上线?项目模块? 说说你负责的模块的具体代码? 数据库表熟悉吗?有哪些字段? 为什么不使用HttpApi进行项目通信而使用dubbo? TCP和UDP的区别? http,https,ftp,sftp分别使用哪个协议? 给你一个mysql数据库,不使用硬件也不使用软件如何优化? SQL语句的执行顺序? 给你两个表写出笛卡尔积的结果? redis的list数据类型是双向队列,完全可替代MQ,为何还要使用MQ,dubbo的底层原理和实现?

MySQL 5.7默认ONLY_FULL_GROUP_BY语义介绍

*爱你&永不变心* 提交于 2020-02-13 02:19:15
MySQL 5.7默认ONLY_FULL_GROUP_BY语义介绍 ONLY_FULL_GROUP_BY是MySQL提供的一个sql_mode,通过这个sql_mode来提供SQL语句GROUP BY合法性的检查,在MySQL的sql_mode是非ONLY_FULL_GROUP_BY语义时。一条select语句,MySQL允许target list中输出的表达式是除聚集函数或group by column以外的表达式,这个表达式的值可能在经过group by操作后变成undefined,例如: 1 2 3 4 5 6 7 8 9 10 11 12 mysql > create database test charset utf8mb4 ; mysql > use test ; mysql > create table tt ( id int , count int ) ; mysql > insert into tt values ( 1 , 1 ) , ( 1 , 2 ) , ( 2 , 3 ) , ( 2 , 4 ) ; mysql > select * from tt group by id ; + -- -- -- + -- -- -- - + | id | count | + -- -- -- + -- -- -- - + | 1 | 1 | | 2 | 3 | + --

基于SSM的JSP MYSQL汽车租赁系统的汽车出租管理系统-mysqljava汽车出租管理系统租车管理系统

左心房为你撑大大i 提交于 2020-02-13 02:14:32
基于SSM的JSP+MYSQL汽车租赁系统的汽车出租管理系统-mysqljava汽车出租管理系统租车管理系统 "基于SSM的汽车出租管理系统-mysql&java汽车出租管理系统租车管理系统 1.包含源程序,数据库脚本。代码和数据库脚本都有详细注释。 2.课题设计仅供参考学习使用,可以在此基础上进行扩展完善 代码已经上传github,下载地址https://github.com/21503882/leasehold 开发环境: Eclipse ,MYSQL,JDK1.7,Tomcat 7 涉及技术点: MVC模式、SpringMvc、Mybatis、Spring、HTML、JavaScript、CSS、JQUERY、DWR、Ajax等 系统采用Mybatis框架实现ORM对象关系映射,前台JSP实现,后台springMvc映射,使用Spring框架进行整合。适合学习J2EE的一段时间的熟手,代码思路清晰,注解详细,数据库用的是mysql5.1,服务器用的tomcat7,JDK版本1.7. 编程软件Eclispe J2EE版本。是典型MVC架构,并且前后台分离 具体功能这里不再赘述,请下方看系统详细演示图,如果大家有什么疑问或者什么不懂得可以在下方给我留言,或者你有更好的建议等等都可以的,也可以找我和我一起交流沟通,互相学习进步!但是dai。ma。you。chang