db2

TiDB 金融级备份及多中心容灾

拟墨画扇 提交于 2020-08-13 19:10:20
作者简介:余军,PingCAP 解决方案事业部总经理。 对于金融企业来说,尤其是银行、证券、保险这些行业,在一个 IT 系统运行支撑业务的过程当中,考虑到硬件的故障、网络的故障,等一切可能会对业务产生影响的突发故障。那么,在过去漫长的 IT 发展的过程当中,大量的技术被应用在关于如何解决组件级的高可用,整个服务的容灾和灾备,包括如何保证整体业务的连续性。 在金融行业来说,数据库作为最核心的基础组件之一,要求它能够安全运行和保障数据安全,这是一个刚需。另外,数据库服务本身的高可用,是我们实现整个对外数据服务连续性的最重要的基石。在这些基础上,光有高可用还是不够的,我们需要考虑到机房级的、数据中心级的、站点级的灾难导致的对业务的影响。配套的容灾技术,以及对应事件的方案,应运而生。在过去的二、三十年里面,关于容灾和技术的技术手段、软件工具,包括各种各样的方案、管理方法,在不断的展现。 传统数据库支撑关键计算的高可用/容灾方案短板 回到传统的数据库领域,在过去至少三四十年的时间里,我们都是在使用集中式的数据库,比如大家非常熟悉的 Oracle、DB2 包括曾经很辉煌的 Sybase、Informix 等等。这些数据库都是以大家所熟知的“ IOE”的架构来实现数据服务的。 在这些技术体系下,在长期的技术发展过程当中,也有产生对应的高可用和容灾的方案,比如说大家非常熟悉的 Oracle RAC

MongoDB学习(二) --- 概念解析、命令行基本操作

两盒软妹~` 提交于 2020-08-13 16:10:51
1、基础概念 下表将帮助您更容易理解Mongo中的一些概念: SQL术语/概念 MongoDB术语/概念 解释/说明 database database 数据库 table collection 数据库表/集合 row document 数据记录行/文档 column field 数据字段/域 index index 索引 table joins 表连接,MongoDB不支持 primary key primary key 主键,MongoDB自动将_id字段设置为主键 1.1、MongoDB 数据类型 数据类型 描述 String 字符串。存储数据常用的数据类型。在 MongoDB 中,UTF-8 编码的字符串才是合法的。 Integer 整型数值。用于存储数值。根据你所采用的服务器,可分为 32 位或 64 位。 Boolean 布尔值。用于存储布尔值(真/假)。 Double 双精度浮点值。用于存储浮点值。 Min/Max keys 将一个值与 BSON(二进制的 JSON)元素的最低值和最高值相对比。 Array 用于将数组或列表或多个值存储为一个键。 Timestamp 时间戳。记录文档修改或添加的具体时间。 Object 用于内嵌文档。 Null 用于创建空值。 Symbol 符号。该数据类型基本上等同于字符串类型,但不同的是,它一般用于采用特殊符号类型的语言。

Spark SQL 物化视图原理与实践

北战南征 提交于 2020-08-13 15:33:33
物化视图作为一种预计算的优化方式,广泛应用于传统数据库中,如Oracle,MSSQL Server等。随着大数据技术的普及,各类数仓及查询引擎在业务中扮演着越来越重要的数据分析角色,而物化视图作为数据查询的加速器,将极大增强用户在数据分析工作中的使用体验。本文将基于 Spark SQL(2.4.4) + Hive (2.3.6), 介绍物化视图在 Spark SQL中的实现及应用。 文章目录 1 什么是物化视图 2 物化视图现状及实践目标 2.1 SparkSQL目前有哪些预计算相关的优化呢? 3 物化视图设计详解 3.1 SparkSQL + Hive 整合 3.1.1 为什么选择Hive2.3 4 Plan Rewrite 设计 4.1 设计概览 4.2 优化步骤简介 4.3 优化过程中的问题 4.3.1 列相等问题 4.3.2 条件匹配问题 4.3.3 表达式匹配问题 4.3.4 多表查询问题 4.3.5 聚合函数问题 4.3.6 多个物化视图匹配问题 5 物化视图实战 5.1 测试用的查询 5.2 测试用的物化视图 5.3 逻辑计划比较 5.4 Spark UI统计比较 5.5 性能数据比较 6 物化视图 VS Kylin 6.1 Kylin on HBase 6.2 Kylin on Parquet 7 总结 8 参考资料 什么是物化视图

想通过数据科学面试,这十个SQL概念你必须掌握

故事扮演 提交于 2020-08-13 13:46:39
本文转载自公众号“读芯术”(ID:AI_Discovery)。 SQ是一种数据库查询和程序设计语言,用于存取数据以及查询、更新和管理关系数据库系统,其功能非常强大,是数据科学面试中绕不过的考点。 很多人为了通过面试事无巨细地准备,犄角旮旯都不敢放过。但事实上,在现实面试中大多数公司只测试其少数核心概念。努力学习不如机智学习,以下这10个概念因其在实际中应用最多而最常出现。在准备面试时,你应该主要关注这些概念。 1. CASE WHEN 许多问题都可能需要使用CASE-WHEN语句,因为这个概念功能非常多。 在根据其他变量分配某个值或类时,我们需要用CASE-WHEN可以编写复杂的条件语句。但还有一个功能鲜为人知,它可以用来透视数据。例如,如果你已有“月(month)”列,又希望为每个month创建一个单独的列,则可以使用CASE WHEN语句来透视数据。 示例问题:编写一个SQL查询重新排列表样式,以使每个月对应一个收入栏。 Initial table: +------+---------+-------+ | id | revenue | month | +------+---------+-------+ | 1 | 8000 | Jan | | 2 | 9000 | Jan | | 3 | 10000 | Feb | | 1 | 7000 | Feb | | 1 | 6000

使用网刻工具进行局域网内的网络同传

强颜欢笑 提交于 2020-08-13 06:35:08
学校机房电脑过多,维护起来相对麻烦。比如需要对某一间机房进行软件升级或加装,那么可以采用一台台安装的方式,但是最好的方式是网络同传,特别是安装大型的软件相对耗时。 以下是通过使用诚龙网维全自动PXE网刻工具进行局域网内的网络克隆,实现统一安装。 1、网络克隆工具,可以通过百度下载,或者从我这里的网盘下载。 链接:https://pan.baidu.com/s/1EldxQu1OT36srGPSf03u_Q 提取码:lnga 2、找一个性能相对好的电脑作为网刻服务器,对这台电脑的C盘制作GHO镜像文件(当然,如果要网刻其他盘的,也可以做其他盘的镜像),很多机房都是有还原系统的,最好先解除还原系统。并且记录好这个机房里面的IP地址参数。 3、把局域网里面的路由器断开,或者把路由器里面的DHCP服务器功能关闭掉。因为这个网刻工具自带了DHCP服务器,一个局域网里面不能存在多个DHCP服务器。因为网刻的原理如下图所示: 4、设置网刻服务器的IP信息,我这里修改的电脑IP信息是 192.168.11.2;255.255.255.0;192.168.11.1 DNS不需要,因为是局域网的。 因为是拍照的,所以下面的图片会相对模糊。 然后打开网刻软件,我这里只需要网刻C盘,所以我勾选的是C盘,然后选中C盘的镜像文件,点开始网刻。 然后在弹出的tftpd32程序中设置下网络信息里面的DHCP服务器

uniapp预览在夜神模拟器

生来就可爱ヽ(ⅴ<●) 提交于 2020-08-13 06:10:34
uniapp编写app,使用夜神模拟器进行调试; 首先需要打开模拟器和HX; 需要获取夜神的端口号:双击D:\Nox\bin\debugReport.bat,就会出现端口号; 知道了端口号是62001之后,我们就可以设置HX来链接夜神模拟器了; D:\HBuilderX\plugins\launcher\tools\adbs,找到HX路劲下的adbs配置到环境变量Path中; 打开cmd, 查看adb版本;(adb -v); 查看 连接的设备( adb devices ); 链接到夜神(adb connect) 然后打开HX的运行-->运行到手机或模拟器-->Android模拟器默认端口设置为62001 打开目录D:\HBuilderX\plugins\launcher\base下的android_base.apk安装到夜神模拟器中;这个不能单独打开,只能配合HX来使用; 最后运行到模拟器就可以了; 来源: oschina 链接: https://my.oschina.net/clearcode/blog/4469507

Greenplum概述及架构

﹥>﹥吖頭↗ 提交于 2020-08-12 09:56:19
Greenplum概述及架构 什么是Greenplum 1) 为全球大型企业用户提供新型企业级数据仓库(EDW)、企业级数据云(EDC)和商务智能(BI)提供解决方案和咨询服务,专注于OLAP系统数据引擎开发; 2) 海量并行处理 (Massively Parallel Processing) DBMS: Greenplum的架构采用了MPP(大规模并行处理),在 MPP 系统中,每个 SMP节点也可以运行自己的操作系统、数据库等。换言之,每个节点内的 CPU 不能访问另一个节点的内存。节点之间的信息交互是通过节点互联网络实现的,这个过程一般称为数据重分配(Data Redistribution) 。 SMP(SymmetricMulti-Processing),对称多处理结构的简称,是指在一个计算机上汇集了一组处理器(多CPU),各CPU之间共享内存子系统以及总线结构。在这种技术的支持下,一个服务器系统可以同时运行多个处理器,并共享内存和其他的主机资源。传统的ORACLE和DB2均是此种类型,ORACLE RAC 是半共享状态; 与传统的SMP架构明显不同,通常情况下,MPP系统因为要在不同处理单元之间传送信息,所以它的效率要比SMP要差一点,但是这也不是绝对的,因为 MPP系统不共享资源,因此对它而言,资源比SMP要多,当需要处理的事务达到一定规模时,MPP的效率要比SMP好

OSChina 周五乱弹 —— 说你呢!就你堵的排水沟啊!

a 夏天 提交于 2020-08-12 08:04:32
Osc乱弹歌单(2020)请戳( 这里 ) 【今日歌曲】 @ watergood :是时候分享一波我的这张纯音乐歌单了,过去的五年多时间里,我陆陆续续地把听到的好听的纯音乐添加了进去,目前一共65首,相信总有那么一首会带给你好心情。 《Inspire》- Capo Productions 手机党少年们想听歌,请使劲儿戳( 这里 ) @ 凌渡 :无聊ing 睡不着了, @ FalconChen :睡不着,起来玩会电脑,它就一直在桌子底下趴着,好忠诚的大老鼠 玩着玩着天亮了, “关键是我TM还没睡觉啊。” 我睡不着, 是因为我想掉牙的事, @ Practices :成年人牙齿掉了就不会再长了,害怕 估计上班也去晚了, @ Xiaoshiyue :半个多小时的通勤时间堵车堵成两小时 就很离谱 嗯 那段时间下大雨, 公交车才爱堵车呢! “说你呢!就你堵的排水沟啊!” 车上还有人不自觉, @ 轻雨漫步great :有谁能告诉我一下每天早上地铁上背包的男的,包里都装得是什么,电脑?书?,电脑需要每天晚上带回去吗,带回去干嘛,带回去敲代码吗? 书需要每天晚上带回去吗,带回去看,这么认真吗,需要天天带,电子书不香吗? 天天背着在地铁上横冲直撞,乱挤一通,自己还不自知,因为你不背包挤到别人你是感受得到的,你背包挤到别人是感受不到的。烦 一位男同事跟老婆吵了一架,今天开早会,他负责给大家讲计划书

DB2导出存储过程的DDL语句的方法

ε祈祈猫儿з 提交于 2020-08-12 05:02:14
日常DBA的工作就是获取SP的代码,以便于分析或者移植到别的环境,如何快速获取SP的DDL呢,总结了下,DB2在获取SP的DDL语提供的方法还是比较多,可以供参考: 1 select routinename,text from sysibm.sysroutines; 上面是通过数据字典表查询获取,与其等效的系统视图查询获取方法 DB2 SELECT CHAR(ROUTINESCHEMA,20), CHAR(ROUTINENAME,20), TEXT FROM SYSCAT.ROUTINES > <输出文件名> 此方法的缺陷是当text>32767时,导出的该条存储过程是不完整的。 2 GET ROUTINE 1)获取所有存储过程的名称: DB2 SELECT CHAR(ROUTINESCHEMA,20) AS SCHEMA, CHAR(ROUTINENAME,20) AS NAME FROM SYSCAT.ROUTINES WHERE SUBSTR(VARCHAR(TEXT),1,16) = 'CREATE PROCEDURE' > <输出文件名> 2)根据输出文件中存储过程的名称,分别对每个存储过程执行如下操作,以便将完整的创建语句输出到指定文件中: DB2 GET ROUTINE INTO <输出文件名> FROM PROCEDURE <存储过程模式名>.<存储过程名>