元数据

MySQL的系统数据库

北战南征 提交于 2020-02-28 21:18:27
MySQL的系统数据库 使用MySQL客户端操作数据库时,只要稍微留神都会发现,除了我们建的库之外,还经常看到这个系统数据库的影子: information_schema performance_schema mysql sys 数据库元数据(metadata)就是描述数据的数据,在MySQL中就是描述database的数据。有哪些数据库、每个表有哪些表、表有多少字段、字段是什么类型、访问权限等等。 INFORMATION_SCHEMA提供对数据库元数据的访问,关于MySQL服务器的信息,例如数据库或表的名称,列的数据类型或访问权限。 PERFORMANCE_SCHEMA ,主要用于收集数据库服务器性能参数。提供以下功能: 1.提供进程等待的详细信息,包括锁、互斥变量、文件信息; 2.保存历史的事件汇总信息,为提供MySQL服务器性能做出详细的判断; 3.对于新增和删除监控事件点都非常容易,并可以随意改变mysql服务器的监控周期,例如(CYCLE、MICROSECOND) 通过以上得到的信息,DBA能够较明细得了解性能降低可能是由于哪些瓶颈。 mysql是核心数据库,类似于sql server中的master表,主要负责存储数据库的用户(账户)信息、权限设置、关键字等mysql自己需要使用的控制和管理信息。不可以删除,如果对mysql不是很了解

消息中间件的高可用

强颜欢笑 提交于 2020-02-28 09:29:50
RabbitMQ 的高可用性 RabbitMQ 是比较有代表性的,因为是 基于主从 (非分布式)做高可用性的。 RabbitMQ 有三种模式:单机模式、普通集群模式、镜像集群模式。 单机模式: Demo 级别、本地启动,生产不使用该模式 普通集群模式(无高可用性): 在多台机器上启动多个 RabbitMQ 实例,每个机器启动一个实例。 创建的 queue,只会放在其中一个 RabbitMQ 实例上 ,但是每个实例都同步 queue 的元数据(元数据可以认为是 queue 的一些配置信息,通过元数据,可以找到 queue 所在实例)。消费的时候,实际上如果连接到了另外一个实例,那么那个实例会从 queue 所在实例上拉取数据过来。 缺点:普通集群提高吞吐量,没有分布式,不存在高可用性 镜像集群模式(高可用性): 创建的 queue,无论元数据还是 queue 里的消息都会 存在于多个实例上 。每个 RabbitMQ 节点都有 queue 的一个 完整镜像 ,包含 queue 的全部数据。然后每次写消息到 queue 的时候,都会自动把 消息同步 到多个实例的 queue 上。 如何开启镜像集群模式? 在 RabbitMQ后台新增 镜像集群模式的策略, 指定的时候是可以要求数据同步到所有节点的,也可以要求同步到指定数量的节点,再次创建 queue 的时候,应用这个策略

通往成功DevOps的六大障碍

做~自己de王妃 提交于 2020-02-27 23:08:08
一、背景 在现今的社会中,每个公司都是软件公司,无论是通过台式机、云服务还是移动设备,软件都已成为世界各地、各个公司日常工作的工具。 例如, 汽车是带轮子的计算机,空调是数据终端,而银行在手机中提供服务,等等。 在这个新的世界中,软件更新可以满足客户的需求。每一个交付都是您更新,或破坏,与客户间信任的机会。如何才能保证您的每个更新都以最快的速度提供一流的服务? 这就是为什么DevOps对您的 公司 很重要。当您加快高质量软件的交付速度时,客户会大呼过瘾,并且您可以对市场需求的变化迅速做出反应。DevOps 通过减少在测试、评估和发布等各阶段之间,以及与相关干系人之间的摩擦,来加快高质量软件的交付速度。识别并解决这个过程中的痛点可以推进D evOps 的成功建设 。 良好的制品仓库可以促进软件在DevOps流程中的运转。它存储了过程中所有的二进制制品( artifacts ,也称为工件),同时也保留了有关它们的信息,从而减少了不确定性,并使自动化工具能够自由、快速地运行 。 在加速软件交付的过程中通常会遇到下述的六大障碍,而良好的制品仓库可以帮助解决它们,以实现从代码到客户的快速、持续的软件更新与发布 。 二、障碍一,您了解您所有的构建吗? 您的开发人员团队每天 都 可以生成许多构建 ,而 您 能全部 跟踪 和掌握所有的构建吗 ? 如果没有全面的解决方案

利用动态表单实现树形报表

感情迁移 提交于 2020-02-27 18:04:00
1、先开发一张动态表单,放入树形控件和单据体 2、编写动态表单插件,示例代码如下: using System; using System.Collections.Generic; using System.Linq; using System.Text; using Kingdee.BOS.Core.DynamicForm.PlugIn; using Kingdee.BOS.Core.Base.PlugIn; using Kingdee.BOS.Core.DynamicForm; using Kingdee.BOS.Contracts.Report; using Kingdee.BOS.Core.Bill.PlugIn; using Kingdee.BOS.Core.Metadata; using Kingdee.BOS.Core.DynamicForm.PlugIn.Args; using Kingdee.BOS.Core.DynamicForm.PlugIn.ControlModel; using Kingdee.BOS.Util; using Kingdee.BOS.Core.Metadata.FieldElement; using Kingdee.BOS; using Kingdee.BOS.Core.Metadata.ControlElement; using

圆形缓冲区-MapReduce中的

假如想象 提交于 2020-02-27 15:54:16
这篇文章来自一个读者在面试过程中的一个问题,Hadoop在shuffle过程中使用了一个数据结构-环形缓冲区。 环形队列是在实际编程极为有用的数据结构,它是一个首尾相连的FIFO的数据结构,采用数组的线性空间,数据组织简单。能很快知道队列是否满为空。能以很快速度的来存取数据。 因为有简单高效的原因,甚至在硬件都实现了环形队列。 环形队列广泛用于网络数据收发,和不同程序间数据交换(比如内核与应用程序大量交换数据,从硬件接收大量数据)均使用了环形队列。 环形缓冲区数据结构 Map过程中环形缓冲区是指数据被map处理之后会先放入内存,内存中的这片区域就是环形缓冲区。 环形缓冲区是在MapTask.MapOutputBuffer中定义的,相关的属性如下: // k/v accounting // 存放meta数据的IntBuffer,都是int entry,占4byte private IntBuffer kvmeta; // metadata overlay on backing store int kvstart; // marks origin of spill metadata int kvend; // marks end of spill metadata int kvindex; // marks end of fully serialized records //

asp.net控件开发基础(5)

倾然丶 夕夏残阳落幕 提交于 2020-02-27 07:51:05
上一篇 简单的讲了从WebControl继承的控件(好象我讲的都是简单的,嘿嘿).本次讲的更简单,主题是是属性,只当分享经验,希望对大家有帮助 我们根据属性的不同表现形式,把其区分为简单属性和复杂属性 下面来看下属性的表现形式 简单属性表现形式如下,大家都很熟悉 < asp:TextBox ID ="TextBox1" Text ="textbox控件" runat ="server" ></ asp:TextBox > 属性中含有子属性,称之为复杂对象,如Font属性 复杂属性的表现形式如下, (1)连字符的表现形式 < asp:TextBox ID ="TextBox1" Text ="textbox控件" runat ="server" Font-Bold ="True" ></ asp:TextBox > (2)内镶属性的表现形式,如定义样式 < asp:DataList ID ="DataList1" runat ="server" > < SelectedItemStyle /> < EditItemStyle /> </ asp:DataList > (3)内镶集合属性的表现形式,如DropDownList (先不介绍,大家可看MSDN) < asp:DropDownList ID ="DropDownList1" runat ="server" > < asp

数据蜂巢架构演讲之路读后感

白昼怎懂夜的黑 提交于 2020-02-27 02:12:31
阅读文章:数据蜂巢架构演讲之路 文章网址:https://mp.weixin.qq.com/s?__biz=MzU1MzE2NzIzMg==&mid=2247485060&idx=1&sn=2d374061f2f85c453cc27d092a5354ad&chksm=fbf7b66bcc803f7dde316a4edbb40d9e6074640ef95ca7b1095b3d885433c991115ac00f1d9b&scene=21#wechat_redirect 数据蜂巢架构 一、功能整合 离线同步:可理解为将根据一个sql查询出的数据同步到其它目标存储上; 实时订购:通过实时解析mysql-binlog,将数据的变动封装成事件存于消息队列,供用户订阅消费; 实时同步:提供一些常见的订阅客户端料现,实时消费消息,将数据的变动应用于目标存储上。 将离线同步,实时订阅,实时同步三个需求抽象为三种作业,分别为BatchJob,StreamJob,PieJob。 BatchJob参考Sqoop的模式,将需同步的数据先根据指定的规则进行分片,然后将作业根据分片拆分成多个任务,每个任务只同步本分片的数据,多个任务可同时运行,以加快同步效率; 以BatchJob的模式为基础,StreamJob也可根据需要采集的mysql实例分成多个任务,每个任务负责采集解析一个mysql的binlog

SQL进阶(1)——MySQL元数据与索引

混江龙づ霸主 提交于 2020-02-26 23:11:09
文章目录 1.mysql元数据 获取服务器元数据 2.mysql函数 2.1 常用的字符串函数 2.2 数字函数 2.3 日期函数 2.4 高级函数 3.MySQL索引 3.1 普通索引 3.1.1 创建索引 3.1.2 修改表结构(添加索引) 3.1.3 创建表的时候直接指定 3.1.3 删除索引的语法 3.2 唯一索引 3.2.1 创建索引 3.2.2 修改表结构 3.2.3 创建表的时候直接指定 3.3 使用ALTER 命令添加和删除索引 3.4 使用 ALTER 命令添加和删除主键 3.5 显示索引信息 4.MySQL 事务 4.1、事务控制语句: 4.2、MYSQL 事务处理主要有两种方法: 1.mysql元数据 你可能想知道MySQL以下三种信息: 查询结果信息: SELECT, UPDATE 或 DELETE语句影响的记录数。 数据库和数据表的信息: 包含了数据库及数据表的结构信息。 MySQL服务器信息: 包含了数据库服务器的当前状态,版本号等。 在MySQL的命令提示符中,我们可以很容易的获取以上服务器信息。 获取服务器元数据 以下命令语句可以在 MySQL 的命令提示符使用,也可以在脚本中 使用,如PHP脚本。 命令 描述 SELECT VERSION( ) 服务器版本信息 SELECT DATABASE( ) 当前数据库名 (或者返回空) SELECT

五、描述数据的数据(五)

落花浮王杯 提交于 2020-02-26 15:40:46
  专门用来描述数据的数据,这就是元数据。   json xml   元数据带来的服务的例子: ORM的框架实现,model层的代码能自动生成,肯定需要元数据的支持 反射。每种语言的反射能力有强有弱,强弱的根本原因就在于你事先编译好的元数据够不够用。   在自动生成代码领域,元数据用得会比较深入。 来源: https://www.cnblogs.com/juanzhi/p/12366992.html

BI 项目管理之角色和职责

我是研究僧i 提交于 2020-02-26 05:25:39
DW/BI 系统在生命周期中需要许多不同的角色和技能,它们来自业务和技术领域。本文将介绍创建DW/BI 系统所涉及的主要角色。角色和人之间很少是一对一关系。与我们合作的团队小到只有一人,大到有40 人(听说有更大的),大部分DW/BI 团队在3~10 个全职成员之间,并根据需要增加其他人。 单个DW/BI 团队常常同时承担开发和操作任务,不同于大部分技术项目团队,这与DW/BI 项目开发周期的高度迭代相关。 下面的角色与设计和开发活动相关: ● DW/BI 经理负责项目的总体领导和方向把握。DW/BI 经理必须能够与高级业务和IT 管理人员进行有效的通信,并能够和团队一起工作,以规划DW/BI 系统的总体体系结构。 ● 项目经理负责系统开发过程中项目任务和活动的日常管理。 ● 业务项目领导者是业务领域的成员,并和项目经理紧密合作。 ● 业务系统分析师或业务分析师负责领导业务需求定义活动,并且经常参与业务过程维度模型的开发。业务系统分析师需要能够在业务和技术之间架起桥梁。 ● 数据建模人员负责执行详细的数据分析,包括数据剖析和开发详细的维度模型。 ● 系统架构师设计DW/BI 系统的各个组件,包括ETL 系统、安全系统、审核系统和维护系统。 ● 开发数据库管理员(DBA)创建关系型数据仓库数据库,并且负责总体的物理设计,包括磁盘布局、分区和初始的索引计划。 ● OLAP