架构

微软分享史上最大基于Transformer架构的语言生成模型

穿精又带淫゛_ 提交于 2020-02-11 12:18:26
导语:英伟达的“威震天”现在只能屈居第二了。 微软AI&Research今天分享了有史以来最大的基于Transformer架构的语言生成模型Turing NLG(下文简称为T-NLG),并开源了一个名为DeepSpeed的深度学习库,以简化对大型模型的分布式培训。 基于Transformer的架构,意味着该模型可以生成单词来完成开放式文本任务。除了完成未完成的句子外,它还可以生成对输入文档的问题和摘要的直接答案。 去年8月,英伟达曾宣布已训练世界上最大的基于Transformer的语言模型,当时该模型使用了83亿个参数,比BERT大24倍,比OpenAI的GPT-2大5倍。 而此次微软所分享的模型,T-NLG的参数为170亿个,是英伟达的Megatron(现在是第二大Transformer模型)的两倍,其参数是OpenAI的GPT-2的十倍。微软表示,T-NLG在各种语言建模基准上均优于最新技术,并在应用于许多实际任务(包括总结和问题解答)时表现出色。 不过,像Google的Meena一样,最初使用GPT-2,T-NLG最初只能在私人演示中共享。 微软AI研究应用科学家Corby Rosset在博客文章中写道:“除了通过汇总文档和电子邮件来节省用户时间之外,T-NLG还可以通过为作者提供写作帮助,并回答读者可能对文档提出的问题,由此来增强Microsoft

uCMDB

泪湿孤枕 提交于 2020-02-10 19:50:52
统一CMDB及应用映射 (UCMDB) 模块概述 UCMDB全称Universal CMDB,是业务可用性中心底层的支撑模块,主要用于管理存放所有的配置管理信息。这样各个资源项的配置信息均可以永久保存在CMDB里,并能够通过工具的检查保证其数据的准确性,比如发现系统配置的变更等。它在两个层面带来了好处: 业务层面 更好的管理关键业务相关的IT基础架构 减少关键业务的宕机时间,通过主动的管理来更好的支持业务系统的正常运行 可以对某一或几个资源项的病毒和安全威胁做出快速响应,减少其对其它资源项的影响 IT管理人员层面 自动发现和映射能够覆盖所有的IT基础架构和各IT基础组件之间的连接访问关系 减少管理人员在做配置变更前需要进行的服务影响分析的时间,提高管理人员的工作效率 避免将部分时间浪费在支持使用非法软件或系统的用户上 在每次变更管理后及时检查变更是否正确无误 通过主动的故障定位功能来更快的解决发现的问题 产品特点与功能 产品特点 这套针对资源管理的解决方案-UCMDB,具有以下特性: 拥有先进的自动发现能力,可以捕获、归档、并存储有关“端到端”服务和支持业务服务基础架构的信息。自动发现的信息包括网络,服务器,主机,存储和应用软件等。自动发现最好基于无代理的方式。 提供开箱即用(也可自定义)的可视性和映射能力,使人可以通过逻辑的、直观的方式去审视业务服务基础架构

【分布式】什么是分布式技术?

为君一笑 提交于 2020-02-10 16:37:29
背景: 初代的服务器架构往往比较简单,应用程序、数据库、文件、代码等所有资源都放在一台服务器上,也就是单机结构。随着企业业务量的增多,一台服务器已经难以满足数据处理的需求了,那么对单机进行“复制粘贴”,就能收获一个处理能力高出好几倍的“服务器集群”。 不过,集群式扩展很容易到达物理上限,最直接的反映就是无论怎么增加节点,整个集群的性能似乎也没有被提升多少,这时候,就需要分布式系统登场了。 如果说分布式系统代表着网络服务的发展方向,那么云计算的社会化,可能是其快速普及的重要推手。 集中式架构、分布式架构、微服务架构图解 什么是分布式? 所谓分布式,就是将不同的服务模块部署在多台不同的服务器上,然后通过远程调用协同工作,共同对外提供服务。对于用户来说,就像是一台计算机在服务一样。 在实际业务中,分布式系统可以将不同的业务功能对应到一个个独立的子系统中去,比如针对电商平台,可以将用户服务、产品服务、店铺管理、数据分析等不同的数据处理项目部署在不同的计算机集群上。这些独立的集群可能是在不同的机房,甚至是不同的城市中,有的大型数据中心还会分布在不同的国家和地区。它们之间通过RPC消息传递进行通信和协调,再向用户提供服务。 在分布式系统的背景下,企业架构也由早期的单体式应用架构渐渐转为更加灵活的分布式应用架构,经历了单体分层架构、SOA 服务化架构、微服务架构、云原生架构等不同架构模式的变迁

优酷网架构分享

落爺英雄遲暮 提交于 2020-02-10 04:11:10
记得以前给大家介绍过视频网站龙头老大 YouTube的技术架构 ,相信大家看了都会有不少的感触,互联网就是这么一个神奇的东西。今天我突然想到,优酷网在国内也算是视频网站的老大了,不知道他的架构相对于YouTube是怎么样的,于是带着这个好奇心去网上找了优酷网架构的各方面资料,虽然谈得没有 YouTube 那么详细,但多少还是挖掘了一点,现在总结一下,希望对喜欢架构的朋友有所帮助。 一、网站基本数据概览 据2010年统计,优酷网日均独立访问人数(uv)达到了8900万,日均访问量(pv)更是达到了17亿,优酷凭借这一数据成为google榜单中国内视频网站排名最高的厂商。 硬件方面,优酷网引进的戴尔服务器主要以 PowerEdge 1950与PowerEdge 860为主,存储阵列以戴尔MD1000为主,2007的数据表明,优酷网已有1000多台服务器遍布在全国各大省市,现在应该更多了吧。 二、网站前端框架 从一开始,优酷网就自建了一套CMS来解决前端的页面显示,各个模块之间分离得比较恰当,前端可扩展性很好,UI的分离,让开发与维护变得十分简单和灵活,下图是优酷前端的模块调用关系: 这样,就根据module、method及params来确定调用相对独立的模块,显得非常简洁。下面附一张优酷的前端局部架构图: 三、数据库架构 应该说优酷的数据库架构也是经历了许多波折

快应用开发与架构概述

◇◆丶佛笑我妖孽 提交于 2020-02-09 19:38:54
目录 快应用开发与架构概述 1背景介绍: 2技术实现: 技术优缺点对比 3开发体验: 项目脚手架: 调整样式: 系统能力: 事件响应: 原生组件: 调试开发: 开发体验总结: 4架构概述 整体思路: 编译时: 运行时: JS层架构: DOM模型: 页面渲染: 架构概述总结: 快应用开发与架构概述 1背景介绍: 目标: 即点即用, 快应用平台的统一: 联盟共建, 统一标准, 基于ROM 多场景融入: 浏览器, 全局搜索,应用商店; 2技术实现: 技术优缺点对比 移动网页:无需安装, 升级容易。 性能差, 功能缺失 原声应用:下载安装,版本问题,性能好, 功能完整 快应用:秒开, 容易管理,性能好,功能完整 项目地址: quickappcn/todos 3开发体验: 一:H5脚手架生成项目: 静态页面 页面样式 Http请求 渲染模板 自测无误 联调测试 二: 快应用脚手架生成项目: 静态页面 页面样式 系统能力 模板渲染 事件响应 生命周期 组件化 引入动画 项目脚手架: 调整样式: 系统能力: 事件响应: 原生组件: 调试开发: 开发体验总结: 前端概念 + MVVM编程模式 + 组件化思维 4架构概述 整体思路: 编译时: 运行时: JS层架构: DOM模型: 页面渲染: 架构概述总结: 数据驱动 + DOM模型 + 应用管理 来源: https://www.cnblogs

大型分布式电商系统架构演进史?

妖精的绣舞 提交于 2020-02-09 15:26:11
文章目录 概述 作者简介 一、大型分布式网站架构技术 1、大型网站的特点 2、大型网站架构目标 3、大型网站架构模式 4、高性能架构 5、高可用架构 6、可伸缩架构 7、可扩展架构 8、安全架构 9、敏捷性 10、大型架构举例 二、大型电商网站系统架构演变过程 1、最开始的网站架构 2、应用、数据、文件分离 3、利用缓存改善网站性能 4、使用集群改善应用服务器性能 5、数据库读写分离和分库分表 6、使用CDN和反向代理提高网站性能 7、使用分布式文件系统 8、使用NoSQL和搜索引擎 9、将应用服务器进行业务拆分 10、搭建分布式服务 三、一张图说明电商架构 四、大型电商网站架构案例 概述 本文是学习大型分布式网站架构的技术总结。对架构一个高性能、高可用、可伸缩及可扩展的分布式网站进行了概要性描述,并给出一个架构参考。文中一部分为读书笔记,一部分是个人经验总结,对大型分布式网站架构有较好的参考价值。 作者简介 烂皮猪,十余年工作经验,曾在Google等外企工作过几年,精通Java、分布式架构,微服务架构以及数据库,最近正在研究大数据以及区块链,希望能够突破到更高的境界 一、大型分布式网站架构技术 1、大型网站的特点 用户多,分布广泛 大流量,高并发 海量数据,服务高可用 安全环境恶劣,易受网络攻击 功能多,变更快,频繁发布 从小到大,渐进发展 以用户为中心 免费服务,付费体验 2

【微服务架构】架构新起点

强颜欢笑 提交于 2020-02-08 21:35:39
架构???? 从一开始学习 JavaEE 开始,最开始听到的便是 三层架构+MVC 。我认为的架构,是整个项目的结构,由项目中的各个组件组合而成,就像是积木拼搭在一起支撑起整个体系结构,而架构的目的就是为了 解耦 ,以至于使用各种开发框架。 微服务 微服务是一种新型的架构风格和架构思想,从2014年开始被人们所关注。 由于互联网发展迅速,传统的单体架构无法承受大流量导致的高并发问题,经过这么多年的架构演变,更多能够支撑高并发的架构不断出现,例如 SOA 架构(面向服务),以及微服务架构。 在我看来,微服务架构更像是 SOA 架构的升华,相比于 SOA 架构,微服务架构从字面上更注重“微”。SOA 将服务抽取合并到同一层中(服务层),但是这并不符合“高内聚,低耦合”原则。 微服务架构能够更好的进行分布式系统开发,它注重的是将整体业务组件化,将单体项目按照多种拆分方式拆分成一个一个独立的服务,每一个服务就是一个项目,可以独立部署运行。 问题 既然微服务架构将单体应用进行拆分,单独部署运行,那么必然会面临一些新型问题,这也是微服务架构需要解决的四大问题。 1.这么多服务如何管理 将单体应用按服务拆分,通过不同程度的拆分粒度,可能拆分出几十甚至几百个服务。那么,这些成百上千的服务,没有一个统一的管理是肯定不行的,如果没有一个管理者将其全部监控管理,那么即使能够部署成功

微服务架构复杂吗?看完这篇你就明白了!

混江龙づ霸主 提交于 2020-02-08 19:26:39
本文将介绍微服务架构和相关的组件,介绍他们是什么以及为什么要使用微服务架构和这些组件。本文侧重于简明地表达微服务架构的全局图景,因此不会涉及具体如何使用组件等细节。 要理解微服务,首先要先理解不是微服务的那些。通常跟微服务相对的是单体应用,即将所有功能都打包成在一个独立单元的应用程序。从单体应用到微服务并不是一蹴而就的,这是一个逐渐演变的过程。本文将以一个网上超市应用为例来说明这一过程。 一:最初的需求 几年前,小明和小皮一起创业做网上超市。小明负责程序开发,小皮负责其他事宜。当时互联网还不发达,网上超市还是蓝海。只要功能实现了就能随便赚钱。所以他们的需求很简单,只需要一个网站挂在公网,用户能够在这个网站上浏览商品、购买商品;另外还需一个管理后台,可以管理商品、用户、以及订单数据。 我们整理一下功能清单: 网站 用户注册、登录功能 商品展示 下单 管理后台 用户管理 商品管理 订单管理 由于需求简单,小明左手右手一个慢动作,网站就做好了。管理后台出于安全考虑,不和网站做在一起,小明右手左手慢动作重播,管理网站也做好了。总体架构图如下: 小明挥一挥手,找了家云服务部署上去,网站就上线了。上线后好评如潮,深受各类肥宅喜爱。小明小皮美滋滋地开始躺着收钱。 二:随着业务发展…… 好景不长,没过几天,各类网上超市紧跟着拔地而起,对小明小皮造成了强烈的冲击。 在竞争的压力下

Linux操作系统简介2019.7.30

时光毁灭记忆、已成空白 提交于 2020-02-08 01:11:56
1.推荐两本书《数学之美》、《文明之光》 2.数据存储:磁盘(少量数据)、SAN、NAS、DAS三种架构(共享存储架构,用于云计算方向的运营运维)、分布式存储架构(运用于大数据的数据处理,例如HDFS)     HDFS——H(Hsdoop);D(定义);FS(系统)。共同组成HDFS分布式文件系统,只用于存储。  系统:linux操作系统  算法:map-reduces的数据处理集群(将海量数据按一定方式修改为键值关系)     通过数学+python=算法     数据可视化 3.IT行业的两个方向:运维、开发   运维:Linux操作系统(以windows为系统的——桌面工程师)       Linux运维(web架构)深入学习架构可搭配自己的网站       虚拟化(KVM或XEN)—openstack—docker(管理器k8s)—应用(云计算方向)       Hadoop+Java=大数据方向              spark(必须学scala语言)              HDFS分布式存储              map-reduces数据处理              Hive(必须学Sql语言)              Zookeeper   开发:计算机语言(最早的机械语言Basic语言)     C语言(最接近汇编语言的高级语言,一次编辑

IT知识架构

こ雲淡風輕ζ 提交于 2020-02-08 00:55:07
一、IT知识架构 1.数据存储(磁盘 ) (1)SAN架构、NAS架构、DAS架构(专门将数据存储于磁盘阵列,属于共享存储架构,一般用于云计算、运维) (2)HDFS(分布式存储架构,只解决数据存储);集群(应用) HDFS:Hadoop的分布式系统 H:Hadoop D:定义 FS:系统 2.系统:linux系统 3.算法 (1)map-reduces的数据处理集群:它是将海量数据按照一定的方式修改为键值关系(key-value) (2)HDFS+map-reduces=Hadoop集群(运行于linux上的高性能集群) (3)通过数学(统计学)+Python=算法 (4)数据可视化 4.IT的工作方向:运维、开发 运维 :linux操作系统(Windows-桌面工程师) (1)linux运维、Web架构、搭建自己的网站 (2)虚拟化KVM/XEN、openstack、docker(k8s) (3)Hadoop(大数据)、Hadoop+JAVA=大数据存储方向(HDFS、map-reduces、Hive sql、zookeeper、spark、scala) 开发 :计算机语言 (1)Basic是早期的机械语言 (2)C语言、c++语言是最接近汇编语言的高级语言用于驱动开发、系统开发、嵌入式开发(写板子) (3)驱动程序:需要转换各个厂家之间的指令集,让厂家设备之间互通 前端:Js