云计算

【互动问答分享】第13期决胜云计算大数据时代Spark亚太研究院公益大讲堂

99封情书 提交于 2019-12-03 14:48:40
“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第13期互动问答分享】 Q1 :tachyon+spark 框架现在有很多大公司在使用吧? Yahoo! 已经在长期大规模使用; 国内也有公司在使用; Q2 :impala 和spark sql如何选择呢? Impala 已经被官方宣布“安乐死”,被官方温柔的放弃; Spark SQL 是Spark 的核心子框架,同时能够和图计算、机器学习框架无缝集成,强烈推荐使用! Q3 :如果有程序采用流式不停往tachyon 集群写数据,但tachyon内存不够怎么办? Tachyon 数据具有Lineage ; Tachyon 中可以配置存储策 Tachyon 中可以配置存储策 来源: oschina 链接: https://my.oschina.net/u/1791057/blog/317821

三 丰 云,免费虚拟主机

Deadly 提交于 2019-12-03 14:47:12
三 丰 云,免费虚拟主机和免费云服务器相当不错,速度杠杠的,对于个人小站足够用了,免费的东西有这么好还真是业界良心,有需要的朋友来申请吧!以下是申请方法介绍。 三 丰 云是北京太极三 丰 云计算有限公司旗下网络服务品牌,十八年IDC老兵团队蛰伏三年后投资千万于2018年10月1日创建。公司致力于为大众提供最优质的互联网基础服务和物联网服务,包括:域名注册、虚拟主机、云服务器、主机托管租用、CDN网站加速、物联网应用等服务。以帮助客户轻松、 高速、高效的应用互联网/物联网,提高企业竞争能力。 网站地址: https://www.sanfengyun.com/ 三 丰 云是北京太极三 丰 云计算有限公司旗下网络服务品牌,十八年IDC老兵团队蛰伏三年后投资千万于2018年10月1日创建。公司致力于为大众提供最优质的互联网基础服务和物联网服务,包括:域名注册、虚拟主机、云服务器、主机托管租用、CDN网站加速、物联网应用等服务。以帮助客户轻松、 高速、高效的应用互联网/物联网,提高企业竞争能力。 网站地址: https://www.sanfengyun.com/ 三 丰 云是北京太极三 丰 云计算有限公司旗下网络服务品牌,十八年IDC老兵团队蛰伏三年后投资千万于2018年10月1日创建。公司致力于为大众提供最优质的互联网基础服务和物联网服务,包括:域名注册、虚拟主机、云服务器、主机托管租用

Hadoop(一)之初识大数据与Hadoop

旧巷老猫 提交于 2019-12-03 14:31:40
前言   从今天起,我将一步一步的分享大数据相关的知识,其实很多程序员感觉大数据很难学,其实并不是你想象的这样,只要自己想学,还有什么难得呢?   学习Hadoop有一个8020原则,80%都是在不断的配置配置搭建集群,只有20%写程序! 一、引言(大数据时代) 1.1、从数据中得到信息   我们看一张图片:        我们知道这个图片上的人叫张小妹,年龄20岁,职业模特。但是如果只有数据没有图片的话,就没有意义的数据了。所以数据一定是在特定的环境下才有意义的。   我们再来看一张图片:        从这张图片分析出:从纵向分析,范范和张帆的购买东西十分的相似,所以如果要推荐东西给张帆的话,我们就可以选择小米手环。           从横向分析,无效鼠标,linux编程思想,皮鞋和小米手环都卖的比较火,其他几样销量少,所以我们推荐就可以把这几样放上去。 1.2、大数据表象概念   大家理解什么是大数据吗,那大数据到底有多大!我们就以百度的数据来分析一下:        首先:1PB=1024T   分析:我们就看最小的它每天产生的日志就可以看出来,百度每天要产生100TB~1PB的日志数据。一般我们电脑的硬盘是1T的。那就需要电脑的100个硬盘到1024块硬盘,你想想是多么的恐怖! 回到顶部(go to top) 二、大数据基础 2.1、什么是大数据?  

微软智能云三驾马车 Azure、Office 365、Dynamics 365 齐聚中国

不羁岁月 提交于 2019-12-03 13:42:00
北京时间 10 月 25 日,2018 微软技术暨生态大会(Microsoft Tech Summit)在上海召开,微软正式宣布,作为微软智能云“三驾马车”中的重要一环 —— Dynamics 365 企业应用云平台计划于 2019 年春季落地中国。届时,Microsoft Azure 云计算平台、Office 365 云生产力平台、Dynamics 365 企业应用云平台将聚首中国市场,借助微软服务于全球的领先技术和与本土运营商的紧密合作,为推动企业全面实现数字化转型提供更强助力。 同时,微软智能云全面落地中国,也将为微软本土合作伙伴生态系统带来更广阔的市场前景和成长空间。面向智能云与智能边缘主导的世界,人工智能已经成为全面贯穿微软智能云的核心,Microsoft Azure、Office 365、 Dynamics 365 不断融入大量人工智能创新功能与服务;为了推动本地部署数据中心与时俱进,微软正式发布全面支持云计算技术创新的 Windows Server 2019,同时宣布 SQL Server 2019 公开预览,能够满足本地部署需求的 Office 2019 也已正式商用;微软明确面向物联网与智能边缘的发展策略,全球首个芯片级云加端物联网安全连接管理方案 Azure Sphere 开启预览。 微软公司资深副总裁,大中华区董事长兼首席执行官柯睿杰 (Alain

Service Function Chaining Resource Allocation: A Survey

一个人想着一个人 提交于 2019-12-03 13:07:47
摘要: 服务功能链(SFC)是未来Internet的一项关键技术。 它旨在克服当前部署模型的僵化和静态限制。 该技术的应用依赖于可以将SFC最佳映射到衬底网络的算法。 这类算法称为“服务功能链资源分配(SFC-RA)”算法或“ VNF放置(VNFP)”算法。 本文介绍了SFCRA算法的最新研究概况。 介绍了公式和相关问题后,总结了SFC-RA问题的几种变体。 最后,我们讨论了几个未来的研究方向 I 介绍 随着Internet和网络服务的快速发展,出于技术原因,增值原因等原因,越来越多的中间箱被部署在网络中。最近的一篇论文表明,中间箱的数量与企业网络中的路由器数量相当[ 1]。 但是,中间盒意味着较高的资本支出(CAPEX)和运营支出(OPEX),此外,中间盒的部署或重新部署需要专业知识,这会增加OPEX并降低灵活性。 出现其他问题的事实是,通常需要流以特定顺序通过一系列中间盒,这通常称为服务功能链(SFC)[2]。 例如,当前的服务功能链部署模型是拓扑相关的和特定于设备的; 因此,添加,删除和修改服务功能链可能很麻烦且容易出错,更糟糕的是,这些任务可能无法完成。 所有这些功能都显示了当前部署模型的不足之处 在本文中,我们遵循IETF服务功能链工作组(IETF SFC WG)的约定使用术语“服务功能链”,其中SFC表示NFV和SDN上下文中的新型服务链部署模型。

后摩尔定律时代的计算力破局!

人走茶凉 提交于 2019-12-03 11:48:07
  后摩尔定律时代的计算力破局!   万物互联、人工智能等技术的成熟正在重构我们的生活方式,数据将以前所未有的速度累积增长,今后的智能设备数量会越来越多,体积越来越小,重量越来越轻。相应的,通过物联网,这些设备会把各式各样的数据源源不断地传输到后端的数据中心,数据来源的多样性、格式的复杂性和语义的不确定性,都将导致后端的计算量越来越大,对计算力的要求也越来越高。   当摩尔定律逐渐失效   过去的半个世纪,得益于半导体芯片产业飞速发展,在摩尔定律的驱动下,计算力一直保持着大跨度的发展。1956年,英特尔创始人戈登·摩尔提出,集成电路的集成度每两年会翻一番,后这个周期缩短到18个月,微处理器的性能每隔18个月提高1倍。   然而,硅芯片已逼近物理和经济成本上的极限,各界纷纷预测,摩尔定律在不久的将来面临失效,半导体工艺升级带来的计算性能的提升不能再像以前那么快了,每一代制程工艺的研发和成熟需要的时间将越来越长。制程发展减缓,新的替代材料和计算方式还未成熟,想要追求更高的计算力,可以从两个方向发展。   一个方向是向内,借助服务器系统架构的优化,打破数据读取瓶颈,从而提升单机计算力。当前,服务器普遍采用的是冯诺依曼架构,即计算和存储分离,而CPU的处理速度和数据的读取速度却无法匹配。纵观整个计算史,处理最缓慢的一部分就是从硬盘获取数据,很多处理性能都浪费在了等待数据到达上

游戏行业的云十年:云计算应用范围的影响正逐渐扩大!

别等时光非礼了梦想. 提交于 2019-12-03 11:29:31
大家都知道,云计算是一种基于互联网的超级计算模式。凭借其强大的运算能力,云计算甚至可以用于模拟核爆炸,预测气候变化。可以估算的云计算应用范围的影响正逐渐扩大,未来将是不可估量的。 首先,我们发现,在云计算这片沃土上的it企业开始先挖先建,然后金融、营销咨询、零售、医疗等领域的企业开始纷纷搬迁。看到这座城镇繁华的风光和便利的生活后不久,一些“大企业”开始四处转移,如工业、制造业、交通运输等。    对于这些行业而言,能否进行产业升级,数据传输技术的支持是必不可少的。当云计算真的开始了流媒体的转变时,能量就会爆发,往往超出了想象。 云游戏就是一个很好的例子。近年来,谷歌(Google)、微软(Microsoft)、索尼(Sony)等制造商透露,它们希望推出云游戏服务。谷歌的“体育场云游戏平台”表示,它允许玩家玩游戏,就像他们在YouTube上看视频一样。索尼(Sony)和微软(Microsoft)作为主机世界的敌人,抛开了它们之间的矛盾,共同努力。索尼将在微软Azure开发云服务解决方案,以支持其游戏和内容流服务。还有国内大厂推出的口袋魔盒云电脑,已经上线使用了。 很多人认为在最近几年,云游戏,崛起的异军突起,从5G的崛起,更快的数据传输速度与更低的延迟茎,意味着与 云的终端 ,这意味着你可以输送更多的笨重的身体质量数据,以支持游戏的高画质和应对玩家的指令。 其实这种观点有点片面

阿里巴巴 Kubernetes 应用管理实践中的经验与教训

百般思念 提交于 2019-12-03 11:06:09
作者 | 孙健波(阿里巴巴技术专家)、赵钰莹 导读 :云原生时代,Kubernetes 的重要性日益凸显。然而,大多数互联网公司在 Kubernetes 上的探索并非想象中顺利,Kubernetes 自带的复杂性足以让一批开发者望而却步。本文中,阿里巴巴技术专家孙健波在接受采访时基于阿里巴巴 Kubernetes 应用管理实践过程提供了一些经验与建议,以期对开发者有所帮助。 在互联网时代,开发者更多是通过顶层架构设计,比如多集群部署和分布式架构的方式来实现出现资源相关问题时的快速切换,做了很多事情来让弹性变得更加简单,并通过混部计算任务来提高资源利用率,云计算的出现则解决了从 CAPEX 到 OPEX 的转变问题。 云计算时代让开发可以聚焦在应用价值本身,相较于以前开发者除了业务模块还要投入大量精力在存储、网络等基础设施,如今这些基础设施都已经像水电煤一样便捷易用。云计算的基础设施具有稳定、高可用、弹性伸缩等一系列能力,除此之外还配套解决了一系列应用开发“最佳实践”的问题,比如监控、审计、日志分析、灰度发布等。原来,一个工程师需要非常全面才能做好一个高可靠的应用,现在只要了解足够多的基础设施产品,这些最佳实践就可以信手拈来了。但是,在面对天然复杂的 Kubernetes 时,很多开发者都无能为力。 作为 Jira 和代码库 Bitbucket 背后的公司,Atlassian 的

阿里云葛岱斌:让天下没有难做的安全运维

孤者浪人 提交于 2019-12-03 10:51:39
作为一个热爱看丧尸片的女编辑,我曾被多位宅客频道同事吐槽口味很重。 天啦噜,我只是喜欢看丧尸围城这种精彩刺激的情节,哪像有些同事去排队抢过优衣库与KAWS合作T恤,这才是现实版“僵尸大战”好么? 赛博世界的“另类丧尸临城”也很有意思。 一种是喜悦划过嘴角,业务量上涨,尤其如果平台搞了大促,用户一拥而上,这种简称为“人肉版”DDoS。还有一种是正经 DDoS,别想了,就是有人要搞你,比如最常见的游戏业,如果一款游戏爆火,它的安全做得又那么随意,眼红的竞争对手可能要派攻击者来搞一把DDoS。 这类“僵尸大军”会堵在“门口”,不让真正的用户使用业务,或者频繁无效地抢占业务入口,搞瘫系统。可怕的是,发展到现在,黑产已经可以用少量的带宽打出巨量的 DDoS 攻击,轻而易举地把一个系统打趴下。 就像懵懂无知的年代,如果一个男生被欺负,可能会愤愤不平地对方说:放学你别走。然后,找一堆“兄弟”前去助阵。 一般企业平常没有储备对抗上T大流量攻击的能力,但他们想到了一个办法——上公有云,号召五湖四海的“兄弟”,一起抗衡超大流量的攻击。 我们把这种动作称为“云化”。 换了一个环境,安全迎来挑战,很多安全公司提出了自己的解法和产品,甲方爸爸要做的就是捋清楚自己的需求,花钱购买安全产品和服务,像串羊肉一样串好自己买的“武器”,这是一种解法。 另一种解法则是由公有云安全厂商提出,他们的理念是

阿里云肖力:云即信任

[亡魂溺海] 提交于 2019-12-03 10:47:27
2005年,杭州文二路的一家不知名企业,迎来了公司成立后的第一名安全工程师,这在那个连“互联网业务”都还有些模糊不清的年代里,无疑是一次略显前卫的决定 安全是什么?为什么需要安全?安全会发生怎样的进化?哪里又需要更多的安全?这些问题,都交代在了那个刚刚入职的年轻工程师身上。 只不过,没人能预想这个年轻人的到来对这家公司来说意味着什么,这家公司又会在日后发展成什么模样,彼时的他和它,都在等待一个从0到1的机会。 14年后的今天,当初这家不知名的企业早已实现了从0到99的突破,正在朝向100的终点迈进;而那个年轻的安全工程师,则呼啸着云计算的浪潮,带领着自己的团队,一次又一次将云安全的产品和服务输出到更多的用户身边。 这个人就是肖力,而那家不知名企业,便是阿里巴巴。 两段“创业史” 2005年,肖力加入阿里巴巴,开始负责组建阿里巴巴安全技术团队,同时构建阿里巴巴安全体系,这在他的从业经历中,可以被划分成“纯甲方安全”的第一次创业。 业务的高速发展往往会迫使安全工作不得不找寻新的技术和方向,来满足业务进化的需求,这对人来说,也无疑是一次次能力上的提升。 由于阿里巴巴经济体业务属性的多样,横跨电商、金融等多个领域和业务场景,因此在构建阿里巴巴安全体系的过程中,肖力幸运地接触了多种业务属性的安全体系,也深刻理解了不同业务属性对于安全的需求,对自身能力模型的构建,也得到了极大的锻炼和提高。