大数据

你都知道那些Kafka副本机制?

爷,独闯天下 提交于 2021-02-02 14:36:22
前言 在日常开发过程中使用kafka来实限流削峰作用但是往往kafka会存放多份副本来防止数据丢失,那你知道他的机制是什么样的吗?本篇文章就带给大家讲解下。 一、Kafka集群 Kafka 使用 Zookeeper 来维护集群成员 (brokers) 的信息。每个 broker 都有一个唯一标识 broker.id ,用于标识自己在集群中的身份,可以在配置文件 server.properties 中进行配置,或者由程序自动生成。下面是 Kafka brokers 集群自动创建的过程: 每一个 broker 启动的时候,它会在 Zookeeper 的 /brokers/ids 路径下创建一个 临时节点 ,并将自己的 broker.id 写入,从而将自身注册到集群; 当有多个 broker 时,所有 broker 会竞争性地在 Zookeeper 上创建 /controller 节点,由于 Zookeeper 上的节点不会重复,所以必然只会有一个 broker 创建成功,此时该 broker 称为 controller broker。它除了具备其他 broker 的功能外, 还负责管理主题分区及其副本的状态 。 当 broker 出现宕机或者主动退出从而导致其持有的 Zookeeper 会话超时时,会触发注册在 Zookeeper 上的 watcher 事件,此时 Kafka

并行计算、分布式计算、集群计算和云计算

我怕爱的太早我们不能终老 提交于 2021-02-02 13:08:53
1. 并行计算 (Parallel Computing)     并行计算或称平行计算是相对于串行计算来说的。 并行计算 (Parallel Computing)是指同时使用多种计算资源解决计算问题的过程。为执行并行计算,计算资源应包括一台配有多处理机(并行处理)的计算机、一个与网络相连的计算机专有编号,或者两者结合使用。并行计算的主要目的是快速解决大型且复杂的计算问题。   并行计算可以划分成时间并行和空间并行。 时间并行即流水线技术 , 空间并行使用多个处理器执行并发计算 ,当前研究的主要是空间的并行问题。以程序和算法设计人员的角度看, 并行计算又可分为数据并行和任务并行 。数据并行把大的任务化解成若干个相同的子任务,处理起来比任务并行简单。   空间上的并行导致两类并行机的产生,按照Michael Flynn(费林分类法)的说法分为单指令流多数据流(SIMD)和多指令流多数据流(MIMD),而常用的串行机也称为单指令流单数据流(SISD)。MIMD类的机器又可分为常见的五类:并行向量处理机(PVP)、对称多处理机(SMP)、大规模并行处理机(MPP)、工作站机群(COW)、分布式共享存储处理机(DSM)。 2. 分布式计算( Distributed Computing)    分布式计算 这个研究领域,主要研究 分散系统 (Distributed system)如何进行计算

震旦科技:周大福被指抄袭引网友声讨,原创设计师维权

流过昼夜 提交于 2021-02-02 13:05:46
杭州震旦科技有限公司,本着“让珠宝生意更简单”的使命,致力于成为中国最专业、最优秀的珠宝零售企业服务商。公司秉承为中小型珠宝企业提供完整的互联网解决方案的使命,依托强大的平台功能推进中国珠宝产业的大数据研究与应用,以此推动珠宝产业的专业化、体系化、标准化发展,规范产业体系中的上下游企业的系统化管理和运营,为中国珠宝行业的发展提供最完整的第一手数据信息。 公司通过旗下珠宝采购平台“宝物志”和珠宝智慧零售平台“宝来屋”两款产品,打通产业链路,为珠宝行业零售企业赋能,重塑珠宝行业零售业态。 8月10日,一则发布在B站的标题为《心态炸了!!周大福旗下品牌又一次侵权抄袭独立设计师作品,这次抄的一毛一样!》的视频,引发了网友的热烈讨论。 独立品牌设计师面对镜头摆出证据,控诉周大福旗下子品牌MONOLOGUE在售的一款戒指抄袭其原创设计时空之环戒指。 周大福MONOLOGUE涉嫌抄袭的产品在2019年10月上架,原创设计师Aurora的自有品牌HELIO时空之环于2017年4月上架。通过视频了解到,两款戒指的材质和曲率完全一样,且都是采用3D硬金工艺。 据设计师称,戒指的不规则曲率是根据虫洞形成时原有的轨迹变化设计的,时空之环从外观造型的设计到材质工艺的选择都为了“虫洞”这一主题所服务。周大福方面的对接人在2018年就了解过时空之环的产品资料,设计师认为不存在撞款的可能性

来一起,合成科研大西瓜!!!

拜拜、爱过 提交于 2021-02-02 12:44:46
经常能看到某人5篇SCI! 某实验室10篇SCI! 科研学习过程中,一年多篇文章的人是如何保持科研创新能力的? 及时关注学界动态,高效获取优质资源非常重要。 但是大量的科研资讯,热点也层出不穷,那么作为硕博新生的你,如何做好科研呢! 下个优质公众号,由科研大咖主持分享最有影响力的经典 文献 ,提供前沿的研究思路、提供生信和基因分析的 科研 方法,更有投稿、选刊等 论文 秘笈。 Hanson临床科研 (ID:HClinicalResearch) ▲ 长按识别上方二维码关注 Hanson临床科研 推荐理由: Hanson临床科研 主编系科研达人,2008年即主持国自然基金;每天一篇学术推文,促使 “ 让医学生物科研及发SCI论文,变得很简单 ” 。 SCI论文模板 专题,精读各种类型论文,制成拿来即用模板 ; SCI论文撰写 专题,分析论文各部分撰写要领和投稿遇到的问题; SCI选刊 专题, 作者撰写投稿心得,扬长避短选择期刊 ; 基金申请 专题,分享如何申请和完成基金的经验体会; 美国基金 专题,传递美国科研资助动态和经典基金英文摘要,把脉研究方向; 大数据分析 专题, 从海量论文中找出 最活跃教授 、课题套路和研究热点,助力 找到好导师、选好题及保持创新。 关注公众号后, 回复关键词,获得上述资料;并支持按照 科室检索 ,如“神经科”。 医学硕博园 ▲ 长按二维码“识别

航运业“搭台” 区块链“唱戏”

痞子三分冷 提交于 2021-02-02 12:00:25
2019年10月,学习时强调把区块链作为核心技术自主创新重要突破口,加快推动区块链技术和产业创新发展。 《交通强国建设纲要》指出,要大力发展智慧交通,推动大数据、互联网、人工智能、区块链、超级计算等新技术与交通行业深度融合。 去年,交通运输部印发《关于推动交通运输领域新型基础设施建设的指导意见》,围绕加快建设交通强国总体目标,以技术创新为驱动,提出运用区块链技术积极建设智慧航道、智慧港口,推动交通基础设施的数字转型、智能升级。 总之,如何充分利用区块链等新一代信息技术提升全球航运运营管理和国际竞争力,是值得思考的。 航运业发展痛点显现 航运作为最经济的运输方式之一,具有低成本、高效率的特点,在国际贸易和经济全球化的发展中具有举足轻重的作用。但航运体系涉及的复杂利益主体,会严重影响运输效率,尤其是在节点信任、物流溯源、流程优化以及网络协同方面尤为显著。 航运供应链主体间的贸易背景不易查证,信息孤岛的存在使得航运企业系统间的消息不互通,仅凭签署合同约定来进行风险控制相对不易,因此,航运体系节点间的信任问题变得尤为突出;同时,传统航运网络商品追溯系统的中心化使其普遍存在数据失真、信息篡改等问题,商品信息可追溯性难,即使航运企业愿意通过接口对接的方式完成数据的交换与共享,仍不能消除信任度低、成本高的问题;而且海运服务涉及复杂的合作伙伴,必须处理大量的运输单证

达沃斯议程对话会:张亚勤解读人工智能发展 3R 原则

旧时模样 提交于 2021-02-02 10:57:13
在国内外新冠疫情持续的特殊形势下,2021年世界经济论坛“达沃斯议程”对话会于1月25日至29日以线上形式举行。此次论坛上,全球70多个国家和地区的1500多位政商界和社会组织领导人围绕“把握关键之年,重建各方信任”这一主题,就如何应对新冠疫情下全球面临的经济、环境、社会、技术等挑战,寻求合作抗疫和推动经济复苏的方案等展开了探讨。 作为人工智能世界级科学家和企业家、达沃斯论坛的常客和重要委员,清华大学智能产业研究院(Institute for AI Industry Research,AIR)张亚勤院长亦受邀出席了此次达沃斯议程对话会,并发表了演讲。 近年来,人工智能一直是计算机领域的热门研究方向,也是达沃斯论坛的焦点议题。 早在2016年,张亚勤博士就曾在达沃斯论坛对人工智能相关议题提出了诸多见解。当时,他指出,人工智能将成为第四次工业革命的技术基石,另一方面,它的发展速度比许多人想象得都要快,但要实现技术的可靠和可控性,需要全世界共同思考解决。同时,当前人们更多是投资弱人工智能,即对人类智能的放大,而不是取代人的智能等。 迄今,包括机器学习、语音识别、图像识别、大数据挖掘、自然语言处理等AI技术已在交通、教育、医疗、金融等众多领域得到了广泛应用,成为各个领域转型升级的核心动力。以此次新冠肺炎疫情为例,随着“无接触”等需求的兴起,人脸识别等人工智能技术大放异彩

知乎:到底去大公司还是小公司?

岁酱吖の 提交于 2021-02-02 05:52:30
点击“ 开发者技术前线 ”,选择“星标🔝” 让一部分开发者看到未来 文章来源 / dwz.cn/NA3E0JFG 职场生涯总会面临着选择,尤其对我们这些 IT 人来说,跳槽的频率应该是所有行业中相当大的了。那么我们跳来跳去,究竟该选择什么样的公司 ?大 or 小 。 工作三年多了,经历一大一小,最近也面试了不少家公司,形态各异,说说自己的感受想法。 在小公司中,给我个人的印象大多数环境都不怎么样。定义下这个小公司规模吧,在几人到几十人吧,反正不会超过100人。 亲历一家小公司, 面试见过数家小型公司。我觉得大概分两种: 1.真正的黑穷丑 入职原因:实在没地方去了,毕业什么也不会,来做苦工吧 缺点:加班是家常便饭、工资少的可怜、福利基本没有,事事都要你干 优点:锻炼你顽强的意志力、培养男人的愤怒血性,当然干的多了能力自然也会有提升,不过如果没有牛人带且自己也不是特强的话,你的视野应该是比较窄的 2.有稳定业务、公司盈利还不错,待遇也可以媲美大公司 缺点:还是个人视野的问题,如果你个人能力很好,不是野心很大,在小公司也不错 优点:至少福利待遇不会差,环境也还可以,公司小自己做的贡献领导会看到,做个2/3年可能就是公司的主干力量了,有成就感。 说说自己的第一家公司,那个小公司 自己毕业时选择的是这家小公司,说选择当时是有对比,而最终决定去这家小公司的原因是他给开了3k的工资

QQ为什么是一只企鹅?官方终于答复了!

对着背影说爱祢 提交于 2021-02-02 04:51:48
点击上方 “ 民工哥技术之路 ” 选择“星标” 每天 10点 为你 分享 不一样的干货 读者福利!多达 2048G 各种资源免费赠送 本文授权转自差评公众号,如需转载请联系授权。 不知道差友们有没有想过, 为啥 QQ 的图标是一只小企鹅呢? 关于这个问题的答案,坊间一直流传着一些不靠谱的传说。 而流传最广的大概就是一个 BBC 拍摄的关于企鹅的纪录片。 纪录片里的企鹅,在南极冰天雪地里用小石头为自己垒窝,可是在南极找到 一块合适的小石头需要小企鹅费劲千辛万苦 。 可是一些不守规矩的小企鹅,盯上了一条 “ 捷径 ” : 把别的企鹅的石头叼到自己窝前。 而腾讯正是靠着一招驰名天下的绝技“ 血轮眼 ”,拿下了互联网的半边天。 当然了,以上这个说法都是坊间流传的无稽之谈,差友们全当看个笑话,不能作数。 这些八卦除了这个最不靠谱以外,另外的传说简直五花八门。 甚至还有强行做了一波阅读理解的: 企鹅生活中地球极端,用企鹅做 LOGO 也蕴含着 QQ 网络可以联络世界两端的寓意。 就在几天前,腾讯 QQ 终于坐不住了。 在他们的官方微信号上,发表了一篇长文来解释这只 20 岁的企鹅的前世今生。 所以今天,世超想和差友们聊聊就是这只 20 岁的胖企鹅这些年里的变化, 这事情还要从 1999 年开始说起, 那时候 QQ 还叫做 OICQ ,是一个非常具有年代感的名字。 那时候腾讯 QQ 用的

面试必问:Spring循环依赖的三种方式

╄→гoц情女王★ 提交于 2021-02-02 04:07:54
小A 你好面试官,非常高兴能参加今天的面试 面试官 没事,先做一个自我介绍吧 小A 我叫小A,工作三年了,做过...... 面试官 嗯,好的,看到你的项目这块,在公司主要用的就是spring全家桶相关的技术是吧 小A 对的 面试官 聊聊Spring吧 小A S pring主要包含的就是IOC和AOP,IOC是控制反转...AOP是面向切面编程... 面试官 之前了解过spring源码吗?能不能简单描述下bean的创建过程 小A 之前了解过,是这样的(通过死记硬背回答了一点) 面试官 感觉你好像没有怎么了解过源码啊,你再说一下IOC容器的初始化过程吧 小A ...... 面试官 没关系,能说一下spring的依赖注入问题吗? 小A 了解过一些,一个是构造器,一个是set,然后依赖注入可以完全解决了 面试官 你确定吗? 小A 好像是吧 面试官 行吧,今天的面试就到此为止吧,回去之后巩固下自己的技术,多看看源码 小A 好的。。。。。 ...... 此处省略一堆问题 脑子里已经是浆糊了 这就是我经历的一次地狱级别的血淋淋的面试,上面问到的哪些面试题你能答得上来吗? 当我从面试的大楼里出来的时候脑袋里还是昏昏沉沉的,你压根不知道我经历了什么,我就面试一个开发岗位,有必要问我这么多 后来咨询我的导师: 马士兵老师 ,他是这么说的,现在的就业竞争很激烈,在考察技术的时候不单单是停留在应用层面