人工智能

[NLP自然语言处理]谷歌BERT模型深度解析

故事扮演 提交于 2021-01-08 07:25:22
我的机器学习教程 「美团」算法工程师带你入门机器学习 已经开始更新了,欢迎大家订阅~ 任何关于 算法、编程、AI行业知识 或博客内容的问题,可以随时扫码关注 公众号「图灵的猫」 ,加入”学习小组“,沙雕博主在线答疑~此外,公众号内还有更多AI、算法、编程和大数据知识分享,以及免费的SSR节点和学习资料。其他平台(知乎/B站)也是同名「图灵的猫」,不要迷路哦 ​ ​ ​ ​ BERT模型代码已经发布,可以在我的github: NLP-BERT--Python3.6-pytorch 中下载,请记得start哦 目录 一、前言 二、如何理解BERT模型 三、BERT模型解析 论文的核心:详解BERT模型架构 关键创新:预训练任务 实验结果 四、BERT模型的影响 对BERT模型的观点 参考文献 一、前言 最近谷歌搞了个大新闻,公司AI团队新发布的BERT模型,在机器阅读理解顶级水平测试SQuAD1.1中表现出惊人的成绩: 全部两个衡量指标上全面超越人类,并且还在11种不同NLP测试中创出最佳成绩 ,包括将GLUE基准推至80.4%(绝对改进7.6%),MultiNLI准确度达到86.7% (绝对改进率5.6%)等。可以预见的是,BERT将为NLP带来里程碑式的改变,也是NLP领域近期最重要的进展。 ​ 谷歌团队的Thang Luong直接定义: BERT模型开启了NLP的新时代! ​

我帮你找到了!AI入门级比赛,能交流还好!拿!奖!

倾然丶 夕夏残阳落幕 提交于 2021-01-08 00:35:30
人工智能技术是将定义我们这个时代的转型技术, 但是要将AI技术成功落地应用,充满挑战性 为了帮助大家从入门到 放弃 (不是) 从理论到实际运用 混元形意太极 (也不是) 深度学习图像分类模型 华为云特别推出 华为云“云上先锋”·AI主题赛 从教学直播到实操应用 华为云AI大神助你 “从0到1,一赛通关,图像分类和识别” 现在报名,啪的一下,很快啊~ 你就能从0基础进阶深度学习框架的应用和使用的流程 年轻人,如果你是有备而来,有一定的开发基础 那尽情刷榜挑战吧,偷袭Baseline, 累积10w+的礼品等你来拿~ 赛事·赛程表 华为云“云上先锋”·AI主题赛 基于MindSpore或其他主流深度学习框架考核图像分类任务在实际生活中的运用能力 通过学、练、赛,可以对主流图像分类模型ResNet50模型有一个深度认识, 帮助大家分分钟提升未来在图像识别领域的迁移应用 目前新手赛+学习赛已经上线,课程内容已经更新完成。 点击下方报名还可参与华为云大神的直播分享 还没报名的请耗子尾汁 好好反思,赶紧报名!!! 课程·报名 华为云“云上先锋”·AI主题赛已经开赛 识别下方二维码或点击文末 阅读原文 马上报名 课程·奖品 刚才有个朋友问我,华老师,发生肾么事了? 我说怎么回事,给我发了几张截图, 我一看,嗷,原来是 报名华为云AI云上先锋赛, 可以领取华为手表和千元大额京东卡!!!

华为入门级AI主题赛,这个奖也太好拿了吧!

流过昼夜 提交于 2021-01-07 23:44:41
人工智能技术是将定义我们这个时代的转型技术, 但是要将AI技术成功落地应用,充满挑战性 为了帮助大家从入门到 放弃 (不是) 从理论到实际运用 混元形意太极 (也不是) 深度学习图像分类模型 华为云特别推出 华为云“云上先锋”·AI主题赛 从教学直播到实操应用 华为云AI大神助你 “从0到1,一赛通关,图像分类和识别” 现在报名,啪的一下,很快啊~ 你就能从0基础进阶深度学习框架的应用和使用的流程 年轻人,如果你是有备而来,有一定的开发基础 那尽情刷榜挑战吧,偷袭Baseline, 累积10w+的礼品等你来拿~ 赛事·赛程表 华为云“云上先锋”·AI主题赛 基于TensorFlow深度学习框架考核图像分类任务在实际生活中的运用能力 通过学、练、赛,可以对主流图像分类模型ResNet50模型有一个深度认识, 帮助大家分分钟提升未来在图像识别领域的迁移应用 目前新手赛+学习赛已经上线,课程内容已经更新完成。 点击下方报名还可参与华为云大神的直播分享 还没报名的请耗子尾汁 好好反思,赶紧报名!!! 课程·报名 华为云“云上先锋”·AI主题赛已经开赛 识别下方二维码或点击文末 阅读原文 马上报名 课程·奖品 刚才有个朋友问我,华老师,发生肾么事了? 我说怎么回事,给我发了几张截图, 我一看,嗷,原来是 报名华为云AI云上先锋赛, 可以领取华为手表和千元大额京东卡!!!

华为云“云上先锋”·AI主题赛(垃圾分类)-Top7复盘

别等时光非礼了梦想. 提交于 2021-01-07 23:23:26
文章目录 介绍 赛事介绍 数据分析 模型训练 玄学炼丹 介绍 在2020.12-2021.1这段时间和师兄参加了华为云“云上先锋”·AI主题赛 官网 (垃圾分类),最后拿到了 第7名(7/1405) 的成绩,在最终榜单上分数为 96.64 . 赛事介绍 1.赛题描述 本赛题采用深圳市垃圾分类标准,赛题任务是对垃圾图片进行分类,即首先识别出垃圾图片中物品的类别(比如易拉罐、果皮等),然后查询垃圾分类规则,输出该垃圾图片中物品属于可回收物、厨余垃圾、有害垃圾和其他垃圾中的哪一种。 模型输出格式示例: { " result ": “可回收物/易拉罐” } 2.数据说明 本次比赛提供的训练集中包含了43类生活中常见垃圾,参赛者可自行划分用于模型调优用的验证集和测试集。 datasets |- train_data ( 训练集目录,包含垃圾图片和对应的标签文件(.txt)) |- garbage_classify_rule.json (垃圾分类规则字典,key值是id,value是“垃圾种类/具体物品名”。 例如训练数据标签文件img1.txt的内容是“img_1.jpg, 0”,表示img_1.jpg这张图中的垃圾是“其他垃圾/一次性快餐盒”。) 3.评分标准 如上文模型输出格式示例中,模型预测的物品类别是“易拉罐”,如果图片的真实类别是易拉罐,则这张图片预测正确,否则预测错误

High&NewTech:来到了21世纪的第3个十年,各行业数字化迫在眉睫,全民编程也势不可挡。但,问题来了,编程,一定需要写代码么?那么,传说中的iVX工具,与编程到底又有什么暧昧关系?

独自空忆成欢 提交于 2021-01-07 19:28:20
High&NewTech:来到了21世纪的第3个十年,各行业数字化迫在眉睫,全民编程也势不可挡。但,问题来了,编程,一定需要写代码么?那么,传说中的iVX工具,与编程到底又有什么暧昧关系? 导读 :刚才有个朋友问我,猿老师发生神马事了,我说肿么回事,给我发了几张截图;我一看!嗷!原来是一个python的程序,里面有几千行代码,说他定义变量abcd,写的头都大了;他说,猿老师,你能不能教教我如何快速实现我的idea,能不能帮助我一下;我说可以,但是看你编程基础有点差,现学的话时间也不够;他不服气,我说小朋友:你学一套编程是需要很长时间去打基础滴,其实啊,想实现自己的idea,也不一定就需要代码实现;他说你别给我扯犊子,就说怎么办;我说,你听过低代码平台吗?它上手快开发也快,最适合你了,这是化劲儿,底代码的编程是讲化劲儿的四两拨千斤;只要你掌握了低代码平台工具,比如iVX,上万行的代码都是小case滴。啊…哈!你非要和我试试,我说可以;诶…我一说,他啪就站起来了,很快啊!然后上来就是一行Hello world!我说,年轻人,你要耗子尾汁啊…… 哈哈,以上为搞笑片段,欢迎进入讲解编程之天时、地利、人和,以及网友十八问带你了解iVX和低代码平台那些事的正题…… 目录 21世纪的第3个十年,各行业数字化迫在眉睫,全民编程也势不可挡 编程的天时:行业数字化迫在眉睫—走向数字经济是历史的必然

微软第四朵智能云:低代码平台Power Platform

痞子三分冷 提交于 2021-01-07 18:46:41
作者 | 中国软件网 曹开彬 校对 | 中国软件网 海策 回望2020年,新冠疫情的爆发,不仅让远程办公、视频会议、直播等数字化应用迅速得到普及应用,也让低代码、无代码开发平台迎来了特别关注。由于疫情的紧急性,很多政府部门或企事业单位需要在两三周甚至一周、一两天内迅速开发一些应对疫情的业务应用。用传统开发模式,这几乎是不可能完成的任务,但神奇的低代码、无代码平台让这一切变成可能。这不是一个偶然事件。随着Mendix、OutSystem等公司的迅速崛起,早就让低/无代码平台在美国等国际市场备受关注。它兴趣的背后是数字经济时代到来的必然吗?低/无代码平台在数字化应用中的定位是什么?众多新兴厂商、IT和互联网巨头纷纷入局,会对未来的数字化、智能化生态产生什么影响? 为深入了解和分析这些问题,推动中国低/无代码市场快速健康发展,中国软件网联合中国软件行业协会应用软件产品云服务分会、海比研究推出“奔向2021,中国低/无代码平台系列报道”,对市场上的代表厂商进行深度访谈,全面反映他们在中国低/无代码市场的战略布局和前沿思考,并在此基础上进一步研究,形成《2021中国中国低/无代码平台市场研究报告》。欢迎关注。 本文为系列报道第一篇。中国软件网、海比研究团队采访了微软中国的Power Platform负责人——微软大中华区商业应用事业部产品负责人李威。 在2019年的微软技术大会上

阿里云技术专家解读:2021 年六大容器技术发展趋势

≡放荡痞女 提交于 2021-01-07 17:00:33
2020 终于过去。在这一年,特殊的环境让企业的生存和发展充满着不确定性。在持续应对由变化带来的挑战过程中,数字化创新能力对于企业来说似乎比以往任何时候都更加重要。 疫情之下,越来越多的企业坚定了上云和实现数字化转型的信念和步伐,并且积极探索云原生架构转型落地。2020 年 双11,阿里巴巴实现了核心系统全面云原生化的重大技术突破。基于云原生架构,企业可以最大化使用云的能力,聚焦于自身业务发展,开发者也可以基于云原生的技术和产品,提升开发效率,将精力更多地聚焦于业务逻辑的实现。可以看出, 以容器为代表的云原生技术正在成为释放云价值的最短路径 。 作为云原生发展的基石,容器技术的新趋势和新挑战备受关注。 2021 年伊始,阿里云容器服务团队的技术专家们为大家带来了他们对新一年容器技术趋势的六个重要解读 。 趋势一:以 Kubernetes 为代表的容器技术,已成为云计算的新界面 汤志敏|阿里云容器服务资深技术专家 在最新发布的 “CNCF 2020 年中国云原生调查”中显示,有 72% 的中国受访者在生产中使用了 Kubernetes。过去一年,我们观察到的阿里云上云原生生态的蓬勃发展也印证着云原生技术正成为释放云价值的最短路径。从早期的无状态应用、到 AI 大数据和存储类应用都在拥抱容器技术。可以看见,以 Kubernetes 为代表的容器技术已成为云计算的新界面

信息化将从单一IT走向CT为辅,IT与OT融合新格局

我是研究僧i 提交于 2021-01-07 14:41:23
CT: Communication Technology OT: Operation Technology IT: Information Technology 2020年一场黑天鹅事件,叫人们从未这么深刻地感受到社会停滞与经济暂停,也从未感受到信息成为了这么重要的资源。健康码使人员的流动成为了可能,直播带货开篇了营销的新风向,视频下的火神山与雷神山医院寄托了大家的希望与期盼。网上上课,居家办公,人员轨迹筛查一下子全部应用而生了。 信息再不是某个人员录入,或者某个组织录入的,而是自我提报与数据分析相结合的了。如果将社会看作一个工厂,每个人就是生产过程中的一个工艺,而健康码就是这个工艺中的完工状态,那么整个运作不就是在CT的支撑下,OT们主动参与的一项IT活动嘛?通过提报,数采相结合的方式,把每个单元都连接起来。从而从大量的连接中找出问题,返回到现实中进行实施管理行为。 2010年6月由中国ICT产业权威的市场研究和咨询机构 计世资讯 (CCW Research)发布的《从中国制造走向中国智造》白皮书。 2010年10月10日国务院下发的《国务院关于加快培育和发展战略性新兴产业的决定》指出使节能环保、新一代信息技术、生物、高端装备制造、新能源、新材料、新能源汽车七大产业用20年达世界先进水平。 2011年11月28日,工业和信息化部印发《物联网“十二五”发展规划》中提出“企业信息化

全球网速变慢,运营商:WiFi 和微波炉不要放在一起!

荒凉一梦 提交于 2021-01-07 13:41:28
内容提要: 由于居家隔离全民上网 ,导致网速变慢?全球各大互联网运营商纷纷拿出 AI 和机器学习技术,来防止网络拥堵。 首发:微信公众号 HyperAI超神经 关键词 : 网络拥堵 预测算法 近半个多月以来,在全球新冠肺炎确诊人数不断飙升的压力之下,多国陆续采取居家隔离措施。 于是,观看视频、远程会议、课程、游戏等活动随之猛增, 家里的网速开始变慢、延迟, 网友都在推特上抱怨并艾特各大电信运营商,要求提高网速。 全球网络:用量陡增 5-10 倍 欧美号召民众居家隔离之后,没想到对网络带宽带来了巨大冲击。 英国:居家倡议第二天,四大运营商全军覆没 沃达丰报告显示, 部分 欧洲国家的移动数据使用量增加了 50%, 网络游戏流量翻了 10 倍,流媒体视频流量翻了 4 倍。 英国首相呼吁在家办公后的第二天,英国四大移动运营商沃达丰、EE、O2 和 Three 曝出全部遭遇网络瘫痪,不仅无法上网,打电话、发短信都有问题。 、 推特上的用户抱怨网速太慢,甚至无法发送 Emoji 表情,改用古董手机 运营商们也很着急,Ofcom 发布了几条建议,帮助用户们提高网速。 1.鼓励用户将路由器远离其他电子设备,譬如固话、监视器等,以免干扰到无线网信号; 2.尽量减少非必要连接,比如关掉闲置不用的平板电脑和电视机; 3.若要处理重要工作,最好将电子设备与路由器“直连”,不要通过Wifi; 4

腾讯云主机安全再获认可!“0误报”通过赛可达实验室权威认证

爷,独闯天下 提交于 2021-01-07 12:29:17
近日, 腾讯云主机安全Cloud Workload Protection(CWP)以高达99.25%的恶意文件检出 率和0误报的成绩, 成功通过了国际第三方权威机构赛可达实验室的权威认证,荣获“东方之星”称号 ,再次验证了腾讯云主机安全高性能、低占用的特点。 作为企业上云的“必需品”,主机安全服务在安全体系建设过程中扮演着尤为重要的角色。随着云计算、AI、物联网、5G等前沿技术不断推动企业数字化进程的加速,未知的安全威胁风险也与之而来,网络攻击手段越来越多,漏洞和攻击入口无处不在。传统安全边界随着新技术的落地逐渐消失,面对严峻的挑战,加大力度进行主机安全建设已成为企业的必修课题之一。 本次评测从Linux系统和Windows系统两种环境对腾讯云主机安全进行综合评估,全面测试了入侵检测、漏洞管理、基线管理、资产管理等典型能力。测试结果显示,腾讯云主机安全在主机恶意文件检测(WebShell、僵尸、木马、蠕虫、挖矿等多种类型)方面表现出优秀的综合检测能力,在一体化资产管理方面体现出Agent轻量化、高性能的优势。 具体而言,赛可达实验室经过测评后发现腾讯云主机安全在以下方面具备显著优势: 入侵检测 方面,当服务器遭到 SSH、RDP 等密码爆破时,能有效识别出爆破行为,并阻断攻击者IP,同时支持对高危命令、反弹 Shell、异常登录等行为进行告警。 漏洞管理 方面