深度学习

「自然语言处理(NLP)」一文带你了解激活函数

你说的曾经没有我的故事 提交于 2020-11-23 05:40:58
喜欢我们,点击上方 AINLPer ,关注一下,极品干货即刻送达! 引言 在深度学习网络中,我们经常可以看到对于某一个隐藏层节点的激活值计算一般分为两步,如下图: 第一步,输入该节点的值为 , 时,在进入这个隐藏节点后,会先进行一个线性变换,计算出值 ,上标 1 表示第 1 层隐藏层。 第二步,再进行一个非线性变换,也就是经过非线性激活函数,计算出该节点的输出值(激活值) ,其中 g(z)为非线性函数。 那么问题来了,这个激活函数到底有什么用呢,可不可以不加激活函数呢? 本文概要 1 什么是激活函数? 2 如果没有激活函数会怎样? 3 常见的激活函数 4 参考文献 正文开始 1 什么是激活函数? 激活函数是神经网络中极其重要的概念。 它们决定了某个神经元是否被激活,这个神经元接受到的信息是否是有用的,是否该留下或者是该抛弃。 激活函数的形式如下: 激活函数是我们对输入做的一种非线性的转换。 转换的结果输出,并当作下一个隐藏层的输入。 2 如果没有激活函数会怎样? 1、首先对于y=ax+b 这样的函数,当x的输入很大时,y的输出也是无限大/小的,经过多层网络叠加后,值更加膨胀的没边了,这显然不符合我们的预期,很多情况下我们希望的输出是一个概率。 2、线性变换太简单(只是加权偏移),限制了对复杂任务的处理能力。 没有激活函数的神经网络就是一个线性回归模型。

语义分析的waf 目前就看到长亭 机器学习的waf有fortnet 阿里云的waf也算

这一生的挚爱 提交于 2020-11-23 05:17:16
近期,在全球权威咨询机构 Gartner 发布的 2019 Web 应用防火墙魔力象限中,阿里云 Web 应用防火墙成功入围,是亚太地区唯一一家进入该魔力象限的厂商! Web 应用防火墙,简称 WAF、在保护 Web 应用程序的安全性上面已有多年的发展历史。近年来,随着云服务的普及、大数据计算能力的发展,云 WAF 因具有易部署、易操作、功能更丰富等优势受到了越来越多的企业认可。Gartner 在报告中也指出,相较于传统的 WAF 设备而言,更多的企业开始考虑使用云 WAF 来做安全防护。 阿里云 WAF 是一款基于云原生安全能力诞生的 SaaS 化软件服务,可以实现分钟级接入,同时集成了 DDoS 防护、防爬对抗、API 安全、风险威胁情报检测等功能,可以针对用户 Web 和 APP 业务提供更纵深、更精细化的安全管控,同时完美应对企业业务发展快、业务属性多变等带来的安全挑战,保障业务核心数据安全。 阿里云 WAF 架构 在 Gartner 本次评测中,阿里云 WAF 的主动防御模式及异常行为检测能力得到高度认可,其中所用到的智能算法能力被评为强势功能。阿里云 WAF 的主动防御能力能够基于对用户正常业务流量的不断迭代学习,建立”千人千面”的自动化防御策略;通过将多种深度学习算法应用在异常请求分析、用于识别非法流量检测实时拦截。 从语义分析到透明代理

计算机视觉算法岗面经,2019秋招资料

旧城冷巷雨未停 提交于 2020-11-22 20:02:48
向AI转型的程序员都关注了这个号 👇👇👇 人工智能大数据与深度学习 公众号:datayx 下面试基本会问的内容,目前个人所碰到的,占比可能有所不同,有些面试官喜欢问项目,有些喜欢问基础。 介绍项目、实习,一般会问很久,在你介绍中会问各种开放性问题;通常我的面试中这个占很大篇幅,60%-90%; 问算法相关,包括ML\DL\图像处理等的基础知识,占40%-60%,其中大概ML40%,DL10%,图像处理10%; 问数学基础,大部分是概率论,占5%; 问语言,C++,STL容器之类的,占10%;python也会问一点; 编程题,一般2、3题; Linux命令,一般问几个,不经常问到; 1、HR面 自我介绍 你和竞争者相比的优势是什么 实习收获了什么 从实习导师身上学到了什么 导师给你的意见是什么 从面试官身上学到了什么 .秋招意向的企业有哪些 你为什么想来我们公司? 你来了之后的三年怎么打算的? 讲一讲实习公司的产品架构,比如一个新的需求产生到落地的流程是怎样? 优缺点 介绍项目,难点,从中学到什么,重新做如何改进 期望薪资 自己主动学习过哪些知识,通过什么方式学的 后面打算学习什么知识,为什么 英语怎么样 兴趣 竞赛、考研保研 团队合作遇到的分歧 有没有投过其他公司,有拿到offer吗? 项目中怎么分工的,有遇到过水平低的吗,是怎么沟通的 对你帮助很大的一个人 学习的路径,怎么学习

2020 届计算机视觉算法工程师秋招进程

怎甘沉沦 提交于 2020-11-22 19:29:21
前言 经历过 春季实习生招聘 的洗礼,我已经意识到了秋招的严峻性,所以一边实习一边一直关注着秋招。虽然 6 月下旬已经投出了秋招的第一份简历,然后,事实却是,落花有意,流水无情。在提前批阶段,要么是简历都没通过,要么是笔试没过,要么是万幸过了笔试面试又遭打击,唯一的一家拼多多,远程面试整个流程持续了一个多月才算是得知通过。 八月底结束实习回到学校,花了一周时间集中复习,大概过了一遍《剑指 Offer》、概率论、线性代数、深度学习以及简历上相关的内容,然后就是为期半个多月的笔试面试。所幸多家企业到学校现场笔试的难度不高,得以面试了几家公司,斩获了几个 offer,而远程面试则是几无收获。 回顾整个秋招,一方面,作为自动化转到计算机的半吊子,在算法岗竞争这么激烈的情况下还能拿到几个不错的 offer,真是感到有太多不易但又有几分幸运。另一方面,丰富的面试经历也让我充分意识到了自己的不足,接下来,我还需要在代码能力和基础知识方面苦下功夫,及早未雨绸缪着眼未来。 概况 筛选未通过:作业帮、蘑菇街、图森未来、平安科技、图普科技、寒武纪、之江实验室 笔试未参加:滴滴、VIVO、小马智行、美图、大华、ZOOM、农行、招银网络科技、同花顺、虹软、欢聚时代、58 同城、格灵深瞳 笔试未通过:网易雷火、网易云音乐、贝壳、依图、京东、腾讯、360、美团、新浪、阿里、快手、度小满、第四范式、爱奇艺、携程

[AutoCars(一)]自动驾驶汽车概述(中)

和自甴很熟 提交于 2020-11-22 17:30:20
本文将介绍自动驾驶汽车感知系统中的重要方法,包括定位器(或定位)、离线障碍物地图测绘、道路地图测绘、移动障碍物跟踪、交通信号检测与识别。 1.定位 定位模块负责估计自动驾驶汽车相对于地图或道路的姿态(位置和方向)。大多数通用的定位子系统都基于GPS。但是,总的来说这些系统不能用于城市中的自动驾驶汽车,因为在有遮挡的区域不能确保有 GPS 信号,比如树下、城市峡谷(大型建筑之间的区域)、隧道。 文献中已经提出了多种不依赖 GPS 的定位方法。它们主要可分为三类: 基于 LIDAR 的方法、基于摄像头的方法、基于 LIDAR 与摄像头的方法 。基于 LIDAR 的定位方法仅依靠 LIDAR 传感器,这种方法测量准确且易于处理,但成本较高;基于摄像头的定位方法很便宜廉价,但通常没那么精确可靠;在典型的基于 LIDAR 与摄像头的定位方法中,LIDAR 数据仅被用于构建地图,估计自动驾驶汽车相对于地图的位置则会使用相机数据,这能够降低成本。 1) 基于 LIDAR 的定位 光学雷达(Light Detection and Ranging,LiDAR)是一种光学遥感技术。首先它通过向目标物体发射一束激光,然后根据 接收-反射 的时间间隔确定目标物体的实际距离;再根据距离及激光发射的角度,通过几何变化推导出物体的位置信息。 LiDAR系统一般分成激光发射器,扫描与光学部件和感光部件。其中

这是一条通往 AI 的路......

对着背影说爱祢 提交于 2020-11-22 10:08:42
图:stoica-ionela-530970-unsplash AI 趋势已是必然。如果想与世界同步,跟进 AI 或许是明智之举。这不是说一定要从事 AI 直接相关的工作,但是起码得具备这方面的思维和知识,因为 AI 很快或已经渗透到各行各业。一些用传统方法解决的问题,用机器学习算法会不会解决地更好呢?这或许是我们在以后的工作或学习中首先要问自己的。 这是好事,毕竟解决问题的方法更多了。如何才能找到步入这扇门的钥匙呢?我想很多人都有自己心中的答案,或者也有一些现在找不到答案。最近,和几个朋友交流过这个问题,与大家一起分享下。 大致来说,要想步入这一行,假定未接触过任何算法,需要先了解一些基础算法,最最基础的。通过这一环节,你便能知道算法到底是怎么一回事。很多从事软件开发的,习惯了调用API,用 intuition 去实现业务逻辑,毕竟都究竟敏捷开发吗,但长此以往,形成了一种靠直觉写代码的习惯,如果再不爱总结,最终你会发现自己完全变成了一个 tool,而没有自己的 idea. 最后,你发现,没有 special 、没有别人无法复制你的东西。这也就是,很多做纯开发多年的人,想转行做产品经理偏管理,或者算法工程师偏算法的原因。如果你想转到算法这块,并且之前对算法没有专门的研究,你需要首先开始去学习基础算法比如从做基础的算法题开始。这样做,不是题海战术,而是培养真正的算法思维

响铃:偏安一隅的SaaS客服机会在哪,难点又在哪?

左心房为你撑大大i 提交于 2020-11-22 01:24:11
就在移动浪潮铺天盖地席卷了C端市场后,企业级软件市场也从传统PC时代装机卖软件模式过渡到SaaS模式,最近几年,中国SaaS市场以30%的年复合增长率保持着高速增长,企业级SaaS服务的风口正在积聚力量,快速渗透企业办公服务所涉及的市场、销售、客服、沟通、财务、采购、HR等各个层面,作为其中垂直细分市场,SaaS客服也已全面打开,但当巨头涌入行业竞争加剧进入短刀相拼时期,决胜力量又是什么? 在需求中进化,SaaS客服列队成三大阵营 我国SaaS智能客服市场的发展除了人力成本的上升、移动互联网技术的普及和移动社交场景的涌现以及自然语言处理与机器学习技术的进步外,更多的是由特殊的时期和国内环境共同影响带来的机会。 风向正好,SaaS客服迎来崭露头角的机会 首先, 企业客服市场潜力被释放。 客服一直是企业工作中不可或缺的组成部分,易观预测到2017年,中国SaaS客服市场交易规模将增长至680亿元人民币,这一方面是因为企业基数大,根据工商总局统计的数据显示,截止2015年底,国内注册有25万家大型企业、中型企业350万家、小型企业150万家以及微型企业1500万家,他们对客服的需求旺盛而迫切。另一方面是因为客服工作变得越来越重要。一份来自Zendesk的统计报告显示:78%的受访者将客户服务列为影响供应商信誉的第一要素;62%的B2B和42

90 后美女独家秘籍:从小白到 AI 算法工程师

亡梦爱人 提交于 2020-11-21 13:35:43
这是一篇关于如何成为一名AI算法工程师的长文~ 经常有朋友私信问,如何学python呀,如何敲代码呀,如何进入AI行业呀? 正好回头看看自己这一年走过的路,进行一次经验总结。 来看看你距离成为一名AI工程师还有多远吧~ ⭐具体内容: 🔺 我是因为什么开始接触敲代码 🔺 人工智能/机器学习/深度学习 🔺 自学如何寻找学习资料 🔺 如何选择编程语言/框架 🔺 校招/社招/实习/面试经验 🔺 一碗鸡汤 ⭐声明: 🔼 本篇内容均属于个人观点,建议采纳对自己有用的经验,如有疏漏,欢迎指正,共同进步! 🔼 2017年5月开始第一份实习 / 2017年7月开始学敲代码 / 2017年11月硕士毕业 🔼 擅长的编程语言:R / Python 🔼 不花钱报班,全靠自学,最初是因为穷,后来发现“开源”的世界真是太美好了! ⚡我是因为什么开始接触敲代码? 我的第一个模型是什么 由于本科是数学,研究生是量化分析,第一份实习是一家金融科技公司,开始接触所谓的“Fintech”😝 第一个任务就是做客户的信用评分卡模型,目的给每个用户打一个信用分数,类似支付宝的芝麻信用分。这是银行标配的一个模型,最常见最传统的算法用的就是 逻辑回归 。 在课堂上使用的工具是SAS,SPSS,属于有操作界面的,菜单非常齐全,只需要鼠标点一点就能建模,很好上手。但是SAS这些要付钱的,年费还是相当的贵

再思 | CenterNet:Object as points

时光总嘲笑我的痴心妄想 提交于 2020-11-21 12:17:20
I视线 关注上方 公号,获取更多干货! 近两年井喷了很多anchor free的目标检测方法,性能也让one-stage和two-stage的距离又缩小了一点,尤其是Centernet,在我心中是真正的anchor free + nms free方法,较YOLO3都涨了4个点。作者也在工程中对Centernet进行了实用和改进,效果确实提升客观。本文对该方法做个浅析。 不太重要的摘要 目标检测驱动了很多基于视觉的任务,如实例分割,姿态估计,跟踪,动作识别,且应用在下游业务中,如监控、自动驾驶、视觉问答。当前检测器都以bbox轴对称框的形式紧紧贴合着目标。对于每个目标框,分类器来确定每个框中是否是特定类别目标还是背景。 One stage detectors 在图像上滑动复杂排列的可能bbox(即锚点),然后直接对框进行分类,而不会指定框中内容。 Two-stage detectors 对每个潜在框重新计算图像特征,然后将那些特征进行分类。 后处理,即 NMS(非极大值抑制) ,通过计算Bbox间的IOU来删除同个目标的重复检测框。 Centernet这篇文章题目言简意赅,不同于CornerNet预测一对角点得到bbox,以及基于CornerNet改进的CenterNet预测三个点得到bbox,本文提出的CenterNet同样作为一种anchor-free的目标检测方法,化繁去简,

招聘|青岛旭升招聘高级软件工程师、3D视觉算法工程师

冷暖自知 提交于 2020-11-21 12:05:55
点击上方“ 3D视觉工坊 ”,选择“星标” 干货第一时间送达 公司介绍: 青岛旭升视觉有限公司是一家专注于机器人 3D视觉引导与工业3D测量领域 的高新技术企业,独立发展且拥有自主知识保护的先进三维物体感测技术,是国内机器人 3D视觉技术最早投入实际生产的公司之一。 职位信息: 部门: 研发技术部 岗位名称: 高级软件工程师 薪水: 面议 工作地点: 山东 青岛 工作职责: 负责搭建 3D视觉软件平台,按照相应的视觉需求文档进行软件产品的研发,产品的编码和测试工作,开发过程中相关设计文档的编写,协助其他3D产品的研发。 职位要求: 1.计算机/软件/通讯/自控等相关专业,本科及以上学历;(可接受应届毕业生和实习生) 2.熟练掌握C#语言,熟悉WPF/Winform等MS框架,熟练掌握多线程等编程技术,熟练掌握VS等编程工具; 3.有计算机图形学基础,能独立完成三维显示及UI交互功能; 4.熟悉常见网口/串口等通讯方式,熟悉Modbus,OPC等工业常用通讯协议者优先;接触和熟悉机器视觉者优先。 5.较好的学习能力,能快速学习掌握工控软件编程的相关技术; 6.较好的问题处理能力及抗压能力,遇到问题能自主寻求办法解决。 岗位名称: 3D视觉算法工程师 薪水: 面议 工作地点: 山东 青岛 工作职责: 参与公司 3D视觉算法的调研、研发、优化,将3D识别、定位、引导