深度学习

选自Medium 作者：Mahitha Singirikonda 机器之心编译 编辑：小舟 原文链接： https://mp.weixin.qq.com/s/RP9iFbyw-aNMKx-UAOe-aA ​ mp.weixin.qq.com 正如巴菲特所言：「近似的正确好过精确的错误。」 在机器学习中，过拟合（overfitting）会使模型的预测性能变差，通常发生在模型过于复杂的情况下，如参数过多等。本文对过拟合及其解决方法进行了归纳阐述。 在机器学习中，如果模型过于专注于特定的训练数据而错过了要点，那么该模型就被认为是过拟合。该模型提供的答案和正确答案相距甚远，即准确率降低。这类模型将无关数据中的噪声视为信号，对准确率造成负面影响。即使模型经过很好地训练使损失很小，也无济于事，它在新数据上的性能仍然很差。欠拟合是指模型未捕获数据的逻辑。因此，欠拟合模型具备较低的准确率和较高的损失。 如何确定模型是否过拟合？ 构建模型时，数据会被分为 3 类：训练集、验证集和测试集。训练数据用来训练模型；验证集用于在每一步测试构建的模型；测试集用于最后评估模型。通常数据以 80:10:10 或 70:20:10 的比率分配。 在构建模型的过程中，在每个 epoch 中使用验证数据测试当前已构建的模型，得到模型的损失和准确率，以及每个 epoch 的验证损失和验证准确率。模型构建完成后

来源： 脑极体 2020年已经过去，无论我们过得顺遂平安，还是过得无比艰难，我们应该都会记住这一年。 回顾2020年，在这个不同寻常的疫情之年，科技成为人类抗击疫情的关键，而人工智能技术投入抗疫战争之中，可以说是人类有史以来的第一次。而与此同时，AI技术已经在我们的生产生活、公共管理等方方面面得到深入应用。 人工智能应用场景的爆发，其背后是全球AI科技企业从后端走向前台，从实验室走向产业纵深的努力和实践。 最近，百度和谷歌不约而同都发发布了长文，来总结2020的AI发展。 谷歌首席AI科学家Jeff Dean在谷歌博客上刊出了Google Research: Looking Back at 2020, and Forward to 2021的万字长文，详细介绍了谷歌在2020年AI技术在多个领域取得的应用进展。 而更早一点时间，百度先后发布了长达万字的《百度AI的2020》和《百度研究院2021年十大科技趋势预测》，同样细数了百度过去一年里在AI技术业务体系和产业赋能体系中的各项成果，同时也对2021年的AI技术和应用领域做出清晰判断。 如果仔细对比谷歌和百度在AI技术和产业应用的实践，我们就会惊讶地发现，两家几乎同时以搜索引擎业务起家的公司已经将AI技术应用到自身产品体系的方方面面。 我们同时也看到，谷歌和百度正在构建一幅千行百业智能化的全球AI图景，不过两家巨头的不同之处在于

2017 年，机器之心发布了《机器之心人工智能技术趋势报告》，系统介绍了人工智能领域（AI） 下不同的技术分支，并以定性分析的方法讨论了各分支技术当时所处的发展阶段、瓶颈以及未来发展方向，帮助AI产业从业者提供技术趋势参考，帮助AI技术应用方、初学者理解飞速发展中的 AI 领域内各项技术的概况和层出不穷的新鲜技术内涵。 在2017版报告发布至今的三年里，越来越多的 AI 技术实现了商业落地，但也有不少深度学习方法开始触碰到技术自身的天花板，亟需突破。在三年后的今天，机器之心在这个可能是 AI 技术发展的关键拐点发布《2020-2021 全球AI技术发展趋势报告》。 相比 2017 年版报告，2020-2021版报告在过往的定性分析方法之外增加了数据层面的挖掘、分析和探索，更加侧重对具体技术趋势的挖掘以及量化分析指标的形成。基于开源的论文与专利语料，结合机器之心自有的相关数据库，综合文献报告审阅与问卷访谈等形式，本报告分别从「顶会趋势（NeurIPS） 分析」、「专家问卷分析」以及「专业分析」三个不同角度呈现分析结果，辅助读者了解近年来 AI 领域的热门趋势技术。 你将从报告中获得什么？ 人工智能技术发展七大趋势领域概览 一、（人类）自然语言技术 大规模预训练语言模型成为主流 语音识别技术应用普及度最高 问答系统、聊天机器人相关应用放缓 情感分析、文本分类增速不减 跨领域融合越来越多

Nature Communications 01. Gainers and losers of surface and terrestrial water resources in China during 1989-2016 ( 2020 ) 02. Extremes of summer climate trigger thousands of thermokarst landslides in a High Arctic environment ( 2019 ) ENVIRONMENTAL MODELLING & SOFTWARE 01. AgKit4EE: A toolkit for agricultural land use modeling of the conterminous United States based on Google Earth Engine ( 2020 ) 02. Open-source Google Earth Engine 30-m evapotranspiration rates retrieval: The SEBALIGEE system ( 2020 ) 03. A Google Earth Engine-enabled software for efficiently generating high-quality user

点击蓝字“ dotNET匠人 ”关注我哟 加个“ 星标 ★ ”，每日 7:15，好文必达！ 作者 | 赵钰莹 编辑 | 陈思 AI 前线导读： 2019 年 12 月 3 日，谷歌官网发布了一封来自创始人拉里·佩奇和谢尔盖·布林的公开信。信中表明：46 岁的创始人拉里·佩奇和谢尔盖·布林于 12 月 3 日双双卸任谷歌母公司 Alphabet 的 CEO 和总裁职务，正式向 47 岁的桑达尔·皮猜（Sundar Pichai）交接大权，他将正式成为 Alphabet 的首席执行官，佩奇和布林则以大股东身份继续留在公司董事会。 谷歌和 Alphabet 将只有一位 CEO 在公开信中，佩奇和布林表示他们从不是贪恋权位之人，现在公司有更好的管理方式，Google 和 Alphabet 不需要两位 CEO，皮猜是最佳人选。 这次调整也并非毫无征兆，拉里·佩奇和谢尔盖·布林已经很少在公开场合露面，皮猜则在谷歌一直处于很重要的位置。Alphabet 最大的子公司是 Google，主要负责原有的核心互联网业务。其他子公司包括 DeepMind、GV、CapitalG、Google X 和 Google Fiber 等，分别负责投资、无人车、宽带网络、无人机等前沿实验项目。其中，核心业务组成 Google，由皮猜担任 CEO。母公司 Alphabet 则由佩奇担任 CEO，布林担任总裁。如今

由于近些年深度学习技术的飞速发展，大力加速推动了AI在互联网以及传统各个行业的商业化落地，其中， 推荐系统 、计算广告等领域彰显的尤为明显。由于推荐系统与提升用户量以及商业化变现有着密不可分的联系，各大公司都放出了众多推荐系统相关职位，且薪水不菲，目前发展势头很猛。 但是，这里存在几个问题，很多欲从事推荐系统的同学大多数学习的方式是自学，1、往往是学了很多的推荐算法模型，了解些推荐里常用的算法，如：协同过滤、FM、deepFM等， 但是却不清楚这些模型在工业界推荐系统中是如何串联、如何配合、有哪些坑，哪些trick的，导致无论面试还是真正去业界做推荐系统，都会被推荐领域的”老枪老炮“们一眼识别出小白属性 。2、对于算法原理理解不深刻，这就会导致实际应用时不能很好地将模型的性能发挥出来，另外面试时对于大厂面试官的刨根问底，只能是眼睁睁的丢掉offer。 CF、FM、DSSM、DeepFM等这些推荐业界明星模型，你真的清楚他们的内部运行原理以及使用场景吗？真的了解FM模型与SVM有什么相似之处吗？FM固然可以用作为打分模型，但它可以用来做matching吗，如果可以，如何做？item2Vec模型在业界是如何缓解冷启动的问题的？双塔模型优势在哪？深度模型到底是如何做matching的，是离线计算好结果还是实时的对网络进行前向计算？DeepFM具体实现时

红色石头的个人网站： 红色石头的个人博客-机器学习、深度学习之路 ​ www.redstonewill.com 转自 | 中国农业大学论坛，论文项目硕博招聘 之前有消息称， 中科大 为吸引优质的博士生源放出大招，来读基础数学的博士生， 每人每年保底收入10万元人民币（助研费+助教费+奖学金）。 掐指一算，除去1万的学费奖学金， 月收入在7500左右 ，这待遇，在新一线城市合肥也算是可观的！ 二三线以后的城市，工作十年到手年薪过10万有多少呢？ 博士硕士补贴直接与全国200万研究生生活质量息息相关。早些年，国家没有重视硕博生补贴，导师开薪水又全凭心情，所以底层"科研民工"入不敷出，几经发酵引起官方重视，最后增加了补助措施虽然这覆盖率只到了博士。 2010年，博士生工资从800涨到1300，从贫困走向温饱。 2017年，国家明确提出要提高博士生待遇，然而落实到实处，每月250元的涨幅让万千博士呵呵一笑。 根据部分高校和科研单位数十位研究生的反馈数据，了解不同学校读博士的待遇。 清华大学 理工科博士 某理工院系，扣除学费，算助教，直博研一净工资6600一个月（周围人差不多都这个价）。 据说有收入有个底线，每年五万元。 北京大学 计算机博士 最后两年通过校奖能拿到4000/月，据说以前有校奖的话，实验室就不发钱了，但是从我那时候开始就禁止这种行为了，所以我毕业的时候（2017年夏天

向AI转型的程序员都关注了这个号 👇👇👇 机器学习AI算法工程 公众号：datayx 前言： 配置：windows10 + Tensorflow1.6.0 + Python3.6.4（笔记本无GPU） 源码： https://github.com/tensorflow/models/tree/master/research/deeplab 权重下载地址： https://github.com/tensorflow/models/blob/master/research/deeplab/g3doc/model_zoo.md 1. 运行model_test.py 测试安装环境，如果正常，提示： Ran 5 tests in 10.758s 2. 运行build_voc2012_data.py 生成 .tfrecord数据 在VOC2012数据集中，文件夹JPEGImages存放着原始的[n*m*3] .jpg格式图片，文件夹SegmentationClass中存放Label数据，为[n*m*3]的 .png图片，首先应将这些label数据转换为[n*m*1]的单通道图片。 具体转换方法见： https://blog.csdn.net/weixin_41713230/article/details/81076292 运行成功后，会提示如下信息： 3. 运行train.py训练模型

1. 二分分类 2. 符号约定（标记方法） 3. Logistic回归（对数几率回归） 4. Logistic回归的损失函数和成本函数 5. 梯度下降法 6. 导数的直观理解（基础数学知识） 来源： oschina 链接： https://my.oschina.net/u/4386395/blog/4918138

1. 计算图 2. 导数的计算（反向传播、链式法则） 3. Logistic回归回顾 4. Logistic回归的导数求解 5. m个样本时的Logistic回归 来源： oschina 链接： https://my.oschina.net/u/4306257/blog/4918139