深度学习

ICLR 2021 会议中投稿量和论文接收量最多的作者和机构都有哪些？这个 GitHub 项目做了一个统计。 机器之心报道，作者：魔王。 人工智能顶会 ICLR 2021 于 1 月 12 日放出了 今年的论文接收结果 。此次会议共收到 2997 篇有效投稿，最终接收 860 篇，其中 53 篇为 Oral 论文，114 篇 Spotlight 论文，其余为 Poster 论文。接收率为 29%，相比去年的 26.5% 有所提升。 近日，斯坦福大学在读博士 Sharon Zhou 整理了 ICLR 2021 的论文统计结果，包括作者、机构等信息。 项目地址： https:// github.com/sharonzhou/I CLR2021-Stats ICLR 2021 论文作者统计结果 该项目统计了 ICLR 2021 被接收论文数量最多的 top 20 作者，其中 UC 伯克利电气工程与计算机科学系（EECS）助理教授 Sergey Levine 以 16 篇接收论文数量名列第一，2018 年图灵奖得主、深度学习先驱 Yoshua Bengio 紧随其后，共有 10 篇论文被接收。 值得一提的是，Sergey Levine 在此前的 NeurIPS 2020 大会上也有 12 篇论文被收录，排名第一，NeurIPS 2019 的数据也是一样

来源: Venture Beat 作者: Pieter Buteneers 编译: 科技行者 短短几年之内，深度学习算法得到了长足发展，不仅在棋类游戏中击败了全球最顶尖的选手，也能够以等同于、甚至超越人类的准确率识别人脸。但事实证明，人类语言仍是一项独特且深邃的难题，亦是AI技术所面对的最为艰巨的挑战之一。 但是，突破能否如期而至? 一旦计算机可以有效理解人类语言内容，则必将彻底颠覆全球各品牌、企业与组织之间的交互方式。如今，大多数企业拿不出充裕的资源为每位客户提供一对一解答服务。但在语言AI真正成熟之后，企业将能够在任意时间通过任意渠道听取、理解并回应每一个问题。这是一项激动人心的发展愿景，但距离达成目标仍有漫长的道路要走。 直到2015年，人们才构建出一种足以在准确率方面与他类相匹敌的人脸识别算法。Facebook的DeepFace准确率为97.4%，仅略低于人类的97.5%。作为参考，FBI以往的人脸识别算法准确率仅为85%，意味着其做出的判断有超过七分之一概率是错的。 FBI算法是由一组工程师手工开发而成。其中每项特征(例如鼻子大小以及眼睛的相对位置)皆由手动编程而来。Facebook算法则真正实现了特征学习，其利用一种被称为卷积神经网络的特殊深度学习架构，模拟出人类视觉皮层通过复杂的多层结构处理图像内容。事实上，我们并不清楚这些皮层之间是如何联系的，因此一切“奥秘

花了一个周读了一下这篇论文，是最近接受在IJCAI上的一篇关于股票涨跌预测的模型，驳斥了传统方法基于静态输入的局限性，原因是由于股票的价格会在市场内随着时间不短变化，基于价格的特征实际上是随机变量。方法是采用对抗训练，在训练过程中加入随机噪声模拟股票在实际中收外界干扰的过程，模型是采用常规的深度学习模型LSTM+attention.达到的效果是比其他方法的准确率提高了3.11%。 Improving Stock Movement Prediction with Adversarial Training 　　 ABSTRACT: This paper contributes a new machine learning solution for stock movement prediction, which aims to predict whether the price of a stock will be up or down in the near future. The key novelty is that we propose to employ adversarial training to improve the generalization of a recurrent neural network model. The rationality of

Deep Learning for Event-Driven Stock Prediction Reading time:2019/3/30-2019/4/12 Theme:Deep learning; CNN; NLP A bstract : 　　 We propose a deep learning method for event driven stock market prediction. First, events are extracted from news text, and represented as dense vectors, trained using a novel neural tensor net work. Second, a deep convolutional neural network is used to model both short-term and long-term influences of events on stock price movements. Experimental results show that our model can achieve nearly 6% improvements on S&P 500 index prediction and individual stock prediction,

大家期待已久的 DevFest 2018 现场实录 终于出炉了！ 11 月 25 日，1125 位开发者之约，你在吗？ 什么？你错过了 DevFest 2018 ？ 不要担心，我们已经为大家推送本次大会的嘉宾演讲实录，不在现场也能干货满满！ 回顾前情： 谷歌资深工程师顾仁民：TensorFlow Extended 帮你快速落地项目 | DevFest 2018 实录 AI 选手别错过！谷歌云美女工程师 Shirley 教你用 AutoML 定制机器学习模型 | DevFest 2018 实录 时下最火的实时视频通信如何使用深度学习？听声网首席科学家钟声聊一聊 | DevFest 2018 实录 谷歌移动技术专家 Palances Liao 带你解析 PWA/AMP & 洞察Web趋势 | DevFest 2018 实录 谷歌机器学习专家江骏 详解 TensorFlow Hub & Tensor2Tensor | DevFest 2018 实录 Merculet 首席架构师吴翔彬 借助公链和联盟链构建融合基础设施 | DevFest 2018 实录 本文由谷歌机器学习专家、了得研究院 CEO 彭靖田为我们分享《TensorFlow Eager》。 1 关于演讲者 2 演讲实录 开场白 这里简单的做一个自我介绍，我叫彭靖田，我从 16 年的时候开始做 TensorFlow

导读：本期为 AI 简报 20201127 期，将为您带来 8 条相关新闻，希望对您有所帮助~ 一共2000+字，全篇看完需要5~7分钟 1. NanoDet：轻量级（1.8MB）、超快速（移动端97fps）目标检测项目 Github: https://github.com/RangiLyu/nanodet 近日，GitHub 上出现了一个项目 nanodet，它开源了一个 移动端 实时的 Anchor-free 检测模型，希望能够提供不亚于 YOLO 系列的性能，而且同样方便训练和移植。该项目上线仅两天，Star 量已经超过 200。 NanoDet 是一个速度超快和轻量级的移动端 Anchor-free 目标检测模型。该模型具备以下优势： 超轻量级：模型文件大小仅 1.8m； 速度超快：在移动 ARM CPU 上的速度达到 97fps（10.23ms）； 训练友好：GPU 内存成本比其他模型低得多。GTX1060 6G 上的 Batch-size 为 80 即可运行； 方便部署：提供了基于 ncnn 推理框架的 C++ 实现和 Android demo。 2. 不到1000行代码，GitHub 2000星，天才黑客开源深度学习框架tinygrad Github: https://github.com/geohot/tinygrad 视频地址： https://www

点击上方 “ 机器学习与生成对抗网络 ”，关注"星标" 获取有趣、好玩的前沿干货！ 盘点GAN在目标检测中的应用 机器之心报道 项目作者：RangiLyu 如何把 anchor-free 模型移植到移动端或嵌入式设备？这个项目对单阶段检测模型三大模块（Head、Neck、Backbone）进行轻量化，得到模型大小仅 1.8m、速度超快的轻量级模型 NanoDet-m 。 目标检测一直是计算机视觉领域的一大难题，其目标是找出图像中的所有感兴趣区域，并确定这些区域的位置和类别。目标检测中的深度学习方法已经发展了很多年，并出现了不同类型的检测方法。 目前，深度学习目标检测方法主要分为两大类，分别是两阶段式和单阶段式目标检测算法。两阶段式目标检测框架首先生成候选区域，然后将其分类成不同的目标类别，代表模型有 R-CNN、Fast R-CNN 等；单阶段式目标检测框架将目标检测任务视为一个统一的端到端回归问题，代表模型有 MultiBox、YOLO、SSD 等。这类框架通常结构更简单，检测速度也更快。 深度学习目标检测方法还可划分为 Anchor-base 和 Anchor-free 两大类，今年又出现了将 Transformer 用于目标检测 的尝试，各种方法百花齐放。但是，在移动端目标检测算法上，YOLO 系列和 SSD 等 Anchor-base 的模型一直占据主导地位。 近日

机器之心报道，项目作者：RangiLyu 目标检测一直是计算机视觉领域的一大难题，其目标是找出图像中的所有感兴趣区域，并确定这些区域的位置和类别。目标检测中的深度学习方法已经发展了很多年，并出现了不同类型的检测方法。 目前，深度学习目标检测方法主要分为两大类，分别是两阶段式和单阶段式目标检测算法。两阶段式目标检测框架首先生成候选区域，然后将其分类成不同的目标类别，代表模型有 R-CNN、Fast R-CNN 等；单阶段式目标检测框架将目标检测任务视为一个统一的端到端回归问题，代表模型有 MultiBox、YOLO、SSD 等。这类框架通常结构更简单，检测速度也更快。 深度学习目标检测方法还可划分为 Anchor-base 和 Anchor-free 两大类，今年又出现了将 Transformer 用于目标检测的尝试，各种方法百花齐放。但是，在移动端目标检测算法上，YOLO 系列和 SSD 等 Anchor-base 的模型一直占据主导地位。 近日，GitHub 上出现了一个项目 nanodet，它开源了一个移动端实时的 Anchor-free 检测模型，希望能够提供不亚于 YOLO 系列的性能，而且同样方便训练和移植。该项目上线仅两天，Star 量已经超过 1600+。 项目地址：https://github.com/RangiLyu/nanodet NanoDet 模型介绍

点击上方 “ 机器学习与生成对抗网络 ”，关注"星标" 获取有趣、好玩的前沿干货！ 推荐阅读： 弱水三千，只取你标！AL（主动学习）结合GAN如何？ 本文转载自知乎，为最近新出的论文 A Survey of Deep Active Learning 中文版介绍，原文作者调研了189 篇文献综述了深度主动学习的进展。文章较长，建议先收藏再阅读。 https://zhuanlan.zhihu.com/p/218011458 论文地址： https://arxiv.org/pdf/2009.00236.pdf A bstract 主动学习试图通过标记最少量的样本使得模型的性能收益最大化。而深度学习则对数据比较贪婪，需要大量的数据供给来优化海量的参数，从而使得模型学会如何提取高质量的特征。近年来，由于互联网技术的快速发展，使得我们处在一个信息洪流的时代，我们拥有海量的未标记数据。 借此，深度学习引起了研究人员的强烈兴趣，并且得到了快速的发展。和深度学习相比，研究人员对于主动学习的研究兴趣相对较低。这主要是由于在深度学习兴起之前，传统的机器学习所需要的标注样本相对较少。因此，早期的主动学习很难体现出应有的价值。尽管深度学习已经在各个领域取得了突破性进展，但是这绝大部分的成功都要归功于现有的大量标注数据集的公开。 然而，大量高质量的标注数据集的获取需要消耗大量的人力

有工程师用 M1 版 Mac Mini 训练小架构深度学习模型，结果好像还可以。 选自vanpelt，作者：Chris Van Pelt，机器之心编译，机器之心编辑部。 众所周知，大多数 Mac 产品都是生产力工具，你甚至可以用它们训练神经网络。去年 11 月推出的，搭载 M1 芯片的 Mac 更是将这种生产力水平提到了一个新的高度。 那么，如果拎出来和专业的比一下，M1 版的 Mac 在训练模型方面是个什么水平？为了解答这个疑问，最近有人将 M1 版的 Mac Mini 与 Nvidia V100 放到一起比了一下。 M1 版 Mac Mini 的售价最低是 5000 元左右。此前，国外知名硬件评测网站 anandtech 发布了对这款产品的 详细测试 ，结果显示，在 CPU 性能测试中，M1 版 Mac Mini 的单线程和多线程都很优秀。在 GPU 性能测试中，它在多个基准测试中超越了之前的 Mac 系列产品，在某些情况下还能超越独显产品。 Nvidia V100 则是专业的 AI 训练卡，单精度浮点性能达到 15 TFLOPS，双精度浮点 7.5 TFLOPS，显存带宽 900GB/s，售价高达五位数。当然，你可以选择在 Colab 上租用。 评测者是「Weights and Biases」公司的联合创始人 Chris Van Pelt。Weights and Biases