神经网络

一种新颖的深度学习加速器。专用单元定义了一个 SRAM ，该单元可以处理矩阵乘法，量化，存储以及推理处理器所需的其他工作。 在Spice仿真中，当使用8位整数数学识别手写数字时，该设计可提供100兆次操作/秒/瓦（TOPS / W）。它的计算密度可以击败Google的TPU一个数量级。 该设计是使用内存中计算方法的加速器产品线中最新的一种。设计使用40纳米NOR闪存单元的深度学习处理器，其目标是为监视摄像机等设备使用低功耗芯片。 设计时使用了很少的模拟电路，因此可以扩展到精细的工艺节点。它可能成为低功耗处理器中引擎（从边缘到云）的引擎。 独特的方式操纵SRAM单元以处理深度学习任务 这个设计使用户可以为从权重到神经网络层甚至单个神经元的所有内容创建自定义参数。这种灵活性可以使将来设计用于训练处理器的设计成为可能。但是尚无用于对该设计进行编程的软件堆栈，可能会在以后解决或留给将来的客户使用. 来源： oschina 链接： https://my.oschina.net/u/4381476/blog/4599785

上一篇提到文字数据集的合成，现在我们手头上已经得到了3755个汉字（一级字库）的印刷体图像数据集，我们可以利用它们进行接下来的3755个汉字的识别系统的搭建。用深度学习做文字识别，用的网络当然是CNN，那具体使用哪个经典网络？VGG?RESNET？还是其他？我想了下，越深的网络训练得到的模型应该会更好，但是想到训练的难度以及以后线上部署时预测的速度，我觉得首先建立一个比较浅的网络（基于LeNet的改进）做基本的文字识别，然后再根据项目需求，再尝试其他的网络结构。这次任务所使用的深度学习框架是强大的Tensorflow。 网络搭建 第一步当然是搭建网络和计算图 其实文字识别就是一个多分类任务，比如这个3755文字识别就是3755个类别的分类任务。我们定义的网络非常简单，基本就是LeNet的改进版，值得注意的是我们加入了batch normalization。另外我们的损失函数选择sparse_softmax_cross_entropy_with_logits，优化器选择了Adam，学习率设为0.1 #network: conv2d->max_pool2d->conv2d->max_pool2d->conv2d->max_pool2d->conv2d->conv2d->max_pool2d->fully_connected->fully_connected def build

Tensorflow模型量化4 --pb转tflite小结(uint8量化) 实验环境：tensorflow-gpu1.15+cuda10.0 模型的fp16量化和int8量化我之前有写，参考： 龟龟：Tensorflow模型量化实践2--量化自己训练的模型​zhuanlan.zhihu.com 这次发现uint8量化时有参数设置，所以准备是从头再梳理一遍 2.参与量化的模型： 训练tensorflow-object-detection API 得到的ssdlite_mobilenet _ v2模型，导出为frozen_inference_graph.pb 3.获取输入输出节点 进行frozen_inference_graph.pb模型解析，得到输入输出节点信息 代码入下： """ code by zzg """ import tensorflow as tf import os os.environ["CUDA_VISIBLE_DEVICES"] = "0" config = tf.ConfigProto() config.gpu_options.allow_growth = True with tf.Session() as sess: with open('frozen_inference_graph_resnet.pb','rb') as f: graph_def = tf

这一篇将会介绍什么是双向递归模型和如何使用双向递归模型实现根据上下文补全句子中的单词。 双向递归模型 到这里为止我们看到的例子都是按原有顺序把输入传给递归模型的，例如传递第一天股价会返回根据第一天股价预测的涨跌，再传递第二天股价会返回根据第一天股价和第二天股价预测的涨跌，以此类推，这样的模型也称单向递归模型。如果我们要根据句子的一部分预测下一个单词，可以像下图这样做，这时 天气 会根据 今天 计算, 很好 会根据 今天 和 天气 计算： 那么如果想要预测在句子中间的单词呢？例如给出 今天 和 很好 预测 天气 ，因为只能根据前面的单词预测，单向递归模型的效果会打折，这时候双向递归模型就派上用场了。双向递归模型 (BRNN, Bidirectional Recurrent Neural Network) 会先按原有顺序把输入传给递归模型，然后再按反向顺序把输入传给递归模型，然后合并正向输出和反向输出。如下图所示， hf 代表正向输出， hb 代表反向输出，把它们合并到一块就可以实现根据上下文预测中间的内容， 今天 会根据反向的 天气 和 很好 计算， 天气 会根据正向的 今天 和反向的 很好 计算， 很好 会根据正向的 今天 和 天气 计算。 在 pytorch 中使用双向递归模型非常简单，只要在创建的时候传入参数 bidirectional = True 即可： self.rnn

　　 NBA 的大结局可能是什么？是时候将一位油管博主的创作纳入其中了。 　　 在一个名为 “Stuff Made Here” 的频道，名叫 Shane Wighton 的国外老哥展示了这样一块神奇篮板—— 无论球砸到篮板的哪个位置，都能被反弹进入篮筐 。 看看这个演示效果： 　　 　　（来源：YouTube） 　　或许很多人会认为，和全球数以万计的因新冠疫情被困家中的工程师一样，Wighton 只不过是又做出了一个无聊的产物。 　　要打造一块百发百中的篮板绝非易事。 　　因为每次投篮的角度不一样，球撞击篮板的运动轨迹就会发生变化，加上重力的影响， 在 Shane Wighton 创造出来的篮筐之前，我们很难想象一个百发百中的篮板会是什么样。 　　那么，这位工程师又是如何实现的？ 　　 　　（来源：YouTube） 　　现在我们所看到的篮球框，本身就已经是经过工程学设计的产品，只有击中特定的区域才会进篮，因此成为篮球运动员的核心竞争力，如果要将其设计成能够百发百中， 意味着只要将球抛向并击中篮板，这个篮筐就可以将球“引导”到筐中。 　　 　　（来源： YouTube） 　　根据 Shane Wighton 在视频中的介绍，他首先考虑的就是要摒弃这种不能“引导”篮球的平板设计。因为平板的设计意味着篮球只有打在特定的位置才能进篮筐。 　　 　　图丨iPad 在 Shane

原文： Deep Learning with TensorFlow Second Edition 协议： CC BY-NC-SA 4.0 不要担心自己的形象，只关心如何实现目标。——《原则》，生活原则 2.3.c 在线阅读 ApacheCN 面试求职交流群 724187166 ApacheCN 学习资源 目录 TensorFlow 深度学习中文第二版 一、人工神经网络 二、TensorFlow v1.6 的新功能是什么？ 三、实现前馈神经网络 四、CNN 实战 五、使用 TensorFlow 实现自编码器 六、RNN 和梯度消失或爆炸问题 七、TensorFlow GPU 配置 八、TFLearn 九、使用协同过滤的电影推荐 十、OpenAI Gym 贡献指南 本项目需要校对，欢迎大家提交 Pull Request。 请您勇敢地去翻译和改进翻译。虽然我们追求卓越，但我们并不要求您做到十全十美，因此请不要担心因为翻译上犯错——在大部分情况下，我们的服务器已经记录所有的翻译，因此您不必担心会因为您的失误遭到无法挽回的破坏。（改编自维基百科） 联系方式 负责人 飞龙 : 562826179 其他 在我们的 apachecn/apachecn-tf-zh github 上提 issue. 发邮件到 Email: apachecn@163.com . 在我们的 组织学习交流群 中联系群主

2020 WAIC·开发者日将于 7月10日-11日 在线上举办，由机器之心与上海交通大学人工智能研究院联合承办，设有主论坛、分论坛、高峰对话、开发者日百度公开课、开源开放Demo Day、黑客马拉松等多个环节，详情日程请参考： 请收藏这份大会全日程 。 为了更好的帮助开发者学习人工智能，我们准备了 220 本人工智能领域专业书籍在大会直播中赠书，包括《统计学习方法》、《深度学习导论》、《大数据智能：数据驱动的自然语言处理技术》等 16 种书籍，来具体看看获取赠书的正确姿势。 如何获得赠书？ 2020 WAIC·开发者日所有环节将在大会官方平台直播。其中， 主论坛 与 1v1高峰对话 将在机器之心抖音官方账号上同步直播，我们将在 抖音直播间 的弹幕中抽取 220 位幸运小伙伴，送出书籍。详细参与方法如下： 1、添加机器之心小助手（syncedai6），备注“开发者日”，加入交流群，抽奖时间安排将在群中公布。 2、关注机器之心官方抖音账号：AI1956。 3、观看1v1高峰对话与主论坛，在弹幕上打出想要的「书名」即可参与抽奖。 1v1高峰对话直播时间：7月10日20:00-21:00 主论坛直播时间：7月11日 13:00-18:15 4、所有书籍将在大会结束后的 20 个工作日内寄出。 你将获得哪些书籍？ 大数据智能：数据驱动的自然语言处理技术 刘知远

在我们使用tensorflow时，如果不能使用函数式api进行编程，那么一些复杂的神经网络结构就不会实现出来，只能使用简单的单向模型进行一层一层地堆叠。如果稍微复杂一点，遇到了Resnet这种带有残差模块的神经网络，那么用简单的神经网络堆叠的方式则不可能把这种网络堆叠出来。下面我们来使用函数式API来编写一个简单的全连接神经网络： 首先导包： from tensorflow import keras import tensorflow as tf import pandas as pd import numpy as np import matplotlib.pyplot as plt 导入图片数据集：mnist (train_image,train_label),(test_image,test_label)=tf.keras.datasets.fashion_mnist.load_data() 归一化： train_image=train_image/255 test_image =test_image/255 # 进行数据的归一化，加快计算的进程 搭建全连接神经网络： input=keras.Input(shape=(28,28 )) x =keras.layers.Flatten()(input) # 调用input x=keras.layers.Dense(32

百度飞浆架构师手把手带你零基础实践深度学习——打卡计划 预习 机器学习和深度学习综述 机器学习 机器学习的实现 深度学习 区别 神经网络 使用Python语言和Numpy库来构建神经网络模型 波士顿房价预测任务 数据处理 模型设计 训练配置 训练过程 **训练过程代码修改** 下面给出课程链接，欢迎各位小伙来来报考！本帖将持续更新。 话不多说，这么良心的课程赶快扫码上车！ https://aistudio.baidu.com/aistudio/education/group/info/1297?activityId=5&directly=1&shared=1 预习 预习作业嘛，很简单，本地装下环境，然后python基础语法熟悉下，比如打印一下乘法口诀？ for i in range ( 10 ) : for j in range ( 1 , i + 1 ) : print ( '{}*{}={:-2}' . format ( j , i , j * i ) , end = ' ' ) if i == j : print ( ) 大家不用担心，这次的课程难度将会由浅入深慢慢深入，相比上一次的课程，这一次讲更加合理，难度将更加适合新手！坚持下去哦 除了python语法的熟悉，建议熟悉下ai studio平台的环境哦，然后有时间可以阅读下官方文档，下面给出链接 https://www

文章目录 一、概述 二、Yolo系列全家桶 YOLOv1 开山鼻祖之作 YOLOv2 YOLOv3 YOLOv4 目标检测tricks集大成者 YOLOv5 Fast YOLO Complex-YOLO MV-YOLO YOLO3D YOLO-6D YOLO-LITE Spiking-YOLO DC-SPP-YOLO SpeechYOLO Complexer-YOLO SlimYOLOv3 REQ-YOLO YOLO Nano xYOLO IFQ-Tinier-YOLO DG-YOLO Poly-YOLO E-YOLO PP-YOLO 一、概述 我对yolo系列好感较高，虽不及其他系列的精度，速度，但是他现在已经精度与速度之中做了trade off ，侧端也友好。本文引自我爱计算机视觉，后续我将对这些算法消融对比，关注公众号（原文底部）敬请期待。 YOLO目标检测算法诞生于2015年6月，从出生的那一天起就是“高精度、高效率、高实用性”目标检测算法的代名词。 在原作者Joseph Redmon博士手中YOLO经历了三代到YOLOv3，今年初Joseph Redmon宣告退出计算机视觉研究界后，YOLOv4、YOLOv5相继而出，且不论谁是正统，这YOLO算法家族在创始人拂袖而出后依然热闹非凡。 本文带领大家细数在此名门之中自带“YOLO”的算法，总计 23 项工作