神经网络

大一暑期CS231n网课笔记(1)

99封情书 提交于 2020-10-23 18:46:07
一周前我就已经在看CS231n的网课了,但是当时并没有很好的总结知识点,所以内容不免遗忘许多,开始review啦,一边复习前面的知识点,一边学习后面的知识点。人类的视觉系统是很强大的,尽管这些年在计算机视觉领域我们取得了巨大的进步,但是我们仍有很长的路需要走。 在课程的最开始,我们了解计算机视觉及其发展历史和关于本课程的描述,接下来我们需要深入了解这些算法,学习这些算法在实践中到底是如何工作的。 本课程的第一个重点是 图像分类 问题。 在图像分类中,让你的算法接收一张图作为输入,从固定的类别集合中选出该图像所属的类别,从而对图像分类。 当你在做图像分类的时候,系统接收一些输入图像,比如说可爱的猫咪,并且系统已经清楚一些确定了分类或标签的集合,这些标签可能是一只狗狗或者一只猫咪,也有可能是一辆卡车,亦或是一架飞机,还有一些固定的类别标签集合,那计算机的工作就是看图片并且给它分配其中一些固定的分类标签。 仔细思考,计算机看一张图片时看到的是什么,它肯定没有一只猫咪的整体概念,和我们所看的图片当然是不同的,计算机呈现图片的方式其实就是一大堆数字。所以图像可能就是一些像800乘以600的像素,每一个像素由三个数字表示,给出像素红、绿、蓝三个值,所以,对于计算机来说,这是一个巨大的数字阵列,这很难从中提取猫咪的特性,我们把这个问题定义为语义鸿沟

机器学习 --- 感知机

随声附和 提交于 2020-10-23 13:18:07
简介 神经网络中最基本的成分是神经元模型,感知机(Perceptron)是由两层神经元组成的双层神经网络模型, 其输入层接受外界输入信号传递给输出层, 输出层是 M-P 神经元(阈值逻辑单元)。感知机也属于二分类的线性分类模型, 其输入为实例的特征向量, 输出为实例的类别, 取 +1 和 –1 二值。 本实训项目基于西瓜好坏识别的简单案例介绍感知机的基本原理和思路,然后基于sklearn框架提供的感知机模型完成癌细胞精准识别的实战案例。 第一关 #encoding=utf8 import numpy as np #构建感知机算法 class Perceptron ( object ) : def __init__ ( self , learning_rate = 0.01 , max_iter = 200 ) : self . lr = learning_rate self . max_iter = max_iter def fit ( self , data , label ) : ''' input:data(ndarray):训练数据特征 label(ndarray):训练数据标签 output:w(ndarray):训练好的权重 b(ndarry):训练好的偏置 ''' #编写感知机训练方法,w为权重,b为偏置 self . w = np . array ( [ 1 . ]

Amazon SageMaker实战教程(三):DGL图神经网络详解

狂风中的少年 提交于 2020-10-23 10:52:29
Amazon SageMaker 是一项完全托管的服务,可以帮助机器学习开发者和数据科学家快速构建、训练和部署模型。Amazon SageMaker 完全消除了机器学习过程中各个步骤的繁重工作,让开发高质量模型变得更加轻松。 为了帮助开发者更快上手Amazon SageMaker,机器之心联合AWS在6月开设了6期公开课,详细讲解了如何使用 Amazon SageMaker 完成构建生成对抗网络、运行中文命名实体识别、简化 Kubernetes 上的机器学习任务管理等任务,超过1000名开发者共同参与了学习与讨论。 现在,机器之心联合AWS再次开设公开课,本次公开课设置 3期线上分享 ,主题分别为: Amazon SageMaker Studio详解(视频回放: https:// o8.cn/EwHFA2 ) 使用Amazon SageMaker 构建一个情感分析「机器人」(视频回放: https:// o8.cn/blkBnH ) DGL图神经网络及其在Amazon SageMaker上的实践 10月22日,第三期分享 DGL图神经网络及其在Amazon SageMaker上的实践 在第三期分享中,AWS上海人工智能研究院的资深数据科学家张建将主要讲解图神经网络、DGL在图神经网络中的作用、图神经网络和DGL在欺诈检测中的应用和使用Amazon

SNE-RoadSeg:一种基于表面法向量提取的道路可行驶区域分割方法

一个人想着一个人 提交于 2020-10-23 08:14:56
   本文解读的是论文《SNE-RoadSeg: Incorporating Surface Normal Information into Semantic Segmentation for Accurate Freespace Detection》,论文作者来自 加州大学圣地亚哥分校和 香港科技大学机器人学院 。 该论文解读首发于“AI算法修炼营”。   作者 | SFXiang   编辑 | 青暮       这篇文章收录于ECCV2020,是一篇关于无碰撞空间区域分割的文章,整体效果很不错。最主要的核心思想是在表面发现估计器的设计,在得到表面法线后将其用于分割网络的编码器环节,并在特征融合部分,借鉴了DenseNet的思想,进行密集连接。网络的计算量和参数量文中并没有比较,应该做不到实时。   论文地址:https://arxiv.org/abs/2008.11351   代码地址:https://github.com/hlwang1124/SNE-RoadSeg   Freespace无碰撞空间检测是自动驾驶汽车视觉感知的重要组成部分。近年来,数据融合data-fusion卷积神经网络CNN架构大大改善了语义场景分割算法的性能。通常,可以将自由空间假设为一个地面平面,在这个平面上,各点具有相似的表面法线。   因此,在本文中,首先介绍了一个名为表面法线估计器(

人脸识别算法演化史

走远了吗. 提交于 2020-10-23 07:23:19
转自: https://zhuanlan.zhihu.com/p/36416906 其它机器学习、深度学习算法的全面系统讲解可以阅读 《机器学习-原理、算法与应用》 ,清华大学出版社, 雷明著 ,由SIGAI公众号作者倾力打造。 书的购买链接 书的勘误,优化,源代码资源 导言: 本文为人脸识别算法系列专题的综述文章,人脸识别是一个被广泛研究着的热门问题,大量的研究论文层 出不穷,文中我们将为大家总结近些年出现的具有代表性的人脸识别算法。请大家关注SIGAI公众号,我 们会持续解析当下主流的人脸识别算法以及业内最新的进展。 人脸识别有什么用? 人脸识别的目标是确定一张人脸图像的身份,即这个人是谁,这是机器学习和模式识别中的分类问题。它主要应用在身份识别和身份验证中。其中身份识别包括失踪人口和嫌疑人追踪、智能交互场景中识别用户身份等场景;而身份验证包括身份证等证件查询、出入考勤查验、身份验证解锁、支付等场景,应用场景丰富。就在前不久,北京多家医院借助“黑科技”人脸识别技术阻击“熟脸”的号贩子,降低其挂号率;目前人脸识别还用到了治理闯红灯问题,改善中国式过马路现象。 人脸识别系统的组成 人脸识别算法主要包含三个模块: 人脸检测(Face Detection) 人脸对齐(Face Alignment) 人脸特征表征(Feature Representation) 如下图所示: 人脸检测

机器学习之RNN ---LSTM原理及实现详解

梦想与她 提交于 2020-10-23 03:35:30
(1)前言 (2)LSTM 简介 (3)LSTM原理及实现 (4)LSTM的优缺点 ------------------qq:1327706646 -------------------------author:midu --------------------------------datetime:2020-06-08 17:48:00 (1)前言 人类并不是每时每刻都从一片空白的大脑开始他们的思考。在你阅读这篇文章时候,你都是基于自己已经拥有的对先前所见词的理解来推断当前词的真实含义。我们不会将所有的东西都全部丢弃,然后用空白的大脑进行思考。我们的思想拥有持久性。 传统的神经网络并不能做到这点,看起来也像是一种巨大的弊端。例如,假设你希望对电影中的每个时间点的时间类型进行分类。传统的神经网络应该很难来处理这个问题——使用电影中先前的事件推断后续的事件。 RNN 解决了这个问题。RNN 是包含循环的网络,允许信息的持久化。循环神经网络(Recurrent Neural Network,RNN)是一种用于处理序列数据的神经网络。相比一般的神经网络来说,他能够处理序列变化的数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义,RNN就能够很好地解决这类问题。 (2)LSTM 简介 长短期记忆(Long short-term memory, LSTM)是一种特殊的RNN

戴琼海:人工智能的几点思考

筅森魡賤 提交于 2020-10-23 02:31:13
7月25日-26日,在中国科学技术协会、中国科学院、中国工程院、浙江省人民政府、杭州市人民政府、浙江省人工智能发展专家委员会指导下,由中国人工智能学会、杭州市余杭区人民政府主办,浙江杭州未来科技城管理委员会承办的2020全球人工智能技术大会在“数字之都”——杭州,成功举办。在25日举办的大会主旨报告环节,中国人工智能学会理事长、国务院参事、中国工程院院士、清华大学信息学院院长戴琼海为我们带来了题为“人工智能的几点思考”的精彩演讲。 >>>> 戴琼海 中国人工智能学会理事长、国务院参事 中国工程院院士、清华大学信息学院院长 以下是戴琼海的演讲实录: 我想和大家谈谈我对人工智能的几点思考,包括一些值得商榷的问题。从几千年前的原始社会,人们依靠石器工具来劳动;到农耕时期人们所使用的工具有所升级;到工业革命出现的蒸汽机进一步提升了生产力;电气革命更是极大提升了人类的生产效率;而今信息时代电子计算机的诞生延伸了我们的脑力,拓宽了我们的眼界和思想。马克思说过,“各种经济时代的区别,不在于生产什么,而在于怎样生产,用什么劳动资料生产。劳动资料更能显示一个社会生产时代的具有决定意义的特征。” 信息时代出现了互联网络、电子计算机、通信网络、空间技术、生物工程和原子能技术等一系列具有代表性的发明和创造,尤其是互联网络和电子计算机的诞生,拓展了人类自身和人与人之间交互的边界。 现在人工智能时代到来了

吴恩达深度学习第二课第三周编程作业(我使用的是TF2.0)

我们两清 提交于 2020-10-22 18:13:57
本文参考的博客为 https://blog.csdn.net/u013733326/article/details/79971488 原博客中作者用的是tf1.x版本的,本文用的是tf2.x版本,这里挂一下网友整理的两个版本更新的对比 https://docs.qq.com/sheet/DZkR6cUZpdFJ2bUxS?tab=BB08J2 好嘞,开始正文 1 - 导入TensorFlow库 开始之前,我们先导入一些库 import numpy as np import h5py import matplotlib.pyplot as plt import tensorflow as tf from tensorflow.python.framework import ops import tf_utils import time np.random.seed(1) 我们现在已经导入了相关的库,我们将引导你完成不同的应用,我们现在看一下下面的计算损失的公式: import tensorflow as tf tf.compat.v1.disable_eager_execution() #保证session.run()能够正常运行 y_hat = tf.constant(36, name='y_hat') # Define y_hat constant. Set to 36. y =

我是一个平平无奇的AI神经元

荒凉一梦 提交于 2020-10-22 17:35:43
来源 | 编程技术宇宙 责编 | 晋兆雨 头图 | CSDN付费下载自视觉中国 我是一个AI神经元 我是一个AI神经元,刚刚来到这个世界上,一切对我来说都特别新奇。 之所以叫这个名字,是因为我的工作有点像人类身体中的神经元。 人体中的神经元可以传递生物信号,给它输入一个信号,它经过处理后再输出一个信号传递给别的神经元,最终传递到大脑完成对一个信号的决策和处理。 聪明的计算机科学家们受到启发,在代码程序里发明了我:神经元函数。 在我们的世界里,我只是普普通通的一员,像我这样的神经元有成百上千,甚至上万个,我们按照层的形式,组成了一个庞大的神经网络。 很快我和隔壁工位的大白开始混熟了,他比我来得早,对这里要熟悉的多。 听大白告诉我说,我们这个神经网络是一个图像识别的AI程序,只要给我们输入一张狗的照片,我们就能告诉你这是一只柯基,还是泰迪、柴犬、二哈··· 神经元结构 在大白的指引下,我很快就学会了怎么工作。 虽然我们叫神经元,名字听起来挺神秘的,但实际上我就是一个普通函数,有参数,有返回值,普通函数有的我都有: def neuron(a): w = [...] b = ... ... 我有一个参数a,这个参数是一个数组,里面的每一个元素我把它分别叫做a1,a2,a3···用这个a来模拟我这个神经元收到的一组信号。 人类的神经元是怎么处理输入的生物信号我不知道,我估计挺复杂的

CIKM 2020 | 如何更为合适地评测推荐算法? Top-N物品推荐算法评测设置回顾

馋奶兔 提交于 2020-10-22 11:32:26
来源:RUC AI Box 本文 约5200字 ,建议 阅读10分钟 本文介绍了对于不同的实验设置对评价top-N商品推荐算法的影响,并设计了一个经验性的大规模实验。 1 引言 近十年里,top-N商品推荐是隐式反馈中一个被广泛研究的课题[1],其目的是从大量数据中识别出用户可能偏爱的一小部分物品。各种top-N物品推荐算法已经被开发出来,特别是基于深度学习的研究取得了很大的进展[2]。 为了证明推荐算法的有效性,需要在基准数据集上建立可靠的评价实验。通常,这样的评估过程包括一系列对于数据集、指标、基线方法和其他方案的设置。由于每个设置步骤可以选择不同的选项,需要制定和设计适当的标准,以使实验设置标准化[3,4]。为此,有必要对近期研究中有分歧的实验设置进行系统的回顾。 在这篇论文中,对于不同的实验设置对评价top-N商品推荐算法的影响,我们设计了一个经验性的大规模实验。我们试图找出导致近期评测工作中出现分歧的重要评估设置[2,7]。具体来说,考虑三个重要的影响因素, 即数据集分割、采样指标和数据领域选择。 数据集分割是指利用原始数据构造训练集、验证集和测试集;采样指标是指用采样方法获得不相关物品来计算评测指标的结果;数据领域选择是指从不同领域中选择合适的数据集进行评估。 为了检验这三个因素的影响,我们在Amazonreview数据集[8]上进行了大量的实验