深度学习

基于图神经网络的知识图谱研究进展

天涯浪子 提交于 2020-09-30 00:48:54
  知识图谱本身是一种图结构数据,采用图构建知识和数据之间的关联,应用图神经网络技术,有望结合知识和数据,实现更好的可解释和可信人工智能技术。本文将介绍基于图神经网络的知识图谱学习与计算以及基于图神经网络融合知识图谱信息的应用的研究进展。   1    知识图谱与图神经网络   近几年来,人工智能技术得到了飞速发展,其进展突出体现在以知识图谱(Knowledge Graph)为代表的知识工程和以图神经网络(Graph Neural NetWorks, GNN)为代表的深度学习等相关领域。融合知识图谱与图神经网络已然成为研究人员进一步完善知识图谱学习与提升图神经网络模型推理能力的重要技术思路。   知识图谱是以图的形式表现客观世界中的实体及其之间关系的知识库,实体可以是真实世界中的物体或抽象的概念,关系则表示了实体间的联系。因此,知识图谱能够以结构化的形式表示人类知识,通过知识表示和推理技术,可以给人工智能系统提供可处理的先验知识,让其具有与人类一样的解决复杂任务的能力[1~3]。如何更好地构建、表示、补全、应用知识图谱,已经成为认知和人工智能领域重要的研究方向之一。   图神经网络的概念最早于2005年由戈里(Gori)等人[4]提出,是一种专门用于处理图结构数据的神经网络模型。使用图可以更准确和灵活地对现实应用中的数据建模,如在电子商务领域中的用户–产品交互图、化学领域的分子图

2020云栖大会智慧出行专场:聚焦高精地图/算法、智能模型、自动驾驶、AR导航

点点圈 提交于 2020-09-30 00:02:07
2020云栖大会将于 9月17日-18日在线 举行,届时将通过官网为全球科技人带来前沿科技、技术产品、产业应用等领域的系列重要分享。 阿里巴巴高德地图携手合作伙伴精心筹备了 “智慧出行” 专场。我们将为大家分享高德地图在打造基于 DT+AI 和 全面上云 架构下的 新一代出行生活服务平台 过程中的思考和实践,同时邀请了合作伙伴和业内资深专家分享行业动态、理论发展方向以及在业界和学术界的 最新应用案例 。 大量前沿、创新性技术目前已经广泛应用于高德地图各项产品中,本论坛将着重讲述「高精地图、高精算法、智能时空预测模型、自动驾驶、AR导航、车道级技术」等话题,全面解析最新技术进展和场景化的实践经验,并与开发者们一起交流、讨论。 欢迎大家预约参加 2020云栖大会智慧出行专场 。 直播网址:https://yunqi.aliyun.com/2020/session31 【讲师/议题摘要】 1.高精算法推动高精地图落地 分享嘉宾:任小枫 阿里巴巴高德地图首席科学家、研究员 话题摘要:高精地图是自动驾驶走向落地的重要和必要环节,也是高德的一大未来方向。高精地图的生产,在精度、鲜度、效率等方面都提出了全新挑战。要想把高精地图做好,必须有技术上的飞跃。本次分享会从算法出发,整体介绍高德如何打磨和突破关键技术,把高精地图做到业界领先。 2.面向自动驾驶时代的“节奏式”交通控制 分享嘉宾:李萌

爱了!计算机视觉 colab notebook 列表

强颜欢笑 提交于 2020-09-29 20:33:39
这是阿三的第 131 期分享 作者 | 阿三 首发 | 程序员遇见GitHub 大家好,我是阿三,今天给大家带来的是Google colab上非常出名的一些计算机视觉项目的notebook。 一. Google Colab 这些项目都是依托与Google的Python在线编程的免费服务Colab,没有使用过的同学也可以去了解一下这个。 这些notebooks包含计算机视觉的很多方面,像目标检测,分类等等 每个项目都有文字教程与源代码 代码还可以直接在colab中运行,想要了解相关项目的同学不容错过。 网站地址: https://www. qblocks.cloud/creators/ computer-vision-google-colab-notebooks 推荐阅读: 我教你如何读博! 牛逼!轻松高效处理文本数据神器 B站强化学习大结局! 如此神器,得之可得顶会! 兄弟们!神经网络画图,有它不愁啊 太赞了!东北大学朱靖波,肖桐团队开源《机器翻译:统计建模与深度学习方法》 当年毕业答辩!遗憾没有它... 已开源!所有李航老师《统计学习方法》代码实现 这个男人,惊为天人!手推PRML! 它来了!《深度学习》(花书) 数学推导、原理剖析与代码实现 你们心心念念的MIT教授Gilbert Strang线性代数彩板笔记!强烈推荐! GitHub超过9800star!学习Pytorch

使用OpenCV进行模糊检测(拉普拉斯算子)

痴心易碎 提交于 2020-09-29 18:12:23
点击上方“3D视觉工坊”,选择“星标” 干货第一时间送达 来源:Opencv视觉实践 本文翻译自光头哥哥的博客:【Blur detection with OpenCV】。 本文仅作学习分享,原文链接: https://www.pyimagesearch.com/2015/09/07/blur-detection-with-opencv/ 这只超可爱、超活跃家养小猎犬可能是有史以来拍照次数最多的狗。从8周大我们得到它的时候,到现在,不到3年的时间,我们已经收集了6000多张狗狗的照片。 在刚刚过去的这个周末,我坐下来,试图整理手机里大量的照片。这是一项艰巨的任务,而且我很快就注意到一个问题——有很多照片模糊程度过高。 现在,对于一般人来说,我认为他们会删除这些模糊的照片(或者至少将它们移到一个单独的文件夹中)——但作为一个计算机视觉科学家,这是不可能发生的。 相反,我编写了一个快速的Python脚本,用OpenCV执行模糊检测。 接下来,我将向你展示如何使用OpenCV、Python和Laplacian算子计算图像中的模糊量。在这篇文章的结尾,你将能够应用Laplacian方法到你自己的照片来检测模糊的程度。 拉普拉斯变换的方差 图1:用Laplacian算子卷积输入图像 在研究如何检测图像中的模糊程度时,我的第一步是阅读优秀的综述论文,即【形状-聚焦测量算子分析[2013

Youtube召回优化记录

你离开我真会死。 提交于 2020-09-29 16:38:41
hi各位大佬好,我是菜鸟小明哥。之前复现了 简版Youtube召回 ,实际测试中发现ctr是持续降低的,这就尴尬了。 For Video Recommendation in Deep learning QQ Group 277356808 视频推荐加这个群,别加错。 For Visual in deep learning QQ Group 629530787 视觉深度学习加这个群。 I'm here waiting for you 只加一个就好 本宝宝将持续改进优化完善,主要集中在特征的选择和参数的设置,拭目以待。 1-在上一版的程序中选择的是最简单的特征,也并没有做特征的筛选测试,比如哪些特征是有用的,哪些是没用的,这次要做这个工作了。分开如下: 关于用到的user特征,有性别,年龄,地址,手机类型,这样一看也就4个而已 下面关于这4个进行筛选测试,是否有效, 1.1去掉性别,其他参数不变 不去性别的结果,如下 2020-08-26_16:34:32,map_50=0.053569 2020-08-26_16:34:32,hitrate_50_full=0.295772 2020-08-26_16:34:32,hitrate_50_half=0.203059 2020-08-26_16:34:32,ndcg_50_full=0.101625 2020-08-2 来源:

解释:深度学习中Attention与全连接层的区别

旧城冷巷雨未停 提交于 2020-09-29 13:09:20
转载地址 https://www.zhihu.com/question/320174043/answer/651998472 解释 正如你所说的,Attention的最终输出可以看成是一个“在关注部分权重更大的全连接层”。但是它与全连接层的区别在于,注意力机制可以利用输入的特征信息来确定哪些部分更重要。 举个例子: 输入层有A,B,C三个特征向量,我们需要构造一层网络来确定三者的权重,然后加权求和得到输出O。也就是得到三个权重 ,然后得到 。 这个式子形式上看上去确实是全连接层没错。然而如果用全连接层有什么问题呢? 问题就在于在全连接层里, 是根据位置确定的。 我第一次给你三个数据ABC,然后你得出了B最重要,也就是让 最大。然而我下次给你的顺序可能是BAC,这次A在刚才B的位置,如果你用全连接层来实现的话,得出的结果就会变成 。这就变成了A最重要了,这显然不是我们想要的结果。 那么如何解决这个问题呢?我们就要根据实体自身的特征,而不是它们的位置来确定它们的重要程度。也就是说, 不该是固定的,而是要与A,B,C的值相关。简单考虑,也就是要定义一个函数f,令 。 于是我们就给每个实体分配了一个与它们的位置无关的权重。 这里的函数f就是我们所说的注意力机制。 注意力机制f的定义方式有很多种,但是不属于这个问题的范围,这里我就不讨论了。 我们最终得出的输出为 可以看出

李飞飞:我怎样走上 AI 研究之路

好久不见. 提交于 2020-09-29 13:08:57
点击上方“3D视觉工坊”,选择“星标” 干货第一时间送达 来源:新智元 之前,李飞飞接受CNBC专访,针对AI未来的发展方向、如何确保AI以人为本等问题做出回答。李飞飞认为,智能和价值观都可以由人类灌输给机器。 李飞飞一直是人工智能积极力量的拥护者。 李飞飞的最新角色是斯坦福大学新成立的“以人为本AI研究院”的联合主任,该研究院专注于机器学习潜在用途的研究和教育,目标是找到AI能够改善人们生活的方式。 “人工智能已经发展成熟。它已经从一个利基技术领域转变成我们社会未来的主要驱动力。” 未来机器会超越人类吗?李飞飞坚持认为,机器的智能和价值观都来源于人类。 “我们在行业中看到这一点,在日常生活中也看到这一点。在斯坦福大学,我们认识到,对于人工智能的未来发展方向,以及如何引导它为人类社会带来最大的积极影响,有必要发挥思想领导力。” 这个新研究院的想法诞生于2016年,当时李飞飞站在自家车道上,与邻居、斯坦福大学的前教务长兼哲学家 John Etchemendy 交谈。 他们讨论到AI缺乏多样性,以及该领域如何狭隘地专注于工程和算法。他们认为,需要就技术如何帮助所有人展开更广泛的讨论。 现在,该研究院汇集了来自不同学科的研究人员和学者——如经济学、商学、政治学和计算机科学——研究AI对工作的影响以及人们如何重新掌握技能等课题。 “我认为,一个挑战是 确保这项技术的未来是仁慈的 ,

演讲实录丨王海峰:AI 新基建加速产业智能化

前提是你 提交于 2020-09-29 10:56:09
  7月25日-26日,在中国科学技术协会、中国科学院、中国工程院、浙江省人民政府、杭州市人民政府、浙江省人工智能发展专家委员会指导下,由中国人工智能学会、杭州市余杭区人民政府主办,浙江杭州未来科技城管理委员会承办的2020全球人工智能技术大会在“数字之都”——杭州,成功举办。在7月25日举办的 大会主旨报告 环节 , 百度首席技术官、ACL/CAAI Fellow 王海峰 为我们带来了题为 “AI 新基建加速产业智能化” 的精彩演讲。      王海峰 百度首席技术官、ACL/CAAI Fellow    以下是王海峰的演讲实录:   我今天与大家分享的主题是《AI 新基建加速产业智能化》。   新基建通过建设新型基础设施,促进经济高质量发展。具体来讲,新型基础设施包括信息基础设施、融合基础设施和创新基础设施。这些新型基础设施以新发展理念为引领,以技术创新为驱动,以信息网络为基础,面向高质量发展,提供数字转型、智能升级和融合创新等服务。AI 既是新基建重点建设的新型基础设施,同时也与其他新型基础设施有重要的协同效应。   现阶段,AI 已经成为新一轮科技革命和产业变革的重要驱动力量,正在引领人类社会进入第四次工业革命。从人类历史上的历次工业革命来看,其核心技术都有很强的通用性。例如第一次工业革命的机械技术,第二次工业革命的电气技术,以及第三次的信息技术,都是如此

pdfplumber是怎么做表格抽取的(一)

不羁岁月 提交于 2020-09-29 05:13:09
pdfplumber是怎么做表格抽取的(一) 冰焰虫子 兴趣广泛,包含但不限于:coding,NLP,CV,深度学习 笔者把自己这篇原本发布在github page上的文章迁移到了这里,原github page网址: https://iceflameworm.github.io/2019/12/02/pdfplumber-table-extraction-1/ pdfplumber是一款完全用python开发的pdf解析库,对于线框完全的表格,pdfminer能给出比较好的抽取效果,但是对于线框不完全(包含无线框)的表格,其效果就差了不少。因为在实际项目所需处理的pdf文档中,线框完全及不完全的表格都比较多,所以为了能够理解pdfplumber实现表格抽取的原理和方法,找到改善、提升表格抽取效果的方法,这里对pdfplubmer的代码逻辑进行了梳理。由于所涉及的内容比较多,所以计划分为三部分进行整理:1. 介绍pdfplumber及其表格抽取流程, 2. 梳理pdfplumber表格线检测逻辑, 3. 梳理pdfplumber表格生成逻辑。本文是第一部分。 背景介绍 pdfplumber简介 pdfplumber抽取表格的基本流程 背景介绍 最近在做一个表格信息抽取的项目,该项目需要从pdf文件中找到的目标表格,并把目标表格中需要的行和列给抽取出来

线性代数重要,选对教材更重要:同济版《线性代数》引发激烈争议

亡梦爱人 提交于 2020-09-28 19:41:16
  机器之心报道    机器之心编辑部    你的线性代数,过了没?   不论是结构力学还是人脸识别,理工类型的科研,深究之后就会发现到处都是线性代数的身影。这样一门课程,要是在大一的时候学不好,可是会要命的。   在国内上过大学的理科同学应该都见过《线性代数》(同济版),就算没有学过,也是听过它的大名。作为一名过来人,只能说,晦涩难懂,章节混杂... 即使不少 985、211 走过高考独木桥的学生,每到期末考试,也要默默祈祷不要挂科。现在想起一些内容:相似矩阵、线性变换、特征值、特征向量…… 真是一个头两个大。      作为一本大学教材,让学习者如此后怕,是该考虑一下教材问题了。如今已经毕业多年,没想到最近在知乎上看到一篇文章《《线性代数》(同济版)——教科书中的耻辱柱》,点赞量快突破五千。对于这篇文章,大家有时间可以读一下,看看是不是同意作者的观点。   线性代数真的很重要,这是很多工程技术人员走上工作岗位的最大感受。好多算法都用到线性代数的知识,就比如现在非常热门的深度学习,它的底层实现方式用到好多线性代数方面的知识。如果底层基础打不好,不明白其中的原理,算法实现方式真的很难理解,更不可能去创新了。好的教材才能起到事半功倍的效果。   目前这本教材已更新了好几版,每次更新的内容看起来也是无关紧要,如果有下次版本更新,还是希望制定教材的老师们听取一下广大学生的建议。