机器学习

2021斯坦福图机器学习课程CS224W开课了,Jure Leskovec主讲

て烟熏妆下的殇ゞ 提交于 2021-01-19 12:59:50
2021 年第一个月刚刚过半,有些学校的新学期就已经开始了。 机器之心报道,作者:小舟、魔王。 图是一种强大的数据结构,可以用于建模许多真实世界的场景,图能够对样本之间的关系信息进行建模。但是真实图的数据量庞大,动辄上亿节点、而且内部拓扑结构复杂,很难将传统的图分析方法如最短路径、DFS、BFS、PageRank 等算法应用到这些任务上。因此有研究者提出将机器学习方法和图数据结合起来,即图机器学习,这逐渐成为近年来机器学习中的一股热潮,特别是图神经网络(GNN)。 此前,斯坦福大学计算机学院副教授 Jure Leskovec 等人开了一门课程——CS224W,主题是图机器学习。最近,CS224W 2021 冬季课程开课了。 课程主页: http:// web.stanford.edu/class/ cs224w/ 这门课程主要聚焦分析大量图时所面对的计算、算法和建模挑战。通过研究底层图结构及其特征,学习者可以了解机器学习技术和数据挖掘工具,从而在多种网络中有所发现。 这门课程涉及的主题包括:表征学习和图神经网络;万维网算法;基于知识图谱的推理;影响力最大化;疾病爆发检测;社交网络分析。 预备知识 学习者需要具备以下背景知识: 基础计算机科学原理知识,能够写出不错的计算机程序;熟悉基础概率论知识;熟悉基础线性代数知识。 课程会在开始的几周内概述这些背景知识。 此外

击败酷睿i9之后,有人又拿苹果M1去挑战英伟达V100了

你。 提交于 2021-01-19 12:59:37
有工程师用 M1 版 Mac Mini 训练小架构深度学习模型,结果好像还可以。 选自vanpelt,作者:Chris Van Pelt,机器之心编译,机器之心编辑部。 众所周知,大多数 Mac 产品都是生产力工具,你甚至可以用它们训练神经网络。去年 11 月推出的,搭载 M1 芯片的 Mac 更是将这种生产力水平提到了一个新的高度。 那么,如果拎出来和专业的比一下,M1 版的 Mac 在训练模型方面是个什么水平?为了解答这个疑问,最近有人将 M1 版的 Mac Mini 与 Nvidia V100 放到一起比了一下。 M1 版 Mac Mini 的售价最低是 5000 元左右。此前,国外知名硬件评测网站 anandtech 发布了对这款产品的 详细测试 ,结果显示,在 CPU 性能测试中,M1 版 Mac Mini 的单线程和多线程都很优秀。在 GPU 性能测试中,它在多个基准测试中超越了之前的 Mac 系列产品,在某些情况下还能超越独显产品。 Nvidia V100 则是专业的 AI 训练卡,单精度浮点性能达到 15 TFLOPS,双精度浮点 7.5 TFLOPS,显存带宽 900GB/s,售价高达五位数。当然,你可以选择在 Colab 上租用。 评测者是「Weights and Biases」公司的联合创始人 Chris Van Pelt。Weights and Biases

ACL 2021投稿避坑指南

故事扮演 提交于 2021-01-19 12:32:33
本文转载自:哈工大讯飞联合实验室 原文链接: https://mp.weixin.qq.com/s/0cMM2MHUhsn0MKZGIMhyVw ​ mp.weixin.qq.com 注:文末附交流群,最近赶ACL,比较忙,很多同学加了没有回过期了,可以重新加一下,备注好的一定会回复,敬请谅解。 近日,ACL 2021大会官方发布了第二次征稿通知。距离ACL 2021的摘要截稿还有1周的时间,距离全文截稿还有2周的时间。HFL编辑部针对本届ACL 2021投稿的重要内容进行了细致讲解,希望能够帮助正在准备ACL 2021论文的读者。 ACL 2021征稿通知: https:// 2021.aclweb.org/calls/p apers/ 最最重要的:两段式投稿 今年的ACL是两段式投稿方法,即先进行“摘要投稿”,然后再进行“全文投稿”。一定要注意的是, 这两个阶段都是必须参与的 ,不可以忽略“摘要投稿”。另外,长短文的投稿时间是一样的,也需要注意一下。 摘要投稿截止:2021年1月25日 23:59(北京时间:1月26日 19:59) 全文投稿截止:2021年2月1日 23:59(北京时间:2月2日 19:59) 注:官方时间是UTC-12时区,北京时间是UTC+8时区。 温馨提示:不要都等到最后时刻再提交,按往年情况来看,最后一刻很可能会非常非常卡,到时候有可能提交不上去。

24式加速你的Python

你离开我真会死。 提交于 2021-01-19 10:16:24
一,分析代码运行时间 第1式,测算代码运行时间 平凡方法 快捷方法(jupyter环境) 第2式,测算代码多次运行平均时间 平凡方法 快捷方法(jupyter环境) 第3式,按调用函数分析代码运行时间 平凡方法 快捷方法(jupyter环境) 第4式,按行分析代码运行时间 平凡方法 快捷方法(jupyter环境) 二,加速你的查找 第5式,用set而非list进行查找 低速方法 高速方法 第6式,用dict而非两个list进行匹配查找 低速方法 高速方法 三,加速你的循环 第7式,优先使用for循环而不是while循环 低速方法 高速方法 第8式,在循环体中避免重复计算 低速方法 高速方法 四,加速你的函数 第9式,用循环机制代替递归函数 低速方法 高速方法 第10式,用缓存机制加速递归函数 低速方法 高速方法 第11式,用numba加速Python函数 低速方法 高速方法 五,使用标准库函数进行加速 第12式,使用collections.Counter加速计数 低速方法 高速方法 第13式,使用collections.ChainMap加速字典合并 低速方法 高速方法 六,使用numpy向量化进行加速 第14式,使用np.array代替list 低速方法 高速方法 第15式,使用np.ufunc代替math.func 低速方法 高速方法 第16式,使用np.where代替if

姚前:算法经济与算法监管

三世轮回 提交于 2021-01-18 10:36:20
姚前:算法经济与算法监管 巴比特2021-01-15 19:00:02 文/中国证监会科技监管局局长姚前 算法是指一系列解决问题的清晰计算机指令。在当今信息时代,算法已渗透到社会各个领域。克里斯托弗·斯坦纳在其名著《算法帝国》里对算法推崇备至,认为构建算法模仿,超越并最终取代人类,是21世纪最重要的能力,未来属于算法和其创造者。 算法经济 商品经济的根本是买与卖、供与需的匹配。由于信息不对称,市场主体需要搜寻合适的对手方进行交易,这将耗费大量成本。某种意义上,搜寻技术决定了交易空间。在没有互联网之前,人们依靠广播、电视等媒体广告搜寻交易对手。到了互联网时代,人与人之间的物理隔绝与时空限制得到大幅解放,出现了电子商务这一全新的经济模式。“网络购物,只有想不到,没有买不到”。网购已深入人们生活的方方面面,供与需的匹配得到极大改善。 应该说在互联网经济的初期,以连接产生网络效应为主,数据价值尚未显现,算法还只是辅助,电商活动高度依赖平台公司的组织与管理。近年来,随着云计算、大数据、人工智能、区块链等创新技术的发展与应用,数据作为生产要素的价值日益体现,算法在经济活动中的重要性日趋凸显。 一是算法拓展了互联网经济的深度与广度。比如,基于平台上的交易数据、用户自身提供的数据以及其他另类数据,开展大数据分析,对用户进行“千人千面”画像,深入分析每个消费者个体的行为模式和特点,形成独特的客户洞察

我,大学没毕业,在OpenAI搞AI,想教教你如何提升“研究品味”

Deadly 提交于 2021-01-18 09:39:28
作者 | 蒋宝尚 编辑 | 陈大鑫 原文链接: 我,大学没毕业,在OpenAI搞AI,想教教你如何提升“研究品味” ​ mp.weixin.qq.com 在AI圈里有这么一个人,虽然大学没有毕业,但却做过谷歌大脑研究员,担任过OpenAI团队的领导人。他被人称作“怪胎”,也被人称作神童。 他的名字叫做Chris Olah。在众人眼里,他的成长树在一开始似乎长“歪”:18岁那一年,进入多伦多大学读本科,随后辍学开始研究计算机。他运气不错,在刚刚开始进行AI研究的时候,他就得到了知名学者、量子物理学家 Michael Nielsen 的指导。 2013 年,图灵奖得主 Yoshua Bengio 曾邀请他去做自己的研究生,但Chris居然拒绝了Bengio的邀请,去谷歌大脑团队做了实习生,跟随Jeff Dean研究卷积神经网络、交互媒体相关的内容。 仍然是运气不错。2015年,在 Greg Corrado 的帮助下,他转为了谷歌的正式员工。在谷歌的那段日子,发过多篇论文,带过博士生,并和贾扬清、Ian Goodfellow等顶尖研究员一起合作过。 根据谷歌学术,其h指数甚至达到了19,总引用数达到了32616,远超拥有博士学位的研究者。其中,最高引用的一篇文章,TensorFlow: Large-scale machine learning on heterogeneous

线性代数--MIT18.06(十八)

孤者浪人 提交于 2021-01-18 06:33:18
正文共:1089 字 19 图 预计阅读时间: 3 分钟 前文推送 线性代数--MIT18.06(十三):第一部分复习 线性代数--MIT18.06(十四):正交向量和正交空间 线性代数--MIT18.06(十五):子空间投影 线性代数--MIT18.06(十六):投影矩阵和最小二乘 线性代数--MIT18.06(十七):正交矩阵和施密特正交化 18. 行列式及其性质 18.1 课程内容:行列式及其性质 从这一讲开始,进入线性代数中另一个重点——行列式, 行列式的目的在于后面章节将会讲解的特征值。 说到行列式,需要记住一个前提,那就是 只有对于方阵,才有行列式。 ■ 行列式的三个基本性质 (这三个性质 定义 了行列式) 单位阵的行列式为 1 , 可以表示为 交换矩阵的行,那么行列式变号。 这里可以得出置换矩阵的行列式总是为 1 或者 -1 ,置换行的次数决定了行列式最终的符号。 行列式的行是线性的,但是行列式不是线性的! 以2阶方阵为例进行说明。 ■ 由此三条基本性质,我们又可以得到 如下的性质 如果矩阵存在两行相同,那么行列式为 0 对矩阵进行消元,行列式的值不变 如果存在全为 0 的行,那么行列式为 0 上三角矩阵的行列式的值为其对角线元素的乘积 奇异矩阵的行列式为 0 ,可逆矩阵的行列式非 0 ■ 另外还有两个非常有用的性质 。由这个性质,我们可以引申得到

厚着脸皮求领导写了一篇java小白进阶大牛之路!!!

做~自己de王妃 提交于 2021-01-17 18:42:32
缘起&应朋友之邀 2019年已经过去两个月了,应朋友之邀,写写自己的个人经历,与其说经历还不如是自我的总结与反思。2012年2月份只身一人拖着行李箱来到北京库巴科技有限公司实习,那时候库巴处在高速发展的阶段,我记得那一年库巴招了300多个应届毕业生,光技术就招了50多人,有运维、测试、开发、产品经理。那时候公司有宿舍,4个人一间,上下铺,条件虽然艰苦了一些,但认识了很多好朋友,至今还在保持着联系。下班之余大家经常一起吃饭喝酒,也就是那个时间胖了很多,回学校答辩的时候老师说:“你怎么胖成这样了,都有点快认不出来了”。 学校&java 在 学校 的时候对java很感兴趣,以至于上C语言课的时候,我在看java的学习视频,记得那时候看了很多牛人的视频,像魔乐科技的李兴华老师,尚学堂的马士兵老师,传智播客的张孝祥老师。 库巴&实习 在学校学的是struts、spring、Hibernate, 实习 的时候,公司用的是SSI,Ibatis没有用过,花了一周的时间学习框架,可能基础还算比较好,第二周领导就让我参与项目,这也是我人生中的第一个真实项目,虽然以前在学校也做过一些项目和参加过一些比赛,都是只限于单机版。公司的网站最早是用.net开发的,遇到高并发的时候经常宕机,我属于用户中心组,我们的任务是将注册登录部分用java进行重构,我负责登录功能的开发,在这个项目学到了很多东西

原创 | 机器学习数学推导与代码实现30讲.pdf

点点圈 提交于 2021-01-17 18:20:24
机器学习 Author:louwill Machine Learning Lab 机器学习数学推导与代码实现30讲已完成,主要包括监督学习模型、无监督学习模型、集成学习模型和概率模型四个大类29个模型和算法。现整理形成pdf版本并开提供开源下载。 获取方式: 扫描关注下方公众号回复 机器学习 即可。 该系列机器学习模型的思维导图如下所示: 完整版的pdf目录如下: 获取方式: 扫描下方二维码关注公众号机器学习实验室 在后台回复 机器学习 即可。 另外本项目也会在后续时间持续改进和整理,完整版的代码会陆续在GitHub上进行更新。 项目地址: https://github.com/luwill/machine-learning-code-writing 本文分享自微信公众号 - NewBeeNLP(NewBeeNLP)。 如有侵权,请联系 support@oschina.cn 删除。 本文参与“ OSC源创计划 ”,欢迎正在阅读的你也加入,一起分享。 来源: oschina 链接: https://my.oschina.net/u/4594481/blog/4833234

原创 | 机器学习数学推导与代码实现30讲.pdf

ぃ、小莉子 提交于 2021-01-17 18:20:10
机器学习 Author:louwill Machine Learning Lab 机器学习数学推导与代码实现30讲已完成,主要包括监督学习模型、无监督学习模型、集成学习模型和概率模型四个大类29个模型和算法。现整理形成pdf版本并开提供开源下载。 获取方式: 扫描关注下方公众号回复 机器学习 即可。 该系列机器学习模型的思维导图如下所示: 完整版的pdf目录如下: 获取方式: 扫描关注下方公众号回复 机器学习 即可。 另外本项目也会在后续时间持续改进和整理,完整版的代码会陆续在GitHub上进行更新。 项目地址: https://github.com/luwill/machine-learning-code-writing 本文分享自微信公众号 - 机器学习与生成对抗网络(AI_bryant8)。 如有侵权,请联系 support@oschina.cn 删除。 本文参与“ OSC源创计划 ”,欢迎正在阅读的你也加入,一起分享。 来源: oschina 链接: https://my.oschina.net/u/4579551/blog/4667084