cuda

1.背景（Background） 上图显示了目前深度学习模型在生产环境中的方法，本文仅探讨如何部署pytorch模型！ 至于为什么要用C++调用pytorch模型，其目的在于： 使用C++及多线程可以加快模型预测速度 关于模型训练有两种方法，一种是直接使用C++编写训练代码，可以做到搭建完整的网络模型，但是无法使用迁移学习，而迁移学习是目前训练样本几乎都会用到的方法，另一种是使用python代码训练好模型，并使用 JIT技术 ,将python模型导出为C++可调用的模型，这里具体介绍第二种。（个人觉得还可以采用一种方式，即将pytorch模型作为一种Web Service以供各种客户端调用） 官方对TorchScript的介绍如下（ https://pytorch.org/docs/master/jit.html#creating-torchscript-code ）： TorchScript是一种从PyTorch代码创建可序列化和可优化模型的方法。用TorchScript编写的任何代码都可以从Python进程中保存并加载到没有Python依赖关系的进程中。 我们提供了一些工具来增量地将模型从纯Python程序转换为能够独立于Python运行的TorchScript程序，例如，在一个独立的c++程序中。这使得使用熟悉的工具在PyTorch中培训模型

关于windows下的libtorch配置 1.环境 Windows service 2012 R2/Windows10 Cuda 9.0 OpenCV3.4.1 Libtorch1.0 VS2017/VS2015 2.配置 第一步 :CUDA 9.0+cudnn7.5 安装 ( 也可以用 CUDA8.0) 如果已经安装了 cuda8.0 及以上版本 , 可以忽略此步骤。 libtorch 有 cuda8.0 和 cuda9.0 的版本 , 为了与 vs 版本保持一致 , 这里建议用 cuda9.0 版本 ( 当然 cuda8.0 也可以成功编译 ) ，参考安装链接 : https://blog.csdn.net/u013165921/article/details/77891913 。 第二步 :VS2017 下载 下载 Visio Studio Installer, 通过 Visio Studio Installer 安装 vs2017, 安装时选择使用 C++ 的桌面开发 , 记得在单个组件上一定要将所有的 Windows 10 SDK 选上，其他的正常安装 . 第三步 :VS2017 配置 Opencv3.4.1(到目前为止libtorch不支持opencv4.0) 这里建议配置opencv3.4版本,目前libtorch还不支持opencv4.0,opencv

https://blog.csdn.net/wanzhen4330/article/details/81699769 来源： oschina 链接： https://my.oschina.net/u/4404541/blog/4262070

1 CUDA 10.0 安装 　　win10 下的cuda 安装是非常简单的，和其他程序安装没什么区别，现在 tensorflow 1.13 版本以上 支持 CUDA 10.0 ，这里选取了CUDA 10.0+ CUDNN 7.5 +tensorflow 1.13 + opencv 3.4.0 　　（1）安装 nvidia 的驱动， 在 https://www.geforce.cn/drivers 选取与显卡对应的驱动 安装（这里选择了gtx750ti 417 版本） 　　（2）在 https://developer.nvidia.com/cuda-10.0-download-archive 选择对应的 CUDA 下载 　　　　 　　（3）运行安装文件 ， 选择的自定义安装 会显示 所有 组件， 一般情况下 只要选择安装 cuda 就行( 安装 驱动程序时，剩下的组件一般都是安装好了的) 　　（4）等待安装完成，安装成功后 在 命令行输入 nvcc -V 会显示版本信息 则安装成功。如果没有 查看系统环境变量 的 path 中是否有CUDA 的相关目录 　　　　　　例如 ，没有则添加。 2 CUDNN 7.5 安装 　　（1）在 网址 https://developer.nvidia.com/rdp/cudnn-archive （需登录） 中选取 Download cuDNN v7

　　 　　 学院出身，喊话英伟达，技术惊艳，框架开源，融资激进……剧本是否似曾相识，套用在那些响当当的明星 AI 芯片公司身上似乎都能对号入座，但是很不幸，先驱已经倒在了退潮期的沙滩上。 过分追求性能、功耗等参数上的优越性很大程度上将造成在实际应用上脱节——编程困难和不可移植，很难在实际应用中发挥效果，更难建立生态。 换句话说，产品再好，但客户用不上。 　　 撰文 | 徐丹、吴昕 　　 编辑 | 四月 　　 2020 年，第一家 AI 芯片公司倒在了黎明前。 　　美国 AI 芯片公司 Wave Computing 接近倒闭，已申请破产保护，中国区工厂全部关闭。尽管 Wave Computing 负责人第一时间向媒体解释，公司并非倒闭，只是申请破产保护，进行资产重组。 但显然并不能改变什么。 　　Wave Computing，2010 年成立于美国加利福尼亚坎贝尔，公司愿景是「数据追踪」，定位云计算市场，从数据中心到边缘云，对客户的数据进行深度学习训练。核心产品是基于 dataflow 技术架构的芯片 DPU，每项技术都处在行业研究前沿，在加速神经训练上甚至能够超越 GPU 1000 倍。 可以称得上最早的一批 AI 芯片公司。 　　 Wave 早期团队与学院派出身的 MIPS 渊源颇深，甚至说脱胎于 MIPS 也不为过 ——Wave 的七位高管有四位都曾任职 MIPS，其中 CEO

学院出身，喊话英伟达，技术惊艳，框架开源，融资激进……剧本是否似曾相识，套用在那些响当当的明星 AI 芯片公司身上似乎都能对号入座，但是很不幸，先驱已经倒在了退潮期的沙滩上。 过分追求性能、功耗等参数上的优越性很大程度上将造成在实际应用上脱节——编程困难和不可移植，很难在实际应用中发挥效果，更难建立生态。 换句话说，产品再好，但客户用不上。 撰文 | 徐丹、吴昕 编辑 | 四月 2020 年，第一家 AI 芯片公司倒在了黎明前。 美国 AI 芯片公司 Wave Computing 接近倒闭，已申请破产保护，中国区工厂全部关闭。尽管 Wave Computing 负责人第一时间向媒体解释，公司并非倒闭，只是申请破产保护，进行资产重组。 但显然并不能改变什么。 Wave Computing，2010 年成立于美国加利福尼亚坎贝尔，公司愿景是「数据追踪」，定位云计算市场，从数据中心到边缘云，对客户的数据进行深度学习训练。核心产品是基于 dataflow 技术架构的芯片 DPU，每项技术都处在行业研究前沿，在加速神经训练上甚至能够超越 GPU 1000 倍。 可以称得上最早的一批 AI 芯片公司。 Wave 早期团队与学院派出身的 MIPS 渊源颇深，甚至说脱胎于 MIPS 也不为过 ——Wave 的七位高管有四位都曾任职 MIPS，其中 CEO Derek Meyer 曾经是 MIPS

　　机器之心报道 　　 参与：魔王 　　自编码器（AE）与生成对抗网络（GAN）是复杂分布上无监督学习最具前景的两类方法，它们也经常被拿来比较。人们通常认为自编码器在图像生成上的应用范围比 GAN 窄，那么自编码器到底能不能具备与 GAN 同等的生成能力呢？这篇研究提出的新型自编码器 ALAE 可以给你答案。目前，该论文已被 CVPR 2020 会议接收。 　　论文地址：https://arxiv.org/pdf/2004.04467.pdf 　　GitHub 地址：https://github.com/podgorskiy/ALAE 　　自编码器是一种无监督方法，它通过同时学习编码器-生成器图将「生成性」和「表征性」结合起来。关于自编码器有两个疑问尚未得到解决： 　　自编码器是否具备和 GAN 同等的生成能力？ 　　自编码器能否学习解耦表征（disentangled representation）？ 　　最近，来自美国西弗吉尼亚大学的研究者提出一种新型自编码器 Adversarial Latent Autoencoder (ALAE)，试图解决以上问题。ALAE 是一个通用架构，它能够利用近期 GAN 在训练方面的改进。研究者表示 ALAE 具备与 GAN 相当的生成能力，且能够学习解耦表征。 　　利用 ALAE 通用架构，该研究设计了两个自编码器：一种基于 MLP 编码器

一、准备 系统：win10 显卡：gtx1050Ti 前期的一些必要软件安装，包括python3.5、matlab2016、vs2015、git， 可参考：win10+vs2015编译caffe的cpu debug版本、部署matcaffe - tingpan - 博客园 http://www.cnblogs.com/smbx-ztbz/p/9195243.html 二、安装 1、安装显卡驱动388.13-desktop-win10-64bit-international-whql.exe http://www.nvidia.com/Download/index.aspx?lang=en-us 2、安装cuda_8.0.61_win10.exe，注意安装的时候要自定义安装，只选上cuda就好了，其他的不要安装，否则会将之前的显卡驱动覆盖掉，导致电脑黑屏。 https://developer.nvidia.com/cuda-toolkit-archive 3、安装补丁cuda_8.0.61.2_windows.exe 4、下载 cudnn-8.0-windows10-x64-v5.1-zip 后解压到 D:\Projects\caffe_gpu\cuda https://developer.nvidia.com/compute/machine-learning/cudnn