def

[转]spdk和nvmf

↘锁芯ラ 提交于 2020-11-13 04:57:37
打造用户态存储利器,基于SPDK的存储引擎Blobstore & BlobFS https://community.mellanox.com/s/article/howto-configure-nvme-over-fabrics SPDK自动精简配置的逻辑卷使用 construct_lvol_bdev https://www.sdnlab.com/21098.html spdk 块设备层bdev https://www.cnblogs.com/whl320124/p/10064878.html https://spdk.io/doc/bdev.html#bdev_ug_introduction 转自 spdk中nvmf源码 https://mp.weixin.qq.com/s/ohPaxAwmhGtuQQWz--J6WA https://spdk.io/doc/nvmf_tgt_pg.html nvmf的spec http://nvmexpress.org/resources/specifications/ 总的知识点+较详细不同bdev配置 https://www.jianshu.com/p/b11948e55d80 https://www.gitmemory.com/issue/spdk/spdk/627/478899588 SPDK NVMe-oF target 多路功能介绍

10,Scrapy简单入门及实例讲解

若如初见. 提交于 2020-11-13 04:57:25
Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 其可以应用在数据挖掘,信息处理或存储历史数据等一系列的程序中。其最初是为了页面抓取 (更确切来说, 网络抓取 )所设计的, 也可以应用在获取API所返回的数据(例如 Amazon Associates Web Services ) 或者通用的网络爬虫。Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。 Scrapy 使用了 Twisted异步网络库来处理网络通讯。整体架构大致如下 Scrapy主要包括了以下组件: 引擎(Scrapy) 用来处理整个系统的数据流, 触发事务(框架核心) 调度器(Scheduler) 用来接受引擎发过来的请求, 压入队列中, 并在引擎再次请求的时候返回. 可以想像成一个URL(抓取网页的网址或者说是链接)的优先队列, 由它来决定下一个要抓取的网址是什么, 同时去除重复的网址 下载器(Downloader) 用于下载网页内容, 并将网页内容返回给蜘蛛(Scrapy下载器是建立在twisted这个高效的异步模型上的) 爬虫(Spiders) 爬虫是主要干活的, 用于从特定的网页中提取自己需要的信息, 即所谓的实体(Item)。用户也可以从中提取出链接,让Scrapy继续抓取下一个页面 项目管道(Pipeline) 负责处理爬虫从网页中抽取的实体,主要的功能是持久化实体

算法——列表排序和常用排序算法

我与影子孤独终老i 提交于 2020-11-13 04:38:23
一、列表排序    排序 就是将一组“无序”的记录序列调整为“有序”的记录序列。    列表排序 :将无序列表变为有序列表。     输入:列表     输出:有序列表   两种基本的排序方式: 升序 和 降序 。   python内置的排序函数:sort()。 二、常见排序算法   名称 复杂度 说明 备注 冒泡排序 Bubble Sort O(N*N) 将待排序的元素看作是竖着排列的“气泡”,较小的元素比较轻,从而要往上浮 插入排序 Insertion sort O(N*N) 逐一取出元素,在已经排序的元素序列中从后向前扫描,放到适当的位置 起初,已经排序的元素序列为空 选择排序 O(N*N) 首先在未排序序列中找到最小元素,存放到排序序列的起始位置,然后,再从剩余未排序元素中继续寻找最小元素,然后放到排序序列末尾。以此递归。 快速排序 Quick Sort O(n *log 2 (n)) 先选择中间值,然后把比它小的放在左边,大的放在右边(具体的实现是从两边找,找到一对后交换)。然后对两边分别使用这个过程(递归)。 堆排序HeapSort O(n *log 2 (n)) 利用堆(heaps)这种数据结构来构造的一种排序算法。堆是一个近似完全二叉树结构,并同时满足堆属性:即子节点的键值或索引总是小于(或者大于)它的父节点。 近似完全二叉树 希尔排序 SHELL O(n 1+ £

pytorch数据读取

邮差的信 提交于 2020-11-13 02:26:24
pytorch数据读取机制: sampler生成索引index,根据索引从DataSet中获取图片和标签 1.torch.utils.data.DataLoader 功能:构建可迭代的数据装在器 dataset:Dataset类,决定数据从哪读取及如何读取 batchsize:批大小 num_works:是否多进程读取数据,当条件允许时,多进程读取数据会加快数据读取速度。 shuffle:每个epoch是否乱序 drop_last:当样本数不能被batchsize整除时,是否舍弃最后一批数据 DataLoader(dataset, batchsize=1, shuffle=False, batch_sampler=None, num_workers=0, collate_fn=None, pin_memeory=False, drop_last=False, timeout=0, worker_init_fn=None, multiprocessing_context=None) epoch:所有训练样本都已输入到模型中,称为一个epoch iteration:一批样本输入到模型中,称为一个iteration batchsize:批大小,决定一个epoch有多少个iteration 例如: 样本总数:80, batchsize:8 1epoch = 10 iteraion 样本总数

Python学习心得

ぐ巨炮叔叔 提交于 2020-11-12 10:37:12
1. Python 作为一个近年备受好评的语言,它的一些优点让人无法忽视。 代码简洁、可移植性强、可代入c,c++语言,或自身作为包供其他语言使用。复制代码不必考虑转义直接就能运行,这些都是他的优势。 python的数据类型和大多语言相似,创建变量却很简单,无需显示创建,直接变量名加类型表示,如“”、‘’都表示创建字符串,数字表示integral,加.表示float,false、true表示布尔类型。 和数组相似的列表,并且其值可以是不同类型。不可修改值但可以合并的元组。键值一一对应的字典。 删除变量用del关键字。 输出语句的关键字是:Print,使用方法是Print “内容”,变量; 运算符多了几个如:幂运算符(**),and'or'not,in'notin,is'isnot,另外**运算符的优先级最高。 2. Python提供了顺序、条件、循环 三种流程语句。 If=>单条件语句,true执行false不执行。 示例-& 判断用户输入 iuputStr=input("请输入一个数字") \r inputNum=int(inputStr) \r if inputNum==13 : input "您输入的为13" 如果要进行不同判断的结果的不同执行方式 用 if elif 两个结果用 if else 相比C#Python没有do while 循环,break 终止循环

python操作MySQL数据库的三个模块

烈酒焚心 提交于 2020-11-11 21:49:19
  python使用MySQL主要有两个模块,pymysql(MySQLdb)和SQLAchemy。     pymysql(MySQLdb)为原生模块,直接执行sql语句,其中pymysql模块支持python 2和python3,MySQLdb只支持python2,两者使用起来几乎一样。     SQLAchemy为一个ORM框架,将数据对象转换成SQL,然后使用数据API执行SQL并获取执行结果   另外DBUtils模块提供了一个数据库连接池,方便多线程场景中python操作数据库。 1.pymysql模块   安装:pip install pymysql   创建表格操作: (注意中文格式设置) #coding:utf- 8 import pymysql #关于中文问题 # 1 . mysql命令行创建数据库,设置编码为gbk:create databse demo2 character set utf8; # 2 . python代码中连接时设置charset= " gbk " # 3 . 创建表格时设置default charset= utf8 #连接数据库 conn = pymysql.connect(host= " localhost " , user= " root " , passwd= "" , db= ' learningsql ' , charset=

力扣

社会主义新天地 提交于 2020-11-11 21:42:47
给定一个包含 n 个整数的数组 nums,判断 nums 中是否存在三个元素 a,b,c ,使得 a + b + c = 0 ?找出所有满足条件且不重复的三元组。 注意:答案中不可以包含重复的三元组。 来源:力扣(LeetCode) 链接:https://leetcode-cn.com/problems/3sum 著作权归领扣网络所有。商业转载请联系官方授权,非商业转载请注明出处。 class Solution: def threeSum(self, nums: [int]) -> [[int]]: nums.sort() 从小到大 res, k = [], 0 for k in range(len(nums) - 2): 循环n-2次 if nums[k] > 0: break # because of j > i > k. 如果nums [K]大于0跳出 if k > 0 and nums[k] == nums[k - 1]: continue # skip. 如果k大于0 k和k-1位置相等 i, j = k + 1, len(nums) - 1 如果不符合以上条件 i=k+1。j=倒数第二个 while i < j: s = nums[k] + nums[i] + nums[j] 取三数之和如果三数之和小于零 if s < 0: i += 1 while i < j and

机器学习——决策树

徘徊边缘 提交于 2020-11-11 15:06:41
决策树是一种用于分类和回归的非参数监督学习方法。目标是创建一个模型,通过从数据特性中推导出简单的决策规则来预测目标变量的值 导入类库 1 import numpy as np 2 import pandas as pd 3 from sklearn.feature_extraction import DictVectorizer 4 from sklearn.tree import DecisionTreeClassifier 5 from sklearn.model_selection import train_test_split 简单版 1 def decide_play1(): 2 df = pd.read_csv( ' dtree.csv ' ) 3 dict_train = df.to_dict(orient= ' record ' ) 4 5 dv = DictVectorizer(sparse= False) 6 dv_train = dv.fit_transform(dict_train) 7 # print(dv_train) 8 # dv_train1 = np.append(dv_train, dv_train[:, 5].reshape(-1, 1), axis=1) 9 # dv_train2 = np.delete(dv_train1, 5, axis

深入学习OpenCV中几种图像边缘检测算子

跟風遠走 提交于 2020-11-11 09:33:06
  本文学习利用python学习边缘检测的滤波器,首先读入的图片代码如下: import cv2 from pylab import * saber = cv2.imread("construction.jpg") saber = cv2.cvtColor(saber,cv2.COLOR_BGR2RGB) plt.imshow(saber) plt.axis("off") plt.show()   图片如下:   边缘检测是图像处理和计算机视觉的基本问题,边缘检测的目的是标识数字图像中亮度变化明显的点,图像属性中的显著变化通常反映了属性的重要事件和变化。这些包括:深度上的不连续,表面方向的不连续,物质属性变化和场景照明变化。边缘检测是图像处理和计算机视觉中,尤其是特征提取中的一个研究领域。图像边缘检测大幅度的减少了数据量,并且剔除了可以认为不相关的信息,保留了图像重要的结构属性。   在实际的图像分割中,往往只用到一阶和二阶导数,虽然原理上,可以用更高阶的导数,但是因为噪声的影响,在纯粹二阶的导数操作中就会出现对噪声的敏感现象,三阶以上的导数信息往往失去了应用价值。二阶导数还可以说明灰度突变的类型。在某些情况下,如灰度变化均匀的图像,只利用一阶导数可能找不到边界,此时二阶导数就能提供很有用的信息。二阶导数对噪声也比较敏感,解决的方法是先对图像进行平滑滤波,消除部分噪声

【NLP】pyhanlp flask

懵懂的女人 提交于 2020-11-11 07:56:50
D:\ProgramData\Anaconda3\Lib\site-packages\pyhanlp\__init__.py 加入 WordVectorModel = LazyLoadingJClass('com.hankcs.hanlp.mining.word2vec.WordVectorModel') # coding=utf-8 from flask import Flask from flask import request from flask import jsonify from flask import make_response,Response from flask_cors import CORS from pyhanlp import * port = 9999 app = Flask(__name__) CORS(app, supports_credentials=True) @app.route('/') def index(): str = "Hello, AI Server!" print(str) return str # 成功请求 def successResp(data): return jsonify(code=0, message="success", data=data) # 错误请求 def errorResp(msg): return