Benchmark

Aliyun Linux 实测,效果竟然这么好?

心不动则不痛 提交于 2020-08-13 00:56:07
前言 最近公司要在阿里云上扩容一批机器,看到阿里云官方也推出了一个操作系统Aliyun Linux,说是完全兼容CentOS,因为公司使CentOS的过程中的确发现了好几个问题,当前还有一个没有解决,所以想调查一下这个操作系统是否真的和宣传中的一样好。如果性能好的话,再加上阿里云官方的操作系统支持,的确会有比较大的吸引力。 为了便于直观比较不同操作系统的性能差异,直接使用了我们公司当前使用的阿里云ECS,规格选择是ecs.g6.2xlarge(8vCPU,32GB内存),分别选择Aliyun Linux 2.1903 LTS 64位镜像和CentOS 7.7 64位镜像。 测试方法 本次性能测试主要使用了公司当前做性能测试使用的几个开源benchmark,分别测试了综合性能、CPU、内存、以及一些典型应用场景,本文中的每项测试指标都是以多 来源: oschina 链接: https://my.oschina.net/u/4326431/blog/4306722

连载:阿里巴巴大数据实践—数据开发平台

烂漫一生 提交于 2020-08-12 13:46:03
数据只有被整合和计算,才能被用于洞察商业规律,挖掘潜在信息,从而实现大数据价值,达到赋能于商业和创造价值的目的。面对海量的数据和复杂的计算,阿里巴巴的数据计算层包括两大体系: 数据存储及计算平台(离线计算平台MaxCompute和实时计算平台StreamCompute)、数据整合及管理体系(OneData) 。 阿里数据研发岗位的工作大致可以概括为: 了解需求→模型设计→ETL开发→测试→发布上线→日常运维→任务下线 。与传统的数据仓库开发(ETL)相比,阿里数据研发有如下几个特点: 业务变更频繁——业务发展非常快,业务需求多且变更频繁; 需要快速交付——业务驱动,需要快速给出结果; 频繁发布上线——迭代周期以天为单位,每天需要发布数次; 运维任务多——在集团公共层平均每个开发人员负责上百多个任务; 系统环境复杂——阿里平台系统多为自研,且为了保证业务的发展,平台系统的迭代速度较快,平台的稳定性压力较大。 通过统一的计算平台(MaxCompute)、统一的开发平台、统一的数据模型规范和统一的数据研发规范,可以在一定程度上解决数据研发的痛点。 本文主要介绍MaxCompute和阿里巴巴内部基于MaxCompute的大数据开发套件,并对在数据开发过程中经常遇到的问题和相关解决方案进行介绍。 1、统一计算平台

SQL注入原理及代码分析(一)

依然范特西╮ 提交于 2020-08-12 03:45:39
前言 我们都知道,学安全,懂SQL注入是重中之重,因为即使是现在SQL注入漏洞依然存在,只是相对于之前现在挖SQL注入变的困难了。而且知识点比较多,所以在这里总结一下。通过构造有缺陷的代码,来理解常见的几种SQL注入。本文只是讲解几种注入原理,没有详细的利用过程。 如果想要了解Access的详细手工注入过程,可以看我的这篇文章 https://www.cnblogs.com/lxfweb/p/12643011.html 如果想要了解MySQL的详细手工注入过程,可以看我的这篇文章 https://www.cnblogs.com/lxfweb/p/12655316.html 如果想要了解SQL server的详细手工注入过程,可以看我的这篇文章 https://www.cnblogs.com/lxfweb/p/12675023.html SQL注入原理 SQL注入漏洞的产生需要满足两个条件 参数用户可控:前端传给后端的参数内容是用户可以控制的。 参数带入数据库查询:传入的参数拼接到SQL语句并带入数据库查询。 所以在实际环境中开发者要秉持“外部参数皆不可信原则”进行开发。 几种常见的SQL注入攻击 union注入攻击 先看代码 <?php $con=mysqli_connect("localhost","root","XFAICL1314","dvwa"); #连接数据库

因子选股

自闭症网瘾萝莉.ら 提交于 2020-08-12 02:50:57
# 导入函数库 from jqdata import * # 初始化函数,设定基准等等 def initialize(context): # 设定沪深300作为基准 set_benchmark( ' 000300.XSHG ' ) # 开启动态复权模式(真实价格) set_option( ' use_real_price ' , True) # 输出内容到日志 log.info() log.info( ' 初始函数开始运行且全局只运行一次 ' ) # 过滤掉order系列API产生的比error级别低的log # log.set_level('order', 'error') # ## 股票相关设定 ### # 股票类每笔交易时的手续费是:买入时佣金万分之三,卖出时佣金万分之三加千分之一印花税, 每笔交易佣金最低扣5块钱 set_order_cost(OrderCost(close_tax=0.001, open_commission=0.0003, close_commission=0.0003, min_commission=5), type= ' stock ' ) g.security = get_index_stocks( ' 000300.XSHG ' ) g.q = query(valuation).filter(valuation.code.in_(g

cudnn.benchmark

ε祈祈猫儿з 提交于 2020-08-12 01:21:06
Benchmark模式会提升计算速度,但是由于计算中有随机性,每次网络前馈结果略有差异。 torch.backends.cudnn.benchmark = True 1 如果想要避免这种结果波动,设置: torch.backends.cudnn.deterministic = True 版权声明:本文为CSDN博主「wang xiang」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。 原文链接:https://blog.csdn.net/qq_40178291/article/details/101160834 总的来说,大部分情况下,设置这个 flag 可以让内置的 cuDNN 的 auto-tuner 自动寻找最适合当前配置的高效算法,来达到优化运行效率的问题。 一般来讲,应该遵循以下准则: 如果网络的输入数据维度或类型上变化不大,设置 torch.backends.cudnn.benchmark = true 可以增加运行效率; 如果网络的输入数据在每次 iteration 都变化的话,会导致 cnDNN 每次都会去寻找一遍最优配置,这样 反而会降低 运行效率。 来源: oschina 链接: https://my.oschina.net/u/4278651/blog/4296685

Redis 企业级解决方案(缓存预热、缓存雪崩、缓存击穿、缓存穿透、性能指标监控)

戏子无情 提交于 2020-08-12 00:53:31
目录 一、缓存预热 二、缓存雪崩 三、缓存击穿 四、缓存穿透 五、性能指标监控 一、缓存预热 缓存预热就是系统启动前,提前将相关的缓存数据直接加载到缓存系统。避免在用户请求的时候,先查询数据库,然后再将数据缓 存的问题!用户直接查询事先被预热的缓存数据! 宕机 :服务器启动后迅速宕机 问题排查: 1. 请求数量较高 2. 主从之间数据吞吐量较大,数据同步操作频度较高 解决方案: 前置准备工作: 1. 日常例行统计数据访问记录,统计访问频度较高的热点数据 2. 利用LRU数据删除策略,构建数据留存队列 例如:storm与kafka配合 准备工作: 1. 将统计结果中的数据分类,根据级别,redis优先加载级别较高的热点数据 2. 利用分布式多服务器同时进行数据读取,提速数据加载过程 3. 热点数据主从同时预热 实施: 1. 使用脚本程序固定触发数据预热过程 2. 如果条件允许,使用了CDN(内容分发网络),效果会更好 二、缓存雪崩 缓存雪崩就是瞬间过期数据量太大,导致对数据库服务器造成压力。如能够有效避免过期时间集中,可以有效解决雪崩现象的出现 (约40%),配合其他策略一起使用,并监控服务器的运行数据,根据运行记录做快速调整。 现象:数据库服务器崩溃(1) 1. 系统平稳运行过程中,忽然数据库连接量激增 2. 应用服务器无法及时处理请求 3. 大量408,500错误页面出现 4.

Redis简介与部署

我与影子孤独终老i 提交于 2020-08-11 10:26:12
  一、简介   Redis是什么?redis是一款基于BSD协议,开源的非关系型数据库(nosql数据库),作者是意大利开发者Salvatore Sanfilippo在2009年发布,使用C语言编写;redis是基于内存存储,而且是目前比较流行的键值数据库(key-value database),它提供将内存通过网络远程共享的一种服务,提供类似功能的还有memcache,但相比 memcache,redis 还提供了易扩展、高性能、具备数据持久性等功能。主要的应用场景有session共享,常用于web集群中的tomcat或PHP中多web服务器的session共享;消息队列,ELK的日志缓存,部分业务的订阅发布系统;计数器,常用于访问排行榜,商品浏览数等和次数相关的数值统计场景;缓存,常用于数据查询、电商网站商品信息、新闻内容等;相对memcache,redis支持数据的持久化,可以将内存的数据保存在磁盘中,重启redis服务或者服务器之后可以从备份文件中恢复数据到内存继续使用;支持string(字符串)、hashes(关联数组)、list(列表)、set(集合)、sorted set(有序集合)、空间索引等数据结构的数据;支持数据的备份,可以实现类似于mysql中的主从模式的数据备份,支持使用快照和AOF(append only file)的数据持久化

Performance Improvements in .NET Core 3.0

99封情书 提交于 2020-08-11 08:12:55
Back when we were getting ready to ship .NET Core 2.0, I wrote a blog post exploring some of the many performance improvements that had gone into it. I enjoyed putting it together so much and received such a positive response to the post that I did it again for .NET Core 2.1 , a version for which performance was also a significant focus. With //build last week and .NET Core 3.0 ‘s release now on the horizon, I’m thrilled to have an opportunity to do it again. .NET Core 3.0 has a ton to offer, from Windows Forms and WPF, to single-file executables, to async enumerables, to platform intrinsics,

Linux安装redis和部署

谁都会走 提交于 2020-08-11 04:44:47
第一步:下载安装包 访问https://redis.io/download 到官网进行下载。这里下载最新的4.0版本. 第二步:安装 1.通过远程管理工具,将压缩包拷贝到Linux服务器中,执行解压操作 tar -zxf redis-4.0.9.tar.gz 2.进入解压文件目录使用make对解压的Redis文件进行编译 图示:这里因为我redis的安装目录在 /usr/locat/ 目录下,因此会有如下操作 注:如果在编译过程中出现问题,有可能是安装包下载的有误,这里可以尝试的用别人下载的安装包或者直接用 wget http://download.redis.io/releases/redis-4.0.9.tar.gz 如果发现上述读不能解决问题,请参照该链接:https://www.cnblogs.com/liu2-/p/6914159.html 编译完成之后,可以看到解压文件redis-3.0.7 中会有对应的src、conf等文件夹 3.编译成功后,进入src文件夹,执行make install进行Redis安装。 如下图示安装完成,界面如下: 第三步:部署 1.为了方便管理,将Redis文件中的conf配置文件和常用命令移动到统一文件中 1)、创建bin和etc文件 如图示: 2)、回到刚刚安装目录,找到redis.conf,将其复制移动到 /usr/local

Redis-性能测试(redis-benchmark)

自作多情 提交于 2020-08-11 03:14:51
文章目录 redis-benchmark 命令参数 测试示例 redis-benchmark redis-benchmark 是官方自带的性能测试工具,我们可以设置相关参数进行性能测试。 命令参数 选项 描述 默认值 -h 指定服务器主机名 127.0.0.1 -p 指定服务器端口 6379 -s 指定服务器 socket -c 指定并发连接数 50 -n 指定请求数 10000 -d 以字节的形式指定 SET/GET 值的数据大小 3 -k 1=keep alive 0=reconnect 1 -r SET/GET/INCR 使用随机 key, SADD 使用随机值 -P 通过管道传输 请求 1 -q 强制退出 redis。仅显示 query/sec 值 –csv 以 CSV 格式输出 -l 生成循环,永久执行测试 -t 仅运行以逗号分隔的测试命令列表。 -I Idle 模式。仅打开 N 个 idle 连接并等待。 测试示例 Redis安装可参考上一篇博客 先连接上Redis 输入测试命令,设置相关参数等。 redis - benchmark - c 100 - n 100000 结果解读,以set为例 感受到了Redis是真的快 原创不易,请支持正版。(百度发现我的好多博客被抄袭 qswl ) 博主首页: https://blog.csdn.net/qq_45034708