Runner

tcmu+librbd ISCSI

帅比萌擦擦* 提交于 2019-12-06 18:10:38
tcmu+librbd环境搭建 1.环境 升级内核要求>=4.4.8 备注:解决 target__core__user.h 头文件缺失问题 cp target__core__user.h /usr/include/linux/ 2.安装依赖 2.1 ceph相关 yum install ceph-devel -y 2.1 其他依赖 yum install cmake3 make gcc libnl3-devel glib2-devel kmod-devel zlib-devel -y 2.TCMU-runner编译安装 2.1 获取源码 git clone [https://github.com/kitwestneat/tcmu-runner.git](https://github.com/kitwestneat/tcmu-runner.git) 2.2 编译安装 cmake -DCMAKE_INSTALL_PREFIX=/usr -Dwith-glfs=false -Dwith-qcow=false -D SUPPORT_SYSTEMD=true . make make install 2.3 启动tcmu-runner systemctl start tcmu-runner 3.targetcli安装 3.1下载地址 https://github.com/open-iscsi

新浪微博:大规模离线视频处理系统的架构设计

自古美人都是妖i 提交于 2019-12-05 04:37:17
微博视频平台在4亿月活用户吃瓜嗨聊的高并发、大流量背景下,既要保证用户微博生产和消费体验,又要支持业务快速迭代,确保正确性、稳定性和高可用性。本次演将以微博视频大规模视频离线处理系统的架构设计为主题为大家带来大规模分布式系统的架构设计,性能优化和高可用保障等一线实战经验。 文 / 霍东海 整理 / LiveVideoStack 大家好,我是来自新浪微博视频平台和微博平台研发部的架构师霍东海,从2017年加入微博,目前在微博视频平台负责微博视频离线处理系统架构等相关工作,包括大规模离线微服务系统的架构设计和服务保障体系的建设等。近期专注于视频平台技术体系的提升对用户体验提升的帮助,主导构建了微博SVE(Streaming Video Engine)系统,支持大并发场景下对视频进行并行转码,大幅度提升转码效率。 1. 背景介绍 微博本身有大并发、大流量的特性,有4亿+的月活,同时微博也是一个开放平台,支持多种第三方分享,每天都会有百万视频分享需进行处理。 微博视频业务大概分两种业余形态,一个如左图所示,是竖版的短视频分享,另一个是如右图所示的稍微长一点的横向播放的短视频。 微博视频还有一些特殊的场景,例如在微博PC端点视频按钮会跳转到酷燃网,它是一个5到15分钟的短小综艺类视频分享的网站,如图中,下面都是一些优酷,爱奇艺,腾讯等视频网站分享到微博的视频。

CentOS 7 安装 Git 与 Gitlab-runner 实例

风格不统一 提交于 2019-12-04 15:13:44
CentOS 7 安装 Git 与 Gitlab-runner 实例 作为专业程序员,必须要有学习网络!加速学习之路! 需要的在这里: 学习网络 查看系统版本 lsb_release -a 本笔记系统环境: LSB Version: :core-4.1-amd64:core-4.1-noarch Distributor ID: CentOS Description: CentOS Linux release 7.5.1804 (Core) Release: 7.5.1804 Codename: Core 安装 git 源码构建 检查 git 当前版本 # 执行 git --version # 显示老版本 git version 1.8.1 安装编译依赖软件 yum install curl-devel expat-devel gettext-devel openssl-devel zlib-devel asciidoc yum install gcc perl-ExtUtils-MakeMaker 卸载老版本 yum remove git 下载最新版本 git 官网 on kernel.org 官方网址 cd /usr/local/src/ wget https://www.kernel.org/pub/software/scm/git/git-2.9.5.tar.xz tar

java并发编程——FutureTask源码分析

自古美人都是妖i 提交于 2019-12-03 18:38:31
FutureTask的简单示例: FutureTask的应用场景,如果在当前线程中需要执行比较耗时的操作,但又不想阻塞当前线程时,可以把这些作业交给FutureTask,另开一个线程在后台完成,当当前线程将来需要时,就可以通过FutureTask对象获得后台作业的计算结果或者执行状态。 public static void main(String[] args) throws InterruptedException{ FutureTask<Integer> ft = new FutureTask<>(()->{//Callable接口的实现类 int num = new Random().nextInt(10); TimeUnit.SECONDS.sleep(num); return num; }); Thread t = new Thread(ft); t.start(); //模拟主线程做一些其他操作,跟futureTask任务并行 //等需要futureTask的运行结果时,可以调用get方法获取。 TimeUnit.SECONDS.sleep(2); try { //等待任务执行完成,获取返回值 Integer num = ft.get(); System.out.println(num); } catch (Exception e) { e

gitlab的ci功能测试之旅

99封情书 提交于 2019-12-03 11:13:06
简述:gitlab ci ,依赖runner 来执行 Pipelines,Pipelines包含对多个阶段中job的定义。 第一步:安装runner curl -L https://packages.gitlab.com/install/repositories/runner/gitlab-ci-multi-runner/script.rpm.sh | sudo bash sudo yum install gitlab-ci-multi-runner 第二步:注册runner 需要两个东西 :私服地址URL 和 TOKEN,可以在gitlab项目的设置->ci/cd中找到 sudo gitlab-ci-multi-runner register 回车后按提示输出url 和 token 注意:通过gitlab-ci-multi-runner register注册的Runner配置会存储在/etc/gitlab-runner/config.toml中,如果需要修改可直接编辑该文件 注意事项:这里我自己对git-runner service 进行了 工作空间修改,这里要对注意一下新目录的权限问题 git-runner 配置详解 第三步:在 gitlab 私服配置ci/di配置文件 gitlab-ci.yml gitlab-ci.yml 官方详解 # 定义 stages

GitLab Runner安装

不打扰是莪最后的温柔 提交于 2019-12-03 11:12:50
参考资料 https://docs.gitlab.com/runner/ https://docs.gitlab.com/ce/ci/quick_start/README.html 一、安装gitlab runner 使用gitlab源进行yum安装 curl -L https://packages.gitlab.com/install/repositories/runner/gitlab-runner/script.rpm.sh | sudo bash yum install gitlab-runner -y PS:runner建议和gitlab服务器分开放 一个安全问题,修改.gitlab-ci.yml文件可以做很多事情,如果权限没限制好,等于是有了root权限 一个性能问题,因为一般构建任务都会比较占用系统资源,影响gitlab性能,所以 GitLab Runner 可以安装到不同的机器上,所以在构建任务运行期间并不会影响到 GitLab 的性能 二、注册gitlab runner gitlab-runner register //url 和token 可以到 admin area的 runners查看 ..... 刷新admin area的 runners 三、使用gitlab runner 配置好 Runner 之后,我们要做的事情就是在项目根目录中添加 .gitlab

gitlab-runner 构建

限于喜欢 提交于 2019-12-02 04:19:32
由于gitlab版本关系, gitlab-runner只能安装1.11.*或以下的版本, 以下代码经过Centos 6.5测试 curl -s https://packages.gitlab.com/install/repositories/runner/gitlab-ci-multi-runner/script.rpm.sh | sudo bash yum install gitlab-ci-multi-runner-1.11.2-1 1. sudo gitlab-ci-multi-runner register 2. 输入 CI URL (需要构建的项目的url) 3. 输入 Token (在gitlab项目/runners路径下查看) 4. 输入 Runner 的名字(任意) 5. 选择 Runner 的类型(Shell) 来源: oschina 链接: https://my.oschina.net/u/575659/blog/2996038

gitlab-runner 配合docker 构建自动化部署

时光总嘲笑我的痴心妄想 提交于 2019-12-01 17:19:38
搭建gitlab-ci 自动化部署 安装 gitlab ci runner curl -L https://packages.gitlab.com/install/repositories/runner/gitlab-ci-multi-runner/script.rpm.sh | sudo bash sudo yum install gitlab-ci-multi-runner -y 查看是否运行正常 gitlab-ci-multi-runner status gitlab-runner: Service is running! 设置Docker权限 为了能让gitlab-runner 能正确的执行docker命令,需要把gitlab-runner 用户添加到docker group里,然后重启docker和gitlab ci runner sudo usermod -aG docker gitlab-runner 如果遇到用户权限问题无法解决 可以赋予gitlab-runner用户root权限,具体操作可参考 https://www.cnblogs.com/asukayui/p/3839915.html 来源: oschina 链接: https://my.oschina.net/u/3628952/blog/2253888

android API reference(api参考)

穿精又带淫゛_ 提交于 2019-12-01 04:14:52
Android API 提供了14和API模块: Android Support Library :(Android支持库)提供多种Android特性和实用程序api,这些特性和api兼容多种平台版本。 AndroidX :官网介绍:不与操作系统绑定的Android api的重构版本。 查阅资料:AndroidX是Android Support Library的一个主要改进。像Support Library一样,AndroidX是在AndroidOS之外单独提供的,并且根据Android不同版本提供向后兼容能力。详情请参阅:https://www.jianshu.com/p/433979098860 AndroidX Test :( AndroidX 测试)包括用于测试Android应用程序的api,包括Espresso、JUnit Runner、JUnit4规则和UI Automator。 Architecture Components (架构组件):包括用于各种核心应用程序组件的api,例如管理UI组件生命周期、数据持久性、视图模型等的api。 Android Automotive Library (引擎库):提供用于构建Android低层应用程序的api。 Databinding Library (数据绑定库):包含api,以帮助您编写声明性布局

Spring Cloud Gateway 之请求坑位[微服务IP不同请求会失败]

独自空忆成欢 提交于 2019-11-30 13:20:40
问题产生背景 在使用Spring Cloud Gateway过程中,希望配置多Routes映射不同的微服务,因为Gateway 和Zuul的访问路径不同(zuul 会带有服务service Id),造成错误。 现象表现 问题定位 认为是配置Predicate问题。 routes: - id: after_route uri: lb://user-center predicates: # 当当前时间晚于设置时间之后,才能访问 # 否则得到404错误 #- After=2010-01-01T18:00:00.789-07:00[America/Denver] # 当Host属于**.geekplus.com.cn或**.life-runner.com时 # http://localhost:9999/** -> user-center/** # eg. http://localhost:9999/users/1 -> user-center/users/1 #- Host=**.geekplus.com.cn,**.life-runner.com - TimeBetween=上午6:00,下午11:00 - Path=/users/** filters: - AddRequestHeader=CompanyKey,123456 - AddResponseHeader=Success