core

Spark Core概述

﹥>﹥吖頭↗ 提交于 2020-03-08 06:42:46
Spark Core是spark的核心与基础,实现了Spark的基本功能,包含任务调度,内存管理,错误恢复与存储系统交互等模块 Spark Core中包含了对Spark核心API——RDD API(弹性分布式数据集)的定义:RDD表示分布在多个计算节点上可以并行操作的元素集合,是spark的核心抽象 Spark Core提供Spark最基础与最核心的功能,主要包括以下功能: (1)SparkContext: 通常而言,Driver Application的执行与输出都是通过SparkContext来完成的。在正式提交Application之前,首先需要初始化SparkContext。SparkContext隐藏了网络通信、分布式部署、消息通信、存储能力、计算能力、缓存、测量系统、文件服务、Web服务等内容,应用程序开发者只需要使用SparkContext提供的API完成功能开发。SparkContext内置的DAGScheduler负责创建Job,将DAG中的RDD划分到不同的Stage,提交Stage等功能。内置的TaskScheduler负责资源的申请,任务的提交及请求集群对任务的调度等工作。 (2)存储体系: Spark优先考虑使用各节点的内存作为存储,当内存不足时才会考虑使用磁盘,这极大地减少了磁盘IO,提升了任务执行的效率,使得Spark适用于实时计算、流式计算等场景

开源导入导出通用库Magicodes.ExporterAndImporter发布

我们两清 提交于 2020-03-08 05:37:20
导入导出通用库 Magicodes.ExporterAndImporter为心莱团队封装的导入导出通用库,并且仍在跟随项目不断地打磨。 GitHub地址: https://github.com/xin-lai/Magicodes.ExporterAndImporter 目录 特点 相关官方Nuget包 导出 Demo 普通导出 特性导出 列头处理或者多语言支持 导入Demo 普通模板 多数据类型 数据验证 Docker中使用 Dockerfile Demo 特点 封装导入导出业务,目前仅支持 Excel,有兴趣的小伙伴可以考虑支持 CSV 以及PDF或其他格式的导出 配置特性即可控制相关逻辑和显示结果,无需修改逻辑代码 推荐配合 导入导出DTO 使用 导出支持列头自定义处理以便支持多语言等场景 导出支持文本自定义过滤或处理 导入支持自动根据导入DTO生成导入模板及模板验证 导入支持数据验证逻辑 导入支持数据下拉选择 导入支持注释添加 相关官方Nuget包 导出 Demo Demo1-1 普通导出 public class ExportTestData { public string Name1 { get; set; } public string Name2 { get; set; } public string Name3 { get; set; } public string

CentOS里运行.net core控制台程序

妖精的绣舞 提交于 2020-03-07 06:56:23
说明:2带了4(vs2017仅支持2.1,命令中修改版本就好) 1 注册 Microsoft 密钥和源 安装 .NET 之前,需要: 注册 Microsoft 密钥。 注册产品存储库。 安装必需的依赖项。 每台计算机只需要执行一次此操作。 打开终端并运行以下命令。 bash 复制 sudo rpm -Uvh https://packages.microsoft.com/config/centos/7/packages-microsoft-prod.rpm ----------------------------------------------------------------------------------------------- 2 安装 .NET Core SDK 更新可供安装的产品,然后安装 .NET Core SDK。 在终端中,运行以下命令。 bash 复制 sudo yum install dotnet-sdk-3.1 -----------------------------控制台程序到此即可,mvc也能用------------------------------------------------------------------ 3 安装 ASP.NET Core 运行时 更新可供安装的产品,然后安装 ASP.NET 运行时。 在终端中

【翻译】使用Visual Studio创建Asp.Net Core MVC (一)

穿精又带淫゛_ 提交于 2020-03-06 19:04:03
This tutorial will teach you the basics of building an ASP.NET Core MVC web app using Visual Studio 2015 . 在这个范例里,我们将使用Visual Studio 2015创建基本的Asp.Net Core MVC网站。 安装Visual Studio和.Net Core Install Visual Studio Community 2015. Select the Community download and the default installation. Skip this step if you have Visual Studio 2015 installed. 安装Visual Studio Community 2015。下载Community后默认安装,如果你已经安装可以跳过这步。 Visual Studio 2015 Home page installer (Visual Studio 2015安装页) Install .NET Core + Visual Studio tooling 安装 .NET Core + Visual Studio tooling 创建一个Web应用 From the Visual Studio Start page, tap New

从.Net Core 2.x 到 3.x 的二三事

走远了吗. 提交于 2020-03-06 14:14:25
之前使用的VS2017,附带的.Net Core SDK是2.x的 迫于好多 不清楚有没有办法可以直接把.Net Core 3.x的SDK直接捞过来安装使用,没搜到攻略,怕踩坑。 现使用的方案是把VS2017卸载了,新安装VS2019,VS2019自带了.Net Core 3.x 注意事项: 1、卸载2017和安装2019要在Visual Studio Installler的程序中进行,2019的Installer要在官网下载,装community版本就ok了 2、.Net Core 3.x没有内置dotnet-ef的指令,所以我们只能通过安装dotnet 工具使用 安装指令 dotnet tool install --global dotnet-ef 若使用时仍有提示 It was not possible to find any compatible framework version The framework 'Microsoft.NETCore.App', version '3.1.2' was not found You can resolve the problem by installing the specified framework and/or SDK. The specified framework can be found at: - https:/

OPENCV 图像缩放

浪子不回头ぞ 提交于 2020-03-06 11:46:20
工程下载地址 https://download.csdn.net/download/qq_16596909/11522434 opencv4 java netbeans开发,基于maven 可以按照倍率缩放,也可以指定分辨率缩放(可能会变形) 原图 0.5倍缩放 private void jBresizeActionPerformed(java.awt.event.ActionEvent evt) { // TODO add your handling code here: System.loadLibrary(Core.NATIVE_LIBRARY_NAME); org.opencv.core.Mat imgMat = imread("src\\resource\\" + jTFimgName.getText());//读取图片 float scale = 0.5f; float width = imgMat.width(); float height = imgMat.height(); org.opencv.core.Mat dst = new Mat(); Imgproc.resize(imgMat, dst, new Size(width * scale, height * scale)); Imgcodecs.imwrite("src\\resource\\0.5

一张图理清ASP.NET Core启动流程

你说的曾经没有我的故事 提交于 2020-03-06 02:04:23
引用 : 1. 引言 对于 ASP.NET Core 应用程序来说,我们要记住非常重要的一点是:其本质上是一个独立的控制台应用,它并不是必需在IIS内部托管且并不需要IIS来启动运行(而这正是 ASP.NET Core 跨平台的基石)。 ASP.NET Core 应用程序拥有一个内置的 Self-Hosted (自托管)的 Web Server (Web服务器),用来处理外部请求。 不管是托管还是自托管,都离不开 Host (宿主)。在 ASP.NET Core 应用中通过配置并启动一个 Host 来完成应用程序的启动和其生命周期的管理(如下图所示)。而 Host 的主要的职责就是 Web Server 的配置和 Pilpeline (请求处理管道)的构建。 这张图描述了一个总体的启动流程,从上图中我们知道 ASP.NET Core 应用程序的启动主要包含三个步骤: CreateDefaultBuilder() :创建 IWebHostBuilder Build() : IWebHostBuilder 负责创建 IWebHost Run() :启动 IWebHost 所以, ASP.NET Core 应用的启动本质上是启动作为宿主的 WebHost 对象。 其主要涉及到两个关键对象 IWebHostBuilder 和 IWebHost ,它们的内部实现是 ASP.NET Core

MySQL未能加载文件或程序集“Ubiety.Dns.Core”或它的某一个依赖项 问题的解决

为君一笑 提交于 2020-03-06 01:20:25
在VS2019中使用Nuget的方式添加了最新的MySQL包 MySql.Data 8.0.19 ,默认添加了个Ubiety.Dns.Core,不知道有什么用,但是启动程序后就报错。 “/”应用程序中的服务器错误。 未能加载文件或程序集“Ubiety.Dns.Core”或它的某一个依赖项。未能验证强名称签名。此程序集可能已被篡改,或者已被延迟签名,但没有用正确的私钥进行完全签名。 (异常来自 HRESULT:0x80131045) 原因好像是因为 MySql.Data 8.0.19 中自带的Ubiety.Dns.Core.dll竟然是没有签名的版本…… 于是单独找到Ubiety.Dns.Core的Nuget包进行单独下载,但是报错: 无法安装程序包“Ubiety.Dns.Core 2.5.0”。你正在尝试将此程序包安装到目标为“.NETFramework,Version=v4.6”的项目中,但该程序包不包含任何与该框架兼容的程序集引用或内容文件。有关详细信息,请联系程序包作者。 竟然Nuget安装不上……我也是醉了 最后在 https://www.nuget.org/packages/Ubiety.Dns.Core/2.5.0 网址中,把这个Nuget包单独下载下来。然后把这个文件 ubiety.dns.core.2.5.0.nuget的扩展名修改为.zip。 用解压软件解压

怎么查看Linux的core开关,以及如何打开和关闭

99封情书 提交于 2020-03-05 20:57:14
dump文件可以在程序crash时,方便我们查看程序crash的地方和上下文信息。在window下,要能生成dump文件,需要自己编写相应的代码。不过现在网上可以找到相应的代码,只要把它下载后然后加到自己的工程中去,就可以了!在linux下面就简单的许多。只要打开相应的开关,linux会自动在程序crash时生成相应的core文件。这个文件和window下的dump文件类似。 下面是简单的一些步骤: 1.查看当前是否已经打开了此开关 通过命令:ulimit -c 如果输出为 0 ,则代表没有打开。如果为unlimited则已经打开了,就没必要在做打开。 2.通过命令打开 ulimit -c unlimited .然后通过步骤1,可以监测是否打开成功。 3.如果你要取消,很简单:ulimit -c 0 就可以了 通过上面的命令修改后,一般都只是对当前会话起作用,当你下次重新登录后,还是要重新输入上面的命令,所以很麻烦。我们可以把通过修改 /etc/profile文件 来使系统每次自动打开。步骤如下: 1.首先打开/etc/profile文件 一般都可以在文件中找到 这句语句:ulimit -S -c 0 /dev/null 2&1.ok,根据上面的例子,我们只要把那个0 改为 unlimited 就ok了。然后保存退出。 2.通过source /etc/profile 使当期设置生效

10-1 Keras深入-常用层

╄→尐↘猪︶ㄣ 提交于 2020-03-05 12:26:50
常用层对应于core模块,core内部定义了一系列常用的网络层,包括全连接、激活层等 【Dense层】 1 keras.layers.core.Dense(units, activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initializer='zeros', kernel_regularizer=None, bias_regularizer=None, activity_regularizer=None, kernel_constraint=None, bias_constraint=None)   Dense就是常用的全连接层,所实现的运算是 output = activation(dot(input, kernel)+bias) 。   其中 activation 是逐元素计算的激活函数, kernel 是本层的权值矩阵, bias 为偏置向量,只有当 use_bias=True 才会添加。   参数 : units:大于0的整数,代表该层的 输出维度 。 activation: 激活函数 ,为预定义的激活函数名或逐元素。如果不指定该参数,将不会使用任何激活函数(即使用线性激活函数:a(x)=x) use_bias: 布尔值, 是否使用偏置项 kernel_initializer