go

Apache Spark 2.2.0 官方文档中文版

本小妞迷上赌 提交于 2020-10-04 07:21:27
原文链接: http://www.apachecn.org/bigdata/spark/268.html Apache Spark™ 是一个快速的, 用于海量数据处理的通用引擎. 官方网址: http://spark.apache.org 中文文档: http://spark.apachecn.org 花了大概两周左右的时间,在原来 Spark 2.0.2 中文文档 版本的基础上,终于迭代出该 Spark 2.2.0 中文文档 的版本了。 衷心感谢每一位贡献者,感谢 ApacheCN 让我们聚在一起奋斗,我们一直在努力 。。。 网址: http://spark.apachecn.org/docs/cn/2.2.0 github: https://github.com/apachecn/spark-doc-zh (如果觉得不错,请各位大佬们给个 star ) 贡献者: https://github.com/apachecn/spark-doc-zh#贡献者 建议反馈: https://github.com/apachecn/spark-doc-zh#联系方式 以下是 Spark 2.2.0 中文文档 的目录索引: Apache Spark 2.2.0 官方文档中文版 概述 编程指南 快速入门 Spark 编程指南 Spark Streaming 编程指南 DataFrames,

Golang学习系列第一天:安装golang

六眼飞鱼酱① 提交于 2020-10-04 05:11:48
0. ssh连接linux(我用的centos7),略 1. golang下载 由于Golang官网 https://golang.org/ 国内无法直接访问,故可以到Go语言中文网下载: https://studygolang.com/dl ,可根据自己的电脑操作系统下载对应的版本,我下载的是go1.14.4.linux-amd64.tar.gz最新(当前时间)安装包,不过也可以直接点击下面这个链接直接下载 https://dl.google.com/go/go1.14.4.linux-amd64.tar.gz ,即 [root@master dgm]# wget https://dl.google.com/go/go1.14.4.linux-amd64.tar.gz 2. golang安装 解压golang压缩文件 [root@master dgm]# tar -zxvf go1.14.4.linux-amd64.tar.gz 配置环境变量,编辑/etc/profile文件,即vim /etc/profile 追加以下内容: 保存该配置文件 然后重载配置 source /etc/profile 使之生效 最后查看是否生效 go version 3. helloworld测试 新建hello.go文件 touch hello.go 然后编辑该hello.go文件,键入以下内容

ddns-go 1.0.0 发布,简单好用的 DDNS 动态域名解析工具

时光毁灭记忆、已成空白 提交于 2020-10-04 04:29:21
作者:gc(at)sysin.org,主页: www.sysin.org 这是一个简单好用的 DDNS 动态域名服务工具,可以自动更新域名解析到公网 IP,目前支持 Alidns(阿里云) 、 Dnspod(腾讯云) 、 Cloudflare 。并且是免费和开源的! 如果你的域名注册不在上述服务商,也是可以使用的,将域名解析转入到上述服务商的免费解析服务即可,参看以下文档: 非阿里云注册域名如何在云解析DNS设置解析? 如何将域名解析转入 DNSPod? 开始使用 Cloudflare v1.0.0 发布 f4d91a5 feat: 在网页中快速查看最近50条日志 v1.0.0 发布意味着正式版本 1. ddns-go 功能特性 自动获得你的公网 IPv4 或 IPv6 并解析到域名中 支持 Mac、Windows、Linux 系统,支持 ARM、x86 架构 支持的域名服务商 Alidns(阿里云) Dnspod(腾讯云) Cloudflare 间隔 5 分钟同步一次 支持多个域名同时解析,公司必备 支持多级域名 网页中配置,简单又方便 网页中方便快速查看最近 50 条日志 2. 系统中使用 下载并解压 < https://github.com/jeessy2/ddns-go/releases> ; 双击运行,程序自动打开 < http://127.0.0.1:9876>

波士顿动力机器狗首个开箱视频:53万,我买到了啥?

爱⌒轻易说出口 提交于 2020-10-04 03:47:13
开箱一只售价 53 万元的狗,是怎样一种体验? 波士顿动力首款零售的机器人 Spot,今年 6 月 16 日起正式向美国企业用户发售了。作为机器人里的明星,发货时间超过六周显然不会浇灭人们的热情。最近,这款售价 7.5 万美元(折合人民币 53 万元)起的 Spot「机器狗」已经有了买家开箱视频。 机器之心报道,参与:张倩、蛋酱、泽南。 当然,7.5 万美元你能买到的只是「探索版」,企业版和教学版的价格需要咨询经销商获得。波士顿动力在官网解释得很明确,你在花买一台特斯拉 Model S 的价钱时买到的不只是机器狗,而是一个包含机器狗的开发工具包。 具体来说,购买 Spot Explorer 版本获得的一套设备包含一台 Spot 机器狗、两块电池、充电器、平板电脑控制器、机器狗外壳、电源盒及 Spot API 的 Python 客户端包。 关注 Spot 机器狗发售的人可能听过这么一句广告词:Spot is designed to go where other robots can’t go and to perform a broad number of tasks. (别的机器人去不了的地方,Spot 能去,还能完成多种不同任务)。 波士顿动力敢这么说,恐怕没有多少人会去质疑。我们这些年来已在互联网上看到了太多这家公司产品的演示视频—

libp2p:为IPFS&Filecoin需求加强改进

蹲街弑〆低调 提交于 2020-10-04 03:28:25
在libp2p上建立了新区块链项目Filecoin,它计划在今年夏天启动其公共存储和检索网络。在活跃的Testnet矿工社区中已经有超过7.5 PB的存储空间,因此libp2p在2019年的一大重点是降低性能并加强改进以满足Filecoin的需求。 除了Filecoin和Ethereum 2,现在有两个以上的项目直接在libp2p上构建,包括:Polkadot和Parity Substrate,Nervos,Status.im,Paratii,0x,Coda,Enigma,Flow,Harmony,Golem,Keep Network和有效性实验室。诸如Matrix .org之类的组织也处于向其应用程序添加libp2p支持的早期阶段,以帮助其用户从p2p网络的弹性和开放性中受益。 这些新 加入libp2p生态系统的人很重要 。但实际上它们仍然只占所有活动libp2p节点的不到一半!libp2p最终用户中的绝大多数来自通过IPFS使用libp2p的dapp的工具和项目! 每周都有数百万的最终用户和超过100,000个libp2p节点加入IPFS网络。像组织歌剧,复仇,勇敢,Netflix公司,微软和CloudFlare的纷纷加入IPFS生态系统,和数百个像新生的社区拥有的项目Audius,Fleek,Textile,QRI,Pinata, OpenBazaar,BERTY

Go 包管理机制深入分析

此生再无相见时 提交于 2020-10-04 00:57:14
前言 随着 Go 语言的深入使用,其依赖管理机制也一直是各位 Gopher 热衷于探讨的话题。Go 语言的源码依赖可通过 go get 命令来获取,但自动化程度不高,于是官方提供了 Dep 这样的自动化批量管理依赖的工具。虽然 Go 语言的依赖管理在很多方面还是不如人意,但整个体系正在日趋完善,本篇就将从最基本的依赖管理场景出发,一同探讨 Go 语言依赖管理的一些最佳实践。 Go 依赖管理的基本思路 在 Go 语言中,我们通过 go get 命令将 GitHub 或者 Google Code 上的代码下载到本地指定目录,然后在开发代码中通过 import 的形式引用本地的代码。 Go 语言可以通过直接分析代码中的 import 语句来查询依赖关系。go get 命令在执行时,就会自动解析 import 来安装所有的依赖。那么下载的依赖在本地是如何存储的呢? 这里就涉及到 Go 语言的 WORKSPACE 概念,简单来说就是通过 GOPATH 环境变量来设置 Go 代码的位置。一般来说,GOPATH 目录下会包含 pkg、src 和 bin 三个子目录,这三个目录各有用处。 bin 目录用来放置编译好的可执行文件,为了使得这里的可执行文件可以方便的运行,在 shell 中设置PATH变量。 src 目录用来放置代码源文件,在进行 import 时,是使用这个位置作为根目录的

[Go] Golang练习项目-邮箱imap网页版客户端工具

橙三吉。 提交于 2020-10-03 19:44:20
# go-imap 邮箱imap网页版客户端工具,基于GO语言实现。 1.使用第三方类库go-imap解析imap协议 2.使用http包 ,template包,实现http服务下的网页展示 3.使用goroutine在主界面并发请求左右栏的数据 4.使用text/net包下的encoding和transform等配合解决乱码问题 5.使用go modoule解决依赖问题 6.充分实践了struct,interface,map,slice,for range等基础知识 ###项目预览 ###安装使用 1.git clone https://github.com/taoshihan1991/imaptool.git 2.进入目录执行 go mod tidy 3.源码运行 go run server.go 4.源码打包 go build server.go 来源: oschina 链接: https://my.oschina.net/u/4329790/blog/4281513

使用 Docker 开发

两盒软妹~` 提交于 2020-10-03 13:20:09
多阶段构建是一个新特性,需要 Docker 17.05 或更高版本的守护进程和客户端。对于那些努力优化 Dockerfiles 并使其易于阅读和维护的人来说,多阶段构建非常有用。 在多阶段构建之前 构建镜像时最具挑战性的事情之一就是缩小镜像大小。Dockerfile 中的每一条指令都会在镜像中添加一个层,在进入下一层之前,您需要记住清除所有不需要的工件。要编写一个真正高效的 Dockerfile,传统上需要使用 shell 技巧和其他逻辑来保持层尽可能小,并确保每一层都有它需要的来自前一层的工件,而没有其他东西。 实际上,有一个 Dockerfile 用于开发环境(包含构建应用程序所需的所有内容),同时有一个精简的 Dockerfile 用于生产环境(仅包含应用程序和运行应用程序所需的内容)是非常常见的。这被称为“建造者模式”。维护两个 Dockerfiles 并不理想。 这里有一个例子 Dockerfile.build 文件以及符合上述建造者模式的 Dockerfile : Dockerfile.build : FROM golang:1.7.3 WORKDIR /go/src/github.com/alexellis/href-counter/ COPY app.go . RUN go get -d -v golang.org/x/net/html \ && CGO

k8s日志集中收集解决方案

耗尽温柔 提交于 2020-10-03 12:49:35
简介: 在正常生产环境中使用k8s部署业务后能正常运行还不够,我们需要很多附加的东西来满足日常的需求。比如日志、监控、告警等。这一篇给大家分享一下我们生产环境中的日志集中解决方案。当然不敢说是最好的,分享出来供大家参考。 在正常环境中有几类日志我们比较关心: 1、k8s中的ingress日志。比如traefik,里面记录的从公网域名访问进来的访问记录,类似nginx的access.log 2、istio中envoy边车日志。如果启用了istio那么这个日志也是需要的,每次程序被调用时都会有一个记录。 3、k8s中的事件日志。里面就有容器健康检查失败重新部署,或者pod新建、删除等事件。kubectl describe pods中的Events:内容 4、业务程序运行时产生的业务日志。比如java中常用的log4j套件输出的日志和kubectl logs命令查看的日志。这个和输出方式有关。 实现方式 这里日志收集的方式是采用elk模式,如果大家感兴趣还有loki的模式。当然这次分享是基于elk的。首先要部署的还是es集群,这里我们使用的是虚拟机部署方式非容器化。理由es是公共的组件可以对接所有的产品业务线,单独拿出来部署可以给别的产品线输出集中化日志存储方案。平时维护量还是比较少的,当然我们的es集群每15分钟大概800万条记录规模并不是特别大, 不过以后出现瓶颈横向扩容也不是问题