GIScript

GIScript2016-Docker 数据导入源码

喜欢而已 提交于 2019-12-17 19:43:45
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> GIScript2016-数据导入教程 ** GIScript2016是支持Python3的地理空间数据处理和分析工具包,支持Jupyter和Spark。** GIScript2016支持Spark,可以运行在单机以及大规模集群之上。这里基于Docker的Jupyter Notebook进行空间数据导入,稍加修改后即可直接用于大量空间数据的批量处理。内容包括: 创建UDB数据源。 导入Shape矢量格式。 导入Tif影像格式。 导入CSV和JSON格式。 引用GIScript的支持库 # coding: utf-8 import sys from GIScript import GISCore, Data, Conversion # help(GISCore) ''' ! \brief 文件路径定义 ''' strTiffPath = "Raster/astronaut(CMYK)_32.tif" strShapePath = "Vector/countries.shp" strCSVPath = "Vector/Hospital.csv" strGJBPath = "Vector/KN0839" strJsonPath = "Vector/Polygon.json" strUDB = "DB

GIScript2016-Docker 快速入门

孤街浪徒 提交于 2019-12-17 19:42:57
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> GIScript2016是支持Python3的地理空间数据处理和分析工具包,支持Jupyter和Spark,可以运行在单机以及大规模集群之上。GIScript with Jupyter+Spark on Docker这一技术栈非常强大,通过conda包管理程序还可以安装大量的科学计算包,如NumPy、Scikit、Pandas以及OpenCV、NLTK、Tensorflow、Keras等机器学习软件包,实在是大数据处理、分析和深入研究的神器。 1. 创建Docker容器 在前篇博文【 GIScript2016-Docker上的Jupyter Notebook部署 】中,介绍了将GIScript部署到Docker中的方法。然后我们可以将这个容器镜像推送到DockerHub上,就可以在联网的其它计算机中使用了。 1.1 提交容器镜像 首先,提交一个自己DockerHub账号下的镜像(如果还没有账号,就在hub.docker.com上注册一个),然后将当前的镜像提交为该账号的版本。如下所示: docker commit GISpark openthings/gispark 1.2 推送镜像到云端 首先,登陆到Docker账号,如下: docker login 根据提示输入在DockerHub上注册的账号和密码。

GIScript2016-Docker 数据导入教程

*爱你&永不变心* 提交于 2019-12-17 19:42:43
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> GIScript2016是支持Python3的地理空间数据处理和分析工具包,支持Jupyter和Spark,可以运行在单机以及大规模集群之上。这里介绍基于Docker的GIScript+Jupyter这一技术栈,使用其进行空间数据导入的具体过程,稍加修改后即可直接用于大量空间数据的批量处理。点击查看【 完整数据导入源码 】。 1. 准备工作-创建容器实例 在博文【 GIScript2016-Docker上的Jupyter Notebook部署 】和【 GIScript2016-Docker 快速入门 】中,分别介绍了将GIScript部署到Docker中,以及将这个容器镜像推送到DockerHub上,然后在联网的其它计算机中使用的方法。 1.1 现在,我们拉取所创建的GIScript2016容器: docker pull openthings/gispark 1.2 创建GIScript的本地目录: mkdir GISpark cd GISpark 1.3 创建容器的运行实例: docker run -it --name GISpark \ -p 9000:8888 \ --user root -e GRANT_SUDO=yes \ -v /home/supermap/GISpark:/home/jovyan

GIScript2016的重要变化

99封情书 提交于 2019-12-17 19:28:20
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> GIScript是一个开源的地理信息处理脚本系统。 GIScript 2016的目录结构进行了调整,因此2016版需要重新编译。 GIScript 2016目前可以支持Windows和Linux,考虑到技术发展的趋势和数据处理的场景,目前只对64位系统提供支持。 GIScript 2016在Linux上主要支持gcc4.9的编译,主要测试平台是Ubuntu。 GIScript 2016在Ubuntu14.04上,因为使用的gcc4.8.2,需要自己下载gcc4.9.3编译,然后再编译GIScript的库。 GIScript 2016在Ubuntu15.04上,因为使用的gcc4.9.2,可以直接使用。 GIScript 2016在Ubuntu15.10上,因为使用的gcc5.2.1,需要自己下载gcc4.9.3编译,然后再编译GIScript的库。 编译完后,测试一下gcc和g++的版本: gcc -v g++ -v 如果有问题,参考这里解决: http://my.oschina.net/u/2306127/blog/538139 然后运行一下测试程序,进入testbed目录: ./run.sh t_dataimport.py 仔细查看输出信息,一般会成功。如果有出错信息,参考上面检查配置。 如果安装了老版本的

GIScript2016-Docker上的Jupyter Notebook部署

我与影子孤独终老i 提交于 2019-12-17 19:28:04
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> GIScript2016是支持Python3的地理空间数据处理和分析工具包。 GIScript2016支持Jupyter和Spark,可以运行在单机以及大规模集群之上。GIScript with Jupyter+Spark on Docker这一技术栈非常强大,通过conda包管理程序还可以安装大量的科学计算包,如NumPy、Scikit、Pandas以及OpenCV、NLTK、Tensorflow、Keras等机器学习软件包,实在是大数据处理、分析和深入研究的神器。 GIScript2016将C++系统库封装为Python的过程全部开源了出来,方便研究者使用C++编写自己的专业算法库,然后添加到这个框架中来,是编写高性能的Python扩展模块的极佳参考。 下面我们在Docker中进行部署GIScript2016的方法,然后使用Jupyter Notebook进行基于浏览器的访问。一旦环境设置完毕,就可以在很多环境下部署Docker容器,使用非常方便。Jupyter Notebook是基于浏览器的编程“笔记本”,非常适合进行数据探索类的研究。 1.安装支持环境 1.1 安装Docker容器支持环境 我用的Mac OS X,现在的Docker已经原生支持了,不用像以前要安装VirtualBox

基于GIScript和GeoIP进行访问网址的地理定位分析

眉间皱痕 提交于 2019-12-17 18:55:12
【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>> 通过网页访问日志分析使用者的地址,然后将其放到地图上,分析访问来源的热区从而得到用户的地图分布,是不是很有用、也很酷?这里介绍个使用GIScript和GeoIP来进行访问网址的地理定位的例子。 这个功能虽然看起来简单,但其实要分为很多个环节的。下面详述: 1、首先是获取IP地址,这个不多说了。在Web服务器的RequestHeaders中都有,也可以通过日志进行提取。从文件中提取可以批量处理,而从访问信息中提取然后直接发送到消息总线或NoSQL之类的高效率存储系统可以实现实时的处理。 2、使用GeoIP讲域名或IP地址解析为地名。GeoIP是MaxMind开发的用于IP到地址的解析工具,包括软件和IP数据库。免费版的定位较粗,而付费版的可以实现较高精度的定位。 3、将地名通过地理编码(Geocoding)功能转换为空间坐标或空间几何对象,需要软件和地图数据的共同支持。这个以前是专业GIS才有的功能,现在google/百度都提供在线服务接口。但是因为在线的有很多限制(网络带宽、并发控制、账号等等),这里使用GIScript这个工具来做。因为与GeoIP都有Python库,很容易集成到一起。如果需要大批量的处理,再假设一个Celery进行并行处理就OK了。 4、统计空间数据库中的数据样本的频度和其它属性

GIScript2015的第一个入门教程-使用UbuntuKylin15.04

跟風遠走 提交于 2019-12-10 13:24:58
GIScript2015是一个通用的GIS脚本库,可以帮助进行地理空间数据的处理和分析,提高数据处理的效率,帮助进行地理科学的研究。GIScript2015是一个开源工程,已建立Git版本库和虚拟Team、微信群(两个:GIScript语言、GIScript开发者)。 GIScript2015与GIScript的区别是2015版完全采用SIP进行封装,与Qt和PyQt具有较好的相容性,接口可以与C++保持一致,从而减少了封装维护资源和增加了易用性。GIScript2015现已完成Windows/Linux的64位基础版本,可运行于UbuntuKylin15.04。 GIScript2015可以支持Python并行框架Celery(本人已测试通过),从而实现分布式的数据处理调度操作。这个跟Hadoop和Spark应该也可以挂接上去运行的,有兴趣的同学可以试试。另外,这个里面的UGC基础库可以支持MongoDB,这个对大数据的存储和处理可是个利器。 现在,我们开始一个简单的例程,感受一下GIScript运行的过程,体验一下使用脚本的“懒人模式”。 GIScript完全是绿色软件、拷贝即用,不需要特殊的复杂安装,使用Python3。 但是呢,UGC的SIP封装由于全部开放源码出来了,如果是获取的原始工程,需要自己先进Linux64-gcc4.9/SIP/UGC这个目录运行make

在UbuntuKylin15.04上安装GIScript2015

随声附和 提交于 2019-12-10 01:28:01
GIScript入门教程参见: http://my.oschina.net/u/2306127/blog/484213 ,这里介绍基于SIP的C++封装为Python的方法和使用过程。 GIScript2015版采用了新的SIP封装,从而可以更好地与C++接口保持一致。 最近有了一些进展,尝试在在UbuntuKylin15.04上安装GIScript。 由于要使用MetaSIP,需要Python3,先输入python3确认一下当前的环境。 安装python3 sudo apt-get install python-pip sudo apt-get install python3-dev 安装SIP #下载:http://www.riverbankcomputing.com/software/sip/download wget http://sourceforge.net/projects/pyqt/files/sip/sip-4.16.8/sip-4.16.8.tar.gz #解压 tar -vxf sip-4.16.8.tar.gz #配置 cd sip-4.16.8 python3 configure.py #编译 make #安装 sudo make install 如果出现下述错误: PyQt5 - SIP API 10 level error. API 11

影响未来GIS发展的六大技术趋势

若如初见. 提交于 2019-12-03 09:35:55
近年来,信息技术(IT)发展可谓风起云涌。GIS(地理信息系统)作为IT大潮的一员,自然也要紧跟趋势,做时代的弄潮儿。近年来有哪些重要的趋势,会影响GIS的发展呢?笔者以为主要有这六个方面:1、Linux的快速发展以及与其相关的云计算技术,使IT成为社会基础设施的一部分;2、ARM低功耗计算平台的突飞猛进,将推动物联网和智慧城市的快速发展;3、移动应用和基于互联网络的协同,推动专业GIS功能让大众所用;4、数据开放浪潮和大数据分析技术的快速发展让“地理智慧”落到实处;5、三维技术和全新的数据采集手段拉开了新一轮GIS技术革命的序幕;6、开源软件和社会化软件工程将极大地改变GIS软件研发和应用的流程和模式。 一、linux的快速发展以及与其相关的云计算技术,使IT成为社会基础设施的一部分。 随着云计算的兴起,Linux操作系统以其资源消耗少、软件生态全、可定制化能力强、安全性能好等优点得到几乎所有IT服务商的青睐,就连微软也开始在Linux系统进行大量的投入。以Ubuntu为首的桌面Linux在专业用户、软件开发者、IT发烧友中装机量也在迅速上升,逐渐改变了Linux在桌面应用上的弱势形象。我国的基于Linux的深度定制操作系统,也开始得到更为广泛的应用。因此,2015年可以说是Linux从打破Windows垄断到全面开花的转折之年

​GIScript2015的IPython Notebook教程

徘徊边缘 提交于 2019-11-29 10:03:38
GIScript2015-开放地理空间信息处理与分析Python库 GIScript 是一个开放的地理空间心处理与分析Python框架,GIS内核采用SuperMap UGC封装,集成多种开源软件,也可以使用其它的商业软件引擎。 by wangerqi@supermap.com, 2016-05-03。 本文档介绍GIScript的安装和配置,并进行简单的运行测试,以确认安装的软件正常运行。 本教程基于Anaconda3+python3.5.1科学计算环境,请参考: http://www.anaconda.org 。 本Notebook在Ubuntu 14.04/15.10/16.04运行通过,在本地服务器和阿里云服务器都可以运行。 本文档使用Jupyter Notebook制作,可以在 NBViewer上直接访问和下载本文档 。 (一)安装与配置 GIScript的安装包括 系统库的设置 、 UGC Runtime设置 和 Python库 的设置,通过编写一个启动脚本,可以在给定环境下载入相应的运行库的路径。 1、下载GIScript支持库: cd /home/supermap/GISpark git clone https://github.com/supergis/GIScriptLib.git 2、UGC系统库的版本适配。 由于GIScript的几个编译库版本较新