基于云平台的自然资源大数据中心的设计与实现

2019-09-10 07:22周新求李萱
信息技术时代·上旬刊 2019年4期
关键词:南昌市土地利用数据中心

周新求 李萱

通过南昌市自然资源云+大数据中心的建设,将市、县两级自然资源部门所有的基础数据迁移到市级大数据云平台,形成一个基础资源丰富、计算能力强大、服务水平超前的大平台,为市局的各业务科室提供强大的数据基础、运算保障及业务支撑,服务全局各项自然资源业务。

自然;云;大数据

Zhouxinqiu,Lixuan

(1、Bureau of Nature and Resources in NanChang,NanChang,330030;1、Bureau of Nature and Resources in NanChang,NanChang,330030)

Through the construction of Nanchang Natural Resources Cloud+Big Data Center, all the basic data of the municipal and county natural resources departments are migrated to the city-level big data cloud platform, forming a large platform with rich basic resources, strong      computing capacity and advanced service level, providing the big data platform, operation support and business support for the business departments of the municipal bureau, and serving all natural resources business.

Nature;Cloud;Big Data

隨着自然资源数据的不断汇聚,各地对国土空间基础数据的需求不断增加,需要借助大数据、云计算等手段,实现自然资源态势感知和决策支持信息化,形成科学决策的自然资源监管新模式。自1997年美国NASA首次提出大数据概念之后,于2008年在《Nature》谷歌发表从互联网、数据管理到大数据带来的相关机遇与挑战后引起了大数据的蓬勃发展,同时也在国土资源上自1964年加拿大建立第一个地理信息系统后,美国、瑞典、斯德哥尔摩地、日本等地纷纷建立自己的城市规划信息系统。而中国的国土资源就1999年开始启动“数字国土”的引入了各项先进的地理信息管理技术,再到2003年国家历经十五年、几代国土人的辛苦付出,先后完成了土地利用现状、基本农田保护、土地利用总体规划、土地整治、城镇地籍、第二次土地调查等多种业务类型的信息化系统建设。但随着自然资源保障建设和保护资源的职责任务不断加码,海量自然资源基础数据类型、数量不断扩大,监测与监管要求不断提高,已难以适应和满足新时期的自然资源保护与开发利用管理服务要求,并且与自然资源部、江西省自然资源厅关于信息化建设的总体要求、信息技术发展新趋势相比还存在较大差距。为了响应国家建设网络强国,落实“四个全面”战略布局的重要举措,实现“两个一百年”奋斗目标和中华民族伟大复兴中国梦,提升自然资源治理能力和公共服务水平,做好新时期自然资源信息化工作,建设基于云平台的自然资源大数据中心。

基于云平台的自然资源大数据中心主要是将市、县两级自然资源部门所有的自然资源数据迁移到市级自然资源局大数据云平台中,为南昌市构建统一的自然资源大数据中心提供计算能力强大、服务水平超前的大平台,也为市局的各业务科室提供强大的数据基础、运算保障及业务支撑,服务全局各项自然资源业务及精准服务提供。

1系统需求分析

自然资源是国家的基础性、战略性资源,自然资源管理涉及国计民生和社会稳定大局。自然资源信息化以自然资源的有效监管、合理调控和高效服务为目标,通过信息化手段极大促进国民经济和社会可持续发展,对保障资源安全、增加财政收入、保护国家财产和广大人民群众根本利益、繁荣市场经济、构建和谐社会都具有十分重要的战略意义。通过项目建设,使得市局了解的更全面、决策分析的更透彻、政策把握的更准确、业务管理的更规范、资源监管的更到位,服务于全市经济建设大局,促进全市经济发展方式的转变,及时调整产业结构,服务于社会、服务于民生,推进智慧南昌建设,能有效覆盖全市的信息获取渠道,使得市局可以及时、准确、全面掌握自然资源的总量、结构、分布、时序、趋势等信息,继而科学规划自然资源供应总量、结构、布局、时序等,为有效参与国家宏观调控、合理科学的配置资源,维持国民经济平稳运行、防止经济过热、盲目投资与低水平重复建设提供支撑,保障南昌市国民经济和社会发展“十三五”规划纲要目标的实现。

1.1自然资源云平台分析

云平台打破了业务应用对资源的独占的方式,实现硬件资源和软件资源的统一管理、统一分配、统一部署、统一监控和统一备份,大量采用服务器虚拟化技术,将服务器物理资源抽象成逻辑资源,让一台服务器变成几台甚至上百台相互隔离的虚拟服务器,每台虚拟服务器代表一个具有处理器、内存、网络、存储器和 BIOS 的完整系统,可以在相同硬件上同时运行Windows、Linux等操作系统及软件应用程序,不再受限于物理上的界限,而是让处理器、内存、磁盘、I/O等硬件变成可以动态管理的“资源池”,为南昌市自然资源减少物理资源的数量,简化IT架构的物理分布,从而提高资源的利用率,保证业务系统可持续的提供基于硬件资源和软件资源的服务,实现计算、网络共享和存储能力等资源整合的云平台,让计算资源对业务的变化更具适应力。

1.2自然资源大数据分析

1.2.1自然资源大数据资源目录分析

应用服务资源目錄体系采用元数据对共享应用服务组件资源特征进行描述形成统一规范的目录内容,通过对目录内容的有效组织和管理,形成部门间应用服务组件资源物理分散、逻辑集中的信息共享模式,提供应用服务组件资源的发现定位服务,支持全市范围内跨部门的普遍信息共享,方便用户发现、定位和共享多种形态的应用服务组件资源,支持政府的经济调节、市场监管、社会管理和公共服务。

1.2.2自然资源大数据规范化分析

南昌市自然资源数据内容繁多,涵盖土地利用现状、土地利用规划、基本农田、矿产资源、地质等各类专题数据以及在业务办理过程中产生的业务及管理数据,但在数据的管理、应用和服务方面缺乏统一的标准规范,在一定程度上制约了自然资源数据应用和服务水平的提高。按照自然资源信息化标准建设的总体部署和要求,参照相关标准和规程,制定南昌市自然资源云平台数据标准,规范南昌市自然资源数据库标准、数据服务和数据管理工作,进一步丰富和完善了南昌市自然资源标准规范体系,为支撑南昌市自然资源大数据建设和数据共享服务,对推进南昌市自然资源领域的科技进步、提升自然资源管理水平打下坚实基础。

1.2.3自然资源大数据分析

(1)土地利用现状数据

包含南昌市所辖县(区)一调详查初始库及变更库、2009年二调数据库、2010-2016年土地利用现状变更库。其中一调详查初始库及变更库、2009-2013年矢量数据格式为mapgis格式。

(2)土地利用总体规划数据

市级土地利用总体规划:2010年南昌市土地利用总体规划(2006-2020年)(含南昌市中心城区土地利用规划)、2017年南昌市土地利用总体规划(2006-2020年)调整完善(含南昌市中心城区土地利用规划调整完善);

县级土地利用总体规划:2010年湾里区、青山湖区、南昌县、新建县、安义县、进贤县土地利用总体规划(2006-2020年)(含中心城镇土地利用规划),2013年湾里区、青山湖区、南昌县、新建县、安义县、进贤县规划修改,2014年湾里区、南昌县、新建县、青山湖区规划修改,2015年南昌县、新建区规划修改成果,2017年湾里区、青山湖区、南昌县、新建区、安义县、进贤县土地利用总体规划(2006-2020年)调整完善(含中心城镇土地利用规划调整完善);

乡级土地利用总体规划:湾里区、青山湖区、南昌县、新建县、安义县、进贤县乡级土地利用总体规划(2006-2020年)、湾里区、青山湖区、南昌县、新建区、安义县、进贤县乡级土地利用总体规划(2006-2020年)调整完善。

(3)永久基本农田划定数据

包含自然资源部批复的南昌市城市周边永久基本农田划定成果数据库;江西自然资源厅批复的湾里区、南昌县、新建区、安义县、进贤县城镇周边永久基本农田划定成果数据库;江西自然资源厅批复的湾里区、青山湖区、南昌县、新建区、安义县、进贤县全域永久基本农田划定成果数据库。

(4)地质类数据

地质类数据主要类型包括地质灾害分布、地质灾害基础调查规划、地质略图、地貌类型、崩滑流易发性网格、灾害地质防治规划区等相关类型数据。

(5)矿产类数据

矿产类数据主要类型包括矿产资源开发利用与保护规划、主要矿产资源勘查规划区块、矿产资源分布、主要矿产资源开采规划区块、矿产资源调查评价和勘查规划、矿产资源开发利用现状、矿山环境保护与恢复治理规划等相关类型数据。

2系统设计

2.1总体框架设计

2.1.1总体架构设计

南昌市自然资源业务网作为主要业务运行网络环境,互联网作为面向社会服务的主要网络环境;设计南昌市自然资源局基于SOA架构的总体架构。系统总体架构如图1所示:

针对南昌市部分区县在信息化建设过程中对虚拟资源的需求,在向市自然资源局提出申请后,市自然资源云可酌情向其提供计算、存储等云服务资源。

基础层:基础层为“自然资源”项目提供基础架构硬件和软件资源,包括服务器、存储设备、网络设备、机房环境、操作系统、软件平台、数据库等,以及基于基础设施上搭建的计算资源池、存储资源池、网络资源池等云基础设施环境。

数据层:数据层是整体项目的数据资源保障,本项目将建设自然资源大数据中心,包括自然资源“一张图”核心数据库、数据采集子系统、数据发布子系统、数据管理子系统、数据交换子系统等。

服务层:服务层采取SOA方式将地理空间信息、业务数据与审批管理应用相关的功能进行封装,以服务化的方式通过服务总线将系统功能提供给业务平台和业务系统使用,包括目录服务、元数据服务、电子地图服务、遥感影像服务等,各个应用系统的建设可以基于服务层快速搭建相关功能模块。

应用层:应用层为自然资源电子政务平台、自然资源综合监管平台、国土大数据分析平台以及国土公共服务平台,并在上述四个应用平台的基础上开展地政、矿政、地政等业务管理、综合监管、决策支持和社会服务等多样化应用。

标准规范体系:标准规范体系是制定符合南昌市实际情况的数据生产、更新、维护、管理规范;制定应用系统的设计、搭建、运维等全流程工作规范;制定信息化建设与应用相关机制。

2.1.2云架构设計

云架构设计主要是通过虚拟化设备进行网络重组,并采用对称双活存储、关键备份存储相结合的架构,通过虚拟化存储两个及两个以上控制节点和一个备份节点来组建存储区域网。在服务器和存储磁盘阵列之间构建了一个虚拟逻辑磁盘,并通过光纤网络映射到前端磁盘阵列。当双活存储中任何一个设备发生故障时,存储路径将自动切换到其他路径,保障业务数据存取连续性。关键备份存储实现数据的实时备份,防止突然断电、误删等人为原因造成的数据丢失。如下如图2所示云架构图,是云架构展示的后端存储资源池的构成,存储SAN网络是整个资源池的核心,在这上构建存储虚拟化系统、集中存储与集中备份等。

2.2自然资源大数据中心的设计

2.2.1自然资源大数据业务流程设计

建立南昌市“自然资源云”大数据中心,按照统一的技术框架和标准规范,构建科学合理的数据框架、服务框架和运行环境。实现数据汇集、数据维护、数据服务的整合集成。实现覆盖全市、“横向到边、纵向到底”、联动更新的自然资源数据中心数据库建设;全面、快速和准确地掌握土地、矿产资源的数量、质量、结构、分布、潜力。准确记录资源开发利用生命周期中各个阶段的信息,做到资源状况“一览无余”,资源家底“心中有数”;实现“以图管地和以图管矿”。满足自然资源全面、全程的业务支撑、综合监管、辅助决策、科技防腐和社会化服务等多样化需求。

自然资源大数据中心建设涉及数据种类多样、内容丰富,需要在数据资源规划及数据库设计成果的指导下,梳理形成数据整合建库作业流程,然后根据相应的标准规范和设计要求对原始数据进行整理加工,最后对通过质量检查的数据执行入库、验证,并对入库后的成果进行质量检查、验证,正确无误后形成最终的整合后的数据库成果。如图3所示:

2.2.2自然资源大数据中心数据库概念设计

自然资源数据具有海量、多源、异构、多格式、多级、多时相、多专业类型、多业务类型等特点,建立合理清晰的概念模型是规划和组织这些数据的关键。首先,从数据内容层面对数据中心管理的数据进行科学分类;其次,从数据的专业和业务层面对数据进行逻辑组织;第三,从数据的应用层面对数据进行逻辑分层。自然资源大数据中心划分为自然资源基础框架数据、专业数据、业务主题数据、监测监管数据、主数据、共享交换数据和系统支持数据等七大类。如图4描述了数据资源规划的主要内容。

3系统实现

3.1自然资源云平台的实现

云平台的技术实现主要是基于负载均衡服务的服务器实例水平扩展技术实 现的,即根据期望的硬件配置、操作系统和网络配置,创建一台或多台云主机,帮助用户快速搭建安全稳定的弹性虚拟计算环境,当监控程序发现资源使用达到过特定的阈值时,将触发云主机相应的伸缩任务,支持基于云主机规格提升的纵向扩展。例如,当云主机实例服务器的CPU使用率超过80%,将自动创建新的云主机,云主机将与模板保持一致,从而自动分担其他主机的任务,降低整体负载;当CPU利用率小于30%时,监控将触发云主机收缩任务,减少正在运行的云主机,从而提高整个虚拟化环境的资源利用率。如图5描述实现自然资源云平台拓扑图所示。

3.2自然资源大数据中心的实现

3.2.1自然资源大数据实现原理

每个大数据,都会涉及到一个数据源的问题,自然资源大数据主要是针对数据来源来自多个业务系统,数据整合难度大,错误数据、不完整数据、重复数据等“脏数据”较多,数据量大,转换任务并发量大等问题。为此数据源的采集就显得十分重要,首先通过数据采集工具对自然资源局下属的所有部门进行收集自然资源各种类型数据,然后依次按某种规律把所有采集到的大数据存储在大数据中心数据库中,紧接着通过预先配置好的大数据规则对大数据进行清洗、过虑、交换等,对大数据进行有效的处理,最后在自然资源大数据中心平台通过可视化工具、报表工具和监控程序对大数据进行展示。如图6自然资源大数据实现原理图所示:(1)Data source:自然资源数据源;(2)Collect:自然资源数据采集工具;(3)Store:自然资源数据存储;(4)Process:自然资源大数据处理;(5)Visualize:自然资源大数据可视化;(6)Reporting和Monitoring:自然资源大数据报表和监控。

3.2.2自然资源主界面功能的实现

根据南昌市自然资源的需求分析与系统设计完成规范化、标准化管理云平台的实现,合理分配和管理各种资源,确保各业务系统安全稳定运行,结合南昌市自然资源局实际情况和业务系统的部署、运行、管理等规范化工作。如图7自然资源大数据中心云平台登录界面和图8自然资源大数据中心云平臺主界面所示。

4结束语

该研究以南昌市自然资源局信息化工作为背景,以建设云平台和大数据为内容,针对自然资源数据的“家底”即将变得越来越复杂,面临易于流失、易遭损毁、不当使用、恶意窃取、数据量超大等风险,从而规范和提高政府执政能力与服务水平,优化自然资源信息共享水平和社会化服务体系,设计实现了一套基于云平台的自然资源大数据中心平台。该平台采用了云计算与大数据技术,统一了业务系统的管理,优化了业务系统的操作,提升了系统的性能与效率,提升“服务型”政府的社会形象,服务于全市经济建设大局,促进市经济发展方式的转变,及时调整产业结构,服务于社会、服务于民生,推进数字南昌、资源南昌、生态南昌和平安南昌的建设。

参考文献

[1]王志敏.基于GIS云服务的云南省国土空间大数据可视化系统建设研究[J].地矿测绘,2018(35):31-35.

[2]程炜.浅论自然资源大数据的发展利用[J].科技风,2018(10):23-24.

[3]张春雨.基于大数据技术的自然资源信息化应用探讨[J].现代经济信息, 2018(13):25-26.

[4]付佩,卢瑾.基于大数据”智慧国土”平台建设研究[J].西部大开发(土地开发工程研究),2017(13):17-19.

[5]VH Shastri, V Sreeprada.A Study of Data Mining with Big Data[J].International Journal of Emerging Trends and Technology in Computer Science,2016(38):99-103.

[6]王礼玲.大数据在自然资源信息化中的应用[J].数据通信世界,2017(10).

作者简介:周新求(1978.10-),湖北黄冈人,男,硕士研究生,高级工程师,武汉大学,自然资源信息化;

李萱(1991.06-),江西新余人,女,硕士研究生,初级工程师,武汉大学,自然资源信息化。

猜你喜欢
南昌市土地利用数据中心
共享社会经济路径在土地利用、能源与碳排放研究的应用
关于间接蒸发冷机组在数据中心中应用的节能分析
南昌市师范院校食育开展现状及促进策略
“落后”就要挨打
请到康都来
2018年数据中心支出创新高
2017第十届中国数据中心大会榜单
新型城镇化视角下留用地安置制度分析及完善
北京市土地利用现状分析