SDN/NFV发展中的关键:编排器的发展与挑战

2017-05-22 07:02赵鹏段晓东
电信科学 2017年4期
关键词:开源运营商架构

赵鹏,段晓东

(中国移动通信有限公司研究院,北京 100053)

SDN/NFV发展中的关键:编排器的发展与挑战

赵鹏,段晓东

(中国移动通信有限公司研究院,北京 100053)

网络功能虚拟化(NFV)和软件定义网络(SDN)已被业界普遍认定为下一代电信网络发展的主要方向,编排器作为未来网络的“大脑”,成为运营商灵活管理网络、最大化发挥新技术优势的关键。首先阐述了编排器在下一代网络中的核心地位,并对编排器的技术架构进行介绍。而后从标准化和开源的角度对编排器产业发展情况进行介绍和分析。最后阐述了编排器产业发展中标准与开源的关系,编排器与网管运营支撑系统(OSS)的融合、编排器对SDN的支持以及依托编排器实现网络自动化智能化运营的理念。

编排器;网络功能虚拟化;软件定义网络;ETSI;Open-O;ECOMP;OSM;ONAP

1 引言

2012年10月,13家运营商在ETSI成立了NFV(network function virtualization,网络功能虚拟化)工作组(ISG),开展网络功能虚拟化研究、标准制定和产业推动工作,致力于将虚拟化技术应用于电信领域。

目前,NFV已被业界普遍认定为下一代网络的主要方向,也是通信网络发展基础性的关键技术,可满足运营商低成本、灵活性和开放性的诉求。软/硬件解耦采用通用 COTS(commercial off-the-shelf)设备替换原有电信专用设备,可以降低运营商设备采购成本,同时NFV带来的自动化运维可降低运营商运维支出,实现降本增效。在运营商和厂商的共同推动下,NFV逐渐从一个抽象的概念变为现实,有了广泛的试点和一定的部署。运营商和厂商也在NFV的发展进程中逐步完成自身的转型。长期看来,引入NFV,运营商将面临大量基础设施的改变和管理体系的重建,网络重构成为NFV发展过程中的热点。

NFV系统中软件、虚拟层和网络功能分层解耦,打破了电信行业原有的“黑盒化”封闭系统,降低了电信准入门槛,有利于打造更具活力的生态系统,NFV从根本上改变了CT的发展生态。一方面,充分解耦后的碎片化网络对运营商的管理和运维带来了巨大的挑战,这需要依赖于新型的管理系统;另一方面,NFV给网络带来极大的灵活性和敏捷性,但是网络的灵活性和敏捷性的实现依赖于新的管理系统和自动化编排系统。NFV体系中引入了全新的 MANO(management and orchestration,管理和编排)系统,编排器(orchestrator)作为其中的核心部件,是网络灵活调整和资源动态调度的关键,毫无疑问成为下一代网络的“大脑”。

以编排器为核心的未来网络管理体系的创建,已成为运营商凭借NFV完成网络管理和运维转型的核心要求,也成为产业界研究和推动的热点。

2 编排器的技术架构

ETSI MANO标准架构由VIM(virtual infrastructure manager,虚拟化基础设施管理)、VNFM(virtual network function manager,虚拟网络功能管理)和 NFVO(network function virtualization orchestrator,网络功能虚拟化编排器)组成,分别对网络服务、网络功能和虚拟资源进行管理。NFV系统架构如图1所示。

图1 NFV系统架构

VIM主要负责基础设施层虚拟化资源、硬件资源的管理、监控和故障上报等,面向上层VNFM和NFVO提供虚拟化资源池,负责虚拟机和虚拟网络的创建和管理。同时,VIM提供虚拟机镜像管理功能。VIM通过Nf-Vi接口与NFVI进行交互,实现资源的管理;通过Vi-Vnfm和Or-Vi接口向上层提供虚拟层平台能力。目前,业界VIM多基于 OpenStack社区进行产品化,且采用OpenStack标准API进行互通。

VNFM负责VNF的生命周期管理,包括网元创建、扩缩容、升级、治愈、回滚、终止等。VNFM通过Or-Vnfm接口将VNF的管理能力提供给NFVO,通过Vi-Vnfm接口完成VNF生命周期所需的虚拟资源操作和监控,通过Ve-Vnfm-vnf接口完成对 VNF相关的配置和管理,通过Ve-Vnfm-em接口向EM暴露网元生命周期管理能力。

NFVO负责网络服务的生命周期管理和全局跨域资源调度。NFVO通过 Or-Vnfm接口控制VNFM 完成网元的创建和生命周期管理,通过Or-Vi接口控制VIM完成虚拟资源的调度和调整。

作为运营商网络管理的“大脑”,业界编排器的设计借鉴了NFVO的基础架构,并结合实际网络管理需求和场景进行了不同程度的扩充和变种,并在模块实现层面呈现一定规律。在管理范畴上,在ETSI标准要求的基础上,重点考虑了与网元应用层管理的协同和SDN的支持;在模块设计上,多分为设计态和运行态两类。两类模块协同作用,实现整体网络的自动化智能化管控。

3 编排器的发展情况

编排器作为未来网络管理的“大脑”,已成为业界研究和推动的热点。一方面,ETSI主导了包括编排器在内的NFV相关标准化工作,同时3GPP SA5、IETF SFC、ITU-T SG13、CCSA等也在进行相关研究和标准化工作;另一方面,Open-O、ECOMP、OSM(open source MANO)、Tacker(OpenStack)、OpenBaton、Clodify等多个开源组织或项目在编排器领域进行开源实现。

3.1 ETSI标准化进展

2013年1月,ETSI NFV ISG正式成立,开始NFV相关研究工作,重点侧重于可行性研究、概念定义等,并于2013年底发布NFV架构框架,作为后续研究基础。

2014年底,NFV ISG正式发布了R1系列规范,完成了NFV及MANO架构定义、接口定义和模型定义。同时,开始R2工作。

R2阶段,NFV ISG的工作被划分到了 IFA(Interface and Architecture)、EVE、REL、SEC、TST组中,IFA工作组主要负责MANO相关接口和模型的具体定义。其中,IFA010定义了MANO各接口的总体需求,IFA005、IFA006、IFA007、IFA008、IFA013分别定义了MANO个接口信息模型,IFA011、IFA014分别定义了VNF分组和NSD,IFA001~IFA004定义了硬件加速相关内容。R2系列规范于2016年9月完成发布,R2规范定义了MANO各接口和模板的信息模型,但尚未对接口协议和实现级别的数据模型进行定义,无法指导具体接口实现和异厂商设备互通。

2016年,ETSI陆续开展了R3相关工作,R3工作分为两部分:第一部分是在原工作组发布的规范基础上做更进一步的数据模型,这部分工作主要是在2016年5月成立的SOL(Solution)工作组进行,截至 2017年 3月,SOL主要针对IFA007、IFA008、IFA011、IFA013、IFA014对应的信息模型做数据模型定义,其中 VNF分组、VNFD/NSD相关工作借鉴了OASIS TOSCA模板内容;第二部分是面向未来的NFV新功能系列研究报告,这些工作主要在IFA和EVE工作组进行,包括NFV支持网络切片、MANO自身管理、策略管理、NFVO架构分离、计费和账单、多VIM管理、多域管理等,将探索NFV未来的功能扩展和发展方向。

3.2 OSM进展

OSM由ETSI主导发起,于2016年4月正式成立,基于ETSI NFV ISG相关规范进行开源实现。截至2017年2月,已有包括7家运营商在内的共60个会员单位参加。

OSM 的系统架构由设计态和运行态两类模块组成。设计态主要用于管理和设计NS/VNF以及统一GUI;运行态主要用于端到端的服务编排、NS/VNF实例的管理、资源管理、传统网络支持,同时支持对接多种 VIM、SDN控制器和专用VNFM。与其他开源项目相比,OSM在架构上与ETSI NFV架构最为近似,但也已超出了ETSI R2所定义的范畴。

OSM于2016年5月发布了第一个版本R0,实现了简单的 on-boarding能力和可读性较强的VNFD和NSD,南向支持对接OpenStack和Open VIM,并支持基于SDN的underlay网络配置和Web服务界面。同年10月,OSM发布了第一个正式版本R1,主要基于ETSI R2规范进行实现,同时在扩展性方面采用了更加开放的 plugin方式,VIM 方面支持 OpenStack、Open VIM 和VMware,SDN 方面支持 OpenDaylight和Floodlight。支持多站点(multi-site),并在安装部署和模板方面进行了进一步优化。同时,OSM参加ETSI的PlugTest项目,与多方VNF和VIM进行了对接测试,实现了 VNF和 NS的on-boarding和catalog管理、NS实例的创建和删除以及在运行的NS实例中添加和删除VNF。

OSM OSG与NFV ISG同样隶属于ETSI之下,工作的开展和参与人员具有一定重合性,为两者间的合作和互助奠定了基础。在OSM开发和PlugTest测试过程中,OSM也发现了ETSI R2规范100多项相关问题,对标准规范做了很好的实践、验证和补充。

3.3 Open-O进展

Open-O于2016年2月由MWC发起倡议,于 2016年 6月在深圳正式成立,成为隶属于Linux基金会的编排器开源项目,目前已拥有14个会员单位。Open-O致力于打造电信级开源协同器平台,其最大的特点是在设计之初就将 NFV和 SDN放在了同等地位之上,通过全局编排器实现NFV/SDN协同的端到端业务编排和资源综合调度。

Open-O于2016年11月在美国华盛顿发布了R1 SUN版本,支持家庭场景和企业场景的vCPE业务编排,并于2016年12月与OPNFV Colorado版本完成了 Plugfest集成测试,成为了首个与OPNFV成功对接的MANO开源软件。目前正在筹划R2 Mercury版本,计划将支持VoLTE和增强版vCPE场景,并在策略管理、通用VNFM支持、EMS集成、告警管理、多VIM等方面进行增强。

Open-O的系统架构由 GS-O、NFV-O、SDN-O、通用服务和统一TOSCA五大模块构成。各模块间采用了充分解耦的设计思路,可作为服务单独使用,GS-O、NFV-O和SDN-O对外均支持通过驱动方式接入外部系统,最大化地实现了系统的开放性。

GS-O由全局服务生命周期管理、服务分解、服务分析和北向接口构成,通过全局服务模板定义端到端服务,并将其分解为NFV服务和SDN服务,交给NFV-O和SDN-O分别执行和处理。北向接口提供至 BSS/OSS并接收其业务需求。NFV-O基于ETSI的架构和信息模型,包含网络服务生命周期管理、NFV资源管理和NFV监控服务。北向提供RESTful接口至GS-O,南向通过驱动方式与VNFM、SDN控制器和VIM互通。同时,NFV-O提供基础的告警监控和性能统计功能。SDN-O提供跨SDN和传统网络的服务编排,支持包括设计、开通和维护在内的全生命周期管理能力,支持underlay网络(L3 VPN和L2 VPN)和overlay网络(VxLAN、IPSec、VPC、业务链)场景的业务开通。R1版本聚焦于网络集成和业务自动开通,后续版本将实现由动态模型驱动的服务设计。通用服务模块提供 Open-O各组件运行所需要的通用能力,即将多个模块都涉及的业务功能抽取出来统一实现后提供给其他模块共用,包括微服务总线、高可用性、驱动管理器、日志管理、认证管理、外部系统注册和协议栈支持。统一TOSCA提供Open-O的平台级功能,是所有微服务实现的基础,包括微服务总线、各微服务通用的HA、日志记录和收集、通用的各种类型的驱动管理等。Open-O通过统一的GUI门户界面对外提供交互,并考虑了整套系统匹配的测试验证环境。

3.4 ECOMP进展

AT&T于2013年12月发布了Domain2.0白皮书,并希望通过该计划打造下一代网络并实现公司的文化变迁,即将公司转型成所谓软件公司。而作为AIC(AT&T Integrated Cloud)支柱之一的ECOMP(Enhanced Control,Orchestration,Management & Policy),将成为其公司转型,并于2020年实现75%的网络虚拟化这一目标的关键。ECOMP是一个编排器更大的体系,涵盖了 OSS的大部分功能,希望实现自动化运行和编排。ECOMP起初并非开源项目,2016年3月,AT&T发布了ECOMP架构白皮书,业界才对其内部有了一定了解。在业界环境的影响下,2016年7月AT&T决定将ECOMP开源,并于2017年2月1日正式宣布开源,与Open-O一样隶属于Linux基金会旗下。

目前Open-O和ECOMP已经正式宣布两者将整合成为一个统一的社区——ONAP(Open Network Automation Platform),

3.5 ONAP

2017年2月23日,Linux基金会宣布ONAP正式成立,该项目由开源编排器领域最重要的两个项目——ECOMP和Open-O合并而成,凝集了业界最具影响力的运营商和设备商参与。成立后已有包括中国移动、AT&T、华为、爱立信等在内的多家白金会员和银牌会员参与。

ECOMP和Open-O均是面向SDN/NFV技术的网络协同器,定位接近。Open-O由中国运营商和设备商主导发起,同时吸引了国际领先的 CT和IT厂商参与;ECOMP由AT&T联合厂商自主开发,起步较早且已经部分商用部署。两者在定位和技术架构上存在合并的可能性,在需求方面具有极强的互补性,ECOMP于2017年2月选择在Linux基金会正式开源,也为其Open-O的合并创造了基础。

新的合并社区 ONAP项目采用了中立的名字,基于两个项目的已有成果采用融合的开放技术架构和公平的管理架构,避免了少数成员垄断话语权,为后续进行技术融合与协同创新奠定了基础。目前项目内正在就管理架构和技术架构融合进行磨合和分析,相信强强联手的ONAP将会成为未来编排器领域最重要的开源力量。

4 编排器发展的关键问题

4.1 编排器中标准和开源的关系

NFV概念诞生于CT领域,但却带有显著的IT烙印,NFV尤其是编排器领域的产业发展也完全不同于传统CT国际标准化为主导的发展态势,带有IT基因的开源项目在编排器的产业发展中发挥了不可替代的作用。

ETSI作为传统的标准化组织采用了标准制定中常用的分阶段方式,从概念和需求出发完成了R1规范的定义,而后继续进行R2的信息模型定义,为业界描述了清晰的系统架构和功能需求,引领了 NFV其他相关组织的工作,并成为开源项目和厂商设备实现的基础。但需要注意的是,ETSI NFV架构中的内容并不都是全新创造的技术领域,尤其在NFVI云平台和编排器方面都面临业界已有的成熟产品和开源项目的挑战。

NFVI云平台的相关技术实质是虚拟化和云计算,这在IT领域已有超过10年的实践并诞生了诸如AWS、VMware、OpenStack等成功的产品和开源项目。以OpenStack为例,其在2010年由NASA和Rackspace将已有系统开源所形成,并在其后一年的时间内由42个组成成员的95名开发者迅速发展到80个组织成员的1 200多名开发者。早在ETSI R2规范完成之前,OpenStack已经具备了基本满足ETSI VIM的能力,并成为业界多数供应商VIM产品的实现基础,OpenStack API也大有取代ETSI IFA005、IFA006的定义而成为VIM北向接口事实标准的趋势,这也迫使ETSI成立特别工作组(STF)对ETSI标准和OpenStack进行分析,用以确定VIM北向接口R3规范的制定思路。STF的工作计划在2017年9月才会有初步结论,届时相信ETSI与OpenStack的合作和融合将会成为趋势。

另一个例子是ETSI标准中NSD、VNFD的定义,NS和VNF作为NFV最重要的管理对象,其表述模板的定义将对整个生命周期管理、NFVO/VNFM的设计以及对外暴露的API产生重要影响。在这方面,原在IT领域用于资源架构描述的OASIS社区TOSCA模板在2015年针对NFV需求进行了NSD和VNFD定义,这部分工作早于ETSI R3的相关工作。目前,ETSI已与OASIS展开密切合作,SOL工作组与 VNF分组和NSD/VNFD相关的项目将采用与OASIS TOSCA一致的定义。

编排器领域更是如此,由于与运营商实际的运维管理需求密切相关,导致标准无法满足众多运营商的各异需求并解决其面临的实际问题;同时,编排器作为运营商自身网络的管理系统,不存在跨运营商互联互通的需求,因此开源项目在这个领域大方异彩,以IT的工作方式对标准工作和运营需求进行快速实现和验证。在实践的过程中,开源社区还将其挖掘出的新需求和标准修改建议反馈到标准组织中,对标准进行了补充和优化。

开源社区具有强者越强的特点,吸纳最广泛的参与者和最优秀的开发人员,保持社区活跃度和影响力是开源社区成功的关键。从这方面来讲,ONAP集合了Open-O与ECOMP两个旗帜项目的优势资源,未来必将在开源编排器领域发挥其重要作用和影响力。

NFV涉及领域众多,标准和开源将以合作互补的关系共同发展。带有CT烙印的标准化将继续在整体逻辑架构和功能需求方面引导开源社区和供应商设备实现,并解决具有强互联互通特性的领域;而具备IT基因的开源项目则可针对需求逐点击破、快速实现,尤其在运营商个性化程度高的编排器领域具有明显优势,同时其实践成果也对标准进行有效的反馈和补充。标准和开源将在NFV领域相互协作,共同推动产业的发展与成熟。

4.2 编排器与网管OSS的关系

标准定义的编排器关注生命周期管理和资源调度,与VNF应用层管理无关。但在运营商实际运维中,网络的变化和资源的调整需求往往源于业务层面,同时业务的控制和分析也离不开对资源层面的了解,两者有着复杂的联系,往往难以通过一个互通接口完成系统整合。这就需要编排器与OSS/EMS进行深度的融合,形成统一的未来网络管理系统,ECOMP在设计之初就已将EMS功能纳入其中,体现了其业务与资源统筹管理的思路。

此外,编排器所提供的能力对于运营商传统OSS来说是全新的,通过原有OSS升级来支持传统网络和NFV网络的统一管理,实质上更像是将传统OSS和编排器生硬地堆积在了一起。同时,NFV网络中编排器与资源层的分层管理对运营商运维人员来说也需要全新的能力,从这个角度来看,初期在网管角度将传统网络和NFV网络分开,分别由OSS和编排器进行管理,在资源管理和大数据分析层面对两者汇总、统一分析和呈现,或将成为运营商NFV商用初期的选择。

4.3 编排器与SDN及控制器的关系

随着新技术的引入,电信网络将变为由新型数据中心的节点和高速网络连接的连线组成的“星盘格”,其中数据中心将承载电信网络功能,以NFV技术为核心,实现网络功能的快速部署和灵活组成;高速网络连接将提供节点间的数据交换,以SDN技术为核心,自动化匹配业务调整所带来的链路调整需求。单独的 NFV编排和SDN编排都无法实现运营商最终业务的快速上线和调整。

随着电信业务的发展和5G相关需求的提出,电信网络将面临更多的业务场景和网络切片,其中任何一点都需要NFV和SDN的协同进行实现。因此,编排器的定位应在NFV管理编排和SDN控制器之上,NFV管理编排实现了网络功能和网络服务的部署和生命周期控制,而SDN控制器实现了上述对象对外暴露的端点之间的连接,并对数据的流量流向进行控制。编排器在 NFV/SDN之上对端到端的业务场景负责,并将其拆解为NFV和SDN所理解的管理对象,控制两者协同完成端到端业务的部署和控制。在 NFV/SDN协同方面,Open-O提出的GS-O高层设计架构试图给出答案,值得业界关注和借鉴。

4.4 编排器成为网络自动化智能化运营的核心

随着电信网络的发展,运营商面对的是一个高度复杂的网络,由于低下的运维效率和为保障电信业务可靠性而带来的巨大运维开支,以专用电信设备为管理对象的“基于突发的故障”和“主观经验”运维模式已逐渐走向末路。NFV/SDN将电信网络变为“软网络”,在技术层面为运营能力的提升创造了条件;同时,更加模块化的网络也对运营商的运营能力提出了更高的要求。从运营商网络运营体验角度出发,ETSI也于2017年2月成立了ENI(Experiential Networked Intelligence)ISG,聚焦于新技术下运营商自动化、智能化运营的探索。

未来网络自动化、智能化运营将以网络设计态和闭环控制为核心。网络设计态的重点是将现在运营商的业务技术方案和网络建设方案连同其运维的方法用标准的形式化语言描述为模板和策略,编排器基于这些模板和策略,对技术方案和建设方案进行实现,大大增加部署和调整的效率,并且具备“可复制”的属性,彻底改变运营商现有的建设和运营流程,带来运营商能力的全面提升。这其中,模板和策略的定义和不断优化将会是一个持续的过程。

以大数据分析和机器学习为核心的自动调整和优化过程在互联网领域的实践已从量变发展到质变,深刻影响了现代人的生活,颠覆了很多原有的“常识性”认知,运营商也试图将其应用于网络运营领域。NFV方面,编排器将获得虚拟功能所对应的物理资源、虚拟资源、业务应用层全量的统计数据;SDN方面,作为流控制的核心,将获得关于网络连接和流量的全部数据,如果能将这些数据加以统一分析,闭环反馈至网络设计态系统,指导和不断优化当前模板和策略,将从排除主观经验的科学角度逐步最优化网络设计和运营。

编排器作为未来网络管理的“大脑”,将从网络设计态和闭环控制方面进行增强,成为未来网络自动化、智能化运营的核心。

5 结束语

加速向下一代网络发展是由业务需求和技术发展两方面共同驱动的必然。在发展下一代网络中,运营商的网络重构与转型已经初露端倪。编排器是SDN和NFV发展中的关键,也是网络重构与转型实现灵活性和敏捷性的基础。目前编排器处于技术发展的高峰期和应用的早期,大量技术问题需要解决,我国已经在这方面占有了先机。然而,编排器背后配套的组织管理变革和文化技能变革才是背后的决定性力量,任重而道远。

[1] ETSI. Network functions virtualisation (NFV); management and orchestration[EB/OL]. [2017−02−20]. http://www.etsi.org/ deliver/etsi_gs/NFV-MAN/001_099/001/01.01.01_60/gs_NFV-MAN001v010101p.pdf.

[2] ETSI. Network functions virtualisation (NFV); architectural framework[EB/OL]. [2017−02−20]. http://www.etsi.org/deliver/etsi_gs/ NFV/001_099/002/01.02.01_60/gs_NFV002v010201p.pdf.

[3] ETSI. Network functions virtualisation (NFV); terminology for main concepts in NFV[EB/OL]. [2017−02−20]. http://www. etsi.org/deliver/etsi_gs/NFV/001_099/003/01.02.01_60/gs_ NFV003v010201p.pdf.

[4] ETSI. Network functions virtualisation (NFV); management and orchestration; functional requirements specification[EB/OL]. [2017−02−20]. http://www.etsi.org/deliver/etsi_gs/NFV-IFA/001_ 099/010/02.02.01_60/gs_NFV-IFA010v020201p.pdf.

[5] Open-O. Technology[EB/OL]. [2017−02−20]. http://www.open-o.org/ technology.

[6] AT&T. ECOMP (enhanced control, orchestration, management & policy) architecture white paper[S/OL]. [2017−02−20]. http://about.att.com/content/dam/snrdocs/ecomp.pdf.

[7] ETSI. An ETSI OSM community white paper, OSM release one a technical overview[S/OL]. [2017−02−20]. https://osm.etsi.org/images/ OSM-Whitepaper-TechContent-ReleaseONE-FINAL.pdf.

赵鹏(1987−),男,中国移动通信有限公司研究院中级工程师,主要研究方向为核心网、NFV等。

段晓东(1977−),男,中国移动通信有限公司研究院网络技术研究所所长、高级工程师,主要研究方向为5G、下一代网络等。

Key of SDN/NFV development: development and challenge of orchestrator

ZHAO Peng, DUAN Xiaodong
China Mobile Research Institute, Beijing 100053, China

Network function virtualization (NFV) and software defined networking (SDN) have been widely recognized as the main direction of the development of the next generation telecom network, and as the brain of the future network, orchestrator is the key for the operators to manage the network flexibly and maximize the advantages of new technologies. Firstly, the core position of orchestrator in the next generation network was described, and the technical architecture of orchestrator was introduced. Then, the development of orchestrator in the perspective of standardization and open source were introduced and analyzed. Finally, the relationship between standardization and open source was elaborated, including the integration of orchestrator and OSS, the support of orchestrator for SDN and the idea to realize the intelligent and automatic network operation relying on orchestrator.

orchestrator, network function virtualization, software defined networking, ETSI, Open-O, ECOMP, OSM, ONAP

TN91

A

10.11959/j.issn.1000−0801.2017098

2017−02−20;

2017−03−31

猜你喜欢
开源运营商架构
基于FPGA的RNN硬件加速架构
功能架构在电子电气架构开发中的应用和实践
五毛钱能买多少头牛
LSN DCI EVPN VxLAN组网架构研究及实现
大家说:开源、人工智能及创新
开源中国开源世界高峰论坛圆桌会议纵论开源与互联网+创新2.0
取消“漫游费”只能等运营商“良心发现”?
开源计算机辅助翻译工具研究
第一章 在腐败火上烤的三大运营商
三大运营商换帅不是一个简单的巧合