分群现象中大气折光改正模型研究分析

廖文兵，赵 雷，刘晓云

（1.自然资源部大地测量数据处理中心，陕西 西安 710054）

大气折射对测量值的影响包括光通过大气层时，传播速度的影响和对光线空间形状的改变，即光径曲率变化影响。高精度三角高程测量、电磁波测距、精密水准测量和高精度GNSS观测中大气折光差是主要的误差来源之一，国内外的测量学者为克服大气折射对观测值的影响进行了长期的研究[1-4]。精密水准测量中的误差来源主要包括标尺温度误差，仪器、尺台受热误差和大气折光差等[5]。与大气密度、分布、时间、地形及气象条件均有关的大气折光差，在显著的温差变化、漫长的上下坡、高差明显的山区等客观条件影响下，累计误差特别明显。

本文在充分研究目前国内外精密水准测量中大气折光改正的3种经典模型的基础上，给出分群现象观测数据中对应模型的大气折光差，探讨其各自的改正量级及主要误差影响因子，得出的相关结论将有助于精密水准测量中减小或削弱大气折光差影响，提高观测数据质量。

1 经典改正模型

1.1 库卡梅奇模型

芬兰大地测量研究所的库卡梅奇假定：大气密度大致平行于地面，温度是最主要的因素，且温度高度函数是非线性的。由此，库卡梅奇根据BEST温度模型推导了大气折光改正模型[4]。

式中，vh为一站水准高差的折光改正值；d为折射率变化系数，其表达式d=9.9×10-10P0[0.933-0.006 4(t0-20)]；P0为仪器中心处的气压，以毫帕为单位；t0为仪器中心处的气温，以℃为单位；S为仪器至标尺的平距；b、c为幂函数形式的“温度-高度”函数中的系数，数学表达式t=t0+bHc，其中，t0、b、c可以根据同一温度梯度方向上的实测数据解算获取；H为地面以上铅垂线高度，单位为m；Z0为仪器高；ZA、ZB分别为后视、前视标尺读数。

1.2 莫佐兴模型

Mozzuchin给出了单站折光改正公式[6]:

式中，vh为测站水准大气折光改正数，单位为mm；P为大气压；S为视距，单位为m；T为观测时的气温绝对温度，单位为℃；i为仪器高，单位为m；r1为距地1 m处的温度梯度，单位为℃/m；Δh为前、后尺hf、hb之差，单位为m。

1.3 李延兴模型

国家地震局第一地形变监测中心李延兴研究员采用积分法严密推导的大气折射改正模型是目前国内最为经典的模型之一[4]，其严密公式[7]为:

式中，vh为测站水准大气折光改正数，单位为mm；H0、Ha、Hb分别为测站仪器高，前、后标尺读数，单位为m；S为测站长度，单位为m；f为大气折光率变化系数，其大小与瞬时气压和温度有关。大气折光率变化系数给定模型公式为：

式中，P0为大气压，单位为毫帕；t0为瞬时温度，单位为℃；b，c为近似大气层“温度-高度”幂函数模型系数。

2 分群现象观测数据

为研究分3种改正模型对精密水准观测数据的大气折光差影响程度及量级，笔者采用某大型煤矿新一代高程基准建设过程中出现分群现象的2007线观测数据。该路线数据按照现行规范要求，严格采用二等水准观测方法进行测量，获取了由10个测段，总计45.4 km组成的附合路线。除问题测段外，其余9个测段往、返测不符值均在对应测段允许值1/3限差以内。问题测段为08段，总计进行5次往、返测，不符值限差为4L=±9.38 mm。表1给出了5次观测对应的测段信息，按照现行规范[8]对分群现象取舍之规定，首往测、重往测与重返测、重返测2构成分群现象。采用首往、重往高差平均数与重返、重返2高差平均数分别作为该测段往、返测高差计算的路线闭合差不符值为+0.28 mm，每千米偶然中误差为±0.60 mm。分群现象经规范要求计算后，较好的完成了测线各项精度指标计算，测段地形起伏如图1a、b所示。

表1 分群现象测段高差及测段信息

图1 测段地形起伏

3 3种模型对算比较

从图1可以看出：首往、重往测前62站地形起伏满足“W”形，重返、重返2后62站的地形对称，当前、后视距方向的地面坡度基本一致即对称地形时，大气折光对测站高差的影响可以消除，甚至为零[5]，因此只考虑分群现象中非对称测站。由于3种模型大气折光差均为单站大气折光差累计和，并且数值与测站的瞬时气压、测站处瞬时温度、测线高度、测线长度及温度梯度有关。而获取瞬时参量需要进行实时观测获取，在实际生产中很难满足这一点，故在本次计算分析中采用观测过程中每5站记录一次的温度t及实测高差为依据，拟合计算瞬时气压、温度、温度梯度等参量[5]，经编程计算后，3种模型对分群现象的改正量如表2所示。

由表2可以看出，库卡梅奇模型与李延兴模型在给定的经典模型P0=1 000 hpa、t0=20℃、b=1.545 4、c=-1/3时，非对称地形测站的大气折光差改正量累计和大小基本一致，介于-7.76～+8.55 mm之间，而莫佐兴模型改正量明显小于此二者，该模型的往、返测改正量大小偏差较大，这主要是由于温度是决定模型改正量的重要参数，且往、返测变化趋势不同造成的。

表2 3种改正模型的大气折光差/mm

库卡梅奇模型和李延兴模型主要的变量为瞬时气压、大气折光率、视距及坡度；而莫佐兴模型主要的变量为瞬时气压、温度、视距及温度梯度。温度的变化对库卡梅奇模型和李延兴模型较为迟钝，而莫佐兴模型则较为灵敏。

观测数据在改正前，因往、返测不符值超限，为问题测段。根据现行规范有关规定，强制对测段不符值进行算术平均，不能直观反映大气折光差对水准观测的影响。本文研究计算的3种模型改正量，不仅能反映大气折光差影响因子，而且经改正计算的各项精度指标均满足限差要求。其中，库卡梅奇模型改正量最接近规范要求，李延兴模型次之，莫佐兴模型最差。合适的模型改正能有效解释分群现象，有助于粗差测段重测方向的选择。

4 结论

光在空气中传播过程导致光速和曲率变化产生了大气折光，大气折光差是高精度水准测量及精密工程测量的主要误差来源之一。对水准测量中分群现象观测数据进行模型改正研究计算，通过比较分析，得出以下结论：

1）大气折光差对高精度水准测量影响误差较大，为获取折光改正量，在野外作业时应实测温度和气压，从而对观测高差施加折光改正。

2）不同模型的改正量不同，主要是模型考虑侧重点不同导致的，但均与观测时气压、温度、坡度、视线长度、测站高差有关。折光影响与视线长度的平方成正比，故在观测中，应兼顾作业效率和视线长度二重因素。

3）折光影响与高差成正比，与视线高度成反比。上坡时折光影响为负，下坡时折光影响为正，在缓坡上，应兼顾视线长度与读数高度二者之间的矛盾关系。

4）对于有条件的区域、城市高精度控制网建设，在水准网观测及数据处理中应选择合适的大气折光改正模型加以改正，将有利于提高控制网精度。

5）对存在粗差的经多次重测后，仍不满足规范要求的测段，采用模型改正计算，将有效解决重测方向选取的问题。