the International Journal Volume 7

  on Marine Navigation Number 2

http://www.transnav.eu and Safety of Sea Transportation June 2013

DOI: 10.12716/1001.07.02.13

Solutions of Inverse Geodetic Problem in Navigational

Applications
A.S. Lenart 
Gdynia Maritime University, Gdynia, Poland 
 

ABSTRACT:  Solutions  of  such  navigational  problems  as  an  orthodromic  navigation  (courses,  distances  and 
intermediate  points),  maximum  latitude  and  a  composite  navigation  with  limited  latitude  as  well  as,  for 
comparison,  a  loxodromic  navigation  (courses,  distances)  without  any  simplifications  for  a  sphere,  by  an 
application  of  solutions  of  the  inverse  geodetic  problem  are  presented.  An  exemplary  rigorous,  rapid,  non‐
iterative solution of the inverse geodetic problem according to Sodano, for any length of geodesic, is attached. 

1 INTRODUCTION  geodetic  problem)  will  be  used  in  this  paper  in  the 
formal notation 
The  traditional  method  of  computing  the  shortest 
path between two points on the Earth known as Great  S = IGP (φ1, λ1, φ2, λ2)  (1) 
Circle method approximate the Earth as the sphere. 
These  simplifications  have  been  necessary  to  re‐ α1‐2, α2‐1 = IGP (φ1, λ1, φ2, λ2)  (2) 
duce the number of calculations and justified in times 
of  manual  mechanical  or  electronic  calculators,  but 
are  completely  unnecessary  and  unjustified  in  times 
of  computer  calculations.  Therefore  we  will  directly 
apply  the  solution  of  the  problem  known  in  geodesy  P2
as the inverse geodetic problem. 
2-1
In  the  solution  of  the  inverse  geodetic  problem 
(Fig. 1) from the given coordinates φ1, λ1    at the start  S
of geodesic P1 and  coordinates  φ2,  λ2  of  the  endpoint 
P2 are calculated the length S, the azimuth α1‐2 and the 
reversed azimuth α2‐1, on any reference ellipsoid.  N
E.  M.  Sodano  (Sodano  1958,  1965,  1967)  from 
Helmert’s  classical  iterative  formulas  derived  a  1-2
rigorous  non‐iterative  procedure,  for  any  length  of 
geodesic  and  for  any  required  accuracy,  which  is 
attached  (as  exemplary)  in  Appendix  A.  This  P
1
 
procedure  (or  any  other  solution  of  the  inverse 
Figure 1. The direct and the inverse geodetic problem. 

253 
2 ORTHODROMIC DISTANCE AND COURSES  a 0 (1  e 2 )
RM    (8) 
We define the orthodrome as the shortest path on any  (1  e 2 sin 2 )3
surface and not only the Great Circle distance on the 
sphere as commonly is used. 
a0
The geodesic is (locally ‐ not long way round) the  RN    (9) 
shortest  path  between  two  points  on  an  ellipsoid  of  1  e 2 sin 2 
revolution.  Therefore  we  can  obtain  orthodromic 
distance and courses directly from Equations 1 and 2  The  widest  span  has  the  radius  of  curvature  in 
with navigational substitutions  meridian since 

Cgs = α1‐2  (3)  2
b0  
R M min  R M (  0)  (10) 
a0
Cge = α2‐1 ‐ 180°  (4) 
2
where Cgs = the course over ground at the start of the  a
orthodrome;  and  Cge  =  the  course  over  ground  at  the  R M max  R M (  90°)  R N (  90°)  0   (11) 
b0
end of the orthodrome. 
East longitudes and north latitudes are considered  The  substitute  radius  of  curvature  of  any 
positive  and  west  longitudes  and  south  latitudes  are  orthodrome will be within these limits. The minimum 
considered negative.  absolute  value  of  deviation  gives  an  assumption  that 
the  substitute  radius  of  sphere  is  given  by  the 
equation (for a global range of latitudes) 
3 ACCURACY OF THE SOLUTION OF THE 
R M max  R M min
INVERSE GEODETIC PROBLEM  RS    (12) 
2
“The  accuracy  of  geodetic  distances  computed 
through  the  e2,  e4,  e6  order  for  very  long  geodesics  is  Then  the  maximal  relative  error  of  calculation  on 
within  a  few  meters,  centimeters  and  tenth  of  milli‐ such  a  sphere,  instead  of  an  ellipsoid,  gives  the 
meters  respectively.  Azimuths  are  good  to  tenth,  equation 
thousandths  and  hundreds  thousandths  of  a  second. 
Further  improvement  of  results  occurs  for  shorter   ( R M max  R M min )
lines” (Sodano 1958).  SS   0.5%  50 km / 10 000 km
R M max  R M min
This  accuracy  can  be  easy  tested  in  the  case  of    (13) 
equatorial  orthodrome.  Substitution  φ1  =  φ2  =  0  to 
Equations A 2 to A 10 yields  These  results  are  similar  to  obtained  by  Earle 
(2006) with much more complicated methods. 
S  b 0 (1  f  f 2 ) L   (5) 

whereas the correct value is given by the equation 
5 INTERMEDIATE POINTS ON THE 
ORTHODROME 
b0
S*  a 0 L  L  (6) 
1 f For  calculating  intermediate  points  on  the 
orthodrome we can use, as exemplary, the solution of 
therefore the relative error is  the  direct  geodetic  problem  presented  in  Lenart 
(2011),  also  according  to  Sodano,  having  similar 
accuracy. 
S  S*
S   38 109  38cm /10 000 km   (7) 
In  the  solution  of  the  direct  geodetic  problem 
S*
(Fig. 1) from the given coordinates φ1, λ1 and azimuth 
α1‐2  at  the  start  of  geodesic  P1  and  their  length  S  are 
calculated  coordinates  φ2,  λ2  of  the  endpoint  P2  and 
the reversed azimuth α2‐1, on any reference ellipsoid. 
4 ERRORS OF CALCULATIONS ON THE SPHERE 
This procedure (or any other solution of the direct 
According  to  Euler’s  theorem  for  an  ellipsoid  of  geodetic  problem)  will  be  used  in  this  paper  in  the 
revolution  the  radius  of  curvature  in  meridian  is  the  formal notation 
smallest  and  the  radius  of  curvature  in  the  prime 
vertical is the largest at a point. These radii are given  φ2, λ2    = DGP (φ1, λ1, α1‐2, S)  (14) 
respectively by the equations   
α2‐1 = DGP (φ1, λ1, α1‐2, S)  (15) 

254 
 The orthodrome of the length S we will divide for  6 MAXIMUM LATITUDE 
n suborthodromes (Fig. 2) of any length Si such as 
According  to  Clairaut’s  relation  for  a  geodesic  on  a 
n surface of revolution 
S
i 1
i  S   (from Equation 1)  (16) 
r sin  = const. = C  (22) 

and intermediate points are calculated in n iterations:  where r = the radius of parallel. 
  For an ellipsoid of revolution 
FOR i=1 to n 
r = RN cos φ  (23) 
IF i=1 THEN 
At φmax 
(φ2, λ2)i‐1    = φ1, λ1  (17) 
(2‐1)i‐1 ‐ 180°= 2‐1 (from Equation 2)  (18)  sin   1   (24) 

ENDIF 
therefore 
(φ2, λ2)i    = DGP ((φ2, λ2)i‐1, (α2‐1)i‐1 ‐ 180°, Si)  (19) 
a 0 cos max
(α2‐1)i = DGP ((φ2, λ2)i‐1, (α2‐1)i‐1 ‐ 180°, Si)  (20)  C  (25) 
1  e 2 sin max
NEXT i 
and finally 

a 02  C 2  
sin max  (26) 
a 02  e 2 C 2

where C e.g. is 

C = r(φ1) sin α1‐2  (27) 

The above equations are valid if   

sin   1   (28) 

exists on our orthodrome i.e when 

(Cgs ‐ 90°)(Cge ‐ 90°)<0  (29) 
 
Figure 2. Intermediate points on the orthodrome.  or 

or  even  n‐1  iterations  because  the  last  iteration  is  for  (Cgs ‐ 270°)(Cge ‐ 270°)<0  (30) 
verification only that 
or else 
(φ2, λ2)n    = P2(φ2, λ2)  (21) 
max  max( 1 , 2 )   (31) 
In  traditional  navigation  intermediate  points  are 
calculated  during  planning  the  voyage  to  navigate 
between  them  along  a  loxodrome.  If  we  have 
programmed  procedure  on  the  bridge  during  the 
voyage  then  the  situation  can  be  quite  different.  In  7 COMPOSITE NAVIGATION 
this  case  the  intermediate  points  are  needed  e.  g.  for 
the  verification  of  the  path  on  the  map  only.  During  If for any reason φmax is limited to φlim then (Fig. 3) we 
the voyage if  we  enter  as  P1  the  current  position  and  have: 
P2 is constantly the endpoint then the procedure gives  1 The  orthodome  I  (Ort  I)  –  from  φ1,  λ1  to  φlim, 
the  course  over  ground  for  the  orthodrome  to  the  λ2OI. 
endpoint, even if we e. g. due set and drift are out of  2 The loxodrome (Lx) – at φlim from λ2OI to λ1OII. 
track,  and  not  to  an  intermediate  point.  We  can  3 The orthodome II (Ort II) – from φlim, λ1OII to φ2, 
calculate  a  new  course  for  the  orthodrome  after  each  λ2. 
position  fixing  and  to  navigate  always  along  the 
current  orthodrome  without  these  calculated  We  will  obtain  λ2OI  and  λ1OII  in  iterative 
intermediate points.    procedures: 

255 
Cge = IGP (φ1, λ1, φlim, λ2OI = var)  (32)  9 INVERSE COMPUTATION FORM SIMPLIFIED 

where  λ2OI  is  adjusted  by  any  small  increments  until  For  shorter  distances  (the  very  long  geodesic  in 
Cge = 90°if L > 0 or 270° if L < 0  paragraph 3 means even 20 000 km) or lower required 
accuracies  we  can  use  equations  from  Appendix  A 
reduced  to  f  order  (having  the  accurate  solution  for 
reference in errors calculations). Therefore Equation A 
10 becomes to 

S  b 0 [(1  f  f 2 )  (f  f 2 )m / 2 
  (39) 
 (f  f 2 )(2a  m cos  ) sin  / 2]

and Equation A 11 becomes to 

    (f  f 2 ) c  L   (40) 
Figure 3. Composite navigation. 
or 
and 
S  A S  BS [c 2  (2a  m cos  ) sin  ]   (41) 
Cgs = IGP (φlim, λ1OII=var, φ2, λ2)  (33) 
where 
where  λ1OII  is  adjusted  by  any  small  increments  until 
Cgs = 90°if L > 0 or 270° if L< 0  1
A S  [1  (f  f 2 )]b 0   (42) 
This  iterative  process,  although  looks  as  very  2
complicated,  is  very  fast  and  simple  with  using  e.g. 
the Solver in Microsoft Excel. 
1
BS  [ (f  f 2 )]b 0   (43) 
2
8 LOXODROMIC DISTANCE AND COURSE  It  is  evident  that  f  +  f2  are  from  reduced  higher 
order elements from series 
The  ortodromic  navigation  is  for  shorter  distances 
then  in  the  loxodromic  navigation  therefore  to  1
calculate  this  difference  we  will  calculate,  for  f  f 2  f 3    1   (44) 
comparison,  the  loxodromic  distance  and  course  on  1 f
an ellipsoid. 
Noting that 
SM (1 , 2 )  
Slx  (34)  b0
cos  lx  a0   (45) 
1 f
where  SM(φ1,  φ2)  =  the  meridian  distance  between  φ1  Equations 42 and 43 are thus 
and  φ2;  and  lx  =  the  course  over  ground  for 
loxodrome. 
A S  (a 0  b 0 ) / 2   (46) 
L  
tan  lx  (35) 
 BS  (a 0  b 0 ) / 2   (47) 

where  This  simplified  computation  form  gives  errors  in 

the  range  of  meters  (and  has  no  errors  for  equatorial 
  ln(tg( / 4  2 / 2))  ln(tg( / 4  1 / 2))  orthodromes. 
e 1  e sin 2 1  e sin 1   (36) 
 (ln  ln )
2 1  e sin 2 1  e sin 1
10 CIRCULAR FUNCTIONS 
In our case 
The angles α1‐2, α2‐1 from Equations A 12, A 13 and  lx 
from  Equation  35  have  to  be  calculated  with  the 
SM(φ1, φ2) = IGP (φ1, λ1, φ2, λ1)  (37)  circular  function  tan‐1(),  but  this  function  gives 
solutions  in  the  range  (‐90°,  90°).  For  full  range  (0°, 
Equation 33 is valid if φ1 ≠ φ2 or else  360°)  retrieving  tables  of  quadrants  are  used  in 
Sodano (1965). 
Slx = r (1   2 )  L   (38) 

256 
 For  computer  calculations  a  special  procedure  Reference  ellipsoid:  a0,  b0  =  semi‐major  and  semi‐
should  be  used  to  retrieve  the  full  range  (0°,  360°)  minor axes 
from  the  signs  of  the  numerator  N  and  the  denomi‐
nator D and to detect and support a division by zero  Flattening   
case e.g.: 
b0  
For  f  1 (A 1) 
a0
N 
ANGLE  TAN 1
D ‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐ 

IF D≠0 THEN    tan 1  (1  f ) tan 1   (A 2) 

    ANGLE=ATN(N/D) 
tan 2  (1  f ) tan 2   (A 3) 
    IF D<0 THEN ANGLE=ANGLE+180°: END IF 
a  sin 1 sin 2   (A 4) 
ELSE 

    ANGLE=(2‐SGN(N))*ABS(SGN(N))*90°  b  cos 1 cos 2   (A 5) 

END IF  L   2  1   (A 6) 

IF ANGLE<0 THEN ANGLE=ANGLE+360°: END IF 
cos   a  b cos L   (A 7) 

b sin L
11 CONCLUSIONS  c   (A 8) 
sin 
The set of presented procedures are quite general and 
universal. They can be used with any solutions of the  m  1  c2   (A 9) 
inverse (and direct) geodetic problems as well during 
the  voyage  planning  as  during  the  voyage  in  real 
time, for “full” orthodrome navigation.  S  b 0 [(1  f  f 2 )
(f  f 2 )m

2
REFERENCES 
(f  f 2 )(2a  m cos  ) sin 

Earle  M.A.  2006.  Sphere  to  Spheroid  Comparisons.  The  2   (A 10) 
Journal of Navigation 59: 491‐496. 
f 2 m 2 (  sin  cos  )
Lenart  A.S.  2011.  Solutions  of  Direct  Geodetic  Problem  in  
Navigational  Applications.  Transnav  –  International  16
Journal  on  Marine  Navigation  and  Safety  of  Sea 
f ( 2a  m cos  ) 2 sin  cos 
2
Transportation 5(4): 527‐532.  
Sodano  E.M.  1958.  A  rigorous  non‐iterative  procedure  for  8
rapid  inverse  solution  of  very  long  geodesics.  Bulletin 
f 2 (1  m)(a  m cos  ) 2 csc 
Géodésique 47/48: 13‐25.   ]
Sodano  E.M.  1965.  General  non‐iterative  solution  of  the  in‐ 2
verse  and  direct  geodetic  problems.  Bulletin  Géodésique 
75: 69‐89. 
f 2 sin 

Sodano  E.M.  1967.  Supplement  to  inverse  solution  of  long 
geodesics. Bulletin Géodésique 85: 233‐236.    (f  f 2 )  [  f 2 2 csc ]a
2 (A 11) 
5f 2 f 2 sin  cos 
 [   f  cot ]m c  L
2 2

APPENDIX A 
4 4

Inverse computation form (Sodano 1965, 1967)  cos  2 sin 

tan 12    (A 12) 
  sin 2 cos 1  sin 1 cos  2 cos 
Given: φ1, λ1, φ2, λ2 
Required: α1‐2, α2‐1, S   cos 1 sin 
tan  21 
‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐‐  (sin 1 cos  2  sin  2 cos 1 cos  )   (A 13) 

257