Est-il possible de changer le niveau de précision du calcul de CornerScaling ?
Le message de Luis Tito pourrait laisser croire que la précision des calculs laisserait à désirer dans ADE-4.
Bouhouhouh ! Je suis triste.
La précision est partout la même. A l'interieur des programmes tout se fait en quadruple précision mais en entrée-sortie tout est en simple précision soit avec 8 chiffres significatifs. Pour s'en convaincre le fichier texte X.txt :
1.1
12.12
123.123
1234.1234
12345.12345
123456.123456
1234567.1234567
12345678.12345678
123456789.123456789
passé en binaire et listé par AdeBin donne :
1.1000
12.1200
123.1230
1234.1234
12345.1230
123456.1250
1234567.1250
12345678.0000
123456792.0000
Donc, en général, pour les calculs simples on a 8 chiffres significatifs.
Comme dans CornerScaling, on fait une règle de trois, il n'y a pas de problèmes !
Mais la question est double.
1) La précision d'un résultat et celle de son format d'édition n'est pas la même.
Elle peut être trop pauvre et le nombre 1234.1234 peut être édité 1.234e+04 (il y a 4 digits exacts qu'on ne voit pas) ou trop riche et le nombre 123456790 peut être édité 123456792.0000 (il y a 5 digits faux qu'on voit).
Dans la manip de Luis, que j'ai refaite on a :
ce qu'on obtient 1.8478e+05 9.9812e+05
ce que'on désire 184775 998125
ce que'on a en fait 184775.05 998125.00 (par Adebin dont on conserve 8 chiffres significatifs)
...
ce qu'on obtient 2.1307e+05 1.0962e+06
ce qu'on désire 213700 1096650
ce qu'on a en fait 213065.70 1096178.5
2) La précision de la règle de trois n'est pas en cause (ouf !) mais peut-être que le détournement de programme et que la transformation Deg Min Sec en UTM n'est pas une règle de trois ?
Cordialement
>Bonjour,
>
>Je voudrais utiliser cornerScaling pour convertir des coordonnées Deg Min Sec en UTM
>
>J'utilise pour cela deux points dont j'ai les coordonnées dans les deux repères :
>
>2geo (ce sont les corrdonnées en Deg Min Sec mises en format numérique sous excel) :
>
>-0.244499421 0.375830440
>-0.213072917 0.399482060
>
>2UTM :
>
>184775 998125
>268000 1060425
>
>Puis le fichier de coordonnées également transformé en numérique sous excel DEGMINSEC :
>
>-0.2444994 0.37583044
>-0.2403212 0.37686921
...>-0.2479167 0.40887732
>-0.2138339 0.39342303
>
>
>J'obtiens un résultat correct mais dont le niveau de précision est insuffisant. A droite j'ai mis les valeurs que j'ai calculées "à la main" et qui correspondent au niveau de précision dont j'ai besoin :
>
>DEGMINSEC_XY :
>
>1.8478e+05 9.9812e+05 184775 998125
>1.9584e+05 1.0009e+06 195775 1000950
>1.9956e+05 1.0067e+06
>1.9415e+05 9.997e+05 194125 999865
>2.1121e+05 1.0043e+06
>2.1599e+05 1.0057e+06
>2.1986e+05 1.0075e+06
>2.1756e+05 1e+06
>1.9867e+05 1.0121e+06
>1.9887e+05 1.0122e+06
>1.8535e+05 1.0584e+06
>1.7807e+05 1.0554e+06
>2.1608e+05 1.0707e+06
>2.3794e+05 1.0595e+06
>2.3629e+05 1.061e+06
>2.3366e+05 1.0495e+06
>2.103e+05 1.0921e+06 210770 1092640
>2.2199e+05 1.086e+06 222250 1086490
>2.1382e+05 1.0904e+06 214190 1091090
>2.1307e+05 1.0962e+06 213700 1096650
>
>etc...
>
>Est-il possible de changer le niveau de précision du calcul de CornerScaling ?
Daniel Chessel
----------------------------------------------------------------
Universite Lyon 1 - Bat 401C - 69622 Villeurbanne CEDEX - France
Tel : 04 72 44 82 77 Fax : 04 72 43 11 41
----------------------------------------------------------------
This archive was generated by hypermail 2b30 : Sat Feb 10 2001 - 10:21:50 MET