"Guillaume OLLIVIER" <ollivier@iac.nc> ecrit :
>je travaille à partir d'Excell sur des coordonnées géographqiues X et Y
>possédant plus de 5 chiffres après la virgule.
>Lors du passage en binaire par convert de la macro XLfromtoADE ou par
>Texttobin, j'obtiens en rouvrant le fichier binaire avec ADEbin des
>données dégradées. En effet, il n'y a que 4 chiffres après la virgule
>(ce n'est pas trop grave) mais le plus embêtant est que la conversion
>provoque des arrondissement plus ou moins maîtisés :
>
>par exemple les données en texte : 517616.19163651 7632069.0551372
> deviennent en binaire : 517616.1875 7632069.0000
>
>ce qui est très gênant quand il s'agit par la suite de calculer la fonction
>de Ripley puisqu'il en ressortira forcément de fortes agrégation indépendement
>de la réalité des données !!
>
>D'où peut venir un tel problème ? et comment pouvoir des arrondissements ou
>moins à 4 chiffres après la virgule ? je précise que je travaille sous W98
>2ème édition, en 32 bits, avec ADE 2001
Le probleme n'est pas celui du nombre de chiffres apres la virgule,
mais celui du nombre de chiffres significatifs. Dans ADE4, tous les
calculs sont effectues en double precision (environ 12 chiffres
significatifs), mais les fichiers sont enregistres en simple precision
(6 ou 7 chiffres significatifs).
Dans les exemples que vous donnez, il y a 14 chiffres significatifs, et
donc meme en double precision il serait impossible de les conserver tous.
Il ne s'agit en fait pas d'arrondissements mal maitrises, mais d'un format
d'impression inadapte à la precision des valeurs imprimees. Si on se limite
a 6 ou 7 chiffres significatifs, les donnees contenues dans vos fichers
binaires sont correctes.
Avez vous reellement besoin de 14 chiffres significatifs ? Pour des
coordonnees geographiques, ca semble un peu etonnant (avec ca on peut
localiser une bacterie n'importe ou sur terre...) Si c'est effectivement
le cas, il ne faut pas utiliser ADE4. Vous pouvez par exemple utiliser
Mathematica, qui fait des calculs en precision arbitraire.
Jean
--
Jean Thioulouse - Laboratoire de Biometrie et Biologie Evolutive
Universite Lyon 1 - Bat 711 - 69622 Villeurbanne Cedex - France
Fax: (33) 4 78 89 27 19 Tel/Fax: (33) 4 72 43 27 56
http://pbil.univ-lyon1.fr/ADE-4/JTHome.html
This archive was generated by hypermail 2b30 : Thu Jul 04 2002 - 09:39:13 MEST