Format binaire

From: Guillaume OLLIVIER (ollivier@iac.nc)
Date: Wed Aug 01 2001 - 08:31:53 MEST


Bonjour,

je travaille à partir d'Excell sur des coordonnées géographqiues X et Y
possédant
plus de 5 chiffres après la virgule.
Lors du passage en binaire par convert de la macro XLfromtoADE ou par
Texttobin,
j'obtiens en rouvrant le fichier binaire avec ADEbin des données dégradées.
En effet,
il n'y a que 4 chiffres après la virgule (ce n'est pas trop grave) mais le
plus embêtant
est que la conversion provoque des arrondissement plus ou moins maîtisés :

par exemple les données en texte : 517616.19163651 7632069.0551372
                 deviennent en binaire : 517616.1875 7632069.0000

ce qui est très gênant quand il s'agit par la suite de calculer la fonction
de Ripley puisqu'il en ressortira forcément de fortes agrégation
indépendement
de la réalité des données !!

D'où peut venir un tel problème ? et comment pouvoir des arrondissements ou
moins à 4 chiffres après la virgule ? je précise que je travaille sous W98
2ème édition, en 32 bits,
avec ADE 2001

cordialement

Guillaume OLLIVIER



This archive was generated by hypermail 2b30 : Thu Jul 04 2002 - 09:39:13 MEST