Bienvenue! Inscrivez-vous et rejoignez notre communaut :)
  • Login:

Bienvenue sur Forum SIG - Systmes d'Information Gographique et Gomatique.

Bienvenue sur le forumSIG. S'il s'agit de votre premire visite, assurez vous de faire une recherche pralable dans les FAQ SIG. Vous devez vous inscrire avant de pouvoir poster.

Affichage des rsultats 1 1 sur 1
  1. #1

    Date d'inscription
    aot 2011
    Localisation
    Paris
    Emploi
    Charg de mission SIG
    ge
    33
    Messages
    1 087

    Par dfaut Problme de prcision dans les variables FLOAT

    Bonjour,

    Je rencontre un norme problme de prcision dans les variables Float o Mapinfo arrondit systmatiquement les valeurs, ce qui pose videmment des problmes dans les calculs ...

    tester dans une fentre Mapbasic :

    Code:
    Dim val1 As Float
    Dim val2 As Float
    
    val1 = 15.123456
    val2 = 58.9999999999
    
    Print val1 + val2
    Print Format$(val1 + val2, "#.0000000")
    Comment faire sous Mapinfo pour conserver la prcision maximale ?

    Un grand merci d'avance ceux qui pourraient rpondre la question !

 

 

Discussions similaires

  1. [MapInfo 10.x] Modification du type d'une colonne en float qui ne fonctionne pas
    Par bjd1023 dans le forum Assistance Technique
    Rponses: 6
    Dernier message: 18/04/2012, 12h15
  2. [MapInfo 9.x] Desctruction de variables dans un .wor
    Par Flo49 dans le forum Assistance Technique
    Rponses: 2
    Dernier message: 24/03/2009, 18h33
  3. Rponses: 1
    Dernier message: 17/02/2009, 17h07
  4. [GDAL] Raliser un batch avec des variables dans un tableau
    Par ClaireLK dans le forum Assistance et Programmation
    Rponses: 2
    Dernier message: 17/06/2008, 17h38
  5. [MapBasic 4.x] Problme avec Add Column tb (var Float)
    Par houplineur dans le forum Programmation
    Rponses: 1
    Dernier message: 05/02/2007, 18h07

Liens sociaux

Rgles de messages

  • Vous ne pouvez pas crer de nouvelles discussions
  • Vous ne pouvez pas envoyer des rponses
  • Vous ne pouvez pas envoyer des pices jointes
  • Vous ne pouvez pas modifier vos messages
  •