Bienvenue! Inscrivez-vous et rejoignez notre communauté :)
  • Login:

Bienvenue sur Forum SIG - Systèmes d'Information Géographique et Géomatique.

Bienvenue sur le forumSIG. S'il s'agit de votre première visite, assurez vous de faire une recherche préalable dans les FAQ SIG. Vous devez vous inscrire avant de pouvoir poster.

Affichage des résultats 1 à 14 sur 14

Mode arborescent

  1. #1

    Date d'inscription
    août 2011
    Localisation
    Paris
    Emploi
    Chargé de mission SIG
    Âge
    33
    Messages
    1 124

    Par défaut Problème de précision dans les variables FLOAT

    Bonjour,

    Je rencontre un énorme problème de précision dans les variables Float où Mapinfo arrondit systématiquement les valeurs, ce qui pose évidemment des problèmes dans les calculs ...

    À tester dans une fenêtre Mapbasic :

    Code:
    Dim val1 As Float
    Dim val2 As Float
    
    val1 = 15.123456
    val2 = 58.9999999999
    
    Print val1 + val2
    Print Format$(val1 + val2, "#.0000000")
    Comment faire sous Mapinfo pour conserver la précision maximale ?

    Un grand merci d'avance à ceux qui pourraient répondre à la question !

 

 

Discussions similaires

  1. [MapInfo 10.x] Modification du type d'une colonne en float qui ne fonctionne pas
    Par bjd1023 dans le forum Assistance Technique
    Réponses: 6
    Dernier message: 18/04/2012, 12h15
  2. [MapInfo 9.x] Desctruction de variables dans un .wor
    Par Flo49 dans le forum Assistance Technique
    Réponses: 2
    Dernier message: 24/03/2009, 18h33
  3. Réponses: 1
    Dernier message: 17/02/2009, 17h07
  4. [GDAL] Réaliser un batch avec des variables dans un tableau
    Par ClaireLK dans le forum Assistance et Programmation
    Réponses: 2
    Dernier message: 17/06/2008, 17h38
  5. [MapBasic 4.x] Problème avec Add Column tb (var Float)
    Par houplineur dans le forum Programmation
    Réponses: 1
    Dernier message: 05/02/2007, 18h07

Liens sociaux

Règles de messages

  • Vous ne pouvez pas créer de nouvelles discussions
  • Vous ne pouvez pas envoyer des réponses
  • Vous ne pouvez pas envoyer des pièces jointes
  • Vous ne pouvez pas modifier vos messages
  •