output warning message when trying to convert between LttTime and double with precisi...
authorcompudj <compudj@04897980-b3bd-0310-b5e0-8ef037075253>
Wed, 4 Aug 2004 16:10:34 +0000 (16:10 +0000)
committercompudj <compudj@04897980-b3bd-0310-b5e0-8ef037075253>
Wed, 4 Aug 2004 16:10:34 +0000 (16:10 +0000)
git-svn-id: http://ltt.polymtl.ca/svn@661 04897980-b3bd-0310-b5e0-8ef037075253

ltt/branches/poly/ltt/time.h

index 61c3e596c3e0bb2ca76707fa12b738be27471ab2..a095895a9b37b1033ad198eb203323389700929d 100644 (file)
@@ -110,15 +110,35 @@ static inline int ltt_time_compare(LttTime t1, LttTime t2)
   return 0;
 }
 
-
+#define MAX_TV_SEC_TO_DOUBLE 0x7FFFFF
 static inline double ltt_time_to_double(LttTime t1)
 {
+  /* We lose precision if tv_sec is > than (2^23)-1
+   * 
+   * Max values that fits in a double (53 bits precision on normalised 
+   * mantissa):
+   * tv_nsec : NANOSECONDS_PER_SECONDS : 2^30
+   *
+   * So we have 53-30 = 23 bits left for tv_sec.
+   * */
+  if(t1.tv_sec > MAX_TV_SEC_TO_DOUBLE)
+    g_warning("Precision loss in conversion LttTime to double");
   return (double)t1.tv_sec + (double)t1.tv_nsec / NANOSECONDS_PER_SECOND;
 }
 
 
 static inline LttTime ltt_time_from_double(double t1)
 {
+  /* We lose precision if tv_sec is > than (2^23)-1
+   * 
+   * Max values that fits in a double (53 bits precision on normalised 
+   * mantissa):
+   * tv_nsec : NANOSECONDS_PER_SECONDS : 2^30
+   *
+   * So we have 53-30 = 23 bits left for tv_sec.
+   * */
+  if(t1 > MAX_TV_SEC_TO_DOUBLE)
+    g_warning("Conversion from non precise double to LttTime");
   LttTime res;
   res.tv_sec = t1;
   res.tv_nsec = (t1 - res.tv_sec) * NANOSECONDS_PER_SECOND;
This page took 0.024243 seconds and 4 git commands to generate.