av_d2q: Add a special case for |value| > MAX and |value| < 1/MAX
authorMichael Niedermayer <michaelni@gmx.at>
Sat, 25 May 2013 13:39:02 +0000 (15:39 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Fri, 31 May 2013 15:10:36 +0000 (17:10 +0200)
Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavutil/rational.c
tests/ref/fate/parseutils

index 7abf54c..aabe58f 100644 (file)
@@ -115,6 +115,8 @@ AVRational av_d2q(double d, int max)
     exponent = FFMAX( (int)(log(fabs(d) + 1e-20)/LOG2), 0);
     den = 1LL << (61 - exponent);
     av_reduce(&a.num, &a.den, rint(d * den), den, max);
+    if ((!a.num || !a.den) && d && max>0 && max<INT_MAX)
+        av_reduce(&a.num, &a.den, llrint(d * den), den, INT_MAX);
 
     return a;
 }
index 5fa3bf4..1482452 100644 (file)
@@ -21,7 +21,7 @@ Testing av_parse_video_rate()
 '.23' -> 23/100 OK
 '-.23' -> -23/100 ERROR
 '-0.234' -> -117/500 ERROR
-'-0.0000001' -> 0/1 ERROR
+'-0.0000001' -> -1/10000000 ERROR
 '  21332.2324   ' -> 917286/43 OK
 ' -21332.2324   ' -> -917286/43 ERROR