lavc: avoid invalid memcpy() in avcodec_default_release_buffer()
authorMans Rullgard <mans@mansr.com>
Mon, 5 Dec 2011 15:38:10 +0000 (15:38 +0000)
committerMans Rullgard <mans@mansr.com>
Sun, 11 Dec 2011 18:54:28 +0000 (18:54 +0000)
When the buf and last pointers are equal, the FFSWAP() results
in an invalid call to memcpy() with same source and destination
on some targets.  Although assigning a struct to itself is valid
C99, gcc does not check for this before calling memcpy().
See http://gcc.gnu.org/bugzilla/show_bug.cgi?id=32667

Signed-off-by: Mans Rullgard <mans@mansr.com>
libavcodec/utils.c

index 04909cf..68fc525 100644 (file)
@@ -509,7 +509,8 @@ void avcodec_default_release_buffer(AVCodecContext *s, AVFrame *pic){
         avci->buffer_count--;
         last = &avci->buffer[avci->buffer_count];
 
-        FFSWAP(InternalBuffer, *buf, *last);
+        if (buf != last)
+            FFSWAP(InternalBuffer, *buf, *last);
     }
 
     for (i = 0; i < AV_NUM_DATA_POINTERS; i++) {