avcodec_encode_{audio,video}: only reallocate output packet when it has non-zero...
authorAnton Khirnov <anton@khirnov.net>
Tue, 27 Mar 2012 06:21:02 +0000 (08:21 +0200)
committerAnton Khirnov <anton@khirnov.net>
Wed, 28 Mar 2012 07:28:47 +0000 (09:28 +0200)
Otherwise realloc would free it, which would result in double free
later.

libavcodec/utils.c

index 7d50bd5..aa0f5b6 100644 (file)
@@ -960,7 +960,7 @@ int attribute_align_arg avcodec_encode_audio2(AVCodecContext *avctx,
             avctx->frame_size = fs_tmp;
     }
     if (!ret) {
-        if (!user_packet && avpkt->data) {
+        if (!user_packet && avpkt->size) {
             uint8_t *new_data = av_realloc(avpkt->data, avpkt->size);
             if (new_data)
                 avpkt->data = new_data;
@@ -1123,7 +1123,7 @@ int attribute_align_arg avcodec_encode_video2(AVCodecContext *avctx,
         else if (!(avctx->codec->capabilities & CODEC_CAP_DELAY))
             avpkt->pts = avpkt->dts = frame->pts;
 
-        if (!user_packet && avpkt->data) {
+        if (!user_packet && avpkt->size) {
             uint8_t *new_data = av_realloc(avpkt->data, avpkt->size);
             if (new_data)
                 avpkt->data = new_data;