vorbisenc: avoid large stack allocation.
authorReimar Döffinger <Reimar.Doeffinger@gmx.de>
Tue, 2 Sep 2014 22:22:41 +0000 (00:22 +0200)
committerReimar Döffinger <Reimar.Doeffinger@gmx.de>
Wed, 3 Sep 2014 19:22:59 +0000 (21:22 +0200)
Code is only used during initialization, so malloc/free
should be fine to use.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
libavcodec/vorbisenc.c

index 0fb7190..0f78d95 100644 (file)
@@ -585,9 +585,11 @@ static int put_main_header(vorbis_enc_context *venc, uint8_t **out)
 {
     int i;
     PutBitContext pb;
-    uint8_t buffer[50000] = {0}, *p = buffer;
-    int buffer_len = sizeof buffer;
     int len, hlens[3];
+    int buffer_len = 50000;
+    uint8_t *buffer = av_mallocz(buffer_len), *p = buffer;
+    if (!buffer)
+        return AVERROR(ENOMEM);
 
     // identification header
     init_put_bits(&pb, p, buffer_len);
@@ -710,6 +712,7 @@ static int put_main_header(vorbis_enc_context *venc, uint8_t **out)
         buffer_len += hlens[i];
     }
 
+    av_freep(&buffer);
     return p - *out;
 }