lavu: fix memory leaks by using a mutex instead of atomics
authorwm4 <nfxjfg@googlemail.com>
Fri, 14 Nov 2014 12:34:50 +0000 (13:34 +0100)
committerAnton Khirnov <anton@khirnov.net>
Thu, 27 Nov 2014 12:36:00 +0000 (13:36 +0100)
commitfbd6c97f9ca858140df16dd07200ea0d4bdc1a83
tree7f75f2ef7b1a6b7138d019f60a5fe12cde1f6fbf
parent2443e522f0059176ff8717c9c753eb6fe7e7bbf1
lavu: fix memory leaks by using a mutex instead of atomics

The buffer pool has to atomically add and remove entries from the linked
list of available buffers. This was done by removing the entire list
with a CAS operation, working on it, and then setting it back again
(using a retry-loop in case another thread was doing the same thing).

This could effectively cause memory leaks: while a thread was working on
the buffer list, other threads would allocate new buffers, increasing
the pool's total size. There was no real leak, but since these extra
buffers were not needed, but not free'd either (except when the buffer
pool was destroyed), this had the same effects as a real leak. For some
reason, growth was exponential, and could easily kill the process due
to OOM in real-world uses.

Fix this by using a mutex to protect the list operations. The fancy
way atomics remove the whole list to work on it is not needed anymore,
which also avoids the situation which was causing the leak.

Signed-off-by: Anton Khirnov <anton@khirnov.net>
libavutil/buffer.c
libavutil/buffer_internal.h