forked from metin-server/m2dev-client-src
Add buffer pool for I/O operations
- Reuses vector<uint8_t> buffers to reduce allocations - Thread-safe with mutex protection - Max 64 buffers, 64MB buffer size limit - Tracks allocation statistics and pooled memory
This commit is contained in:
103
src/EterLib/BufferPool.cpp
Normal file
103
src/EterLib/BufferPool.cpp
Normal file
@@ -0,0 +1,103 @@
|
|||||||
|
#include "StdAfx.h"
|
||||||
|
#include "BufferPool.h"
|
||||||
|
#include <algorithm>
|
||||||
|
|
||||||
|
CBufferPool::CBufferPool()
|
||||||
|
: m_totalAllocated(0)
|
||||||
|
{
|
||||||
|
}
|
||||||
|
|
||||||
|
CBufferPool::~CBufferPool()
|
||||||
|
{
|
||||||
|
Clear();
|
||||||
|
}
|
||||||
|
|
||||||
|
std::vector<uint8_t> CBufferPool::Acquire(size_t minSize)
|
||||||
|
{
|
||||||
|
std::lock_guard<std::mutex> lock(m_mutex);
|
||||||
|
|
||||||
|
size_t bestIndex = SIZE_MAX;
|
||||||
|
size_t bestCapacity = SIZE_MAX;
|
||||||
|
|
||||||
|
for (size_t i = 0; i < m_pool.size(); ++i)
|
||||||
|
{
|
||||||
|
if (m_pool[i].capacity >= minSize && m_pool[i].capacity < bestCapacity)
|
||||||
|
{
|
||||||
|
bestIndex = i;
|
||||||
|
bestCapacity = m_pool[i].capacity;
|
||||||
|
|
||||||
|
if (bestCapacity == minSize)
|
||||||
|
break;
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
if (bestIndex != SIZE_MAX)
|
||||||
|
{
|
||||||
|
std::vector<uint8_t> result = std::move(m_pool[bestIndex].buffer);
|
||||||
|
m_pool.erase(m_pool.begin() + bestIndex);
|
||||||
|
result.clear();
|
||||||
|
return result;
|
||||||
|
}
|
||||||
|
|
||||||
|
std::vector<uint8_t> newBuffer;
|
||||||
|
newBuffer.reserve(minSize);
|
||||||
|
m_totalAllocated++;
|
||||||
|
return newBuffer;
|
||||||
|
}
|
||||||
|
|
||||||
|
void CBufferPool::Release(std::vector<uint8_t>&& buffer)
|
||||||
|
{
|
||||||
|
size_t capacity = buffer.capacity();
|
||||||
|
|
||||||
|
if (capacity == 0 || capacity > MAX_BUFFER_SIZE)
|
||||||
|
{
|
||||||
|
return;
|
||||||
|
}
|
||||||
|
|
||||||
|
std::lock_guard<std::mutex> lock(m_mutex);
|
||||||
|
|
||||||
|
if (m_pool.size() >= MAX_POOL_SIZE)
|
||||||
|
{
|
||||||
|
auto smallest = std::min_element(m_pool.begin(), m_pool.end(),
|
||||||
|
[](const TPooledBuffer& a, const TPooledBuffer& b) {
|
||||||
|
return a.capacity < b.capacity;
|
||||||
|
});
|
||||||
|
|
||||||
|
if (smallest != m_pool.end() && smallest->capacity < capacity)
|
||||||
|
{
|
||||||
|
*smallest = TPooledBuffer(std::move(buffer));
|
||||||
|
}
|
||||||
|
return;
|
||||||
|
}
|
||||||
|
|
||||||
|
m_pool.emplace_back(std::move(buffer));
|
||||||
|
}
|
||||||
|
|
||||||
|
size_t CBufferPool::GetPoolSize() const
|
||||||
|
{
|
||||||
|
std::lock_guard<std::mutex> lock(m_mutex);
|
||||||
|
return m_pool.size();
|
||||||
|
}
|
||||||
|
|
||||||
|
size_t CBufferPool::GetTotalAllocated() const
|
||||||
|
{
|
||||||
|
std::lock_guard<std::mutex> lock(m_mutex);
|
||||||
|
return m_totalAllocated;
|
||||||
|
}
|
||||||
|
|
||||||
|
size_t CBufferPool::GetTotalMemoryPooled() const
|
||||||
|
{
|
||||||
|
std::lock_guard<std::mutex> lock(m_mutex);
|
||||||
|
size_t total = 0;
|
||||||
|
for (const auto& buf : m_pool)
|
||||||
|
{
|
||||||
|
total += buf.capacity;
|
||||||
|
}
|
||||||
|
return total;
|
||||||
|
}
|
||||||
|
|
||||||
|
void CBufferPool::Clear()
|
||||||
|
{
|
||||||
|
std::lock_guard<std::mutex> lock(m_mutex);
|
||||||
|
m_pool.clear();
|
||||||
|
}
|
||||||
50
src/EterLib/BufferPool.h
Normal file
50
src/EterLib/BufferPool.h
Normal file
@@ -0,0 +1,50 @@
|
|||||||
|
#ifndef __INC_ETERLIB_BUFFERPOOL_H__
|
||||||
|
#define __INC_ETERLIB_BUFFERPOOL_H__
|
||||||
|
|
||||||
|
#include <vector>
|
||||||
|
#include <mutex>
|
||||||
|
#include <cstdint>
|
||||||
|
|
||||||
|
// Buffer pool for file I/O operations
|
||||||
|
class CBufferPool
|
||||||
|
{
|
||||||
|
public:
|
||||||
|
CBufferPool();
|
||||||
|
~CBufferPool();
|
||||||
|
|
||||||
|
// Get buffer with minimum size
|
||||||
|
std::vector<uint8_t> Acquire(size_t minSize);
|
||||||
|
|
||||||
|
// Return buffer to pool
|
||||||
|
void Release(std::vector<uint8_t>&& buffer);
|
||||||
|
|
||||||
|
// Get statistics
|
||||||
|
size_t GetPoolSize() const;
|
||||||
|
size_t GetTotalAllocated() const;
|
||||||
|
size_t GetTotalMemoryPooled() const; // Total bytes held in pool
|
||||||
|
|
||||||
|
// Clear pool
|
||||||
|
void Clear();
|
||||||
|
|
||||||
|
private:
|
||||||
|
struct TPooledBuffer
|
||||||
|
{
|
||||||
|
std::vector<uint8_t> buffer;
|
||||||
|
size_t capacity;
|
||||||
|
|
||||||
|
TPooledBuffer(std::vector<uint8_t>&& buf)
|
||||||
|
: buffer(std::move(buf))
|
||||||
|
, capacity(buffer.capacity())
|
||||||
|
{
|
||||||
|
}
|
||||||
|
};
|
||||||
|
|
||||||
|
std::vector<TPooledBuffer> m_pool;
|
||||||
|
mutable std::mutex m_mutex;
|
||||||
|
size_t m_totalAllocated;
|
||||||
|
|
||||||
|
static const size_t MAX_POOL_SIZE = 64;
|
||||||
|
static const size_t MAX_BUFFER_SIZE = 64 * 1024 * 1024;
|
||||||
|
};
|
||||||
|
|
||||||
|
#endif // __INC_ETERLIB_BUFFERPOOL_H__
|
||||||
Reference in New Issue
Block a user