具有随机读/写功能的 SSD 原始 I/O 基准测试

Question

我的笔记本电脑有一个 SSD 磁盘，其物理磁盘扇区大小为 512 字节，逻辑磁盘扇区大小为 4,096 字节。我正在开发一个 ACID 数据库系统，该系统必须绕过所有操作系统缓存，因此我直接从分配的内部内存 (RAM) 写入 SSD 磁盘。我还在运行测试之前扩展了文件，并且在测试期间不调整其大小。

现在这是我的问题，根据SSD 基准测试，随机读取和写入应该分别在 30 MB/s 到 90 MB/s 的范围内。但这是我的（相当可怕的）遥测数据，来自我的无数性能测试：

• 读取随机 512 字节块（物理扇区大小）时为 1.2 MB/s
• 写入随机 512 字节块（物理扇区大小）时为 512 KB/s
• 读取随机 4,096 字节块（逻辑扇区大小）时为 8.5 MB/s
• 写入随机 4,096 字节块（逻辑扇区大小）时为 4.9 MB/s

除了使用异步 I/OI 之外，还设置FILE_SHARE_READ和FILE_SHARE_WRITE标志来禁用所有操作系统缓冲 - 因为我们的数据库是 ACID 我必须这样做，我也尝试过，FlushFileBuffers()但这给了我更糟糕的性能。我还按照某些代码的要求等待每个异步 I/O 操作完成。

这是我的代码，它是否有问题，或者我是否陷入了这种糟糕的 I/O 性能？

HANDLE OpenFile(const wchar_t *fileName)
{
    // Set access method
    DWORD desiredAccess = GENERIC_READ | GENERIC_WRITE ;

    // Set file flags
    DWORD fileFlags = FILE_FLAG_WRITE_THROUGH | FILE_FLAG_NO_BUFFERING /*| FILE_FLAG_RANDOM_ACCESS*/;

    //File or device is being opened or created for asynchronous I/O
    fileFlags |= FILE_FLAG_OVERLAPPED ;

    // Exlusive use (no share mode)
    DWORD shareMode = 0;

    HANDLE hOutputFile = CreateFile(
        // File name
        fileName,
        // Requested access to the file 
        desiredAccess,
        // Share mode. 0 equals exclusive lock by the process
        shareMode,
        // Pointer to a security attribute structure
        NULL,
        // Action to take on file
        CREATE_NEW,
        // File attributes and flags
        fileFlags,
        // Template file
        NULL
    );
    if (hOutputFile == INVALID_HANDLE_VALUE)
    {
        int lastError = GetLastError();
        std::cerr << "Unable to create the file '" << fileName << "'. [CreateFile] error #" << lastError << "." << std::endl;
    }

    return hOutputFile;
}

DWORD ReadFromFile(HANDLE hFile, void *outData, _UINT64 bytesToRead, _UINT64 location, OVERLAPPED *overlappedPtr, 
    asyncIoCompletionRoutine_t completionRoutine)
{
    DWORD bytesRead = 0;

    if (overlappedPtr)
    {
        // Windows demand that you split the file byte locttion into high & low 32-bit addresses
        overlappedPtr->Offset = (DWORD)_UINT64LO(location);
        overlappedPtr->OffsetHigh = (DWORD)_UINT64HI(location);

        // Should we use a callback function or a manual event
        if (!completionRoutine && !overlappedPtr->hEvent)
        {
            // No manual event supplied, so create one. The caller must reset and close it themselves
            overlappedPtr->hEvent = CreateEvent(NULL, TRUE, FALSE, NULL);
            if (!overlappedPtr->hEvent)
            {
                DWORD errNumber = GetLastError();
                std::wcerr << L"Could not create a new event. [CreateEvent] error #" << errNumber << L".";
            }
        }
    }

    BOOL result = completionRoutine ? 
        ReadFileEx(hFile, outData, (DWORD)(bytesToRead), overlappedPtr, completionRoutine) : 
        ReadFile(hFile, outData, (DWORD)(bytesToRead), &bytesRead, overlappedPtr);

    if (result == FALSE)
    {
        DWORD errorCode = GetLastError();
        if (errorCode != ERROR_IO_PENDING)
        {
            std::wcerr << L"Can't read sectors from file. [ReadFile] error #" << errorCode << L".";
        }
    }

    return bytesRead;
}

Answer 1

随机 IO 性能不能很好地以 MB/秒为单位进行测量。它以 IOPS 为单位进行测量。“读取随机 512 字节块时为 1.2 MB/s”=> 20000 IOPS。不错。将块大小加倍，您将获得 199% MB/秒和 99% 的 IOPS，因为读取 512 字节所需的时间与读取 1024 字节所需的时间几乎相同（几乎不需要任何时间）。SSD 并非没有搜索成本，正如有时人们错误地假设的那样。

所以这些数字实际上一点也不差。

SSD 受益于高队列深度。尝试一次发出多个 IO，并始终保持该数字未完成。最佳并发数在 1-32 范围内。

由于 SSD 具有硬件并发性，因此您可以预期单线程性能的一小部分。例如，我的 SSD 有 4 个并行“库”。

使用FILE_FLAG_WRITE_THROUGH | FILE_FLAG_NO_BUFFERING即可实现对硬件的直接写入。如果这些标志不起作用，您的硬件将不尊重这些标志，并且您对此无能为力。所有服务器硬件都尊重这些标志，而且我还没有见过不这样做的消费者磁盘。

共享标志在这种情况下没有意义。

代码很好，尽管我不明白为什么使用异步 IO 并稍后等待事件以等待完成。这是没有意义的。要么使用同步 IO（其执行方式与异步 IO 大致相同），要么使用带有完成端口且无需等待的异步 IO。