LD_PRELOAD和某些可执行文件的calloc()插入问题

Question

与我之前的一个问题有关

我已成功插入malloc,但calloc似乎更成问题.

对于某些主机而言,calloc内部可能存在内部calloc调用,陷入无限循环dlsym.但是,基本测试主机不会出现此行为,但我的系统的"ls"命令会出现此行为.

这是我的代码:

// build with: g++ -O2 -Wall -fPIC -ldl -o libnano.so -shared Main.cc
#include <stdio.h>
#include <dlfcn.h>

bool gNanoUp = false;// global

// Function types
typedef void* (*MallocFn)(size_t size);
typedef void* (*CallocFn)(size_t elements, size_t size);

struct MemoryFunctions {
    MallocFn   mMalloc;
    CallocFn   mCalloc;
};

MemoryFunctions orgMemFuncs;

// Save original methods.
void __attribute__((constructor)) __nano_init(void) {
    fprintf(stderr, "NANO: init()\n");

    // Get address of original functions
    orgMemFuncs.mMalloc = (MallocFn)dlsym(RTLD_NEXT, "malloc");
    orgMemFuncs.mCalloc = (CallocFn)dlsym(RTLD_NEXT, "calloc");

    fprintf(stderr, "NANO: malloc() found @%p\n", orgMemFuncs.mMalloc);
    fprintf(stderr, "NANO: calloc() found @%p\n", orgMemFuncs.mCalloc);

    gNanoUp = true;
}

// replacement functions
extern "C" {
    void *malloc(size_t size) {
        if (!gNanoUp) __nano_init();
        return orgMemFuncs.mMalloc(size);
    }

    void* calloc(size_t elements, size_t size) {
        if (!gNanoUp) __nano_init();
        return orgMemFuncs.mCalloc(elements, size);
    }
}

现在,当我执行以下操作时,我得到一个无限循环,然后是一个seg错误,例如:

% setenv LD_PRELOAD "./libnano.so"
% ls
...
NANO: init()
NANO: init()
NANO: init()
Segmentation fault (core dumped)

但是,如果我注释掉的calloc中介,它几乎似乎工作:

% setenv LD_PRELOAD "./libnano.so"
% ls
NANO: init()
NANO: malloc() found @0x3b36274dc0
NANO: calloc() found @0x3b362749e0
NANO: init()
NANO: malloc() found @0x3b36274dc0
NANO: calloc() found @0x3b362749e0
<directory contents>
...

所以有些人用"ls"来表示init()会被叫两次.

编辑请注意,以下主机程序正常工作 - init()只调用一次,并且calloc成功插入,如输出所示.

// build with: g++ test.cc -o test
#include <stdio.h>
#include <stdlib.h>

int main(int argc, char* argv[]) {

    void* p = malloc(123);
    printf("HOST p=%p\n", p);
    free(p);

    char* c = new char;
    printf("HOST c=%p\n", c);
    delete c;

    void* ca = calloc(10,10);
    printf("HOST ca=%p\n", ca);
    free(ca);
}

% setenv LD_PRELOAD "./libnano.so"
% ./test 
NANO: init()
NANO: malloc() found @0x3b36274dc0
NANO: calloc() found @0x3b362749e0
HOST p=0x601010
HOST c=0x601010
HOST ca=0x601030

Answer 1

我知道我有点晚了（6 年）。但是我calloc()今天想覆盖并面临一个问题，因为dlsym()内部使用calloc(). 我用一个简单的技术解决了它，并想在这里分享它：

static unsigned char buffer[8192];

void *calloc(size_t nmemb, size_t size)
{
    if (calloc_ptr == NULL) // obtained from dlsym
            return buffer;

    init(); // uses dlsym() to find address of the real calloc()

    return calloc_ptr(len);
}

void free(void *in)
{
    if (in == buffer)
        return;

    free_ptr(in);
}

buffer满足dlsym()直到真正calloc()找到并calloc_ptr初始化我的函数指针的需要。

Answer 2

关于__nano_init()被调用两次：您已将该函数声明为构造函数，因此在加载库时会调用它，并且在首次调用您的malloc()和calloc()实现时会第二次显式调用它。选一个。

关于calloc()插入器使您的应用程序崩溃：您正在使用的某些函数（包括dlsym()和fprintf()）本身可能会尝试分配内存，调用您的插入器函数。考虑后果，并采取相应行动。