倾斜的平截头体/离轴投影用于OpenGL中的头部跟踪

Question

我正在尝试在我的应用程序中进行离轴投影,并尝试根据用户的头部位置更改场景的视角.通常情况下,鉴于我必须在屏幕上画一个方框,我会在屏幕上画一个方框:

ofBox(350,250,0,50); //ofBox(x, y, z, size); where x, y and z used here are the screen coordinates

要在这里进行离轴投影,我知道我必须更改透视投影,如下所示:

vertFov = 0.5; near = 0.5; aspRatio = 1.33;
glMatrixMode(GL_PROJECTION);
glLoadIdentity();
glFrustum(near * (-vertFov * aspRatio + headX),
          near * (vertFov * aspRatio + headX),
          near * (-vertFov + headY),
          near * (vertFov + headY),
          near, far); //frustum changes as per the position of headX and headY
glMatrixMode(GL_MODELVIEW);
glLoadIdentity();
gluLookAt(headX * headZ, headY * headZ, 0, headX * headZ, headY * headZ, -1);
glTranslate(0,0,headZ);

对于上述情况下的对称平截头体(其中headX和headY为零),left, rightparams出现-0.33,0.33并且bottom, top参数出现-0.25, 0.25并沿着这些坐标建立我的剪切体积.我尝试使用鼠标模拟离轴进行测试并执行以下操作:

double mouseXPosition = (double)ofGetMouseX();
double mouseYPosition = (double)ofGetMouseY();
double scrWidth = (double)ofGetWidth();
double scrHeight = (double)ofGetHeight();

headX = ((scrWidth -mouseXPosition) / scrWidth) - 0.5;
headY = (mouseYPosition / scrHeight) - 0.5;
headZ = -0.5; //taken z constant for this mouse test

不过,我打算用Kinect我的坐标顺序的头,给(200, 400, 1000),(-250, 600, 1400)(400,100,1400)等,我不能够做出如何改变视锥参数时,我有那些的头部位置.例如:考虑0到位于Kinect的中心,如果用户移动他的位置(200, 400, 1000),那么平截头体参数将如何改变？
当z-distance获得的物体Kinect也必须被考虑时,如何绘制物体？对象必须随着z增加而变小,并且可能通过glTrasnlate()在上面的离轴代码中调用而发生,但是坐标系的两个尺度是不同的(glFrustum现在将剪切体积设置为[-0.25,0.33]到[0.25, -0.33]当Kinect大约数百(400,200,1000)).如何将z值应用于glFrustum/ gluLookAt然后？

Answer 1

首先，您不想使用gluLookAt。gluLookAt旋转相机，但用户观看的物理屏幕不会旋转。gluLookAt仅当屏幕旋转以使屏幕法线始终指向用户时才起作用。离轴投影的透视变形将照顾到我们需要的所有旋转。

您需要在模型中考虑的是屏幕在视锥中的位置。考虑下图。红点是屏幕边框。您需要实现的是这些位置在3D WCS中保持不变，因为现实世界中的物理屏幕也（希望）不会移动。我认为这是虚拟现实和立体视觉的关键见解。屏幕就像是进入虚拟现实的窗口一样，要使现实世界与虚拟现实对齐，您需要将平截头体与该窗口对齐。

为此，您必须确定屏幕在Kinect坐标系中的位置。假设Kinect位于屏幕顶部，+ y指向下方，并且您使用的单位是毫米，我希望这些坐标沿（+ -300，200，0），（ + -300、500、0）。

现在，远端平面有两种可能性。您可以选择使用从摄像机到远平面的固定距离。这意味着如果用户向后移动，则远端平面将向后移动，可能会剪切您要绘制的对象。或者，您可以将远平面保持在WCS中的固定位置，如图所示。我相信后者会更有用。对于近平面，我认为与相机的固定距离是可以的。

的输入是在屏幕的3D位置wcsPtTopLeftScreen和wcsPtBottomRightScreen，所述头部的追踪的位置wcsPtHead，远平面的z值wcsZFar（全部在WCS），和近平面的z值camZNear（在照相机坐标）。我们需要在相机坐标中计算平截头体参数。

camPtTopLeftScreen = wcsPtTopLeftScreen - wcsPtHead;
camPtTopLeftNear = camPtTopLeftScreen / camPtTopLeftScreen.z * camZNear;

并与右下角相同。也：

camZFar = wcsZFar - wcsPtHead.z

现在唯一的问题是Kinect和OpenGL使用不同的坐标系。在Kinect CS中，+ y指向下方，+ z指向用户指向Kinect。在OpenGL中，+ y指向上方，+ z指向查看器。这意味着我们必须将y和z乘以-1：

glFrustum(camPtTopLeftNear.x, camPtBottomRightNear.x,
  -camPtBottomRightNear.y, -camPtTopLeftNear.y, camZNear, camZFar);

如果您想得到更好的解释，也涵盖立体镜，请观看此视频，我发现它很有见地并且做得很好。

快速演示，你可能需要调整wcsWidth，pxWidth和wcsPtHead.z。

#include <glm/glm.hpp>
#include <glm/ext.hpp>
#include <glut.h>
#include <functional>

float heightFromWidth;
glm::vec3 camPtTopLeftNear, camPtBottomRightNear;
float camZNear, camZFar;
glm::vec3 wcsPtHead(0, 0, -700);

void moveCameraXY(int pxPosX, int pxPosY)
{
  // Width of the screen in mm and in pixels.
  float wcsWidth = 520.0;
  float pxWidth = 1920.0f;

  float wcsHeight = heightFromWidth * wcsWidth;
  float pxHeight = heightFromWidth * pxWidth;
  float wcsFromPx = wcsWidth / pxWidth;

  glm::vec3 wcsPtTopLeftScreen(-wcsWidth/2.f, -wcsHeight/2.f, 0);
  glm::vec3 wcsPtBottomRightScreen(wcsWidth/2.f, wcsHeight/2.f, 0);
  wcsPtHead = glm::vec3(wcsFromPx * float(pxPosX - pxWidth / 2), wcsFromPx * float(pxPosY - pxHeight * 0.5f), wcsPtHead.z);
  camZNear = 1.0;
  float wcsZFar = 500;

  glm::vec3 camPtTopLeftScreen = wcsPtTopLeftScreen - wcsPtHead;
  camPtTopLeftNear = camZNear / camPtTopLeftScreen.z * camPtTopLeftScreen;
  glm::vec3 camPtBottomRightScreen = wcsPtBottomRightScreen - wcsPtHead;
  camPtBottomRightNear = camPtBottomRightScreen / camPtBottomRightScreen.z * camZNear;
  camZFar = wcsZFar - wcsPtHead.z;

  glutPostRedisplay();
}

void moveCameraZ(int button, int state, int x, int y)
{
  // No mouse wheel in GLUT. :(
  if ((button == 0) || (button == 2))
  {
    if (state == GLUT_DOWN)
      return;
    wcsPtHead.z += (button == 0 ? -1 : 1) * 100;
    glutPostRedisplay();
  }
}

void reshape(int w, int h)
{
  heightFromWidth = float(h) / float(w);
  glViewport(0, 0, w, h);
}

void drawObject(std::function<void(GLdouble)> drawSolid, std::function<void(GLdouble)> drawWireframe, GLdouble size)
{
  glPushAttrib(GL_ALL_ATTRIB_BITS);
  glEnable(GL_COLOR);
  glDisable(GL_LIGHTING);
  glColor4f(1, 1, 1, 1);
  drawSolid(size);
  glColor4f(0.8, 0.8, 0.8, 1);
  glDisable(GL_DEPTH_TEST);
  glLineWidth(1);
  drawWireframe(size);

  glColor4f(0, 0, 0, 1);
  glEnable(GL_DEPTH_TEST);
  glLineWidth(3);
  drawWireframe(size);
  glPopAttrib();
}

void display(void)
{
  glPushAttrib(GL_ALL_ATTRIB_BITS);
  glClear(GL_COLOR_BUFFER_BIT|GL_DEPTH_BUFFER_BIT);
  glEnable(GL_DEPTH_TEST);

  // In the Kinect CS, +y points down, +z points from the user towards the Kinect.
  // In OpenGL, +y points up, +z points towards the viewer.
  glm::mat4 mvpCube;
  mvpCube = glm::frustum(camPtTopLeftNear.x, camPtBottomRightNear.x,
    -camPtBottomRightNear.y, -camPtTopLeftNear.y, camZNear, camZFar);
  mvpCube = glm::scale(mvpCube, glm::vec3(1, -1, -1));
  mvpCube = glm::translate(mvpCube, -wcsPtHead);
  glMatrixMode(GL_MODELVIEW); glLoadMatrixf(glm::value_ptr(mvpCube));

  drawObject(glutSolidCube, glutWireCube, 140);

  glm::mat4 mvpTeapot = glm::translate(mvpCube, glm::vec3(100, 0, 200));
  mvpTeapot = glm::scale(mvpTeapot, glm::vec3(1, -1, -1)); // teapots are in OpenGL coordinates
  glLoadMatrixf(glm::value_ptr(mvpTeapot));
  glColor4f(1, 1, 1, 1);
  drawObject(glutSolidTeapot, glutWireTeapot, 50);

  glFlush();
  glPopAttrib();
}

void leave(unsigned char, int, int)
{
  exit(0);
}

int main(int argc, char **argv)
{
  glutInit(&argc, argv);
  glutCreateWindow("glut test");
  glutDisplayFunc(display);
  glutReshapeFunc(reshape);
  moveCameraXY(0,0);
  glutPassiveMotionFunc(moveCameraXY);
  glutMouseFunc(moveCameraZ);
  glutKeyboardFunc(leave);
  glutFullScreen();
  glutMainLoop();
  return 0;
}

应从等于屏幕宽度的135％的距离观看以下图像（在全屏52厘米宽屏幕中为70厘米）。