VC Dimension of Circle,一个特例

Asy*_*ote 7 machine-learning

我已经读过圆形可以在2D空间中破碎3点,这实际上是圆形的VC维度.

假设我们有三个点(5,2)(5,4)和(5,6).如何绘制一个圆圈(5,2)和(5,6)包括在外(5,4)?那是不可能的!如果它不能破碎那么VC Dimension为什么是圆圈3.或者我错误地认为在VC维度的定义中; 一个假设必须打破所有可能的空间子集的所有可能情景?

亲切的问候

小智 10

VC维度是可以破碎的最大点数.{(5,2),(5,4),(5,6)}不能用圆圈破碎,但{(5,2),(5,4),(6,6)}可以用圆圈破碎因此VC维度至少为3.证明它正好是3更难.

这里有一个技术点与Qnan的答案有关.如果圆分类器总是将圆内的点分类为1,将圆外的点分类为0,则{(5,2),(5,4),(5,6)}不能被破碎.另一方面,如果圆分类器也可以将圆内的点分类为0,则可以如Qnan所解释的那样破坏{(5,2),(5,4),(5,6)}.

Qnan,关于你的评论,如果有人说n是具有属性P的最大点数,那么为了证明n> = m,找到任何具有属性P的m个点的集合就足够了.如果你找到一个或者没有属性P的一千个m点,那么对n没有任何证据.(除非你列举了每个可能的大小为m的点.)

VC维度是可以破碎的最大点数.如果分类器的VC维度为100,则仍然可以找到分类器不能破坏的3个点.我们可以将VCB维度定义为最大数量n,使得所有大小为n或更小的集合都可以被破坏.Asymptote的原始例子表明,笛卡尔平面上圆形分类器的VCB维数(假设在圆内,1在圆外),小于或等于2,因为这三个点不能破碎; 但是,Asymptote的例子没有显示VC维度小于3,因为还有其他一组大小为3的点可以破碎.

  • 汉斯,你所说的有一个矛盾."VC维度是可以粉碎的最大点数"和"{(5,2),(5,4),(5,6)}无法破碎"将暗示圆的VC维度为*低于3*.这也是错误的. (2认同)