Lecture 6 :Theory of generalization
【参考】https://redstonewill.com/217/
截图来自于参考链接与课程课件
【概括】
6.1 Restrictions of break point
增长函数:二分类的最多可能组合数
回顾一些例子:
【回顾】shatter的意思是对N个点,能够分解为2的N次方种dichotomies
quiz:break point为1,则m最大为1,因为第二种总会和第一种有不一样的地方
6.2 Bounding Function & 6.3 Bounding Function: Inductive Cases
Bounding Function: 是成长函数的上限,和hypothesis的细节无关
推导过程详见:https://redstonewill.com/217/
推导出一般公式为:
成长函数-> 上限函数 -> 上限函数的上限
如果能找到一个模型的break point,且是有限大的,那么就能推断出其成长函数有界
6.4 A Pictorial Proof
证明分为三步,详见课件(其实是不太懂)
VC bound: