Yuchen You

决策树–强烈推荐南京大学周志华教授 什么时候停止分类？ 每一类的内容十分相近 或者类为空 if not beat_feature 就是分类器找不到最好的分类特征 属性集空了 也就是所有能分类的都问过了 if depth == self.max_depth or len(set(y)) == 1: 就是决策树到了最大深度或者属性值为 1 个 信息增益 information gain 信息熵 Ent⁡(D)=−Σpklog⁡2pk\operatorname{Ent}(D) = -\Sigma p_k \log_2p_kEnt(D)=−Σpk​log2​pk​ 信息熵越小， DDD 的纯度越高 信息熵可以定性理解为 “需要多少信息才能将其区分开” 增益函数 Gain(D,a)=Ent⁡(D)−Σ∣Dv∣∣D∣Ent⁡(Dv)Gain(D,a)=\operatorname{Ent}(D) - \Sigma\frac{|D^v|}{|D|}\operatorname{Ent}(D^v)Gain(D,a)=Ent(D)−Σ∣D∣∣Dv∣​Ent(Dv) ...

聚类算法 完美聚类算法的三大特点 同比例缩放数据，聚类结果不变 同组距离变小，组间距离变大，聚类结果不变 需要灵活包括所有聚类的可能性 但是没有一种算法可以同时满足以上三点 距离问题 有序属性 闵可夫斯基距离 distmk⁡(xi,xj)=(Σ∣xiu−xju∣p)1p\operatorname{dist_{mk}}(x_i,x_j) = (\Sigma|x_{iu} - x_{ju}|^p)^{\frac{1}{p}}distmk​(xi​,xj​)=(Σ∣xiu​−xju​∣p)p1​ p=1p = 1p=1 是曼哈顿距离 p=2p=2p=2 是欧几里得距离 无序属性 VDMp(a,b)=Σi∣mu,a,imu,a−mu,b,imu,b∣VDM_p (a,b) = \Sigma_i|\frac{m_{u,a,i}}{m_{u,a}} - \frac{m_{u,b,i}}{m_{u,b}}|VDMp​(a,b)=Σi​∣mu,a​mu,a,i​​−mu,b​mu,b,i​​∣ mu,am_{u,a}mu,a​ 表示属性 u ...

贝叶斯决策论 背景问题 给定 NNN 个类别,另 λij\lambda_{ij}λij​ 表示第 jjj 类样本误分类为第 iii 类所产生的损失,则基于后验概率将样本 xxx 分到第 iii 类的条件风险为 R(ci∣x)=Σj=1NλijP(cj∣x)R(c_i|x) = \Sigma_{j=1}^N \lambda_{ij} P(c_j|x)R(ci​∣x)=Σj=1N​λij​P(cj​∣x) 贝叶斯判定准则 h∗(x)=arg min⁡cR(c∣x)h^*(x) = \argmin_c R(c|x)h∗(x)=argminc​R(c∣x) h∗h^*h∗ 表示最好的选择,也叫被也四最优分类器,总体风险称为贝叶斯风险 整个式子表示求最小概率的参数 c 也就是最不容易被误识别的情况 这个反映了学习性能理论上的上限值 那么问题来了，事实的条件概率 P(c∣x)P(c|x)P(c∣x) 怎么得到 ? 于是机器学习就是要基于有限的训练样本尽可能准确地估计出后验概率 判别式模型 Discriminative – 统计学习 特点：给两个输入，将其分开 ...

5. 刚体的转动 从欧拉运动定律到转动惯量 由于在刚体的 平动作用中 整个刚体的速度是一致的 ΣMP=∫r⃗×a⃗dm=(∫r⃗dm)×a⃗=r⃗PC×(ma⃗)\Sigma M_P = \int \vec r \times \vec a dm = (\int\vec r dm)\times \vec a = \vec r_{PC} \times (m\vec a)ΣMP​=∫r×adm=(∫rdm)×a=rPC​×(ma) 由于在外力等式时候使用 F=ma⃗F = m\vec aF=ma 变换，导致需要惯性系作为前提 平动的 力矩为 0，或者说 质心处的力矩为 0. 角动量公式 HP=∫BR⃗×v⃗dmH_P = \int _{\mathcal B} \vec R \times \vec v dmHP​=∫B​R×vdm R⃗\vec RR 表示的是从 PPP 到点的距离 通过角动量进行变换得到 $\vec H_P = \vec r_{PC} \times m\vec v_P + \hat k\omega \int(x^2 + y^2 ) dm - \ha ...

3. 刚体动力学 刚体 物体内部任意两点之间的距离不会随着时间变化 等效刚体：在整个运动过程中两点之间距离不发生变化，虽然没有实质上的刚体关系，我们可以将此视作刚体 平面运动 整个过程运动方向只在 xy 平面内，也就是说 z 方向运动速度为 0 （z 坐标始终不变） 例：烤鸭在串上转动的动作属于平面运动 参考平面 Reference Plane 任何平行于 xy 平面的面都是参考平面 描述参考平面内的任意点至少需要两个点（两个点构成两个向量组成的基） 描述平面内刚体的状态 使用 2 点坐标，即 (x1,y1),(x2,y2)(x_1, y_1),(x_2,y_2)(x1​,y1​),(x2​,y2​) 使用一点坐标 + 一个转过的角度，即 (x1,y1),θ(x_1,y_1), \theta(x1​,y1​),θ 有与刚体两点之间的距离是一个固定值，所以只需要一个 θ\thetaθ 就可以描述方向 刚体两点的速度表示 刚体上两点 P, Q ，我们首先有相对于固定点的位移公式 r⃗OQ=r⃗OP+r⃗PQ\vec r_{OQ} ...

4. 参考系运动 参考系转换算法 我们定义一个空间绝对参考系 F\mathcal{F}F 这个参考系不动，定义正交基为 I^,J^\hat I, \hat JI^,J^ , 同时有一个跟随物体移动转动的参考系 B\mathcal BB 拥有两组基为i^,j^\hat i, \hat ji^,j^​ 定义 i^\hat ii^ 相对 I^\hat II^ 逆时针转动的角度是 θ\thetaθ 然后我们就有了基转换公式 {i^=cos⁡θI^+sin⁡θJ^j^=−sin⁡θI^+cos⁡θJ^\begin{cases}\hat i = \cos\theta\hat I + \sin\theta \hat J\\\hat j = -\sin\theta\hat I + \cos\theta\hat J\end{cases}{i^=cosθI^+sinθJ^j^​=−sinθI^+cosθJ^​ 转动基求导公式 {i^˙=θ˙j^j^˙=−θ˙i^\begin{cases}\dot{\hat i} =\dot\theta \hat j\\ \dot{\hat j} = ...

7. 动量和冲量 动量定理 首先对于一般定点或者质心我们有 ∑MC=HC˙\sum M_C = \dot{H_C}∑MC​=HC​˙​ 其实这里隐含了是惯性系 那么对上式子求导我们就有了 ∫∑MC=ΔHC=Hf−Hi\int \sum M_C = \Delta H_C = H_f - H_i∫∑MC​=ΔHC​=Hf​−Hi​ 注意：动量讨论的时候是不考虑加速度的 打击中心 center of percussion 在物体受到外部冲量的时候本身轴并不会受到平行方向的外力 垂直撞击不会在枢轴处产生反作用冲击 原理：当冲击力打击中心受到冲击时，平移和旋转运动在枢轴处抵消 公式 rOP∗=rOC+kC2rOC=kO2rOCr_{OP*} = r_{OC} + \frac{k_C^2}{r_{OC}} = \frac{k_O^2}{r_{OC}}rOP∗​=rOC​+rOC​kC2​​=rOC​kO2​​ 同样我们也会发现击打中心在质心的外侧 对于均匀直杆，位置在 23\frac{2}{3}32​ 处 旋转模型 假设有一个芭蕾舞演 ...

1. 坐标系 Frame of Reference 直角坐标系 Cartesian Coordinate 表述法 位置表述 r⃗OP=xi⃗+yj⃗+zk⃗\vec r_{OP} = x\vec i + y\vec j + z \vec krOP​=xi+yj​+zk 根据求导公式 d(A⋅B)dt=dAdt⋅B+A⋅dBdt\frac{d(A\cdot B)}{dt} = \frac{dA}{dt}\cdot B + A\cdot \frac{dB}{dt}dtd(A⋅B)​=dtdA​⋅B+A⋅dtdB​ 直角坐标系单位向量 i⃗,j⃗,k⃗\vec i,\vec j, \vec ki,j​,k 关于时间求导为 0 （不随着时间变化） 获得速度公式 v⃗p=(r⃗OP)˙=x˙i⃗+y˙j⃗+z˙k⃗\vec v_p = \dot{(\vec r_{OP})} = \dot x \vec i + \dot y \vec j + \dot z \vec kvp​=(rOP​)˙​=x˙i+y˙​j​+z˙k 加速度公式 a⃗p=vp⃗˙=x¨i⃗+y¨j⃗+z ...

6. 能量 动能公式 T=12∫(v⃗⋅v⃗)dmT = \frac 1 2 \int (\vec v \cdot \vec v ) dmT=21​∫(v⋅v)dm 我们借用质心的公式 和速度公式 v⃗P=v⃗C+ωk^×r⃗CP\vec v_P = \vec v_C + \omega \hat k\times \vec r_{CP}vP​=vC​+ωk^×rCP​ 所以表示 P 点公式 v⃗P⋅v⃗P=v⃗C⋅v⃗C+ω2(x2+y2)+2ωv⃗C⋅(xj^−yi^)\vec v_P \cdot \vec v_P = \vec v_C \cdot \vec v_C + \omega ^ 2(x^2 + y^2) + 2\omega\vec v_C \cdot (x\hat j - y\hat i)vP​⋅vP​=vC​⋅vC​+ω2(x2+y2)+2ωvC​⋅(xj^​−yi^) 接下来我们展开动能公式 T=12∫vC⋅vCdm+ω22∫(x2+y2)dm+ω(v⃗C⋅j^)∫xdm−ω(v⃗C⋅i^)∫ydm=12mvC2+12IzzCω2T = \frac 1 ...

240 复习 向量转换系 AQ˙=BQ˙+ωB/A×Q^A\dot Q = ^B \dot Q + \omega_{B/A}\times QAQ˙​=BQ˙​+ωB/A​×Q 角速度转换公式 ωD/A=ωD/B+ωB/A\omega_{D/A}= \omega_{D/B} + \omega _{B/A}ωD/A​=ωD/B​+ωB/A​ ωB/A=−ωA/B\omega_{B/A} = -\omega_{A/B}ωB/A​=−ωA/B​ Aω˙B/A=Bω˙B/A^A\dot\omega_{B/A} = ^B\dot \omega_{B/A}Aω˙B/A​=Bω˙B/A​ 角加速度转换公式 αC/A=αC/B+αB/A+ωB/A×ωC/B\alpha_{C/A} = \alpha _{C/B} + \alpha _{B/A} + \omega _{B/A}\times \omega_{C/B}αC/A​=αC/B​+αB/A​+ωB/A​×ωC/B​ 我们称 $\omega_{B/A} \times \omega_{C/B} $ 为 gyroscopic 量,在 ...