【内容主要来自《深度学习》】
给定向量组A: ,对于任意一组实数
向量空间:
线性相关:存在一组不全为0的实数 使得:
成立,向量组A线性相关的,反之,称向量组A线性无关。
向量组的秩:设有向量组A: ,如果能选出r个子向量构成的子向量组 ,满足:
那么,称子向量组 是向量组A的一个最大线性无关向量组,最大线性无关处理组包含的向量个数r称为向量组A的秩。
向量组 矩阵--等价关系
矩阵的行秩=矩阵行向量组的秩
列秩=列向量组的秩
行秩=列秩=秩 rank(最后化简看的同一主元数目)
在泛函分析中,向量范数是衡量向量大小的一种度量方式。在形式上,向量范数是一个定义域为任意线性空间向量的函数,它把一个向量v映射为一个非负实数值R,即满足
从几何角度来说,向量x的范数是度量从原点O到点x的距离。从广义角度来说,对于任意一个 ,只要满足以下三个条件计科称为范数:
在机器学习中,特别在模型优化时,范数是正则化的主要手段,用来衡量模型的复杂度。其中,最常用的是p范数,
p-范数的定义如下