2023年06月

您所在的位置:网站首页 数学中的z怎么手写图片 2023年06月

2023年06月

2023-07-10 11:08| 来源: 网络整理| 查看: 265

原创 23 前馈神经网络——Feedforward Neural Network

方法一——非线性转换:通过设计非线性转换的函数,将数据转换到高维空间使得线性可分。神经网络也是从机器学习中拓展而出。这样我们就可以通过或与非的三种运算,通过多层的结构得到异或的表达方式。方法三——神经网络:MLP(FNN),通过有向无环图实现的复合函数。方法二——核方法:在核函数中隐含了一个非线性转换。为什么要开始应用深度学习呢?

2023-06-17 16:45:10 302

原创 22 谱聚类——Spectral Clustering

将聚集在一起的点进行聚类(离得近的为同一类数据),例如可以线性分类的一组数据。将具有联通性的一堆点进行聚类,如环形等线性不可分的数据。(这种其实在一定情况下也可以通过Kernel+K-Mean实现——进行非线性转换)Spectral Clustering实际上可以表示为一个带权重的无向图。先给这张图做一个定义:GVEV12NWwij1≤ij≤NGVEV12NWwij​1≤ij≤N其中WWW。

2023-06-17 16:09:04 490

原创 21 RBM(Restricted Boltzmann Machine)——受限玻尔兹曼机

文章目录21 RBM(Restricted Boltzmann Machine)——受限玻尔兹曼机21.1 背景介绍22.2 RBM模型表示22.3 Inference问题22.4 Marginal问题21 RBM(Restricted Boltzmann Machine)——受限玻尔兹曼机21.1 背景介绍什么是玻尔兹曼机:简单来说就是具有条件的Markov Random Field(一个无向图模型)什么条件呢?加入了隐状态——使得无向图的节点分成两类:观测变量(observed variab

2023-06-15 19:27:31 324

原创 LeetCode-4题解 寻找两个正序数组的中位数

在整理出这三点后我就陷入了误区,我一直想要用二分探索找到中位数的区间,但怎么都想不出来。~~通过大佬的一点小小启发,~~其实通过引入K-th Number的思想就可以解决这个问题。为了保证时间复杂度合适,自然不能像常规第二种解法一样一个一个删除,而是使用二分的思想。但是这个二分有点难考虑到:通过比较两个数列中第。总体来说不太优雅,因为最后讨论的情况比较多,别的大佬代码应该会好看许多。根据上述三种情况,我们一定在删除过程中不会删掉第。个数的大小,一定能删掉较小数列中的前。若第K个数不在其中一个数列的前。

2023-06-15 15:31:39 744

原创 11 二阶矩方法和Lovasz局部引理

文章目录11 二阶矩方法和Lovasz局部引理11.1 The Second-Moment Method——二阶矩方法11.1.1 二阶矩方法定理11.1.2 二阶矩方法的应用——随机图阈值11.2 Lovasz Local Lemma——Lovasz局部引理11.2.1 LLL定理11.2.2 LLL定理证明11.3 Asymmetric LLL11 二阶矩方法和Lovasz局部引理11.1 The Second-Moment Method——二阶矩方法11.1.1 二阶矩方法定理首先写出二阶矩方

2023-06-12 19:56:17 625

原创 20 Gaussian Process Regression——高斯过程回归

高斯过程中,高斯是指Gaussian Distribution,过程就是指随机过程。PxNμσ2PxNμσ2多维高斯(Multivariate Gaussian Distribution)⟺\iff⟺PxNμΣp×pPxNμΣp×p​无限维高斯⟺\iff⟺高斯过程高斯过程是定义在连续域(如时间轴)上的无限多个高维随机变量所组成的随机过程。若在实际情况中,我们可以写成:在一个连续域T中(以时间轴为例),对于∀n∈N∀n。

2023-06-12 19:55:43 513

原创 19 贝叶斯线性回归

表示一个未知的常量,转化为优化问题进行求解。表示为Gaussian Dist则为岭回归(Ridge),若。我们可以通过二次项和一次项求出均值和方差。Prediction问题是假设已有数据为。在频率派的线性回归中,我们是通过假设。表示为Laplace则为Lasso。都是随机变量,假设用于表示参数。,可以根据参数的分布得到。的二次项和一次项,假设。让我们用配方法,取出。

2023-06-11 11:29:59 458

原创 18 高斯网络

Gaussian Network——连续性的概率图模型:高斯网络的特点有:假设每个节点通过xix_ixi​xi∽NμiΣixi​∽Nμi​Σi​。一张高斯图可以表示为Xx1x2xpTXx1​x2​xp​Tpx12πp2∣Σ∣12⋅exp⁡−12x−μTΣ−1x−μpx2π2p​∣Σ∣21​1​⋅exp−21​x。

2023-06-10 15:38:50 953

原创 10 概率方法

Ramsey Numbers是一个有两个参数的函数,记为r(m, n)。定义:存在一些概率空间与随机变量X。目标:证明对象C存在。

2023-06-09 17:59:48 1386

原创 17 条件随机场

文章目录17 条件随机场——CRF(Condition Random Field)17.1 背景介绍17.2 HMM与MEMM的区别17.3 MEMM与CRF的区别17.4 CRF模型17.4.1 CRF的概率密度函数17.4.2 CRF概率密度函数简化(向量形式)17.5 CRF需要解决的问题17.6 边缘概率计算——marginal问题17.7 参数估计——Learning问题17 条件随机场——CRF(Condition Random Field)17.1 背景介绍从分类问题开始探讨,分类问题包

2023-06-09 17:46:29 1267

原创 16 粒子滤波

HMM——关注Decoding问题Linear Dynamic System——关注Filtering问题Patricle Filter——Nan-Linear,Nan-Gauss,关注Filtering问题结合:重要性采样方法+SIS+Resampling,就是简单的粒子滤波求解方案:Basic Particle Filter。

2023-06-09 17:45:56 461

原创 15 线性动态系统-Linear Dynamic System-Kalman Filter【Xmind笔记】

文章目录15 线性动态系统-Linear Dynamic System-Kalman Filter【Xmind笔记】15 线性动态系统-Linear Dynamic System-Kalman Filter【Xmind笔记】

2023-06-09 17:43:14 6

原创 14 HMM【手写+Xmind笔记】

文章目录14 HMM【手写+Xmind笔记】14.1 Xmind笔记14.2 手写证明14 HMM【手写+Xmind笔记】14.1 Xmind笔记14.2 手写证明

2023-06-09 17:41:53 4

原创 13 MCMC——马尔可夫链蒙特卡洛

首先简单介绍一下Monte Carlo方法:Monte Carlo Method是基于采样的随即近似方法。假如存在NNN​个样本Z1ZNZ1ZNPZ∣X→EZ∣XfZ∫ZfZ⋅PZ∣XdZ≈1N∑i1NfZiPZ∣X→EZ∣X​fZ)]∫Z​fZ⋅PZ∣XdZ​≈N1​i1∑N​fZi同时给出一个最基本的条件:我们认为样本u∽U01u。

2023-06-09 17:38:13 595

原创 12 VI——变分推断

文章目录12 VI——变分推断12.1 背景介绍12.2 Classical VI12.2.1 公式导出12.2.2 坐标上升法12.3 SGVI——随机梯度变分推断12.3.1 一般化MC方法12.3.2 降方差——Variance Reduction12 VI——变分推断12.1 背景介绍变分推断的作用就是在概率图模型中进行参数估计,是参数估计的一种确定性近似的方法。下图给出了VI在机器学习中的地位:12.2 Classical VI12.2.1 公式导出首先第一个问题,变分推断中的变分是

2023-06-09 17:36:05 1323

原创 11 GMM——高斯混合模型

从几何角度来说:高斯混合模型表示:加权平均——由多个高斯分布混合叠加而成,如图px∑i1Kαi⋅Nx∣μiΣi∑i1Kαi1pxi1∑K​αi​⋅Nx∣μi​Σi​i1∑K​αi​1若从混合模型的角度来说:xXxii1NzZzii1Nz∈C1C2CKPz∈p1p2pKxXxi​i1N​zZzi​i1N。

2023-06-09 17:32:44 1421

原创 1-9 随机算法【手写+Xmind笔记】

上面求出了至少一项的概率,与之相反,在。内积版证明:形同正交性引理的证明。的组合都成立,我们求至少有一项。的条件,任意两项偏移不超过。(数学不好真是太悲惨了)是一个给定的单位向量,独立且为正态分布,所以。的每个分量独立服从于。

2023-06-03 15:10:04 709

原创 10 EM(期望最大)算法

概率图模型中,两个核心问题:学习参数、求解后验分布。EM算法就是一种通过MLE求出参数近似解的方法。

2023-06-01 17:26:05 432

原创 9 概率图模型【手写笔记】

简单来说,概率图由“概率”与“图”组成为了方便图上的概率计算,本文将图分为几类,同时为每种图定义了一些性质。

2023-06-01 15:46:28 502

原创 8 指数族分布【手写+Xmind笔记】

文章目录8 指数族分布【手写+Xmind笔记】8.1 Xmind笔记8.2 手写证明8 指数族分布【手写+Xmind笔记】8.1 Xmind笔记8.2 手写证明

2023-06-01 15:02:10 28

原创 6 SVM支持向量机【手写+Xmind笔记】

文章目录6 SVM支持向量机【手写+Xmind笔记】6.1 Xmind笔记6.2 手写证明6 SVM支持向量机【手写+Xmind笔记】6.1 Xmind笔记6.2 手写证明

2023-06-01 15:01:41 31

原创 7 核方法【手写+Xmind笔记】

文章目录7 核方法【手写+Xmind笔记】7.1 Xmind笔记7.2 手写证明7 核方法【手写+Xmind笔记】7.1 Xmind笔记7.2 手写证明

2023-06-01 15:00:55 29

原创 5 降维【手写+Xmind笔记】

文章目录5 降维【手写+Xmind笔记】5.1 Xmind笔记5.2 手写证明5 降维【手写+Xmind笔记】5.1 Xmind笔记5.2 手写证明

2023-06-01 15:00:43 38

原创 4 线性分类【手写+Xmind笔记】

文章目录4 线性分类【手写+Xmind笔记】4.1 Xmind笔记4.2 手写证明4 线性分类【手写+Xmind笔记】4.1 Xmind笔记4.2 手写证明

2023-06-01 14:58:28 7

原创 3 线性回归【手写+Xmind笔记】

文章目录3 线性回归【手写+Xmind笔记】3.1 Xmind笔记3.2 手写证明3 线性回归【手写+Xmind笔记】3.1 Xmind笔记3.2 手写证明

2023-06-01 14:58:13 23

原创 2 高斯分布【手写+Xmind笔记】

文章目录2 高斯分布【手写+Xmind笔记】2.1 Xmind笔记2.2 手写证明2 高斯分布【手写+Xmind笔记】2.1 Xmind笔记2.2 手写证明

2023-06-01 14:56:02 8

原创 1 绪论【Xmind笔记】

文章目录1 绪论【Xmind笔记】1 绪论【Xmind笔记】

2023-06-01 14:54:57 6



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3