哪种算法涉及深度学习？

Question

到目前为止,我知道深度学习是机器学习的一个子集.我知道一些算法,它的实现如KNN,Naive bayes等机器学习.是否有任何特定的算法来表示和实施深度学习？

Answer 1

混合特定ML概念的"算法","方法","模型"和"实现"的概念是一种常见的误解.ML社区中定义的大多数事物都是模型或方法,而不是算法或实现.粗略地说:

• 模型是以数学方程/公式的形式表示实际的实际过程的一种形式.这些模型之一可以是最近邻分类器或线性分类器
• 方法通常是一种接近使用某些数据找到模型参数的问题的形式(例如,通常用于训练ML模型的梯度优化方法)
• 算法是一组指令,通常在一些伪代码中,显示了为了创建给定方法的某些实现而需要做的确切操作.
• 最后实现是一个特定的代码片段,它实现了一些抽象算法

所以现在,深度学习只是ML中的一般概念,虽然它通常用于涉及涉及数据表示的分层抽象的模型以及训练这些模型的方法,但它还没有明确的定义.

最常见的DL模型是深度神经网络,换句话说,神经网络具有多个(多少？它是公开辩论,有些人说5,其他10或30)非线性隐藏层.部分型号包括:

• 深玻尔兹曼机器(DBM)
• 深度自动编码器(DAE)
• 深度卷积神经网络(DCNN)
• 递归神经网络(RNN)

通常,模型可以很深,并且可以存在用于深度学习的方法,算法或用于深度学习的算法的实现.一些这样的算法是

• 对比分歧(CD)
• 持续的约束散射(PCD)

哪些用于训练DBM.