电子创新网

人工智能、机器学习和深度学习的区别与联系?

人工智能的浪潮正在席卷全球，诸多词汇时刻萦绕在我们耳边：人工智能（Artificial Intelligence）、机器学习（Machine Learning）、深度学习（Deep Learning）。不少人对这些高频词汇的含义及其背后的关系总是似懂非懂、一知半解，那么他们之间有什么样的联系啦？

人工智能：从概念提出到走向繁荣

深度学习优化函数详解（5）——Nesterov accelerated gradient (NAG)

上一篇文章讲解了犹如小球自动滚动下山的动量法（momentum）这篇文章将介绍一种更加“聪明”的滚动下山的方式。动量法每下降一步都是由前面下降方向的一个累积和当前点的梯度方向组合而成。于是一位大神（Nesterov）就开始思考，既然每一步都要将两个梯度方向（历史梯度、当前梯度）做一个合并再下降，那为什么不先按照历史梯度往前走那么一小步，按照前面一小步位置的“超前梯度”来做梯度合并呢？如此一来，小球就可以先不管三七二十一先往前走一步，在靠前一点的位置看到梯度，然后按照那个位置再来修正这一步的梯度方向。如此一来，有了超前的眼光，小球就会更加”聪明“, 这种方法被命名为Nesterov accelerated gradient 简称 NAG。

科学家：人工智能可以迅速发展自己的偏见

自主机器人可以通过识别、复制、学习其他机器人的行为产生偏见，某些种类的算法已经产生性别歧视和种族歧视。

远场语音识别面临的瓶颈与挑战

语音交互正在被视为用户在未来很多场景下的主要流量入口之一。因此，寻求可靠有效的远场语音技术突破变成了当下工业界和学术界的迫切需求。一个经典的语音识别系统包含麦克风信号采集模块、信号处理模块以及语音识别模块。每个模块的处理方法都会影响最终的识别效果。

具体来说，目前远场语音识别的技术难点主要集中在以下4个部分：
第一个是多通道同步采集硬件研发；
第二个是前端麦克风阵列信号处理算法研发；
第三个是后端语音识别与前端信号处理的匹配；
第四个是前端和后端联合优化。

首先，多通道麦克风阵列技术已经被证明可以显著提升语音识别质量。当信号采集通道数足够多时，需要额外研发多通道同步技术。并且，目前消费电子上很少有集成多个麦克风的情况，相关研究成果很少，这也增加了该硬件方案的研发难度。

图像处理基础(6)：锐化空间滤波器

前面介绍的几种滤波器都属于平滑滤波器（低通滤波器），用来平滑图像和抑制噪声的；而锐化空间滤波器恰恰相反，主要用来增强图像的突变信息，图像的细节和边缘信息。平滑滤波器主要是使用邻域的均值（或者中值）来代替模板中心的像素，消弱和邻域间的差别，以达到平滑图像和抑制噪声的目的；相反，锐化滤波器则使用邻域的微分作为算子，增大邻域间像素的差值，使图像的突变部分变的更加明显。

“无人驾驶”的技术路线

作者：郭喨唐兴华
来源：中国社会科学网-中国社会科学报

无人驾驶车辆真要跑起来，需要解决感知、决策和执行等层面的技术问题。感知系统也称为“中层控制系统”，负责感知周围的环境，并进行识别和分析；决策系统也称为“上层控制系统”，负责路径规划和导航；执行系统又称为“底层控制系统”，负责汽车的加速、刹车和转向。本文以“感知—决策—执行”的顺序呈现，是因为这样更加符合人类的驾驶模式。如，先看看前面——绿灯、周围无行人——收集信息；然后做出决策——可以通行；最后执行决策——开过十字路口。

自动驾驶的感知系统

[机器学习]推荐系统之协同过滤算法

在现今的推荐技术和算法中，最被大家广泛认可和采用的就是基于协同过滤的推荐方法。本文将带你深入了解协同过滤的秘密。下面直接进入正题.

1、什么是推荐算法

推荐算法最早在1992年就提出来了，但是火起来实际上是最近这些年的事情，因为互联网的爆发，有了更大的数据量可以供我们使用，推荐算法才有了很大的用武之地。

物联网十大应用领域未来如何发展？

物联网( Internet of Things，简称 IoT )，是新一代信息科技的重要组成部分，是继计算机、互联网之后世界信息发展的第三次浪潮。据统计，2017年中国物联网产业规模已达万亿，我国早已将物联网上升为战略性新兴产业。基于此，发布了一份新的报告《2018中国物联网应用研究报告》，报告根据实际情况，对物联网产业的发展进行了梳理，并总结出了十大应用领域，分别为物流、交通、安防、能源、医疗、建筑、制造、家居、零售和农业。本文根据各行业应用物联网情况，说明了依托物联网技术，十大应用领域未来如何发展。

智慧物流

从线性分类器到卷积神经网络

本文来自于网络，本文大致分成两大部分，第一部分尝试将本文涉及的分类器统一到神经元类模型中，第二部分阐述卷积神经网络（CNN）的发展简述和目前的相关工作。

前言

本文涉及的分类器（分类方法）有：
  •   线性回归
  •   逻辑回归（即神经元模型）
神经网络（NN）
  •   支持向量机（SVM）
  •   卷积神经网络（CNN）

深度学习优化函数详解（4）——momentum 动量法

本文延续该系列的上一篇深度学习优化函数详解（3）– mini-batch SGD 小批量随机梯度下降

如果把梯度下降法想象成一个小球从山坡到山谷的过程，那么前面几篇文章的小球是这样移动的：从A点开始，计算当前A点的坡度，沿着坡度最大的方向走一段路，停下到B。在B点再看一看周围坡度最大的地方，沿着这个坡度方向走一段路，再停下。确切的来说，这并不像一个球，更像是一个正在下山的盲人，每走一步都要停下来，用拐杖来来探探四周的路，再走一步停下来，周而复始，直到走到山谷。而一个真正的小球要比这聪明多了，从A点滚动到B点的时候，小球带有一定的初速度，在当前初速度下继续加速下降，小球会越滚越快，更快的奔向谷底。momentum 动量法就是模拟这一过程来加速神经网络的优化的。

后文的公式推导不加特别说明都是基于 mini-batch SGD 的，请注意。

Javascript如何实现GPU加速？

一、什么是Javascript实现GPU加速？

CPU与GPU设计目标不同，导致它们之间内部结构差异很大。
CPU需要应对通用场景，内部结构非常复杂。
而GPU往往面向数据类型统一，且相互无依赖的计算。
所以，我们在Web上实现3D场景时，通常使用WebGL利用GPU运算（大量顶点）。
但是，如果只是通用的计算场景呢？比如处理图片中大量像素信息，我们有办法使用GPU资源吗？这正是本文要讲的，GPU通用计算，简称GPGPU。

人脸识别介绍

人脸识别

人脸识别技术是基于人的脸部特征信息进行身份识别的一种生物识别技术。用摄像机或摄像头采集含有人脸的图像或视频流，
并自动在图像中检测和跟踪人脸，进而对检测到的人脸进行脸部的一系列相关技术，通常也叫做人像识别、面部识别

1、人脸识别流程

人脸识别技术流程主要包括四个组成部分，分别为：人脸图像采集及检测、人脸图像预处理、人脸图像特征提取以及匹配与识别

人脸图像采集

人脸图像采集方式分为两种，分别为批量人脸图像导入及现场视频人脸采集。

深度学习与计算机视觉学习笔记：线性回归（Linear Classification）

本次我们基于线性回归的图像分类算法，采用的数据集合是CIFAR10，具体信息如下图所示。

参数化方法：线性回归

图像处理基础(5)：双边滤波器

双边滤波（Bilateral filter）是一种非线性的滤波方法，是结合图像的空间邻近度和像素值相似度的一种折衷处理，同时考虑空域信息和灰度相似性，达到保边去噪的目的。

双边滤波器之所以能够做到在平滑去噪的同时还能够很好的保存边缘（Edge Preserve），是由于其滤波器的核由两个函数生成：
  •   一个函数由像素欧式距离决定滤波器模板的系数
  •   另一个函数由像素的灰度差值决定滤波器的系数

【人工神经网络基础】为什么神经网络选择了“深度”？

现在提到“神经网络”和“深度神经网络”，会觉得两者没有什么区别，神经网络还能不是“深度”（deep）的吗？我们常用的 Logistic regression 就可以认为是一个不含隐含层的输出层激活函数用 sigmoid（logistic）的神经网络，显然 Logistic regression 就不是 deep 的。不过，现在神经网络基本都是 deep 的，即包含多个隐含层。Why？

1. universality approximation theorem（通用近似定理）

【通俗易懂】10幅图解释机器学习中的基本概念

作者：Maybe2030
来源：http://lib.csdn.net/article/machinelearning/49601

以下的几幅图是我认为在解释机器学习基本概念时最有启发性的条目列表。

深度学习优化函数详解（3）——mini-batch SGD 小批量随机梯度下降

本文延续该系列的上一篇深度学习优化函数详解（2）– SGD 随机梯度下降

上一篇我们说到了SGD随机梯度下降法对经典的梯度下降法有了极大速度的提升。但有一个问题就是由于过于自由导致训练的loss波动很大。那么如何可以兼顾经典GD的稳定下降同时又保有SGD的随机特性呢？于是小批量梯度下降法, mini-batch gradient descent 便被提了出来。其主要思想就是每次只拿总训练集的一小部分来训练，比如一共有5000个样本，每次拿100个样本来计算loss，更新参数。50次后完成整个样本集的训练，为一轮（epoch）。由于每次更新用了多个样本来计算loss，就使得loss的计算和参数的更新更加具有代表性。不像原始SGD很容易被某一个样本给带偏。loss的下降更加稳定，同时小批量的计算，也减少了计算资源的占用。