本次我们基于线性回归的图像分类算法，采用的数据集合是CIFAR10，具体信息如下图所示。

<center><img width="600" src="http://imgtec.eetrend.com/sites/imgtec.eetrend.com/files/201809/blog/17…; alt="深度学习与计算机视觉学习笔记：线性回归（Linear Classification）"></center>

参数化方法：线性回归

双边滤波（Bilateral filter）是一种非线性的滤波方法，是结合图像的空间邻近度和像素值相似度的一种折衷处理，同时考虑空域信息和灰度相似性，达到保边去噪的目的。

双边滤波器之所以能够做到在平滑去噪的同时还能够很好的保存边缘（Edge Preserve），是由于其滤波器的核由两个函数生成：
&nbsp; • &nbsp; 一个函数由像素欧式距离决定滤波器模板的系数
&nbsp; • &nbsp; 另一个函数由像素的灰度差值决定滤波器的系数

现在提到“神经网络”和“深度神经网络”，会觉得两者没有什么区别，神经网络还能不是“深度”（deep）的吗？我们常用的 Logistic regression 就可以认为是一个不含隐含层的输出层激活函数用 sigmoid（logistic） 的神经网络，显然 Logistic regression 就不是 deep 的。不过，现在神经网络基本都是 deep 的，即包含多个隐含层。Why？

<font size="3"><strong>1. universality approximation theorem（通用近似定理）</strong></font>

作者：Maybe2030
来源：http://lib.csdn.net/article/machinelearning/49601

以下的几幅图是我认为在解释机器学习基本概念时最有启发性的条目列表。

本文延续该系列的上一篇 深度学习优化函数详解（2）– SGD 随机梯度下降

上一篇我们说到了SGD随机梯度下降法对经典的梯度下降法有了极大速度的提升。但有一个问题就是由于过于自由 导致训练的loss波动很大。那么如何可以兼顾经典GD的稳定下降同时又保有SGD的随机特性呢？于是小批量梯度下降法, mini-batch gradient descent 便被提了出来。其主要思想就是每次只拿总训练集的一小部分来训练，比如一共有5000个样本，每次拿100个样本来计算loss，更新参数。50次后完成整个样本集的训练，为一轮（epoch）。由于每次更新用了多个样本来计算loss，就使得loss的计算和参数的更新更加具有代表性。不像原始SGD很容易被某一个样本给带偏 。loss的下降更加稳定，同时小批量的计算，也减少了计算资源的占用。

大数据文摘出品
编译：李佳、汤圆、钱天培

“我的飞机什么时候到？”

把这个问题抛给智能机器人助手。几乎可以肯定，机器立马就懵逼了。

“我”是谁？“飞机”是航班还是淘宝上订的模型玩具呢？“到”又是到哪呢？

如果是人类来回答这个问题，即使在情景不明确的情况下也能在快速澄清后给出回答，但对机器来说，除非依赖大量人为制定的规则，回答这样的问题难度堪比“哥德巴赫猜想”。

面对自然语言处理发展（NLP）存在的诸多难题，该领域的大牛、Salesforce的首席科学家Richard Socher在近日指出：NLP领域的发展要过三座大山。

困扰NLP领域的这三座大山究竟是什么？一起来听大佬说。

<font size="3"><strong>一、前述</strong></font>

CNN和RNN几乎占据着深度学习的半壁江山，所以本文将着重讲解CNN+RNN的各种组合方式，以及CNN和RNN的对比。

<font size="3"><strong>二、CNN与RNN对比</strong></font>

<strong>1、CNN卷积神经网络与RNN递归神经网络直观图</strong>

2018年9月5日——Imagination Technologies与Chips&Media宣布了一项全新的合作，它将为全球客户带来图形处理器（GPU）和视频编解码器（CODEC）领域内行业最佳的半导体知识产权（IP）解决方案。

两家合作伙伴分别是图形处理技术和视频领域内的领导者，结盟合作将打造出经过测试的整合了Imagination的GPU IP和Chips&Media视频编解码器IP的解决方案，这种整合方案可以协同运作带来系统级效益，包括一系列压缩技术，如Imagination杰出的PVRIC无损压缩。

这些IP都是围绕兼容的格式和驱动程序而设计，将允许客户去使用业内最佳技术，同时消除了对不兼容性的担忧。

CNN(卷积神经网络)的误差反传(error back propagation)中有一个非常关键的的步骤就是将某个卷积(Convolve)层的误差传到前一层的池化(Pool)层上，因为在CNN中是2D反传，与传统神经网络中的1D反传有点细节上的不同，下面通过一个简单的例子来详细分解一下这个反传步骤。

假设在一个CNN网络中，P代表某个池化层，K代表卷积核，C代表卷基层，首先来看一下前向(feed forward)计算，从一个池化层经过与卷积核(Kernel)的运算得到卷积层：

在未来20 - 30年中，自动驾驶汽车（AV）将改变我们的驾驶习惯、运输行业并更广泛地影响社会。 我们不仅能够将汽车召唤到我们的家门口并在使用后将其送走，自动驾驶汽车还将挑战个人拥有汽车的想法，并对环境和拥堵产生积极影响。市场调研公司ABI Research预测：到2030年，道路上四分之一的汽车将会是自动驾驶汽车。