神经网络和深度学习之感知器工作原理

<! TOC "一、激活函数" "二、线性回归与梯度下降" "三、矩阵乘法" <! /TOC 一、激活函数 在第一节中我们了解到,神经元不是单纯线性的,线性函数是只要有输入$x$,必定会有一个输出$y$与之对应,而神经元接收到信号不会马上做出响应,它会等待输入信号强度增大到超过阈值才会有输出,这就好 ... »

神经网络和深度学习之神经元和分类器

当今社会,计算机在我们的生活和工作中扮演着重要的角色,人类使用计算机帮助他们进行大量的计算,通过计算机让每个人相互通信等等。但时代的进步让我们对计算机的要求越来越高,人类希望它能够从事越来越复杂的工作。乍看计算机进行计算以及通信工作的原理好像很复杂难懂,实际上计算机能够进行这些工作是因为人们已经给它... ... »

Windows 使用 Visual Studio 编译 caffe

说明:最近看 caffe 发现在 github 上下载的源码没有windows版本的,需要自己生成项目文件才能用 Visual Studio 编译,这里记录一下生成Windows项目文件的方法以及编译过程 ... »

十年•杭研技术秀 | “网易云存储服务”从0到1发展之路

本文由 网易云 发布。 网易杭州研究院(以下简称“杭研”) 成立十周年之际,杭研正式推出了网易云。“十年•杭研技术秀”系列文章,由杭研研发团队倾情奉献,为您展示杭研那些有用、有趣的技术实践经验,涵盖云计算、大前端、信息安全、运维、QA、大数据、人工智能等领域,涉及前沿的分布式、容器、深度学习等技术。 ... »

深入解读Resnet

残差网络的设计目的 随着网络深度增加,会出现一种退化问题,也就是当网络变得越来越深的时候,训练的准确率会趋于平缓,但是训练误差会变大,这明显不是过拟合造成的,因为过拟合是指网络的训练误差会不断变小,但是测试误差会变大。为了解决这种退化现象,ResNet被提出。我们不再用多个堆叠的层直接拟合期望的特征 ... »

facenet 进行人脸识别测试

1.简介:facenet 是基于 TensorFlow 的人脸识别开源库,有兴趣的同学可以扒扒源代码:https://github.com/davidsandberg/facenet 2.安装和配置 facenet 我们先将 facenet 源代码下载下来: 在使用 facenet 前,务必安装下列 ... »

深度学习之 TensorFlow(四):卷积神经网络

基础概念: 卷积神经网络(CNN):属于人工神经网络的一种,它的权值共享的网络结构显著降低了模型的复杂度,减少了权值的数量。卷积神经网络不像传统的识别算法一样,需要对数据进行特征提取和数据重建,可以直接将图片作为网络的输入,自动提取特征,并且对图形的变形等具有高度不变形。在语音分析和图像识别领域有重 ... »

深度学习之 TensorFlow(二):TensorFlow 基础知识

1.TensorFlow 系统架构: 分为设备层和网络层、数据操作层、图计算层、API 层、应用层。其中设备层和网络层、数据操作层、图计算层是 TensorFlow 的核心层。 2.TensorFlow 设计理念: (1)将图的定义和图的运行完全分开。TensorFlow 完全采用符号式编程。 符号 ... »

深度学习-conv卷积

过滤器(卷积核) 传统的图像过滤器算子有以下几种: blur kernel:减少相邻像素的差异,使图像变平滑。 sobel :显示相邻元素在特定方向上的差异。 sharpen :强化相邻像素的差异,使图片看起来更生动。 outline :也称为edge kernel,相邻像素相似亮度的像素点设成黑, ... »

深度解读GoogleNet之Inception V1

GoogleNet设计的目的 GoogleNet设计的初衷是为了提高在网络里面的计算资源的利用率。 Motivation 网络越大,意味着网络的参数较多,尤其当数据集很小的时候,网络更容易发生过拟合。网络越大带来的另一个缺点就是计算资源的利用率会急剧增加。例如,如果两个卷积层是串联的,他们滤波器数量 ... »

VGG网路结构

VGG网络的基本结构 如图所示,从A到E网络的深度是逐渐增加的,在A中有11个权重层(8个卷积层,3个全连接层),在E中有19个权重层(16个卷积层,3个全连接层),卷积层的宽度是十分小的,开始时在第一个卷积层只有64个filter,当经过最大池化后,倍增filter的个数,最后的卷积层是512个, ... »

从感知机到 SVM,再到深度学习(三)

    这篇博文详细分析了前馈神经网络的内容,它对应的函数,优化过程等等。     在 "上一篇" 博文中已经完整讲述了 SVM 的思想和原理。讲到了想用一个高度非线性的曲线作为拟合曲线。比如这个曲线可以是: $$g(x ... »

人工智能算法综述(二) RNN and LSTM

接上一篇 :AI算法综述 (一) RNN:循环神经网络 and LSTM 长短期记忆网络 LSTM就是一个RNN网络,外部的结构是一样的,主要是单元的内在结构不同。或者说LSTM是为了让RNN能够更好的处理NLP(自然语言问题)做的一些内部改造。 我推荐这篇文章理解LSTM :https://www ... »

读论文系列:Object Detection ECCV2016 SSD

转载请注明作者: "梦里茶" Single Shot MultiBox Detector Introduction 一句话概括:SSD就是关于类别的多尺度RPN网络 基本思路: 基础网络后接多层feature map 多层feature map分别对应不同尺度的固定anchor 回归所有anchor ... »

读论文系列:Object Detection CVPR2016 YOLO

CVPR2016: You Only Look Once:Unified, Real Time Object Detection 转载请注明作者: "梦里茶" YOLO,You Only Look Once,摒弃了RCNN系列方法中的region proposal步骤,将detection问题转为一 ... »

多目标跟踪(MOT)论文随笔-POI: Multiple Object Tracking with High Performance Detection and Appearance Feature

网上已有很多关于MOT的文章,此系列仅为个人阅读随笔,便于初学者的共同成长。若希望详细了解,建议阅读原文。 本文是tracking by detection 方法进行多目标跟踪的文章,最大的特点是使用了state-of-the-art的detection和feature来代替以往的方法,使用简单的匹 ... »