AI数学基础之:概率和上帝视角

简介 天要下雨,娘要嫁人。虽然我们不能控制未来的走向,但是可以一定程度上预测为来事情发生的可能性。而这种可能性就叫做概率。什么是概率呢?概率就是事情出现的可能性。比如扔骰子,我们知道骰子有六面,很容易知道扔出1点的概率是1/6,听起来很简单,但是如果放在复杂事件中,概率计算就变得比较麻烦和抽象,很多 ... »

AI数学基础之:奇异值和奇异值分解

简介 奇异值是矩阵中的一个非常重要的概念,一般是通过奇异值分解的方法来得到的,奇异值分解是线性代数和矩阵论中一种重要的矩阵分解法,在统计学和信号处理中非常的重要。 在了解奇异值之前,让我们先来看看特征值的概念。 相似矩阵 在线性代数中,相似矩阵是指存在相似关系的矩阵。设A,B为n阶矩阵,如果有n阶可 ... »

LSTM - 长短期记忆网络

循环神经网络(RNN) 人们不是每一秒都从头开始思考,就像你阅读本文时,不会从头去重新学习一个文字,人类的思维是有持续性的。传统的卷积神经网络没有记忆,不能解决这一个问题,循环神经网络(Recurrent Neural Networks)可以解决这一个问题,在循环神经网络中,通过循环可以解决没有记忆 ... »

人脸检测

Haar级联分类器 正常人的脸一定具备眼睛、鼻子、嘴巴等特征,每个特征都做成一个专门的检测分类器,所有分类器串起来,全部检测通过则判定为人脸。 分类器下载地址: https://github.com/opencv/opencv/tree/master/data/haarcascades import ... »

三种梯度下降算法的区别(BGD, SGD, MBGD)

前言 我们在训练网络的时候经常会设置 batch_size,这个 batch_size 究竟是做什么用的,一万张图的数据集,应该设置为多大呢,设置为 1、10、100 或者是 10000 究竟有什么区别呢? # 手写数字识别网络训练方法 network.fit( train_images, trai ... »

图像的加密与解密

图像加密与解密 图像加密解密使用的是按位异或的运算,一真一假方为真,全真全假皆为假。 比方说,3和5进行按位异或,3的二进制为11,5的二进制为101,运算之后得到二进制110,换算成十进制也就是得到6,那么3、5、6这三个数字,任意两个进行按位异或运算都可以得出另一个。 import cv2 im ... »

文本单词one-hot编码

单词->字母->向量 神经网络是建立在数学的基础上进行计算的,因此对数字更敏感,不管是什么样的特征数据都需要以向量的形式喂入神经网络,无论是图片、文本、音频、视频都是一样。 one-hot编码,也就是独热编码,是一种常用的编码手段。在多分类识别的时候,喂入神经网络的标签就是独热码,比如手写数字识别一 ... »

fashion数据集训练

下载数据集 fashion数据集总共有7万张28*28像素点的灰度图片和标签,涵盖十个分类:T恤、裤子、套头衫、连衣裙、外套、凉鞋、衬衫、运动鞋、包、靴子。 其中6万张用于训练,1万张用于测试。 import tensorflow as tf from tensorflow import keras ... »

Boltzmann Machine 玻尔兹曼机入门

Generative Models 生成模型帮助我们生成新的item,而不只是存储和提取之前的item。Boltzmann Machine就是Generative Models的一种。 Boltzmann Machine Boltzmann Machine和Hopfield Network对比 En ... »

手写数字图片识别-全连接网络

下载数据集 mnist数据集是一个公共的手写数字数据集,一共有7W张28*28像素点的0-9手写数字图片和标签,其中有6W张是训练集,1W张是测试集。 from tensorflow import keras from matplotlib import pyplot as plt mnist = ... »

深度学习四从循环神经网络入手学习LSTM及GRU

循环神经网络 简介 循环神经网络(Recurrent Neural Networks, RNN) 是一类用于处理序列数据的神经网络。之前的说的卷积神经网络是专门用于处理网格化数据(例如一个图像)的神经网络,而循环神经网络专门用于处理序列数据(例如$x^{(1)},x^{(2)},···,x^{(T) ... »

梯度消失和梯度爆炸及解决方案

梯度在神经网络中的作用 在谈梯度消失和梯度爆炸的问题之前,我们先来考虑一下为什么我们要利用梯度,同时铺垫一些公式,以便于后面的理解。 存在梯度消失和梯度爆炸问题的根本原因就是我们在深度神网络中利用反向传播的思想来进行权重的更新。即根据损失函数计算出的误差,然后通过梯度反向传播来减小误差、更新权重。 ... »

Python操作图像

安装Pillow pip install Pillow 打开图像 from PIL import Image img = Image.open("./lena.tiff") 保存图像 打开图像之后,可以将其保存,也就是另存为。img对象.save(保存路径) save方法不仅能够保存图像,还能够转换 ... »

追梦强人工智能(一)

昨天看到2014年陈天石、陈云霁在中国计算机学会通讯杂志中的文章《体系结构研究者的强人工智能之梦》。他们的对梦想的不断探索及几十年如一日的坚持,足以照亮我们普罗大众。为了方便阅读分成了两篇,本篇为第一篇 什么是人工智能 人制造出来的机器所表现出来的智能,就是人工智能。人工智能大致会分为两类:弱人工智 ... »

机器学习中的“特征”到底是什么?

经常听到搞算法的人把“feature”挂在嘴边,这个 feature 可不是产品经理丢给开发的feature -- 产品的新特性,而是“特征”。在机器学习中,特征是被观测对象的一个独立可观测的属性或者特点。比如识别水果的种类,需要考虑的特征(属性)有:大小、形状、颜色等。要识别一个人是谁,可以用他的 ... »

深度学习三:卷积神经网络

卷积神经网络 卷积神经网络(Convolutional Neural Network,CNN)又叫卷积网络(Convolutional Network),是一种专门用来处理具有类似网格结构的数据的神经网络。卷积神经网络一词中的卷积是一种特殊的线性运算。卷积网络是指那些至少在网络的一层中使用卷积运算来 ... »