marsggbo_个人页

[TensorFlow笔记乱锅炖] tf.multinomial(logits, num_samples)使用方法

tf.multinomial(logits, num_samples) 第一个参数logits可以是一个数组，每个元素的值表示对应index的选择概率。假设logits有两个元素，即[0.6,0.4],这表示的意思是取 0 的概率是0.6， 取 1 的概率是0.4。

使用Numpy将数据集中的data和target同时shuffle

假设现在有图像数据imgs和对应标签targets。数据维度分别如下 imgs.shape = (num, channel, width, height) targets.shape = (num, class) 因为通常我们需要将数据打散，这样的好处是可以让模型训练更具鲁棒性，那么如何同时打散da...

贝叶斯优化(Bayesian Optimization)深入理解

目前在研究Automated Machine Learning,其中有一个子领域是实现网络超参数自动化搜索，而常见的搜索方法有Grid Search、Random Search以及贝叶斯优化搜索。前两者很好理解，这里不会详细介绍。

[转载]Tensorflow 的reduce_sum()函数的axis，keep_dim这些参数到底是什么意思？

转载链接：https://www.zhihu.com/question/51325408/answer/125426642来源：知乎 这个问题无外乎有三个难点： 什么是sum 什么是reduce 什么是维度(indices, 现在均改为了axis和numpy等包一致) sum很简单，就是求和，那么问题就是2和3，让我们慢慢来讲。

LaTeX IEEE模板

因为课程作业的要求需要完成一篇IEEE格式的论文，所以选择入门LaTeX。但是期间遇到了各种各样莫名其妙的坑。前前后后挣扎了两个多星期终于完成了IEEE模板的设置。下面详细记录一下让我深恶痛绝的心路历程。

如何访问IPV6？很简单，几个命令行即可。

参考:清华大学ISATAP隧道配置方法 简单介绍一下windows下的配置方法，其他系统的配置方法详见上面提供的个链接。 首先打卡管理员权限的命令行窗口，依次输入如下命令即可 netsh int ipv6 isatap set router isatap.tsinghua.edu.cn netsh int ipv6 isatap set state enable 我因为不在大陆，所以平时是可以正常访问谷歌的，但是一旦我连接这个ipv6之后，访问谷歌就会变得抽风，一下能上，一下又访问不了。

TPU使用说明

1 TPU分类和收费标准 1.1 分类和计费说明 地区 抢占式TPU Cloud TPU 美国 $1.35/hour $4.5/hour 欧洲 $1.485/hour $4.95/hour 亚太区地区 $1.566/hour $5.22/hour 抢占式 TPU 是 Cloud TPU 在需要将资源分配给另一项任务时，可以随时终止（抢占）的 TPU。

Network Architecture Search Survey

[转载]Meta Learning单排小教学

原文链接：Meta Learning单排小教学   虽然Meta Learning现在已经非常火了，但是还有很多小伙伴对于Meta Learning不是特别理解。考虑到我的这个AI游乐场将充斥着Meta Learning的分析解读及各种原创思考，所以今天Flood就和大家做一个Meta Learning小教学，希望能够用最简短，最通俗的语言来让大家明白Meta Learning的概念，Meta Learning的几种研究方法，以及Meta Learning未来的发展，带大家上分！相信这个Meta Learning小教学是目前全网唯一的中文教程。

(转载) 浅谈高斯过程回归

网上讲高斯过程回归的文章很少，且往往从高斯过程讲起，我比较不以为然：高斯过程回归（GPR）， 终究是个离散的事情，用连续的高斯过程( GP) 来阐述，简直是杀鸡用牛刀。所以我们这次直接从离散的问题搞起，然后把高斯过程逆推出来。

[转载]对深度可分离卷积、分组卷积、扩张卷积、转置卷积（反卷积）的理解

1. 深度可分离卷积（depthwise separable convolution） 在可分离卷积（separable convolution）中，通常将卷积操作拆分成多个步骤。而在神经网络中通常使用的就是深度可分离卷积（depthwise separable convolution）。

使用numpy解决图像维度变换问题

使用numpy解决图像维度变换问题 numpy python  numpy函数介绍 1. np.transpose(input, axes=None) 在机器学习中经常会碰到各种图像数据集，有的是按照num*height*width*channel来存储的，而有的则是num*channel*height*width。

TensorFlow tf.app&tf.app.flags用法介绍

TensorFlow tf.app&tf.app.flags用法介绍 TensorFlow tf.app argparse  tf.app.flags 下面介绍 tf.app.flags.

向量和矩阵的各种范数比较（1范数、2范数、无穷范数等等

向量和矩阵的各种范数比较（1范数、2范数、无穷范数等等 范数 norm 矩阵 向量  一、向量的范数 首先定义一个向量为：a=[-5，6，8, -10] 1.1 向量的1范数 向量的1范数即：向量的各个元素的绝对值之和，上述向量a的1范数结果就是：29，MATLAB代码实现为：norm（a，1）； 1.

如何通俗易懂地解释「协方差」与「相关系数」的概念？

知乎上的这个回答超级赞！！！！！！！！   但是不能转载嘤嘤嘤。   https://www.zhihu.com/question/20852004

线性代数复习

线性代数复习 Linear Algebra 线性代数 行列式  行列式的性质 记行列式如下： 行列式与它的转置行列式相等,即 互换行列式的两行（列）,行列式变号。 推论：如果行列式有两行（列）完全相同，则此行列式为零。

Tensorflow datasets.shuffle repeat batch方法

机器学习中数据读取是很重要的一个环节，TensorFlow也提供了很多实用的方法，为了避免以后时间久了又忘记，所以写下笔记以备日后查看。 最普通的正常情况 首先我们看看最普通的情况： # 创建0-10的数据集，每个batch取个数。

Win10安装TensorFlow1.9-GPU版本

前言 前段时间更新自己电脑上的tf1.4到1.9，没想到踩了这么多坑。。。特意记录下来希望可以帮到大家 删除旧版本 如果你电脑上没有安装旧版本的tf，就可以忽略这一步。我是因为想要升级到最新版本，所以需要先卸载旧版本。

论文笔记模板

Title 文章标题 Summary 写完笔记之后最后填，概述文章的内容，以后查阅笔记的时候先看这一段。 Research Objective 作者的研究目标 Problem Statement 问题陈述，要解决什么问题？ Method(s) 解决问题的方法/算法是什么？ Evaluation 作者如何评估自己的方法，有没有问题或者可以借鉴的地方 Conclusion 作者给了哪些strong conclusion, 又给了哪些weak conclusion? Notes 在这些框架外额外需要记录的笔记。

托福备考建议以及资料推荐

无耻的但是肯定会对你有帮助的托福广告 本文其实是一篇无耻的广告软文，如果看了本文想购买资料的可邮件联系我。 邮件：(marsggbo@foxmail.com) 出于良心，在上广告之前先给要考托福的同学们一点小小的备考建议： 阅读 最重要的就是单词！！！！ 最重要的就是单词！！！！ 最重要的就是单词！！！！ 相信我背完单词后你会来感激我的。

无偏估计

定义 无偏估计：估计量的均值等于真实值，即具体每一次估计值可能大于真实值，也可能小于真实值，而不能总是大于或小于真实值（这就产生了系统误差）。 估计量评价的标准 （1）无偏性 如上述 （2）有效性 有效性是指估计量与总体参数的离散程度。

【TensorFlow】tf.nn.softmax_cross_entropy_with_logits的用法

在计算loss的时候，最常见的一句话就是 tf.nn.softmax_cross_entropy_with_logits ，那么它到底是怎么做的呢？ 首先明确一点，loss是代价值，也就是我们要最小化的值 tf.

论文笔记系列-Simple And Efficient Architecture Search For Neural Networks

摘要 本文提出了一种新方法，可以基于简单的爬山过程自动搜索性能良好的CNN架构，该算法运算符应用网络态射，然后通过余弦退火进行短期优化运行。 令人惊讶的是，这种简单的方法产生了有竞争力的结果，尽管只需要与训练单个网络相同数量级的资源。

[转载] 什么是P问题、NP问题和NPC问题

这或许是众多OIer最大的误区之一。 你会经常看到网上出现“这怎么做，这不是NP问题吗”、“这个只有搜了，这已经被证明是NP问题了”之类的话。你要知道，大多数人此时所说的NP问题其实都是指的NPC问题。

论文笔记系列-Neural Architecture Search With Reinforcement Learning

摘要 神经网络在多个领域都取得了不错的成绩，但是神经网络的合理设计却是比较困难的。在本篇论文中，作者使用 递归网络去省城神经网络的模型描述，并且使用 增强学习训练RNN，以使得生成得到的模型在验证集上取得最大的准确率。

AutoML技术现状与未来展望

以下内容是对AutoML技术现状与未来展望讲座的总结。 1.机器学习定义 《西瓜书》中的直观定义是：利用经验来改善系统的性能。（这里的经验一般是指数据） Mitchell在《Machine Learning》一书中的较为形式化的定义是一个程序通过给它一些数据，它能够提升在某个任务上的某种度量。

AutoML相关论文

本文为Awesome-AutoML-Papers的译文。 1、AutoML简介 Machine Learning几年来取得的不少可观的成绩，越来越多的学科都依赖于它。然而，这些成果都很大程度上取决于人类机器学习专家来完成如下工作： 数据预处理 Preprocess the data 选择合适的特征...

Udacity并行计算课程 CS344 编程作业答案

Problem set 1 // Homework 1 // Color to Greyscale Conversion //A common way to represent color images is known as RGBA - the color //is specified by how much Red, Green, and Blue is in it.

Udacity并行计算课程笔记- Fundamental GPU Algorithms (Reduce, Scan, Histogram)

本周主要内容如下： 如何分析GPU算法的速度和效率 ​​3个新的基本算法：归约、扫描和直方图(Reduce、Scan、Histogram) 一、评估标准 首先介绍用于评估GPU计算的两个标准： step ：完成某特定计算所需时间--挖洞操作（Operation Hole Digging） work：工作总量 如下图示，第一种情况只有一个工人挖洞，他需要8小时才能完成，所以工作总量（Work）是8小时。

DeepLearning.ai学习笔记（五）序列模型 -- week2 序列模型和注意力机制

一、基础模型 假设要翻译下面这句话： "简将要在9月访问中国" 正确的翻译结果应该是： "Jane is visiting China in September" 在这个例子中输入数据是10个中文汉字，输出为6个英文单词，\(T_x\)和\(T_y\)数量不一致，这就需要用到序列到序列的RNN模型。

远程连接服务器jupyter notebook、浏览器以及深度学习可视化方法

h1 { counter-reset: h2counter; } h2 { counter-reset: h3counter; } h3 { counter-reset: h4counter; } h4 { counter-reset: h5counter; } ...

Pytorch 各种奇葩古怪的使用方法

h1 { counter-reset: h2counter; } h2 { counter-reset: h3counter; } h3 { counter-reset: h4counter; } h4 { counter-reset: h5counter; } ...

Python数据增强(data augmentation)库--Augmentor 使用介绍

Augmentor 使用介绍 原图 1.random_distortion(probability, grid_height, grid_width, magnitude) 最终选择参数为 p.

空间金字塔池化(Spatial Pyramid Pooling, SPP)原理和代码实现(Pytorch)

想直接看公式的可跳至第三节 3.公式修正 一、为什么需要SPP 首先需要知道为什么会需要SPP。 我们都知道卷积神经网络(CNN)由卷积层和全连接层组成，其中卷积层对于输入数据的大小并没有要求，唯一对数据大小有要求的则是第一个全连接层，因此基本上所有的CNN都要求输入数据固定大小，例如著名的VGG模型则要求输入数据大小是 (224*224) 。

计算机四级网络工程师等级考试题库软件---百度云分享

做件好事，考四级的兄弟们一起共勉~~~ 链接：https://pan.baidu.com/s/1im4BDVZofZbT9f5PZtsxdA 密码：9i5h ​ ​支持一下呗

批量下载Coursera及其他场景上的文件

以下方法同样适用于其他场景的批量下载。 最近在学习Coursera退出的深度学习课程，我希望把课程提供的作业下载下来以备以后复习，但是课程有很多文件，比如说脸部识别一课中的参数就多达226个csv文件，如果单纯靠鼠标点击下载简直要疯掉，所以给出如下方法： 等不及的可以跳过方法一，直接看方法二 方法一：提取出链接，然后批量下载 1.

解决ipad连接不上电脑的问题

检查一下信息： 1.iTunes是否安装 2.数据线是否完好 3.检查下图中的两个设备是否开启 4.最后一步是最恶心的：是否关闭了防火墙！！！！ 操作步骤如下图示 我就是因为打开了防火墙，所以一直连接不上我自己的电脑，但是却能连上别人的电脑。

解决ping 127.0.0.1 一般故障 问题

​故障如下图： 绕了好一大圈才发现是goupi防火墙搞的鬼，弄得我一些软件一直运行不了！！！！！ 废话不多说，关了防火墙就行了：操作步骤如下图示 ​ 关闭之后，美滋滋： ​ ​

DeepLearning.ai学习笔记（五）序列模型 -- week1 循环序列模型

一、为什么选择序列模型 序列模型可以用于很多领域，如语音识别，撰写文章等等。总之很多优点。。。 二、数学符号 为了后面方便说明，先将会用到的数学符号进行介绍。 以下图为例，假如我们需要定位一句话中人名出现的位置。

DeepLearning.ai学习笔记（四）卷积神经网络 -- week4 特殊应用:人力脸识别和神经风格转换

一、什么是人脸识别 老实说这一节中的人脸识别技术的演示的确很牛bi，但是演技好尴尬，233333 啥是人脸识别就不用介绍了，下面笔记会介绍如何实现人脸识别。 二、One-shot(一次)学习 假设我们发财了，开了一家公司。

可爱的琪琪

此文记录我可爱的侄女-紫琪同学~ 太可爱太懂事了，有些瞬间需要用文字记录下来 2017.09.30 从武汉回到长沙，一到家琪琪就“fufu(叔叔)”的叫我，也不知道她是故意的还是真的还不能正确发音，于是我就逗着说:"你叫错了啦~是叔叔的fu"。

coursera 视频总是缓冲或者无法观看的解决办法

注意！！！该方法针对Windows用户，亲测有效。 1.用管理员权限记事本打开host文件 2.将如下内容复制到文件末尾 52.84.246.90 d3c33hcgiwev3.cloudfront.

Pytorch windows10安装教程

强烈建议安装anaconda之后再来安装这个pytorch，具体怎么安装百度搜索就知道了。 温馨提示，在安装anaconda的时候记得将“添加到环境变量”(安装的时候是英文的)这一选项选上。 下面假设你已经安装好anaconda了： 1.

DeepLearning.ai学习笔记（二）改善深层神经网络：超参数调试、正则化以及优化--Week2优化算法

1. Mini-batch梯度下降法 介绍 假设我们的数据量非常多，达到了500万以上，那么此时如果按照传统的梯度下降算法，那么训练模型所花费的时间将非常巨大，所以我们对数据做如下处理： 如图所示，我们以1000为单位，将数据进行划分，令\(x^{\{1\}}=\{x^{(1)},x^{(2)}……x^{(5000)}\}\), 一般地用\(x^{\{t\}},y^{\{t\}}\)来表示划分后的mini-batch。

DeepLearning.ai学习笔记汇总

第一章 神经网络与深度学习(Neural Network & Deeplearning) DeepLearning.ai学习笔记（一）神经网络和深度学习--Week3浅层神经网络 DeepLearning.

通俗理解决策树中的熵&条件熵&信息增益

参考通俗理解决策树算法中的信息增益 说到决策树就要知道如下概念： 熵：表示一个随机变量的复杂性或者不确定性。 假如双十一我要剁手买一件衣服，但是我一直犹豫着要不要买，我决定买这件事的不确定性（熵）为2.6。

KNN实现手写数字识别

KNN实现手写数字识别 博客上显示这个没有Jupyter的好看，想看Jupyter Notebook的请戳KNN实现手写数字识别.ipynb 1 - 导入模块 import numpy as np import matplotlib.

DeepLearning.ai学习笔记（一）神经网络和深度学习--Week4深层神经网络

一、深层神经网络 深层神经网络的符号与浅层的不同，记录如下： 用\(L\)表示层数,该神经网络\(L=4\) \(n^{[l]}\)表示第\(l\)层的神经元的数量，例如\(n^{[1]}=n^{[2]}=5,n^{[3]}=3,n^{[4]}=1\) \(a^{[l]}\)表示第\(l...

博客园自定义皮肤扁平化设计

博客园自定义皮肤设计 效果抢先看 眼见为实！！！戳戳戳》》》marsggbo的博客园 1. 博客皮肤 首先将博客皮肤选为BlackLowKey 2. 代码设置 1) 页面定制CSS代码 body{ background: url(http://dik.

神经网络权重初始化问题

之前看Andrew大神的视频有介绍到神经网络权重需要随机初始化而不是全初始化为0的问题，其真正深层次的含义没有弄明白，所以结合一些资料（cs231n课程）希望能让自己之后再想到这个问题的时候能够快速地明白过来。