一、深度學(xué)習(xí)概念

1、定義

通過(guò)訓(xùn)練多層網(wǎng)絡(luò)結(jié)構(gòu)對(duì)位置數(shù)據(jù)進(jìn)行分類(lèi)或回歸，深度學(xué)習(xí)解決特征工程問(wèn)題。

2、深度學(xué)習(xí)應(yīng)用

• 圖像處理
• 語(yǔ)言識(shí)別
• 自然語(yǔ)言處理

在移動(dòng)端不太好，計(jì)算量太大了，速度可能會(huì)慢
eg.醫(yī)學(xué)應(yīng)用、自動(dòng)上色

3、例子

使用k最近鄰進(jìn)行判斷時(shí)，背景主導(dǎo)是最大的問(wèn)題，因?yàn)槲覀冴P(guān)注的是主體（主要成分）

二、神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

1、線性函數(shù)

例如輸入一個(gè)小貓圖片，通過(guò)$f(x,W)$得到每個(gè)類(lèi)別的得分：

$f(x,W)$中每個(gè)像素點(diǎn)的權(quán)重參數(shù)不同：
$10$：10種分類(lèi)
$b$：偏置項(xiàng)（微調(diào)操作）
$w$：權(quán)重參數(shù)

2、損失函數(shù)

正則化懲罰項(xiàng)：減輕某個(gè)及其突出特征的重要性
損失函數(shù)=數(shù)據(jù)損失+正則化懲罰項(xiàng)

3、Softmax分類(lèi)器

我們關(guān)注屬于正確類(lèi)別概率值，越接近于1，損失越小，因此用對(duì)數(shù)函數(shù)求損失值。

$ex$p：$e^x$次方，用于放大映射
$normalize$：歸一化
$L_i$：實(shí)際損失值