一、深度學習概念

1、定義

通過訓練多層網(wǎng)絡結構對位置數(shù)據(jù)進行分類或回歸，深度學習解決特征工程問題。

2、深度學習應用

• 圖像處理
• 語言識別
• 自然語言處理

在移動端不太好，計算量太大了，速度可能會慢
eg.醫(yī)學應用、自動上色

3、例子

使用k最近鄰進行判斷時，背景主導是最大的問題，因為我們關注的是主體（主要成分）

二、神經(jīng)網(wǎng)絡基礎

1、線性函數(shù)

例如輸入一個小貓圖片，通過$f(x,W)$得到每個類別的得分：

$f(x,W)$中每個像素點的權重參數(shù)不同：
$10$：10種分類
$b$：偏置項（微調操作）
$w$：權重參數(shù)

2、損失函數(shù)

正則化懲罰項：減輕某個及其突出特征的重要性
損失函數(shù)=數(shù)據(jù)損失+正則化懲罰項

3、Softmax分類器

我們關注屬于正確類別概率值，越接近于1，損失越小，因此用對數(shù)函數(shù)求損失值。

$ex$p：$e^x$次方，用于放大映射
$normalize$：歸一化
$L_i$：實際損失值