728x90
Classification
์
๋ ฅ์ด ํน์ ํ ์นดํ
๊ณ ๋ฆฌ ์ค ํ๋๋ค๋ผ๊ณ ์ธ์ํ๋ ๊ฒ. ์ซ์, ์ฑ๋ณ, ๊ตญ์ ๋ฑ ์ ํด์ง ์นดํ
๊ณ ๋ฆฌ ์ค ํ๋๋ฅผ ๋ง์ถ๋ ๋ฌธ์
์
๋ ฅ = ํจํด , ์ถ๋ ฅ = Input data์ ์นดํ
๊ณ ๋ฆฌ
Regression
value ์์ฒด๋ฅผ ๋ง์ถฐ์ผ ํ๋ ๋ฌธ์
Bankrupt prediction ์ด๋ค ํ์ฌ๊ฐ ๋ถ๋๋ ํ๋ฅ ์ ๊ณ์ฐํ๋ ๋ฌธ์ ๊ฐ ํ๋์ ์์
Sales Prediction : ๋ช ๊ฐ๊ฐ ํ๋ฆด ๊ฒ ์ธ๊ฐ
๋จ์ํ ์นดํ
๊ณ ๋ฆฌ ๋ฌธ์ ๊ฐ ์๋๋ผ Value๋ฅผ Estimate ํ๋ ์ ๊ทผ์ ํด์ผ ํ๋ค.
Input Variable์ด ์ฃผ์ด์ง๋ค.
Regression Model
function์ ํ์ตํ๋ค. y = F(x; 0)
1. linear regression
2. nonlinear regression
3. logistic regression (True False ๋
ผ๋ฆฌ์ ๊ฐ์ ์ถ์ ํ๋ ๊ฒ)
Recognition System
๋ฌธ์ ์ ์์์ Target์ด ์์ด์ผ ํ๊ณ ์๋ ๋ก๊ทธ์์ ๋์งํธ๋ก ๋ฐ์ดํฐ๋ฅผ ๊ฐ์ ธ์ค๋ Sensing์ ๊ฑฐ์น๋ค.
์ ์ฒด์ ์์ ์ค ์ํ๋ ๋ถ๋ถ๋ง ์๋ผ๋ด๋ ๊ณผ์ Preprocessing ๋ฑ์ ๊ฑฐ์น๋ค.
ํด๋น Segment๋ฅผ ๊ฑฐ์น๊ณ Feature Extraction์ ํตํด ๋ฐ์ดํฐ๋ก ๋ณํ์ ํ๋ค.
์
๋ ฅํ๊ธฐ ์ข์ ์ํ๋ก ๋ฐ๊ฟ์ ธ ์์ผ๋ฉด 0๊ณผ 1์ ์ํ๋ก ๋ฐ๊ฟ์ Classification์ ํ๊ณ result๋ฅผ ์ป๊ฒ ๋๋ค.
Why Feature Vector
์ ์
๋ ฅํจํด์ ๋ฒกํฐ๋ก ๋ฐ๊ฟ์ผ ํ๋๊ฐ?
Vector๋ก ๋ง๋ค๋ฉด ๋ค๋ฃจ๊ธฐ๊ฐ ์ฝ๋ค. ๊ฑฐ์ ๋๋ถ๋ถ์ ๋จธ์ ๋ฌ๋ ํด์ด ์
๋ ฅ์ ๋ณด๊ฐ ๋ฒกํฐ๋ผ๊ณ ๊ฐ์ ํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค.
์์์ ํํ์ ํฌ๊ธฐ๊ฐ ๋ค์ํ ์ ์๋ ๋ฐ ๊ณ ์ ๋ ํํ๋ก ๋ฒกํฐ๊ฐ ๋ค์ด์์ผ ์ฒ๋ฆฌ๋ฅผ ํ ์ ์๋ค๊ณ ๊ฐ์ ํ ๊ฒ์ด ๋ง๋ค.
์ค์ํ ์ ๋ณด๋ง์ ์ถ์ถํ๊ฒ ๋ค Focus on relevant information. ์๋ฅผ ๋ค์ด ์ผ๊ตด์ ์ธ์ํ ๋ ์ฝ์ ์์น ์
์ ์์น ๋ฑ์
์ค์ํ์ง ์์ ์ ๋ณด์ด๋ฏ๋ก Ignoreํด์ผ ํ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค. ๊ทธ๋ฆฌ๊ณ ํจ์จ์ ์ด๋ค.
Pattern Boundary
์์ ์ ์ก์๋๋ฐ ํ๋๋ salmon(์ฐ์ด) ์ด๊ณ ๋ค๋ฅธ ํ๋๋ sea bass(๋์ด)์ด๋ค.
์ฐ์ ๋ฐ์ดํฐ๋ฅผ ๋ฒกํฐ๋ก ๋ฐ๊ฟ์ผ ํ๋ค. width ์ lightness์ ๋ฐ๋ผ ๋ฐ์ดํฐ๋ฅผ ๋ณ๊ฒฝํ๋ค.
์ด๋ฐ ๊ณต๊ฐ์ Feature Space๋ผ๊ณ ํ๋ค. Feature Space์์ ๊ตฌ๋ถ์ ์ ์ฐพ์๋ผ ์ ์์ผ๋ฉด
์ด๊ฒ์ Classification์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฐฉ๋ฒ์ด๋ผ๊ณ ํ ์ ์๋ค.
Complexity and Generalization Ability
Overfitting์ ๊ฐ๋
!!
์ผ์ชฝ ๊ทธ๋ฆผ์ฒ๋ผ ๊ฒฝ๊ณ๋ฅผ ๊ทธ๋ฆด ์ ์๋๋ฐ ๋๊ทธ๋ผ๋ฏธ๋ ๊ฒ๋ค์ ํด๋น ๊ฒฝ๊ณ์ ์ ๋์ด์ ๋ถ๋ถ์ ์นดํ
๊ณ ๋ฆฌ์ด๋ค.
๋ช ๊ฐ๋ ๋ง์ท๊ณ ๋ช ๊ฐ๋ ํ๋ ธ๋๋ฐ ํด๋น ํจํด์ ๋ชจ๋ ๋ง์กฑ์ํค๋ ๊ฒฝ๊ณ์ ์ ์กฐ์ ํด์ผ ํ๋๊ฐ?
๋ชจ๋ ํจํด์ ๋ง์ถ๋ ค๊ณ ์กฐ์ ์ ํ๋ฉด ์ค๋ฅธ์ชฝ ๊ทธ๋ฆผ์ฒ๋ผ Complex ํ model์ด ๋ง๋ค์ด์ง๋ค.
์์ง๊น์ง ๊ด์ฐฐํ์ง ๋ชปํ ์๋ก์ด ์ฑ๋ฅ์ ๋ํ ๊ธฐ๋ฅ์ด ๋์์ง๋ค.
์ง๊ธ๊น์ง ๋ณด์ง ๋ชปํ ์๋ก์ด ์ํ์ด ์ถ๊ฐ๋์์ ๋ ์คํ๋ ค ํ๋ฅ ์ด ๋์์ง ์ ์๋ค.
Overfitting์ ๊ต์ฅํ ๋ณต์กํ ๊ฒฝ์ฐ์ ์๊ธด๋ค. ๊ทธ๋ฌ๋ฏ๋ก ๋๋ฌด ๋ณต์กํ ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ๋ฉด ์๋๋ค.
๋ณต์กํ ๋ชจ๋ธ์ ๊ธฐ์ค์..?
๋ฐ์ดํฐ๊ฐ ๋ง์ ์ํ์์๋ ๋ณต์กํ ๋ชจ๋ธ์ ์ฌ์ฉํด๋ ๋๋ค. ๋ฐ์ดํฐ๊ฐ ์ ์ ์ํ์์ ๋ณต์กํ ๋ชจ๋ธ์ ์ฌ์ฉํ๋ฉด
Overfitting์ด ๊ต์ฅํ ์์ฃผ ๋ฐ์ํ๋ค.
Overfitting
Training์ ๋ํ error์ test์ ๋ํ error์ ์ฐจ์ด๋ฅผ ๋น๊ตํด์ผ ํ๋ค.
Training์ ์ํ ๊ณต๋ถํ ๋์ ์ฐ์ต ๋ฌธ์ , Test๋ ์๋ฅ ๋ฌธ์ ๋ก ๋น์
๋น์ฐํ Training data์ ๋ํ ์ฑ๋ฅ์ด ๋๊ณ ์๋ฌ๊ฐ ๋ฐ์ํ ํ๋ฅ ์ด ํจ์ฌ ๋ฎ๋ค.
์ฆ, ๊ณต๋ถ๋ฅผ ํ ์๋ก ํ๋ฆฌ๋ ๊ฐฏ์๊ฐ ์ค์ด๋๋ ๊ฒ๊ณผ ๋ง์ฐฌ๊ฐ์ง ์ด๋ค.
Training data๋ ํ์ต์ ํ ์๋ก ๋ฎ์์ง์ง๋ง Test data์ ๋ํ error ๋ ์ผ์ ๋ถ๋ถ ์ดํ๋ก๋ ์ฆ๊ฐํ ์ ์๋ค.
์ด๋ฌํ ๊ฒ์ Overfitting์ด๋ผ๊ณ ๋ณด๋๋ฐ training data์ test data์ ์๋ฌ์ ๊ฒฉ์ฐจ๊ฐ ๋ฒ์ด์ง๊ธฐ ์์ํ๋ ์์ ์ด Overfitting์ด ๋๋ค.
'๐ Self Study > ๐ Deep Learning Basic' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
Deep learning (Multi-Layer Perceptron) (0) | 2021.12.23 |
---|---|
Deep learning (Gradient Descent, Chain Rule, Learning Rate) (0) | 2021.12.23 |
Deep learning(Activation Function, Forward Propagation, Single Layer Perceptron) (0) | 2021.12.23 |
Deep learning (Neural Network, Perceptron Neuron) (0) | 2021.12.23 |
Deep learning (Bayesian Theorem) (0) | 2021.12.23 |