๋๋ค ํฌ๋ ์คํธ, ์ํฌํธ ๋ฒกํฐ ๋จธ์
2020/04/03 - [๊ณต๋ถ ๐ฉ๐ป/Deep Learning] - ์ธ๊ณต์ง๋ฅ ๋จธ์ ๋ฌ๋ ๋ฅ๋ฌ๋์ด๋
์ธ๊ณต์ง๋ฅ ๋จธ์ ๋ฌ๋ ๋ฅ๋ฌ๋์ ๊ฐ๋ ์ ๋ํด์ ์์๋ณด์๋ค.
๋จธ์ ๋ฌ๋์ ์ปดํจํฐ๊ฐ ํ์ตํ ์ ์๋๋ก ์๊ณ ๋ฆฌ์ฆ๊ณผ ๊ธฐ์ ์ ๊ฐ๋ฐํ๋ ๋ถ์ผ์ด๋ค.
์ด๋ ํ์ต์ด๋ผ๋ ๋จ์ด๋ ๋ฐ์ดํฐ๊ฐ ์ ๋ ฅ๋๊ณ ํจํด์ด ๋ถ์๋๋ ๊ณผ์ ์ ๋งํ๋ค.
๊ฒฐ๊ณผ์ ์ผ๋ก ์ฐ๋ฆฌ๋ ๋ง์ ๋ฐ์ดํฐ๋ฅผ ํตํด ๊ท์น์ ๋ฐ๊ฒฌํด์ ์๋ก์ด ๊ฒฐ๊ณผ๋ฅผ ์์ธกํ๋ ๊ณผ์ ์ ํด์ผ ํ๋ค.
์ฌ๊ธฐ์ ํค์๋๋ ๊ท์น ๋ฐ๊ฒฌ์ด๋ผ๊ณ ์๊ฐํ๋ค.
์๋ํ๋ฉด ๋ฐ๊ฒฌ๋ ๊ท์น์ ํตํด์ ์๋ก์ด ๊ฒฐ๊ณผ๋ฅผ ๋์ถํ๊ธฐ ๋๋ฌธ์ ์ผ๋ง๋ ์ ํํ๊ฒ ๊ท์น์ ๋ฐ๊ฒฌํ๋๋๋ ์ค์ํ๋ค.
์ด๋ฌํ ๋ฐ๊ฒฌ ๊ณผ์ ์์ ๋๋ค ํฌ๋ ์คํธ, ์ํฌํธ ๋ฒกํฐ ๋จธ์ , ๋ฅ๋ฌ๋ ๋ฐฉ๋ฒ์ด ์๊ฒผ๋ค.
๊ทธ์ค์์๋ ์ค๋์ ๋๋ค ํฌ๋ ์คํธ ๋ฐฉ๋ฒ & ์ํฌํธ ๋ฒกํฐ ๋จธ์ ๋ฐฉ๋ฒ์ ๋ํด์ ์์๋ณด๋ ค ํ๋ค.
๋๋ค ํฌ๋ ์คํธ๋ฅผ ๋ณด๊ธฐ ์ ์ ๊ฒฐ์ ํธ๋ฆฌ์ ๋ํ ๊ธฐ๋ณธ์ ์ธ ๊ฐ๋ ์ด ์์ผ๋ฉด ์ข์๋ฏํ๋ค.
๊ฒฐ์ ํธ๋ฆฌ
๊ฒฐ์ ์ ๋ด๋ฆฌ๊ธฐ ์ํด ์ฌ์ฉํ๋ ํธ๋ฆฌ๋ก, ๊ฒฐ๊ณผ ๊ณผ์ ์ ๊ฐ๋จํ ๋ฌธ์ ๋ค๋ก ์ด๋ฃจ์ด์ง ๊ณ์ธต ๊ตฌ์กฐ๋ก ๋๋๋ค.
ํ๋์ ํธ๋ฆฌ๋ ๊ณ์ธต ๊ตฌ์กฐ๋ก ์ด๋ฃจ์ด์ง node์ edge๋ค์ ์งํฉ์ผ๋ก ์ด๋ฃจ์ด์ ธ ์๋ค.
ํ์ง๋ง ๊ฒฐ์ ํธ๋ฆฌ์ ๋จ์ ์ ํ๋ จ ๋ฐ์ดํฐ์ ๊ณผ๋์ ํฉ๋๋ ๊ฒฝํฅ์ด ์๊ณ ,
์ด๋ฅผ ํํผํ๊ธฐ ์ํ ๋ฐฉ๋ฒ์ด ๋๋ค ํฌ๋ ์คํธ ๋ฐฉ์์ด๋ค.
๋๋ค ํฌ๋ ์คํธ random forest
๊ธฐ๊ณ ํ์ต์์์ ๋๋ค ํฌ๋ ์คํธ๋ ๋ถ๋ฅ, ํ๊ท ๋ถ์ ๋ฑ์ ์ฌ์ฉ๋๋ ์์๋ธ ํ์ต ๋ฐฉ๋ฒ์ ์ผ์ข ์ผ๋ก,
ํ๋ จ ๊ณผ์ ์์ ๊ตฌ์ฑํ ๋ค์์ ๊ฒฐ์ ํธ๋ฆฌ๋ก๋ถํฐ ๋ถ๋ฅ(๋ถ๋ฅ) ๋๋ ํ๊ท ์์ธก์น(ํ๊ท ๋ถ์)๋ฅผ ์ถ๋ ฅํจ์ผ๋ก ๋์ํ๋ค.
*์์๋ธ์ ์ฌ๋ฌ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ์ฐ๊ฒฐํด ๋ ๊ฐ๋ ฅํ ๋ชจ๋ธ์ ๋ง๋๋ ๊ธฐ๋ฒ์ด๋ค.
๋๋ค ํฌ๋ ์คํธ์ ๊ฐ์ฅ ํฐ ํน์ง์ ๋๋ค์ฑ์ ์ํด ํธ๋ฆฌ๋ค์ด ์๋ก ์กฐ๊ธ์ฉ ๋ค๋ฅธ ํน์ฑ์ ๊ฐ๋๋ค๋ ์ ์ด๋ค.
์ด ํน์ฑ์ ๊ฐ ํธ๋ฆฌ๋ค์ ์์ธก๋ค์ด ๋น์๊ดํ ๋๊ฒ ํ๋ฉฐ, ๊ฒฐ๊ณผ์ ์ผ๋ก ์ผ๋ฐํ ์ฑ๋ฅ์ ํฅ์์ํจ๋ค.
์ฆ ๊ฒฐ์ ํธ๋ฆฌ์ ๋จ์ ์ ๊ณผ๋์ ํฉ์ด๋ฉฐ ๋๋ค ํฌ๋ ์คํธ๋ ์๋ก ๋ค๋ฅธ ๋ฐฉํฅ์ผ๋ก ๊ณผ๋์ ํฉ๋ ํธ๋ฆฌ๋ฅผ ๋ง์ด ๋ง๋ค์ด
๊ทธ ๊ฒฐ๊ณผ๋ฅผ ํ๊ท ๋์ผ๋ก์จ ๊ณผ๋์ ํฉ๋ ์์ ์ค์ผ ์ ์๋ค๋ ๊ฒ์ด๋ค.
2.3.6 ๊ฒฐ์ ํธ๋ฆฌ์ ์์๋ธ
2.3.5 ๊ฒฐ์ ํธ๋ฆฌ | ๋ชฉ์ฐจ | 2.3.7 ์ปค๋ ์ํฌํธ ๋ฒกํฐ ๋จธ์ – ์์๋ธensemble์ ์ฌ๋ฌ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ์ฐ๊ฒฐํ์ฌ ๋ ๊ฐ๋ ฅํ ๋ชจ๋ธ์ ๋ง๋๋ ๊ธฐ๋ฒ์ ๋๋ค. ๋จธ์ ๋ฌ๋์๋ ์ด๋ฐ ์ข ๋ฅ์ ๋ชจ๋ธ์ด ๋ง์ง๋ง, ๊ทธ์ค ๋ ์์๋ธ ๋ชจ๋ธ์ด ๋ถ๋ฅ์ ํ๊ท ๋ฌธ์ ์ ๋ค์ํ ๋ฐ์ดํฐ์ ์์ ํจ๊ณผ์ ์ด๋ผ๊ณ ์ ์ฆ๋์์ต๋๋ค. ๋๋ค ํฌ๋ ์คํธrandom forest์ ๊ทธ๋๋์ธ…
tensorflow.blog
๋๋ค ํฌ๋ ์คํธ - ์ํค๋ฐฑ๊ณผ, ์ฐ๋ฆฌ ๋ชจ๋์ ๋ฐฑ๊ณผ์ฌ์
์ํค๋ฐฑ๊ณผ, ์ฐ๋ฆฌ ๋ชจ๋์ ๋ฐฑ๊ณผ์ฌ์ . ๊ธฐ๊ณ ํ์ต์์์ ๋๋ค ํฌ๋ ์คํธ(์์ด: random forest)๋ ๋ถ๋ฅ, ํ๊ท ๋ถ์ ๋ฑ์ ์ฌ์ฉ๋๋ ์์๋ธ ํ์ต ๋ฐฉ๋ฒ์ ์ผ์ข ์ผ๋ก, ํ๋ จ ๊ณผ์ ์์ ๊ตฌ์ฑํ ๋ค์์ ๊ฒฐ์ ํธ๋ฆฌ๋ก๋ถํฐ ๋ถ๋ฅ(๋ถ๋ฅ) ๋๋ ํ๊ท ์์ธก์น(ํ๊ท ๋ถ์)๋ฅผ ์ถ๋ ฅํจ์ผ๋ก์จ ๋์ํ๋ค. ๋๋ค ํฌ๋ ์คํธ๋ ๋ค์์ ๊ฒฐ์ ํธ๋ฆฌ๋ค์ ํ์ตํ๋ ์์๋ธ ๋ฐฉ๋ฒ์ด๋ค. ๋๋ค ํฌ๋ ์คํธ๋ ๊ฒ์ถ, ๋ถ๋ฅ, ๊ทธ๋ฆฌ๊ณ ํ๊ท ๋ฑ ๋ค์ํ ๋ฌธ์ ์ ํ์ฉ๋๊ณ ์๋ค. ์ด๊ธฐ ๋๋ค ํฌ๋ ์คํธ๋ ๋จ์ผ ํธ๋ฆฌ๋ฅผ ํ์ฅํ
ko.wikipedia.org
์ํฌํธ ๋ฒกํฐ ๋จธ์ support vector machine, SVM
๊ธฐ๊ณ ํ์ต์ ๋ถ์ผ ์ค ํ๋๋ก ํจํด ์ธ์, ์๋ฃ ๋ถ์์ ์ํ ์ง๋ ํ์ต ๋ชจ๋ธ์ด๋ฉฐ, ์ฃผ๋ก ๋ถ๋ฅ์ ํ๊ท๋ถ์์ ์ํด ์ฌ์ฉํ๋ค.
๋ ์นดํ ๊ณ ๋ฆฌ ์ค ์ด๋ ํ๋์ ์ํ ๋ฐ์ดํฐ์ ์งํฉ์ด ์ฃผ์ด์ก์ ๋, SVM์๊ณ ๋ฆฌ์ฆ์ ์ฃผ์ด์ง ๋ฐ์ดํฐ ์งํฉ์ ๋ฐํ์ผ๋ก ํ์ฌ
์๋ก์ด ๋ฐ์ดํฐ๊ฐ ์ด๋ ์นดํ ๊ณ ๋ฆฌ์ ์ํ ์ง ํ๋จํ๋ ์ด์ง ์ ํ ๋ถ๋ฅ ๋ชจ๋ธ์ ๋ง๋ ๋ค.
๋ง๋ค์ด์ง ๋ถ๋ฅ ๋ชจ๋ธ์ ๋ฐ์ดํฐ๊ฐ ์ฌ์๋ ๊ณต๊ฐ์์ ๊ฒฝ๊ณ๋ก ํํ๋๋๋ฐ SVM์๊ณ ๋ฆฌ์ฆ์ ๊ทธ์ค ๊ฐ์ฅ ํฐ ํญ์ ๊ฐ์ง ๊ฒฝ๊ณ๋ฅผ ์ฐพ๋ ์๊ณ ๋ฆฌ์ฆ์ด๋ค.
(๋ ์นดํ ๊ณ ๋ฆฌ๋ฅผ ๊ตฌ๋ถํ๊ธฐ ์ํด ๊ฒฝ๊ณ๋ฅผ ๋๋๋ฐ ๊ฐ ์นดํ ๊ณ ๋ฆฌ๋ฅผ ๋ช ํํ๊ฒ ํ ์ ์๋ ๊ฒฝ๊ณ & ๊ทธ ๊ฒฝ๊ณ๊ฐ ๊ฐ ๋ฐ์ดํฐ์์ ํญ์ด ๊ฐ์ฅ ๋์ ๊ฒ์ ์ฐพ๋ ๊ฒ.)
https://ko.wikipedia.org/wiki/%EC%84%9C%ED%8F%AC%ED%8A%B8_%EB%B2%A1%ED%84%B0_%EB%A8%B8%EC%8B%A0
์ํฌํธ ๋ฒกํฐ ๋จธ์ - ์ํค๋ฐฑ๊ณผ, ์ฐ๋ฆฌ ๋ชจ๋์ ๋ฐฑ๊ณผ์ฌ์
์ํค๋ฐฑ๊ณผ, ์ฐ๋ฆฌ ๋ชจ๋์ ๋ฐฑ๊ณผ์ฌ์ . ์ ํ SVM์ด ๋ ์๋ฃ(ํฐ์ ์, ๊ฒ์์ ์)์ ์ง์ ์ผ๋ก ๋ถ๋ฆฌํ๊ณ ์๋ค. ์ํฌํธ ๋ฒกํฐ ๋จธ์ (support vector machine, SVM[1].[2])์ ๊ธฐ๊ณ ํ์ต์ ๋ถ์ผ ์ค ํ๋๋ก ํจํด ์ธ์, ์๋ฃ ๋ถ์์ ์ํ ์ง๋ ํ์ต ๋ชจ๋ธ์ด๋ฉฐ, ์ฃผ๋ก ๋ถ๋ฅ์ ํ๊ท ๋ถ์์ ์ํด ์ฌ์ฉํ๋ค. ๋ ์นดํ ๊ณ ๋ฆฌ ์ค ์ด๋ ํ๋์ ์ํ ๋ฐ์ดํฐ์ ์งํฉ์ด ์ฃผ์ด์ก์ ๋, SVM ์๊ณ ๋ฆฌ์ฆ์ ์ฃผ์ด์ง ๋ฐ์ดํฐ ์งํฉ์ ๋ฐํ์ผ๋ก ํ์ฌ ์๋ก์ด ๋ฐ์ดํฐ๊ฐ ์ด๋ ์นดํ ๊ณ
ko.wikipedia.org