์๋ฃ ์ถ์ฒ
Simplilearn์์ ์ ๋ฆฌํ 2023๋
Data Science Roadmap
๊ธฐ์ ๊ณผ ์ฌ๋ฌ ๊ธฐ๊ด, ๊ทธ๋ฆฌ๊ณ ๊ฐ์ธ์ด ์์ฑํ๋ ๋ฐฉ๋ํ ์์ ๋ฐ์ดํฐ๋ก ์ธํด ์ค๋๋ ์ ์ธ๊ณ์์ Data Science์ ํ์์ฑ์ด ์ ์ ๋ ์ค์ํด์ง๊ณ ์์ต๋๋ค. Data Science๋ ์๋ฏธ ์๋ ์ธ์ฌ์ดํธ๋ฅผ ์ถ์ถํ๋ ๋๊ตฌ์ ๊ธฐ์ ์ ํ์ฉํ์ฌ ์ ๋ณด์ ์ ๊ฐํ ์์ฌ ๊ฒฐ์ ์ ๊ฐ๋ฅํ๊ฒ ํ๋ฉฐ ๊ธฐ์ ์ด ๊ฒฝ์ ์ฐ์๋ฅผ ํ๋ณดํ๊ณ ์ด์์ ๊ฐ์ ํ๋ ๋ฐ ํ์์ ์ด ๋์์ต๋๋ค. ๋ํ ์๋ฃ, ๊ธฐํ ๋ณํ ๋ฐ ์ฌํ์ ๊ฐ๋ฑ๊ณผ ๊ฐ์ ์ธ๊ณ์์ ๊ฐ์ฅ ์๊ธํ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๋ฐ ์ค์ํ ์ญํ ์ ํฉ๋๋ค.
Data Scientist๋ ์ข ์ข ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ์ ์ ํ ๊ฐ์น ์๋ ๋ฐ์ดํฐ๋ฅผ ์ฐพ์์ผ ํฉ๋๋ค. API, ๋ฐ์ดํฐ๋ฒ ์ด์ค, ๊ณต๊ฐ์ ์ผ๋ก ์ฌ์ฉ ๊ฐ๋ฅํ ๋ฐ์ดํฐ ์ ์ฅ์, ์ฌ์ดํธ์์ ํ์ฉํ๋ ๊ฒฝ์ฐ ์คํฌ๋ํ ๋ฑ ๋ค์ํ ์์ค์์ ์ด ๋ฐ์ดํฐ๋ฅผ ์์งํฉ๋๋ค.
ํ์ง๋ง ์ด๋ฌํ ์์ค์์ ์์ง๋ ๋ฐ์ดํฐ๋ ๋๋ถ๋ถ ๊ฐ๊ณต ๋์ง ์์์ต๋๋ค. ๋์ ๋ค์ฐจ์ ๋ฐฐ์ด, ๋ฐ์ดํฐ ํ๋ ์ ์กฐ์๊ณผ ๊ฐ์ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ๊ฑฐ๋ ๊ณผํ์ ์ด๊ณ ์ค๋ช ์ ์ธ ๊ณ์ฐ์ ์ฌ์ฉํ์ฌ ์ฌ์ฉํ๊ธฐ ์ ์ ์ ๋ฆฌํ๊ณ ํ์์ ์ง์ ํด์ผ ํฉ๋๋ค. ๋ฐ์ดํฐ ๊ณผํ์๋ ์ผ๋ฐ์ ์ผ๋ก Pandas ๋ฐ NumPy์ ๊ฐ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ์ฌ ์ ๋ณด๋ฅผ ํ์์ด ์ง์ ๋์ง ์์ ์์ ๋ฐ์ดํฐ์์ ๋ฐ๋ก ๋ถ์ํ ์ ์๋ ๋ฐ์ดํฐ๋ก ๋ณํํ๋ ๋ฐ ๋์์ ์ค๋๋ค.
์ฐ์ต์ด ์๋ฒฝ์ ๋ง๋ญ๋๋ค. ๋ฐ๋ผ์ ๊ณต๊ฐ์ ์ผ๋ก ์ก์ธ์คํ ์ ์๋ ๋ฐ์ดํฐ ์ธํธ๋ฅผ ์ ํํ๊ณ ๋ฐ์ดํฐ ์ธํธ์ ๋๋ฉ์ธ๊ณผ ๊ด๋ จ๋ ์ผ๋ จ์ ์ง๋ฌธ์ ๊ฐ๋ฐํ ๋ค์ Pandas ๋๋ NumPy๋ก ๋ฐ์ดํฐ ๋ญ๊ธ๋ง์ ์ฐ์ตํ์ฌ ๋ต์ ์ป์ผ์ญ์์ค.
๋๋ ์น ์ฌ์ดํธ ๋๋ API(์: quandl, TMDB , Twitter API )์์ ๋ฐ์ดํฐ๋ฅผ ์์งํ์ฌ ๊ณต๊ฐ ์๋น๋ฅผ ํ์ฉํ๊ณ ์ ๋ณด๋ฅผ ๋ค๋ฅธ ์์ค์์ ์ง๊ณ๋ ๋ฐ์ดํฐ๋ฒ ์ด์ค ํ ์ด๋ธ ๋๋ ํ์ผ๋ก ์ ์ฅํ๋๋ก ๋ณํํฉ๋๋ค.
๋ฐ์ดํฐ ๊ณผํ ๋ก๋๋งต์ ๋ค์ ๋จ๊ณ์ธ ๋ฐ์ดํฐ ๋ถ์ ๋ฐ ์คํ ๋ฆฌํ ๋ง ์ผ๋ก ์ด๋ํ ์๊ฐ์ ๋๋ค . ๋ฐ์ดํฐ ๊ณผํ์์ ๊ฐํ ์นํ๋ ฅ์ ๊ณต์ ํ๋ ๋ฐ์ดํฐ ๋ถ์๊ฐ๋ ๋ฐ์ดํฐ์์ ์ธ์ฌ์ดํธ๋ฅผ ๋์ถํ ๋ค์ ์ดํดํ๊ธฐ ์ฌ์ด ์ฉ์ด์ ์๊ฐํ๋ฅผ ํตํด ๋ฐ๊ฒฌํ ๋ด์ฉ์ ๊ฒฝ์์ง์ ์ ๋ฌํฉ๋๋ค .
์คํ ๋ฆฌํ ๋ง๊ณผ ๊ด๋ จํ์ฌ ์์ ์ฑ ์์๋ ๋ฐ์ดํฐ ์๊ฐํ(plotly ๋๋ seaborn๊ณผ ๊ฐ์ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ์ฌ ๋ฐ์ดํฐ ํ๋กํ ) ๋ฐ ๊ฐ๋ ฅํ ์ปค๋ฎค๋์ผ์ด์ ๊ธฐ์ ์ ๋ํ ์๋ จ๋๊ฐ ํ์ํฉ๋๋ค. ๋ํ ๋ค์์ ๋ฐฐ์์ผ ํฉ๋๋ค.
๋น์ฆ๋์ค ํต์ฐฐ๋ ฅ : ๋น์ฆ๋์ค ์งํ๋ฅผ ๋ชฉํ๋ก ํ๋ ์ง๋ฌธ์ ์ฐ์ตํ์ญ์์ค. ๋ํ ๊ฐ๊ฒฐํ๊ณ ๋ช
ํํ ๋ณด๊ณ ์, ๋น์ฆ๋์ค ๊ด๋ จ ๋ธ๋ก๊ทธ ๋ฐ ํ๋ ์ ํ
์ด์
์์ฑ์ ์ฐ์ตํ์ญ์์ค.
๋์๋ณด๋ ๊ฐ๋ฐ : ์ด ์ฃผ์ ๋ Excel ๋๋ Power BI ๋ฐ Tableau์ ๊ฐ์ ํน์ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ์ฌ ๊ฒฝ์์ง์ด ์ ๋ณด์ ์
๊ฐํ ์คํ ๊ฐ๋ฅํ ๊ฒฐ์ ์ ๋ด๋ฆฌ๋ ๋ฐ ๋์์ด ๋๋ ๋ฐ์ดํฐ๋ฅผ ์์ฝํ๊ฑฐ๋ ์ง๊ณํ๋ ๋์๋ณด๋๋ฅผ ๊ตฌ์ฑํ๋ ๊ฒ์ ์๋ฐํฉ๋๋ค.
ํ์์ ๋ฐ์ดํฐ ๋ถ์ : ์ด ์ง์์ ์ง๋ฌธ ์ ์, ์์ ์ง์ , ํํฐ๋ง, ๋๋ฝ๋ ๊ฐ ์ฒ๋ฆฌ, ์ด์์น, ๋จ๋ณ๋ ๋ฐ ๋ค๋ณ๋ ๋ถ์์ ๋ค๋ฃน๋๋ค.
๋ฐ์ดํฐ ๊ณผํ์ ์ฑ์ฅํ๋ ๋ถ์ผ์ด๋ฉฐ ์ ๊ณ์ ๋ฏธ๋๋ฅผ ํ์ฑํ๋ ๋ค์ํ ํธ๋ ๋๊ฐ ์์ต๋๋ค. AI์ ๋จธ์ ๋ฌ๋์ ๊ณ์ํด์ ๋ฐ์ดํฐ ๊ณผํ ํธ๋ ๋์ ์ต์ ์ ์ ์์ต๋๋ค. ์์ ์ ์๋ํํ๊ณ ์์ธก ๋ชจ๋ธ์ ๊ฐ๋ฐํ๋ฉฐ ์์ฌ ๊ฒฐ์ ์ ๊ฐ์ ํ๋ ๋ฐ ์ฌ์ฉ๋ฉ๋๋ค. ์์ ๋ฏธ๋์ด, ์ฌ๋ฌผ ์ธํฐ๋ท(IoT) ๋ฐ ์ผ์๋ฅผ ๋น๋กฏํ ๋ค์ํ ์์ค์ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ๋ ์กฐ์ง๊ณผ ํจ๊ป ๋น ๋ฐ์ดํฐ๋ ๋์ฑ ์ค์ํด์ง๊ณ ์์ต๋๋ค. ๋ ๋ค๋ฅธ ์ค์ํ ์ถ์ธ๋ ๋ฐ์ดํฐ ๊ด๋ฆฌ ํ๋ก์ธ์ค๋ฅผ ๊ฐ์ํํ๊ธฐ ์ํด ๋ฏผ์ฒฉํ ๋ฐฉ๋ฒ๋ก ๊ณผ ์๋ํ ๋๊ตฌ๋ฅผ ํตํฉํ๋ DataOps์ ์ฌ์ฉ์ ๋๋ค. ๋ง์ง๋ง์ผ๋ก ๋ฐ์ดํฐ ์ฌ์ด์ธ์ค ํ๊ฒฝ์ด ๊ณ์ ๋ฐ์ ํจ์ ๋ฐ๋ผ ๊ฐ์ธ ์ ๋ณด ๋ณดํธ, ํธํฅ ๋ฐ ํฌ๋ช ์ฑ๊ณผ ๊ฐ์ ๋ฌธ์ ์ ๋ํ ๊ด์ฌ์ด ๋์์ง๋ฉด์ ์ค๋ฆฌ ๋ฐ ์ฑ ์ ์๋ ๋ฐ์ดํฐ ์ฌ์ฉ์ ๋ํ ๊ด์ฌ์ด ๋์์ง๊ณ ์์ต๋๋ค.
๋ฐ์ดํฐ ์์ง๋์ด๋ง์ ์ฃผ์ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ์กฐ์ง์ ์ฐ๊ตฌ ์์ง๋์ด์ ๊ณผํ์๊ฐ ๊นจ๋ํ ๋ฐ์ดํฐ๋ฅผ ์ฆ์ ์ฌ์ฉํ ์ ์๋๋ก ํ์ฌ ์ฐ๊ตฌ ๊ฐ๋ฐ ํ์ ์ง์ํฉ๋๋ค. ๋ฐ์ดํฐ ์์ง๋์ด๋ง์ ์์ ํ ๋ค๋ฅธ ๋ถ์ผ์ด์ง๋ง ์ฃผ๋ก ํต๊ณ์ ์ธ ์ธก๋ฉด์ ์ด์ ์ ๋ง์ถ๋ ค๋ ๊ฒฝ์ฐ ์ด ์น์ ์ ๊ฑด๋๋ธ ์ ์์ต๋๋ค.
๋ฐ์ดํฐ ์์ง๋์ด ์ฑ ์์๋ ํจ์จ์ ์ธ ๋ฐ์ดํฐ ์ํคํ ์ฒ ๊ตฌ์ถ, ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ฅ๋ฅ ํ, ๋๊ท๋ชจ ๋ฐ์ดํฐ ์์คํ ๋ชจ๋ํฐ๋ง ๋ฐ ์ ์ง ๊ด๋ฆฌ๊ฐ ํฌํจ๋ฉ๋๋ค. ๋ฐ์ดํฐ ์์ง๋์ด๋ SQL, Shell(CLI) ๋ฐ Python/Scala ๋๊ตฌ๋ฅผ ์ฌ์ฉํ์ฌ ํ์ผ ์์คํ ์์ ์ ์๋ํํ๊ณ ์ถ์ถ/๋ณํ/๋ก๋ ํ์ดํ๋ผ์ธ์ ๊ตฌ์ถํ๋ฉฐ ๋ฐ์ดํฐ๋ฒ ์ด์ค ์์ ์ ๊ณ ์ฑ๋ฅ ๋ฆฌ์์ค๋ก ์ต์ ํํฉ๋๋ค.
๋ง์ง๋ง์ผ๋ก ๋ฐ์ดํฐ ์์ง๋์ด๋ ์ด๋ฌํ ๋ฐ์ดํฐ ์ํคํ ์ฒ ๊ตฌํ์ ๋ด๋นํ๋ ๊ฒฝ์ฐ๊ฐ ๋ง์ผ๋ฉฐ Amazon Web Services, Microsoft Azure ๋ฐ Google Cloud Platform๊ณผ ๊ฐ์ ํด๋ผ์ฐ๋ ์๋น์ค ๊ณต๊ธ์์ ๋ํ ์๋ จ๋๊ฐ ๋ถ๊ฐํผํฉ๋๋ค.
ํต๊ณ์ ๋ฐฉ๋ฒ์ ๋๋ถ๋ถ์ ๋ฐ์ดํฐ ๊ณผํ ์ธํฐ๋ทฐ๊ฐ ์ถ๋ก ๋ฐ ๊ธฐ์ ํต๊ณ์ ์ด์ ์ ๋ง์ถ๋ ๋ฐ์ดํฐ ๊ณผํ์ ํ์์ ์ธ ๋ถ๋ถ์ ๋๋ค. ์ํ ๋ฐ ํต๊ณ๋ ์๊ณ ๋ฆฌ์ฆ ์๋ ๋ฐฉ์์ ๋ ์ ์ดํดํ ์ ์๋ ๊ธธ์ ์ํํ๊ฒ ํด์ค๋๋ค.
๋ฐ๋ผ์ ๋ฐ์ดํฐ ๊ณผํ ๋ก๋๋งต์ ์ด ๋จ๊ณ์์๋ ๋ค์์ ๋ง์คํฐํ๋ ๋ฐ ์ง์คํด์ผ ํฉ๋๋ค.
๊ธฐ์ ํต๊ณ : ๋ฐ์ดํฐ๋ฅผ ์ค๋ช
ํ๋ ๋ฐ ์ฌ์ฉ๋๋ ์์น ์ถ์ ์น(ํ๊ท , ์ค์๊ฐ, ์ต๋น๊ฐ, ํธ๋ฆฌ๋ฐ ํต๊ณ ๋ฐ ๊ฐ์ค ํต๊ณ) ๋ฐ ๋ณ๋์ฑ์ ๋ํด ์์๋ด
๋๋ค.
์ถ๋ก ํต๊ณ : ์ด ํํ์ ํต๊ณ์๋ ๋น์ฆ๋์ค ๋ฉํธ๋ฆญ ์ ์, A/B ํ
์คํธ, ๊ฐ์ค ํ
์คํธ ์ค๊ณ, ์ ๋ขฐ ๊ตฌ๊ฐ, p-๊ฐ ๋ฐ ์ํ ๊ฐ์ ์ฌ์ฉํ์ฌ ์์ง๋ ๋ฐ์ดํฐ ๋ฐ ์คํ ๊ฒฐ๊ณผ ๋ถ์์ด ํฌํจ๋ฉ๋๋ค.
์ ํ ๋์ ๋ฐ ๋จ์ผ ๋ฐ ๋ค๋ณ๋ ๋ฏธ์ ๋ถํ : ์ด ๊ณผ๋ชฉ์ ๊ธฐ๊ณ ํ์ต์ ์ฌ์ฉ๋๋ ๊ทธ๋๋์ธํธ, ์์ค ํจ์ ๋ฐ ์ตํฐ๋ง์ด์ ๋ฅผ ๋ ์ ์ดํดํ๋ ๋ฐ ๋์์ด ๋ฉ๋๋ค.
Data Science ๋ก๋๋งต์ ๋์ด ๋ค๊ฐ์ค๋ฉด์ ๋ฐ์ดํฐ ๊ณผํ์ ํฌ๊ฒ ์์กดํ๋ ๋ ๊ฐ์ง ๋ถ์ผ์ธ ์ธ๊ณต ์ง๋ฅ๊ณผ ๋จธ์ ๋ฌ๋ ์ ๋ํด ํ์ตํ์ฌ ์ฌํ์ ๋ง๋ฌด๋ฆฌํ ๋์ ๋๋ค. ์ด๋ฌํ ํญ๋ชฉ์ ์ธ ๊ฐ์ง ๋ฒ์ฃผ๋ก ๋๋ฉ๋๋ค.
๊ฐํ ํ์ต : ์ด ๋ถ์ผ๋ ์๊ธฐ ๋ณด์ ์์คํ
์ ๊ตฌ์ถํ๋ ๋ฐ ๋์์ด ๋ฉ๋๋ค. ๊ฐํ ํ์ต์ ์ดํดํ๊ณ ์ถ๋ค๋ฉด ๋ณด์์ ์ต์ ํํ๋ ๋ฐฉ๋ฒ, Deep Q-networks๋ฅผ ์์ฑํ๋ ๋ฐฉ๋ฒ, TF-Agents ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ๋ ๋ฐฉ๋ฒ ๋ฑ์ ๋ฐฐ์ฐ์ญ์์ค.
์ง๋ ํ์ต : ์ด ๋ถ์ผ๋ ํ๊ท ๋ฐ ๋ถ๋ฅ ๋ฌธ์ ๋ฅผ ๋ค๋ฃน๋๋ค. ๋จ์์ ํํ๊ท, ๋ก์ง์คํฑํ๊ท, ๋ค์คํ๊ท, KNN, ๋คํญํ๊ท, naive Bayes, ํธ๋ฆฌ๋ชจํ, ์์๋ธ๋ชจํ ๋ฑ์ ๊ณต๋ถํ๋ค๋ฉด ๋์์ด ๋ ๊ฒ์
๋๋ค. ํ๊ฐ ์งํ์ ๋ํด ํ์ตํ์ฌ ์ฐ๊ตฌ๋ฅผ ๋ง๋ฌด๋ฆฌํ์ญ์์ค.
๋น์ง๋ ํ์ต : ๋น์ง๋ ํ์ต์ ํด๋ฌ์คํฐ๋ง ๋ฐ ์ฐจ์ ๊ฐ์์ ๊ฐ์ ์ ํ๋ฆฌ์ผ์ด์
์ ํน์ง์ผ๋ก ํฉ๋๋ค. ๊ณ์ธต์ ํด๋ฌ์คํฐ๋ง, K-ํ๊ท ํด๋ฌ์คํฐ๋ง, PCA ๋ฐ ๊ฐ์ฐ์์ ํผํฉ์ ๋ํด ์์ธํ ์์๋ณด์ธ์.