1. ์ค๋์ ํ์ต ๋ชฉํ
์ค๋์ ์ ์ฝ ์ ์กฐ๊ณต์ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ ์ฌํ ํ๋ก์ ํธ์์, ๋จ์ํ ๋ชจ๋ธ๋ง ๊ฒฐ๊ณผ๋ฅผ ์ ๋ฆฌํ๋ ๊ฒ์ ๋์ด ๋ถ์ ๊ฒฐ๊ณผ๋ฅผ ์ด๋ป๊ฒ ์ค๋๋ ฅ ์๊ฒ ๋ณด์ฌ์ค ๊ฒ์ธ์ง์ ์ง์คํ๋ค.
๊ธฐ์กด์๋ ์ ์ฒ๋ฆฌ์ ๋ชจ๋ธ ์ฑ๋ฅ ๋น๊ต์ ์ด์ ์ ๋ง์ท๋ค๋ฉด, ์ค๋์ ๋ฐํ์ ๋ณด๊ณ ์ ์์ฑ๋๋ฅผ ๋์ด๊ธฐ ์ํด ๋ค์ ์ธ ๊ฐ์ง๋ฅผ ์ค์ ์ ์ผ๋ก ์งํํ๋ค.
์ฒซ์งธ, ๋ชจ๋ธ๋ง ๊ฒฐ๊ณผ๋ฅผ ํ๋์ ์ดํดํ ์ ์๋๋ก ์๊ฐํ ์๋ฃ๋ฅผ ๊ฐ์ ํ๋ค.
๋์งธ, ํํฐ๋ ํผ๋๋ฐฑ์ ๋ฐ์ํด ๊ด๋ จ ๋
ผ๋ฌธ๊ณผ ์ ๋ขฐํ ์ ์๋ ์๋ฃ๋ฅผ ์กฐ์ฌํ๋ค.
์
์งธ, ํ๋ก์ ํธ ํด์์ ๋ถ์กฑํ๋ ๋๋ฉ์ธ ์ง์๊ณผ ํต๊ณ์ ์ค๋ช
์ ๋ณด์ํ๋ค.
์ด๋ฒ ํ๋ก์ ํธ์ ์ฃผ์ ๋ ์ ์กฐ ๊ณต์ ๋ณ์์ ํ๊ท ์ฉ์ถ๋ฅ ์ ๊ด๊ณ๋ฅผ ๋ถ์ํ๊ณ , ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ๊ท ์ฉ์ถ๋ฅ ์ ์์ธกํ๋ ๋ชจ๋ธ์ ๊ฐ๋ฐํ๋ ๊ฒ์ด๋ค. ๋ฐ๋ผ์ ๋จ์ํ “๋ชจ๋ธ ์ฑ๋ฅ์ด ์ข๋ค”๋ผ๊ณ ๋งํ๋ ๊ฒ๋ณด๋ค, ์ ํน์ ๋ณ์๊ฐ ์ค์ํ๊ฒ ๋์๋์ง, ์ ์กฐ๊ณต์ ๊ด์ ์์ ์ด๋ป๊ฒ ํด์ํ ์ ์๋์ง๋ฅผ ์ค๋ช ํ๋ ๊ฒ์ด ์ค์ํ๋ค.
2. ์๊ฐํ ์๋ฃ ์์ฑ ๊ณผ์
์ค๋ ๊ฐ์ฅ ๋ง์ด ๋ค๋ฃฌ ๋ถ๋ถ์ ๋ชจ๋ธ๋ง ๊ฒฐ๊ณผ๋ฅผ ๋ฐํ์ฉ ๊ทธ๋ํ๋ก ์ ๋ฆฌํ๋ ์์ ์ด์๋ค.
๋ชจ๋ธ๋ง์์๋ LinearRegression, RandomForest, GradientBoosting, XGBoost, LightGBM ๋ฑ์ ๋น๊ตํ๋ ๊ตฌ์กฐ๋ฅผ ์ก์๋ค. ๋ค๋ง ํ์ฌ ์คํ ํ๊ฒฝ์์๋ xgboost, lightgbm ํจํค์ง๊ฐ ์ค์น๋์ด ์์ง ์์ ์ค์ ์ฝ๋์์๋ LinearRegression, RandomForest, GradientBoosting๋ง ๋จผ์ ๋ฑ๋ก๋๋ ๋ฌธ์ ๊ฐ ์์๋ค.
๊ทธ๋์ ์ฝ๋์์์ ์ฌ์ฉ ๊ฐ๋ฅํ ๋ชจ๋ธ๊ณผ ์ค์น๊ฐ ํ์ํ ๋ชจ๋ธ์ ๊ตฌ๋ถํ๊ณ , ๊ฒฐ๊ณผ๊ฐ ์๋ ์๊ณ ๋ฆฌ์ฆ์ ์๋ฌ๊ฐ ๋์ง ์๋๋ก ์ฒ๋ฆฌํ๋ ๋ฐฉํฅ์ผ๋ก ์์ ํ๋ค. ์ฆ, ๊ทธ๋ํ์๋ ๊ฐ๋ฅํ ํ 5๊ฐ ์๊ณ ๋ฆฌ์ฆ์ ๋ชจ๋ ํฌํจํ๋, ์ค์ ๊ฒฐ๊ณผ๊ฐ ์๋ ๋ชจ๋ธ์ ๋๋ฝ ์ฌ๋ถ๋ฅผ ์ถ๋ ฅํ๋๋ก ๋ง๋ค์๋ค.
์๊ฐํ์์๋ ํนํ ๋ค์ ๋ถ๋ถ์ ์ ๊ฒฝ ์ผ๋ค.
๋ชจ๋ธ 4๋ฒ์์๋ ์ ํ ๋ณ์ ์์ ๋ฐ๋ฅธ ์๊ณ ๋ฆฌ์ฆ๋ณ ์ฑ๋ฅ ๋ณํ๋ฅผ ํ์ธํ๋ค. ๊ทธ๋ฐ๋ฐ RandomForest์ GradientBoosting์ ์ฑ๋ฅ์ด ๋น์ทํ๋ค ๋ณด๋ ํ๋์ ๊ทธ๋ํ์ ๋ชจ๋ ๋ฃ์ผ๋ฉด ์ ์ด ๊ฒน์ณ ์ ๋ณด์ด์ง ์์๋ค. ๊ทธ๋์ ์ ์ฒด ๋ชจ๋ธ์ ํ ๋ฒ์ ๋ณด์ฌ์ฃผ๋ ๊ทธ๋ํ์, ํธ๋ฆฌ ๊ธฐ๋ฐ ๋ชจ๋ธ๋ง ๋ฐ๋ก ํ๋ํด์ ๋ณด์ฌ์ฃผ๋ ๊ทธ๋ํ๋ฅผ ๋๋๋ ๋ฐฉ์์ด ๋ ์ ์ ํ๋ค๊ณ ํ๋จํ๋ค.
๋ชจ๋ธ 5๋ฒ์์๋ ์๋ณธ ๋ฐ์ดํฐ์ clipping ์ ์ฉ ํ ์ฑ๋ฅ ๋ณํ๋ฅผ ๋น๊ตํ๋ค. ์ด๋ R², RMSE, MAE ๋ณํ๋์ ๊ฐ๊ฐ subplot์ผ๋ก ๋๋์ด ํ์ํ๋ค. LinearRegression์ clipping ์ ํ ๋ณํ๋์ด ๋งค์ฐ ์ปค์ ๋ค๋ฅธ ๋ชจ๋ธ๋ค์ ๋ณํ๊ฐ ์ ๋ณด์ด์ง ์๋ ๋ฌธ์ ๊ฐ ์์๊ธฐ ๋๋ฌธ์, ์ค์ ๊ฐ์ ํ์ดํ๋ ์ฃผ์์ผ๋ก ๋ฐ๋ก ํ์ํ๋ ๋ฐฉ์์ ์ฌ์ฉํ๋ค.
์ด ๊ณผ์ ์์ ๋ฐฐ์ด ์ ์ ์๊ฐํ๋ ๋จ์ํ ๊ทธ๋ํ๋ฅผ ์์๊ฒ ๋ง๋๋ ์์
์ด ์๋๋ผ๋ ๊ฒ์ด๋ค.
์ด๋ค ๋น๊ต๋ฅผ ๋ณด์ฌ์ฃผ๊ณ ์ถ์์ง์ ๋ฐ๋ผ ๊ทธ๋ํ์ ๊ตฌ์กฐ ์์ฒด๋ฅผ ๋ฐ๊ฟ์ผ ํ๋ค.
์๋ฅผ ๋ค์ด ๋ชจ๋ธ๋ณ ์ฑ๋ฅ์ ๋น๊ตํ๊ณ ์ถ์ ๋๋ barplot์ด ์ ์ ํ๊ณ , ์ ํ ๋ณ์ ์์ ๋ฐ๋ฅธ ์ฑ๋ฅ ๋ณํ๋ฅผ ๋ณด๊ณ ์ถ์ ๋๋ lineplot์ด ์ ์ ํ๋ค. ๋ ๋ชจ๋ธ ๊ฐ ์ฐจ์ด๊ฐ ๋๋ฌด ์๊ฑฐ๋ ์ผ๋ถ ๋ชจ๋ธ๋ง ๊ฐ์ด ๊ทน๋จ์ ์ผ๋ก ํฌ๋ฉด, ๊ฐ์ ์ถ์ ๋ชจ๋ ๋ฃ๋ ๊ฒ์ด ์คํ๋ ค ํด์์ ๋ฐฉํดํ ์ ์๋ค.
3. ํ๊ธ ํฐํธ ๋ฌธ์ ํด๊ฒฐ
์๊ฐํ ์๋ฃ๋ฅผ ๋ง๋ค๋ฉด์ ํจ๊ป ํด๊ฒฐํ ๋ฌธ์ ๋ ํ๊ธ ํฐํธ ๊นจ์ง์ด์๋ค.
Matplotlib์ด๋ Seaborn์ผ๋ก ๊ทธ๋ํ๋ฅผ ๋ง๋ค ๋ ์ ๋ชฉ, ์ถ ์ด๋ฆ, ๋ฒ๋ก์ ํ๊ธ์ ๋ฃ์ผ๋ฉด ๊ธ์๊ฐ ๊นจ์ง๊ฑฐ๋ ๋ค๋ชจ๋ก ํ์๋๋ ๋ฌธ์ ๊ฐ ๋ฐ์ํ ์ ์๋ค. ๋ฐํ ์๋ฃ์์๋ ๋ณ์๋ช ์ด๋ ์ค๋ช ์ ํ๊ตญ์ด๋ก ์์ฑํด์ผ ํ๊ธฐ ๋๋ฌธ์, ์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๊ฒ์ด ์ค์ํ๋ค.
์ค๋์ ํ๊ธ ํฐํธ๋ฅผ ์ค์ ํ๊ณ , ๊ทธ๋ํ์์ ๋ง์ด๋์ค ๊ธฐํธ๊ฐ ๊นจ์ง์ง ์๋๋ก ์ต์ ์ ์กฐ์ ํ๋ ๋ฐฉํฅ์ผ๋ก ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ค. ์๋ฅผ ๋ค์ด Windows ํ๊ฒฝ์์๋ Malgun Gothic์ ์ฌ์ฉํ ์ ์๊ณ , Colab์ด๋ ๋ค๋ฅธ ํ๊ฒฝ์์๋ NanumGothic ๊ฐ์ ํฐํธ๋ฅผ ์ค์นํด ์ฌ์ฉํ ์ ์๋ค.
์ด ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ฉด์ ๋๋ ์ ์, ๋ถ์ ๊ฒฐ๊ณผ๋ฅผ ๋ง๋๋ ๊ฒ๋งํผ ๊ฒฐ๊ณผ๋ฅผ ์ฝ์ ์ ์๊ฒ ๋ง๋๋ ํ๊ฒฝ ์ค์ ๋ ์ค์ํ๋ค๋ ๊ฒ์ด๋ค. ์๋ฌด๋ฆฌ ์ข์ ๊ทธ๋ํ๋ฅผ ๋ง๋ค์ด๋ ๊ธ์๊ฐ ๊นจ์ง๋ฉด ๋ฐํ ์๋ฃ๋ก ์ฌ์ฉํ ์ ์๊ธฐ ๋๋ฌธ์ด๋ค.
4. ๋ ผ๋ฌธ ์กฐ์ฌ ๋ฐฉํฅ ์ค์
ํํฐ๋ ํผ๋๋ฐฑ ์ค ํ๋๋ ํ๋ก์ ํธ์ ๊ด๋ จ ๋ ผ๋ฌธ์ด๋ ์ ํ ์ฐ๊ตฌ๊ฐ ๋ถ์กฑํ๋ค๋ ์ ์ด์๋ค. ์ฒ์์๋ “๋ ผ๋ฌธ์ ๋ง์ด ์ฐพ์์ผ ํ๋?”๋ผ๊ณ ์๊ฐํ์ง๋ง, ์ค๋ ์ ๋ฆฌํ๋ฉด์ ๋ ผ๋ฌธ์ ์ญํ ์ ๋ค์ ์๊ฐํ๊ฒ ๋์๋ค.
์ด๋ฒ ํ๋ก์ ํธ์์ ๋ ผ๋ฌธ์ ๋ถ์ ๊ฒฐ๊ณผ๋ฅผ ๋์ ์ฆ๋ช ํด์ฃผ๋ ์๋ฃ๊ฐ ์๋๋ผ, ์ฐ๋ฆฌ๊ฐ ์ ์ด๋ฐ ๋ณ์๋ค์ ์ค์ํ๊ฒ ํด์ํ๋์ง ๋ท๋ฐ์นจํ๋ ๊ทผ๊ฑฐ๋ก ํ์ฉํด์ผ ํ๋ค.
๊ทธ๋์ ๋ ผ๋ฌธ ์กฐ์ฌ๋ ๋ค์ ๋ฐฉํฅ์ผ๋ก ์ ๋ฆฌํ๋ค.
์ฒซ์งธ, QbD ๊ด์ ์์ ์์์ฌ ํน์ฑ๊ณผ ๊ณต์ ์กฐ๊ฑด์ด ์ต์ข ํ์ง ํน์ฑ์ ์ํฅ์ ์ค ์ ์๋ค๋ ์๋ฃ๋ฅผ ์ฐพ๋๋ค. QbD๋ ์์ฝํ ๊ฐ๋ฐ๊ณผ ์ ์กฐ์์ ํ์ง์ ์ฌํ ๊ฒ์ฌ๋ก๋ง ํ์ธํ๋ ๊ฒ์ด ์๋๋ผ, ์์์ฌ ํน์ฑ, ๊ณต์ ๋ณ์, ํ์ง ํน์ฑ ๊ฐ์ ๊ด๊ณ๋ฅผ ์ดํดํ๊ณ ๊ด๋ฆฌํ๋ ์ ๊ทผ์ด๋ค.
๋์งธ, ์ฉ์ถ๋ฅ ์์ธก๊ณผ ๊ด๋ จ๋ ์ฐ๊ตฌ๋ฅผ ์ฐพ๋๋ค. ์ฐ๋ฆฌ ํ๋ก์ ํธ์ ํ๊น์ ํ๊ท ์ฉ์ถ๋ฅ ์ด๊ธฐ ๋๋ฌธ์, ์ฉ์ถ๋ฅ ์ด ์ด๋ค ์์ธ์ ์ํด ์ํฅ์ ๋ฐ์ ์ ์๋์ง ์ค๋ช ํ๋ ์๋ฃ๊ฐ ํ์ํ๋ค.
์ ์งธ, ์ ๋, ์๋ถ, ์ถฉ์ ๋, ์์ถ, ๋ฐฐ์ถ๋ ฅ ๊ฐ์ ์ ์กฐ๊ณต์ ๊ด๋ จ ๋ณ์๊ฐ ์ ์ ํ์ง์ ์ํฅ์ ์ค ์ ์๋ค๋ ๊ทผ๊ฑฐ๋ฅผ ์ฐพ๋๋ค. ์ค์ ๋ชจ๋ธ์์๋ batch_size_tablets, normalisation_factor, ์ถฉ์ ๋ ๊ด๋ จ ๋ณ์, API ์ ๋, ์๋ฃ ์๋ถ ๋ฑ์ด ์ค์ ๋ณ์๋ก ๋ํ๋ฌ๊ธฐ ๋๋ฌธ์, ์ด ๋ณ์๋ค์ ๋๋ฉ์ธ์ ์ผ๋ก ํด์ํ ์ ์๋ ๊ทผ๊ฑฐ๊ฐ ํ์ํ๋ค.
๋ท์งธ, XGBoost๋ SHAP์ ํ์ฉํ ํ์ง ์์ธก ์ฐ๊ตฌ๋ฅผ ์ฐธ๊ณ ํ๋ค. ์ต์ข ๋ชจ๋ธ ํ๋ณด์์ XGBoost์ ์ฑ๋ฅ์ด ์ข์๊ณ , SHAP์ ํตํด ๋ณ์ ์ค์๋๋ฅผ ํด์ํ๊ธฐ ๋๋ฌธ์, ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ ํด์ ๊ด์ ์์๋ ์ ํ ์ฐ๊ตฌ๋ฅผ ์ฐธ๊ณ ํ ์ ์๋ค๊ณ ํ๋จํ๋ค.
๊ฒฐ๊ตญ ๋
ผ๋ฌธ ์กฐ์ฌ์ ๋ชฉ์ ์ “์ฐ๋ฆฌ ๊ฒฐ๊ณผ๊ฐ ๋
ผ๋ฌธ๊ณผ ์์ ํ ์ผ์นํ๋ค”๋ผ๊ณ ๋งํ๋ ๊ฒ์ด ์๋๋ผ,
์ฐ๋ฆฌ ๋ถ์ ๊ฒฐ๊ณผ๊ฐ ์ ์ฝ ์ ์กฐ๊ณต์ ๊ณผ ํ์ง๊ด๋ฆฌ ๊ด์ ์์ ํด์ ๊ฐ๋ฅํ ๋ฐฉํฅ์ด๋ผ๋ ์ ์ ๋ณด์ํ๋ ๊ฒ์ด์๋ค.
5. ๋๋ฉ์ธ ์ง์ ๋ณด์
์ค๋ ๊ฐ์ฅ ์ค์ํ๊ฒ ๋๋ ๋ถ๋ถ์ ๋๋ฉ์ธ ์ง์์ด์๋ค.
ํํฐ๋ ํผ๋๋ฐฑ์์๋ ๋๋ฉ์ธ๊ณผ ํต๊ณ ๊ด๋ จ ์ค๋ช ์ด ๋ถ์กฑํ๋ค๋ ์ด์ผ๊ธฐ๊ฐ ์์๊ณ , ์ค์ ๋ก ๋ชจ๋ธ๋ง ๊ฒฐ๊ณผ๋ฅผ ํด์ํ๋ค ๋ณด๋ ๋จ์ํ ๋ณ์ ์ค์๋๋ง ๋์ดํด์๋ ์ค๋๋ ฅ์ด ๋ถ์กฑํ๋ค๋ ๊ฒ์ ๋๊ผ๋ค.
์๋ฅผ ๋ค์ด ์ต์ข ๋ชจ๋ธ์์ batch_size_tablets, normalisation_factor, ts_tbl_fill_mean, smcc_ps09, api_ps05, api_water ๊ฐ์ ๋ณ์๊ฐ ์ค์ํ๊ฒ ๋ํ๋ฌ๋ค๊ณ ํด๋, ์ด ๋ณ์๋ค์ด ์ ์ค์ํ์ง ์ค๋ช ํ์ง ์์ผ๋ฉด ๋ถ์ ๊ฒฐ๊ณผ๊ฐ ๋จ์ํ ์ซ์์ ๊ทธ์น๊ฒ ๋๋ค.
๊ทธ๋์ ์ค๋์ ๊ฐ ๋ณ์๋ฅผ ์ ์กฐ๊ณต์ ๊ด์ ์์ ํด์ํ๋ ๋ฐฉํฅ์ ์ ๋ฆฌํ๋ค.
batch_size_tablets๋ ์์ฐ ๊ท๋ชจ์ ๊ด๋ จ๋ ๋ณ์๋ก ๋ณผ ์ ์๋ค. ์์ฐ ๊ท๋ชจ๊ฐ ๋ฌ๋ผ์ง๋ฉด ๊ณต์ ์กฐ๊ฑด์ด๋ ๋ฐฐ์น ๊ฐ ์ฐจ์ด๊ฐ ๋ฐ์ํ ์ ์๊ณ , ์ด๋ ์ต์ข ํ์ง ํน์ฑ์ ์ํฅ์ ์ค ๊ฐ๋ฅ์ฑ์ด ์๋ค.
normalisation_factor๋ ์ ํ code ๋๋ ๊ธฐ์ค ์ฉ์ถ๋ฅ ์ฐจ์ด๋ฅผ ๋ณด์ ํ๋ ๋ณ์๋ก ํด์ํ ์ ์๋ค. ์ ํ๋ง๋ค ๊ธฐ๋ณธ์ ์ธ ์ฉ์ถ๋ฅ ์์ค์ด ๋ค๋ฅผ ์ ์๊ธฐ ๋๋ฌธ์, ์ด ์ฐจ์ด๋ฅผ ๊ณ ๋ คํ์ง ์์ผ๋ฉด ๊ณต์ ๋ณ์์ ์ํฅ์ ๊ณผ๋ํด์ํ ์ํ์ด ์๋ค.
ts_tbl_fill_mean์ ํ์ ๊ณต์ ์์ ์ถฉ์ ๋๊ณผ ๊ด๋ จ๋ ๋ณ์๋ก ๋ณผ ์ ์๋ค. ์ถฉ์ ๋์ ์ ์ ์ ๋ฌด๊ฒ๋ ๋ฐ๋, ์์ถ ์ํ์ ์ฐ๊ฒฐ๋ ์ ์๊ณ , ๊ฒฐ๊ณผ์ ์ผ๋ก ์ฉ์ถ๋ฅ ์๋ ์ํฅ์ ์ค ์ ์๋ค.
api_ps05, smcc_ps09 ๊ฐ์ ์ ๋ ๊ด๋ จ ๋ณ์๋ ์์์ฌ ํ์ง ํน์ฑ์ ๋ํ๋ธ๋ค. ์ ๋๋ ํผํฉ์ฑ, ์์ถ์ฑ, ํ๋ฉด์ ๋ฑ๊ณผ ๊ด๋ จ๋ ์ ์์ผ๋ฏ๋ก ์ฉ์ถ๋ฅ ํด์์์ ์ค์ํ ๋๋ฉ์ธ ๋ณ์๋ก ๋ณผ ์ ์๋ค.
api_water ๊ฐ์ ์๋ถ ๊ด๋ จ ๋ณ์๋ ์ค์ํ๋ค. ์๋ถ์ ์๋ฃ์ ํ๋ฆ์ฑ, ์์ถ์ฑ, ์ ์ ํ์ฑ ๊ณผ์ ์ ์ํฅ์ ์ค ์ ์๊ธฐ ๋๋ฌธ์ ์ ์กฐ๊ณต์ ํ์ง ๊ด๋ฆฌ์์ ์๋ฏธ ์๋ ๋ณ์๋ก ํด์ํ ์ ์๋ค.
์ด์ฒ๋ผ ์ค๋์ ๋ชจ๋ธ ๊ฒฐ๊ณผ๋ฅผ ๋จ์ํ “์ค์ ๋ณ์ TOP 20”์ผ๋ก ์ ๋ฆฌํ๋ ๊ฒ์ด ์๋๋ผ, ๊ฐ ๋ณ์๊ฐ ์ ์กฐ๊ณต์ ์์ ์ด๋ค ์๋ฏธ๋ฅผ ๊ฐ๋์ง ์ฐ๊ฒฐํ๋ ค๊ณ ํ๋ค.
6. ํต๊ณ์ ํด์ ๋ณด์
ํต๊ณ์ ์ธ ๋ถ๋ถ์์๋ ์๊ด๊ด๊ณ์ ๋ชจ๋ธ ์ค์๋๋ฅผ ๊ตฌ๋ถํ๋ ๊ฒ์ด ์ค์ํ๋ค.
EDA ๋จ๊ณ์์๋ ํ๊ท ์ฉ์ถ๋ฅ ๊ณผ ์ฌ๋ฌ ๋ณ์ ๊ฐ ์๊ด๊ด๊ณ๋ฅผ ํ์ธํ๋ค. ํ์ง๋ง ์๊ด๊ณ์๊ฐ ๋ฎ๋ค๊ณ ํด์ ๋ชจ๋ธ๋ง์์ ์๋ฏธ๊ฐ ์๋ค๊ณ ๋จ์ ํ ์๋ ์๋ค. ํนํ ์ ์กฐ๊ณต์ ๋ฐ์ดํฐ์์๋ ๋ณ์๋ค์ด ์๋ก ๋ณตํฉ์ ์ผ๋ก ์์ฉํ ๊ฐ๋ฅ์ฑ์ด ํฌ๊ธฐ ๋๋ฌธ์, ๋จ์ผ ๋ณ์์ ํ๊น ๊ฐ์ ๋จ์ ์๊ด๋ง์ผ๋ก ์ ์ฒด ๊ด๊ณ๋ฅผ ์ค๋ช ํ๊ธฐ ์ด๋ ต๋ค.
๋ํ ์ ํ code์ ๋ฐ๋ผ ํ๊ท ์ฉ์ถ๋ฅ ์์ค์ด ๋ค๋ฅผ ์ ์๊ธฐ ๋๋ฌธ์, ์ ์ฒด ๋ฐ์ดํฐ๋ฅผ ํ ๋ฒ์ ๋ณด๋ฉด ํน์ ๋ณ์์ ์ฉ์ถ๋ฅ ์ฌ์ด์ ๊ด๊ณ๊ฐ ์๋ ๊ฒ์ฒ๋ผ ๋ณด์ด๋ ์ฐฉ์๊ฐ ์๊ธธ ์ ์๋ค. ๋ฐ๋ผ์ code๋ณ ์ฐจ์ด๋ฅผ ๊ณ ๋ คํ ํด์์ด ํ์ํ๋ค.
๋ชจ๋ธ๋ง์์๋ R², RMSE, MAE๋ฅผ ํจ๊ป ๋น๊ตํ๋ค.
R²๋ ๋ชจ๋ธ์ด ํ๊น์ ๋ณ๋์ฑ์ ์ผ๋ง๋ ์ค๋ช ํ๋์ง ๋ณด์ฌ์ฃผ๋ ์งํ์ด๊ณ , RMSE์ MAE๋ ์ค์ ์์ธก ์ค์ฐจ์ ํฌ๊ธฐ๋ฅผ ๋ณด์ฌ์ค๋ค. R²๋ง ๋๋ค๊ณ ํด์ ๋ฐ๋์ ์ข์ ๋ชจ๋ธ์ด๋ผ๊ณ ๋ณผ ์ ์๊ณ , RMSE์ MAE๊น์ง ํจ๊ป ํ์ธํด์ผ ์ค์ ์์ธก ์ฑ๋ฅ์ ๋ ์์ ์ ์ผ๋ก ํ๋จํ ์ ์๋ค.
๋ํ clipping ์คํ์ ํตํด ์ด์์น๊ฐ ๋ชจ๋ธ์ ๋ฏธ์น๋ ์ํฅ๋ ํ์ธํ๋ค. LinearRegression์ clipping ํ ์ฑ๋ฅ์ด ํฌ๊ฒ ๊ฐ์ ๋์์ง๋ง, ํธ๋ฆฌ ๊ธฐ๋ฐ ๋ชจ๋ธ์์๋ ์ฑ๋ฅ ๊ฐ์ ์ด ํฌ์ง ์๊ฑฐ๋ ์คํ๋ ค ์ํญ ํ๋ฝํ๋ค. ์ด๋ฅผ ํตํด ์ด์์น ์ฒ๋ฆฌ๋ ๋ฌด์กฐ๊ฑด ์ ์ฉํ๋ ๊ฒ์ด ์๋๋ผ, ๋ชจ๋ธ ํน์ฑ๊ณผ ๋ฐ์ดํฐ ๊ตฌ์กฐ์ ๋ฐ๋ผ ํ๋จํด์ผ ํ๋ค๋ ์ ์ ํ์ธํ๋ค.
7. ์ค๋์ ์์ฌ๊ฒฐ์ ๊ณผ์
์ค๋์ ํต์ฌ ์์ฌ๊ฒฐ์ ์ ํฌ๊ฒ ์ธ ๊ฐ์ง์๋ค.
์ฒซ ๋ฒ์งธ๋ ์๊ฐํ ์๋ฃ๋ฅผ “๋ชจ๋ ์ ๋ณด๋ฅผ ํ ๋ฒ์ ๋ณด์ฌ์ฃผ๋ ๊ทธ๋ํ”๊ฐ ์๋๋ผ, “๋น๊ต ๋ชฉ์ ์ด ๋ช ํํ ๊ทธ๋ํ”๋ก ๋๋๊ธฐ๋ก ํ ๊ฒ์ด๋ค. ๋ชจ๋ธ ๊ฐ ์ฑ๋ฅ ๋น๊ต, ์ ํ ๋ณ์ ์์ ๋ฐ๋ฅธ ๋ณํ, clipping ์ ํ ๋ณํ๋ ๊ฐ๊ฐ ์ ๋ฌํ๊ณ ์ ํ๋ ๋ฉ์์ง๊ฐ ๋ค๋ฅด๊ธฐ ๋๋ฌธ์ ๊ทธ๋ํ๋ ๋ถ๋ฆฌํ๋ ๊ฒ์ด ๋ ์ ์ ํ๋ค.
๋ ๋ฒ์งธ๋ ๋ ผ๋ฌธ์ ๋จ์ํ ๋ง์ด ์ฐพ๋ ๊ฒ์ด ์๋๋ผ, ํ๋ก์ ํธ ํด์์ ์ง์ ์ฐ๊ฒฐ๋๋ ์๋ฃ ์์ฃผ๋ก ์ฐพ๊ธฐ๋ก ํ ๊ฒ์ด๋ค. ํนํ QbD, ์ฉ์ถ๋ฅ ์์ธก, ์์์ฌ ์ ๋์ ์๋ถ, ์ถฉ์ ·์์ถ ๊ณต์ , XGBoost์ SHAP ํด์ ๊ด๋ จ ์๋ฃ๊ฐ ํ๋ก์ ํธ์ ๊ฐ์ฅ ์ ๋ง๋ ๋ฐฉํฅ์ด๋ผ๊ณ ํ๋จํ๋ค.
์ธ ๋ฒ์งธ๋ ์ต์ข ๋ณด๊ณ ์์์ ๋ชจ๋ธ ์ฑ๋ฅ๋ง ๊ฐ์กฐํ์ง ์๊ณ , ๋๋ฉ์ธ ํด์๊ณผ ํต๊ณ์ ํด์์ ํจ๊ป ๋ฃ๊ธฐ๋ก ํ ๊ฒ์ด๋ค. ํํฐ๋ ํผ๋๋ฐฑ์ฒ๋ผ ๋๋ฉ์ธ ์ค๋ช ์ด ๋ถ์กฑํ๋ฉด ๋ถ์ ๊ฒฐ๊ณผ๊ฐ ์ค๋๋ ฅ์ ์ป๊ธฐ ์ด๋ ต๋ค. ๋ฐ๋ผ์ ์ค์ ๋ณ์๋ค์ด ์ ์กฐ๊ณต์ ์์ ์ด๋ค ์๋ฏธ๋ฅผ ๊ฐ์ง๋์ง, ์๊ด๊ด๊ณ์ ๋ชจ๋ธ ์ค์๋๋ฅผ ์ด๋ป๊ฒ ๊ตฌ๋ถํด์ผ ํ๋์ง ํจ๊ป ์ค๋ช ํ๋ ๋ฐฉํฅ์ผ๋ก ์์ ํ๋ค.
8. ์ด๋ ค์ ๋ ์
์ค๋ ์ด๋ ค์ ๋ ์ ์ ๋ชจ๋ธ๋ง ๊ฒฐ๊ณผ๋ฅผ ๋ฐํ ์๋ฃ๋ก ๋ณํํ๋ ๊ณผ์ ์ด์๋ค.
์ฝ๋์์ผ๋ก๋ ์ฑ๋ฅ ์งํ๋ฅผ ๊ณ์ฐํ๊ณ ๊ทธ๋ํ๋ฅผ ๋ง๋ค ์ ์์ง๋ง, ๋ฐํ ์๋ฃ์์๋ ์ฒญ์ค์ด ํ๋์ ์ดํดํ ์ ์์ด์ผ ํ๋ค. ํนํ ๋ชจ๋ธ์ด ์ฌ๋ฌ ๊ฐ์ด๊ณ ์งํ๋ R², RMSE, MAE๋ก ๋๋๋ค ๋ณด๋, ๊ทธ๋ํ๋ฅผ ์๋ชป ๋ง๋ค๋ฉด ์คํ๋ ค ๋ ๋ณต์กํด ๋ณด์๋ค.
๋ํ ๋ ผ๋ฌธ ์กฐ์ฌ๋ ์๊ฐ๋ณด๋ค ์ด๋ ค์ ๋ค. ์ ์ฝ ์ ์กฐ๊ณต์ ๊ณผ ํ๊ท ์ฉ์ถ๋ฅ , ๋จธ์ ๋ฌ๋ ์์ธก์ ๋ชจ๋ ์ง์ ์ ์ผ๋ก ๋ค๋ฃจ๋ ๋ ผ๋ฌธ์ ์ฐพ๊ธฐ๋ ์ฝ์ง ์์๋ค. ๊ทธ๋์ ๋๋ฌด ์๋ฒฝํ๊ฒ ์ผ์นํ๋ ๋ ผ๋ฌธ๋ง ์ฐพ๊ธฐ๋ณด๋ค, ํ๋ก์ ํธ์ ๊ฐ ํด์ ํฌ์ธํธ๋ฅผ ๋ท๋ฐ์นจํ ์ ์๋ ์๋ฃ๋ฅผ ๋๋์ด ์ฐพ๋ ๋ฐฉ์์ด ๋ ํ์ค์ ์ด๋ผ๊ณ ํ๋จํ๋ค.
ํ๊ธ ํฐํธ ๋ฌธ์ ๋ ์ฌ์ํด ๋ณด์ด์ง๋ง ์ค์ ๋ฐํ ์๋ฃ๋ฅผ ๋ง๋๋ ๊ณผ์ ์์๋ ์ค์ํ ๋ฌธ์ ์๋ค. ๋ถ์ ํ๊ฒฝ์์๋ ์ ๋ณด์ด๋ ๊ทธ๋ํ๊ฐ ์ ์ฅํ๊ฑฐ๋ ๊ณต์ ํ ๋ ๊นจ์ง ์ ์๊ธฐ ๋๋ฌธ์, ์ฌํ ๊ฐ๋ฅํ ์๊ฐํ ํ๊ฒฝ์ ๋ง๋๋ ๊ฒ๋ ํ๋ก์ ํธ ์์ฑ๋์ ํฌํจ๋๋ค๋ ์ ์ ๋ฐฐ์ ๋ค.
9. ๋๋ ์
์ค๋ ํ์ต์ ํตํด ํ๋ก์ ํธ์ ์์ฑ๋๋ ๋ชจ๋ธ ์ฑ๋ฅ๋ง์ผ๋ก ๊ฒฐ์ ๋์ง ์๋๋ค๋ ๊ฒ์ ๋๊ผ๋ค.
๋ชจ๋ธ ์ฑ๋ฅ์ด ์๋ฌด๋ฆฌ ์ข์๋ ์ ๊ทธ๋ฐ ๊ฒฐ๊ณผ๊ฐ ๋์๋์ง ์ค๋ช ํ์ง ๋ชปํ๋ฉด ์ค๋๋ ฅ์ด ๋ถ์กฑํ๋ค. ๋ฐ๋๋ก ์ฑ๋ฅ์ด ์๋ฒฝํ์ง ์๋๋ผ๋, ๋ฐ์ดํฐ ๊ตฌ์กฐ์ ๋๋ฉ์ธ ์ง์์ ๋ฐํ์ผ๋ก ๊ฒฐ๊ณผ๋ฅผ ํฉ๋ฆฌ์ ์ผ๋ก ํด์ํ๋ฉด ํ๋ก์ ํธ์ ์๋ฏธ๋ฅผ ๋ ์ ์ ๋ฌํ ์ ์๋ค.
ํนํ ์ด๋ฒ ํ๋ก์ ํธ์์๋ ์ ์กฐ๊ณต์ ๋ฐ์ดํฐ๋ผ๋ ํน์ฑ์ ์์์ฌ ํ์ง, ๊ณต์ ์์ ์ฑ, ์ ํ code, ์ฉ์ถ๋ฅ ์ด ์๋ก ๋ณตํฉ์ ์ผ๋ก ์ฐ๊ฒฐ๋์ด ์์๋ค. ๋ฐ๋ผ์ ๋จ์ํ ์๊ด๊ณ์๋ ๋ณ์ ์ค์๋๋ง ๋ณด๋ ๊ฒ์ด ์๋๋ผ, ์ ์ฝ ์ ์กฐ๊ณต์ ์ ํ๋ฆ ์์์ ๊ฒฐ๊ณผ๋ฅผ ํด์ํด์ผ ํ๋ค.
์ค๋ ๊ฐ์ฅ ํฌ๊ฒ ๋ฐฐ์ด ์ ์ ๋ค์๊ณผ ๊ฐ๋ค.
์๊ฐํ๋ ๊ฒฐ๊ณผ๋ฅผ ๊พธ๋ฏธ๋ ์์
์ด ์๋๋ผ, ์์ฌ๊ฒฐ์ ์ ์ค๋ช
ํ๋ ๋๊ตฌ์ด๋ค.
๋
ผ๋ฌธ ์กฐ์ฌ๋ ๋ถ์ ๊ฒฐ๊ณผ๋ฅผ ๋์ ์ฆ๋ช
ํ๋ ๊ฒ์ด ์๋๋ผ, ํด์์ ๊ทผ๊ฑฐ๋ฅผ ๋ณด์ํ๋ ๊ณผ์ ์ด๋ค.
๋๋ฉ์ธ ์ง์๊ณผ ํต๊ณ์ ํด์์ด ํจ๊ป ๋ค์ด๊ฐ์ผ ๋จธ์ ๋ฌ๋ ํ๋ก์ ํธ๊ฐ ์ค๋๋ ฅ์ ๊ฐ์ง๋ค.
10. ๋ค์ ํ์ต ๊ณํ
๋ค์ ๋จ๊ณ์์๋ ์ต์ข ๋ณด๊ณ ์์ ๋ฐํ ์๋ฃ์ ๋ค์ด๊ฐ ๊ทธ๋ํ๋ฅผ ์ ๋ฆฌํ๊ณ , ๊ฐ ๊ทธ๋ํ๋ง๋ค ์ ๋ฌํ ํต์ฌ ๋ฉ์์ง๋ฅผ ๋ถ์ผ ์์ ์ด๋ค.
๋ํ ์ค์ ๋ณ์ TOP 20๊ณผ SHAP ๊ฒฐ๊ณผ๋ฅผ ๋ฐํ์ผ๋ก, ์ด๋ค ๋ณ์๊ฐ ํ๊ท ์ฉ์ถ๋ฅ ์์ธก์ ๊ธฐ์ฌํ๋์ง ๋๋ฉ์ธ ๊ด์ ์์ ๋ ์์ธํ ์ค๋ช ํ ๊ณํ์ด๋ค.
๋ง์ง๋ง์ผ๋ก ๋ ผ๋ฌธ ์กฐ์ฌ ๋ด์ฉ์ ๋จ์ ์ฐธ๊ณ ์๋ฃ๋ก ๋๋ด์ง ์๊ณ , ๋ณด๊ณ ์์ ๋ฐฐ๊ฒฝ ์ค๋ช ๊ณผ ๊ฒฐ๊ณผ ํด์ ๋ถ๋ถ์ ์์ฐ์ค๋ฝ๊ฒ ์ฐ๊ฒฐํ ์์ ์ด๋ค. ์ด๋ฅผ ํตํด ํ๋ก์ ํธ๊ฐ ๋จ์ํ ๋ชจ๋ธ๋ง ์ค์ต์ด ์๋๋ผ, ์ค์ ์ ์กฐ๊ณต์ ํ์ง ๋ถ์ ๋ฌธ์ ๋ฅผ ๋ฐ์ดํฐ ๊ธฐ๋ฐ์ผ๋ก ์ ๊ทผํ ์ฌ๋ก์ฒ๋ผ ๋ณด์ด๋๋ก ์์ฑํ๊ณ ์ถ๋ค.