[내일배움캠프] feature engineering 및 시각화 자료

아니 우리 이때까지 해왔던 모델링 작업들이 결국은 EDA라고요? 또디에이.....

 

1. 오늘의 학습 목표

오늘의 학습 목표는 전처리된 제조 공정 데이터를 바탕으로 평균 용출률을 예측하는 머신러닝 모델을 구성하고, 모델링 결과를 발표나 보고서에서 이해하기 쉽게 보여줄 수 있는 시각화 자료를 만드는 것이었다.

이번 프로젝트의 최종 목표는 제조 공정 변수와 평균 용출률 사이의 관계를 분석하고, 이를 바탕으로 평균 용출률을 예측하는 모델을 개발하는 것이다. 따라서 오늘은 단순히 모델을 실행하는 것에 그치지 않고, 어떤 모델링 방식이 프로젝트 흐름에 맞는지, 그리고 결과를 어떻게 시각적으로 설명할 수 있을지에 집중했다.

특히 오늘은 모델링 3, 4, 5번 단계와 관련된 설명 방식과 시각화 방식을 구체화했다. 모델링 3번은 상호작용 변수를 활용한 모델링이고, 모델링 4번은 중요 변수 선택에 따른 성능 변화 분석, 모델링 5번은 원본 데이터와 clipping 데이터의 성능 비교였다.

---

2. 오늘 진행한 모델링 내용

오늘 모델링에서는 여러 알고리즘을 활용해 평균 용출률인 dissolution_av를 예측하는 회귀 문제를 다루었다.

사용한 모델은 LinearRegression, RandomForest, GradientBoosting, CatBoost 등이었다. 각 모델은 R², RMSE, MAE 지표를 기준으로 비교했다.

R²는 모델이 실제 용출률 변동을 얼마나 설명하는지를 보여주는 지표이고, RMSE와 MAE는 예측값과 실제값 사이의 오차 크기를 보여주는 지표이다. 따라서 R²는 높을수록 좋고, RMSE와 MAE는 낮을수록 좋은 모델이라고 볼 수 있다.

모델링 과정에서 가장 중요하게 본 부분은 모델별 성능 차이뿐만 아니라, 전처리 방식에 따라 모델 성능이 어떻게 달라지는지였다. 특히 원본 데이터와 clipping 적용 데이터의 성능 차이를 비교하면서 이상치 처리가 모델에 어떤 영향을 주는지 확인했다.

결과적으로 LinearRegression은 원본 데이터에서 성능이 매우 좋지 않았지만, clipping 후 성능이 크게 개선되었다. 반면 RandomForest, GradientBoosting, CatBoost 같은 트리 기반 모델들은 clipping 후 오히려 성능이 소폭 떨어지거나 큰 개선이 나타나지 않았다.

이를 통해 선형 모델은 이상치에 민감하지만, 트리 기반 모델은 원본 데이터의 패턴을 비교적 잘 활용한다는 점을 확인할 수 있었다.

---

3. 모델링 3번: 상호작용 변수 모델링 설명 방향

오늘 가장 먼저 정리한 부분은 모델링 3번을 발표에서 어떻게 설명할지였다.

모델링 3번은 단순히 개별 변수만 사용하는 것이 아니라, 원자재 품질 변수와 공정 변수 사이의 상호작용을 반영한 모델링이다.

EDA 단계에서 확인한 결과, 개별 변수와 평균 용출률 사이의 상관관계는 전반적으로 강하지 않았다. 즉, 특정 변수 하나만으로 평균 용출률을 설명하기에는 한계가 있었다. 하지만 제조 공정에서는 하나의 변수만 독립적으로 영향을 주기보다는, 원자재 특성과 공정 조건이 함께 작용해 최종 품질에 영향을 줄 가능성이 있다.

그래서 모델링 3번은 다음과 같은 흐름으로 설명하는 것이 적절하다고 판단했다.

첫째, 기존 개별 변수만으로는 평균 용출률을 충분히 설명하기 어려웠다.
둘째, 제조 공정에서는 원자재 품질과 공정 조건이 서로 결합되어 영향을 줄 수 있다.
셋째, 따라서 원자재 변수와 공정 변수의 상호작용 변수를 생성했다.
넷째, 상호작용 변수를 추가했을 때 모델 성능이 개선되는지 확인했다.

이렇게 설명하면 청중 입장에서도 “왜 갑자기 상호작용 변수를 만들었는지”를 이해하기 쉽다. 단순히 변수를 많이 만든 것이 아니라, EDA 결과에서 개별 변수의 설명력이 약했기 때문에 복합적인 관계를 확인하기 위한 시도였다는 점을 강조할 수 있다.

---

4. 모델링 4번: 선택 변수 수에 따른 성능 변화 시각화

모델링 4번에서는 중요 변수만 선택했을 때 모델 성능이 어떻게 변하는지를 확인했다.

처음에는 선택 변수 수에 따른 알고리즘별 R² 변화를 하나의 그래프로 그렸다. 하지만 GradientBoosting과 RandomForest의 성능 값이 비슷해서 두 모델의 선이 겹쳐 보이는 문제가 있었다. 여기에 LinearRegression까지 함께 넣으면 스케일 차이 때문에 트리 기반 모델들의 세부적인 차이가 더 잘 보이지 않았다.

그래서 시각화 방식 자체를 다시 고민했다.

단순히 하나의 R² 그래프만 보는 방식보다는, R², RMSE, MAE를 함께 보여주는 방식이 더 효과적일 수 있다고 판단했다. 팀원이 만든 그래프처럼 0을 기준선으로 두고, R²는 아래쪽 또는 별도 축에서 보고, RMSE와 MAE는 위쪽에서 비교하는 형태를 참고했다.

이 방식의 장점은 하나의 그림 안에서 성능 지표를 종합적으로 볼 수 있다는 점이다. R²만 보면 설명력만 확인할 수 있지만, RMSE와 MAE까지 함께 보면 실제 예측 오차가 얼마나 줄어드는지도 확인할 수 있다.

다만 R²와 RMSE, MAE는 값의 단위와 방향성이 다르기 때문에 그대로 한 축에 놓으면 해석이 어려울 수 있다. 그래서 발표용으로는 다음 두 가지 방식을 함께 고려했다.

첫 번째는 GradientBoosting과 RandomForest만 따로 빼서 비교하는 그래프이다. 두 모델은 성능이 비슷하기 때문에 별도로 분리하면 선택 변수 수에 따른 미세한 차이를 더 잘 볼 수 있다.

두 번째는 GradientBoosting, RandomForest, LinearRegression 세 모델의 R², RMSE, MAE를 각각 따로 라인그래프로 비교하는 방식이다. 이 방식은 지표별로 축을 분리하기 때문에 해석이 더 명확하다.

결론적으로 모델링 4번 시각화에서는 “한 그래프에 모든 정보를 무리하게 넣기보다는, 비교 목적에 따라 그래프를 분리하는 것이 더 좋다”고 판단했다.

---

5. 모델링 5번: 원본 데이터와 clipping 데이터 비교

모델링 5번에서는 원본 데이터와 clipping 데이터의 성능을 비교했다.

clipping은 극단값의 영향을 줄이기 위해 일정 범위를 벗어난 값을 제한하는 전처리 방법이다. 처음에는 clipping을 적용하면 모든 모델의 성능이 좋아질 가능성이 있다고 생각할 수 있다. 하지만 실제 결과는 모델별로 다르게 나타났다.

LinearRegression은 clipping 후 성능이 크게 개선되었다. 원본 데이터에서는 R²가 음수로 나타나 모델이 실제 평균값보다도 못한 예측을 하고 있었지만, clipping 후에는 R²가 양수로 개선되었다. RMSE와 MAE도 크게 감소했다.

반면 GradientBoosting, RandomForest, CatBoost는 clipping 후 성능이 크게 좋아지지 않았다. 오히려 R²가 소폭 감소하거나 RMSE가 증가하는 경우도 있었다.

이 결과를 통해 중요한 의사결정을 내릴 수 있었다.

clipping은 선형 모델에는 도움이 되었지만, 최종 후보로 고려하는 트리 기반 모델에는 반드시 좋은 전처리라고 보기 어려웠다. 따라서 최종 모델링에서는 clipping 데이터를 무조건 사용하는 것보다, 원본 데이터를 기준으로 GradientBoosting이나 CatBoost 같은 트리 기반 모델을 중심으로 비교하는 것이 더 적절하다고 판단했다.

이 과정에서 배운 점은 전처리가 항상 성능 개선으로 이어지는 것은 아니라는 점이다. 데이터가 깔끔해지는 것과 모델이 더 잘 학습하는 것은 별개의 문제일 수 있다.

---

6. 시각화 자료 생성 과정

오늘은 모델링 결과를 발표 자료로 어떻게 보여줄지도 함께 정리했다.

모델링 결과는 숫자 표만으로 보여주면 이해하기 어렵다. 특히 R², RMSE, MAE처럼 서로 의미가 다른 지표를 비교할 때는 시각화가 중요하다.

먼저 모델별 성능 비교 그래프를 만들기로 했다. 이 그래프는 LinearRegression, RandomForest, GradientBoosting, CatBoost의 성능을 한눈에 비교하기 위한 자료이다. R²는 높을수록 좋고, RMSE와 MAE는 낮을수록 좋다는 점을 함께 설명해야 한다.

다음으로 원본 데이터와 clipping 데이터의 성능 차이를 보여주는 그래프를 만들기로 했다. 이 시각화는 모델링 5번의 핵심 결론을 보여주는 데 사용된다. 특히 LinearRegression은 clipping 후 성능이 크게 좋아졌지만, 트리 기반 모델은 원본 데이터에서 더 안정적이었다는 점을 강조할 수 있다.

또한 모델링 4번에서는 선택 변수 수에 따른 성능 변화를 라인그래프로 표현하기로 했다. 이때 RandomForest와 GradientBoosting의 선이 겹쳐 잘 보이지 않는 문제가 있었기 때문에, 두 모델만 따로 비교하는 그래프와 전체 모델을 지표별로 나누어 비교하는 그래프를 함께 고려했다.

시각화에서 가장 중요하게 생각한 점은 “많은 정보를 한 그래프에 넣는 것”이 아니라, “청중이 핵심 결론을 쉽게 이해할 수 있도록 보여주는 것”이었다.

---

7. 오늘의 주요 의사결정 과정

오늘의 가장 큰 의사결정은 세 가지였다.

첫 번째는 모델링 3번을 단순한 변수 추가 실험이 아니라, EDA 결과에서 출발한 상호작용 분석으로 설명하기로 한 것이다. 개별 변수의 상관관계가 약했기 때문에 원자재와 공정 조건의 조합 효과를 확인했다는 흐름으로 정리했다.

두 번째는 모델링 4번 그래프를 한 장에 무리하게 넣지 않기로 한 것이다. 처음에는 모든 모델과 모든 지표를 하나의 그래프에 넣고 싶었지만, 오히려 선이 겹치고 해석이 어려워질 수 있었다. 그래서 GradientBoosting과 RandomForest만 따로 비교하거나, R², RMSE, MAE를 각각 나눠서 보여주는 방식이 더 적절하다고 판단했다.

세 번째는 모델링 5번에서 clipping 결과를 해석하는 방식이었다. 단순히 clipping 후 LinearRegression 성능이 좋아졌다고 해서 clipping을 최종 전처리로 선택하지 않았다. 최종적으로 중요한 모델은 트리 기반 모델이었고, 이 모델들은 원본 데이터에서 더 안정적인 성능을 보였기 때문이다. 따라서 최종 결론은 “clipping은 선형 모델에는 효과가 있었지만, 트리 기반 최종 후보 모델에는 원본 데이터가 더 적합했다”로 정리했다.

---

8. 어려웠던 점

오늘 가장 어려웠던 점은 시각화의 목적을 정하는 것이었다.

처음에는 가능한 많은 정보를 한 그래프에 담고 싶었다. 하지만 R², RMSE, MAE는 지표의 의미와 값의 범위가 다르기 때문에 한 그래프에 모두 넣으면 오히려 해석이 어려워졌다.

또한 RandomForest와 GradientBoosting처럼 성능이 비슷한 모델은 같은 그래프에서 선이 겹쳐 차이가 잘 보이지 않았다. 그래서 “그래프를 하나로 합치는 것”보다 “비교하고 싶은 대상을 명확히 나누는 것”이 더 중요하다는 것을 알게 되었다.

모델링 해석에서도 어려운 점이 있었다. clipping 후 LinearRegression의 성능은 크게 좋아졌지만, 이 결과만 보고 clipping이 전체적으로 좋은 전처리라고 판단하면 안 됐다. 모델마다 데이터에 반응하는 방식이 다르기 때문에, 성능 지표를 모델 특성과 함께 해석해야 했다.

---

9. 느낀 점

오늘 학습을 통해 모델링에서 중요한 것은 단순히 가장 높은 점수를 찾는 것이 아니라, 왜 그런 결과가 나왔는지 설명할 수 있어야 한다는 점을 느꼈다.

특히 이번 프로젝트처럼 제조 공정 데이터를 다룰 때는 변수 하나하나의 영향이 명확하게 드러나지 않을 수 있다. 원자재 품질, 공정 조건, 제품 code, 시계열 안정성 지표가 서로 복합적으로 얽혀 있기 때문이다. 그래서 EDA 결과를 바탕으로 모델링 방향을 정하고, 모델링 결과를 다시 해석하는 과정이 중요했다.

또한 시각화는 단순히 결과를 예쁘게 보여주는 작업이 아니라, 의사결정을 설명하는 도구라는 점을 배웠다. 어떤 그래프를 만들 것인지는 결국 어떤 결론을 전달하고 싶은지에 따라 달라진다.

오늘의 핵심 배움은 다음과 같다.

모델링은 코드 실행보다 해석과 의사결정이 중요하다.
시각화는 많은 정보를 담는 것보다 핵심 비교가 잘 보이도록 만드는 것이 중요하다.
전처리 방법은 모델 특성에 따라 다르게 평가해야 한다.

---

10. 다음 학습 계획

다음 단계에서는 GradientBoosting과 CatBoost를 중심으로 최종 모델 후보를 더 자세히 비교할 예정이다.

또한 feature importance를 확인해서 평균 용출률 예측에 실제로 기여한 변수가 무엇인지 분석할 계획이다. 특히 EDA에서 중요하게 봤던 CV 변수, 폐기율, 원자재 품질 변수가 모델에서도 의미 있게 사용되는지 확인하고 싶다.

마지막으로 발표 자료에서는 모델링 3, 4, 5번의 흐름이 자연스럽게 이어지도록 정리할 예정이다. EDA에서 개별 변수의 관계를 확인하고, 상호작용 변수를 실험하고, 중요 변수 선택을 통해 모델을 단순화하고, clipping 비교를 통해 최종 전처리 방향을 결정했다는 흐름으로 설명할 계획이다.