Journal Search Engine

to

Search Advanced Search Adode Reader(link)
Download PDF Export Citation Korean Bibliography
ISSN : 1226-525X(Print)
ISSN : 2234-1099(Online)
Journal of the Earthquake Engineering Society of Korea Vol.30 No.5 pp.211-220
DOI : https://doi.org/10.5000/EESK.2026.30.5.211

Performance Comparison of Conventional Machine Learning and Stacking Ensemble Models for Predicting Peak Seismic Displacement Response of Columns Considering Geometric Parameters

Taehyeon Kim1), Md Adnan Haque Chowdhury2), Hwasung Roh3)*
1)Postdoctoral Researcher, Department of Civil Engineering, Jeonbuk National University
2)Combined M.S.-Ph.D. Student, Department of Civil Engineering, Jeonbuk National University
3)Professor, Department of Civil Engineering, Jeonbuk National University
*Corresponding author: Roh, Hwasung E-mail: hwasung@jbnu.ac.kr
July 9, 2026 August 3, 2026 August 3, 2026

Abstract


This study comparatively analyzes conventional machine learning models and a stacking ensemble model for predicting the peak displacement response of concrete columns under seismic loading. Using geometric parameters, material properties, and ground motion characteristics as inputs, a database of 1,080 cases was constructed via finite-element time-history analysis. Hyperparameter optimization was applied to six conventional machine learning models based on tree-based, kernel-based, and neural network approaches. A stacking ensemble is constructed with Extra Trees and XGBoost as base models and RidgeCV as the meta-model, and its optimal configuration is derived by examining meta-model selection, passthrough application, and the number of cross-validation folds. Predicted peak displacement responses were converted into drift ratios normalized by column height to evaluate predictive performance across models. The tree-based models show stable performance with a MAPE of 3-4%, while the stacking ensemble achieves the lowest error rate at 2.68% MAPE. Interval-based analysis shows that the stacking ensemble yields lower error rates than conventional machine learning models across a range of geometric parameters, including column height, cross-sectional dimensions, and aspect ratio, confirming stable predictive performance under variations in these parameters.


Concrete column , Seismic displacement response , Machine learning , Stacking ensemble

형상 변수에 따른 기둥의 최대 지진 변위응답 예측을 위한 기존 머신러닝과 스태킹 앙상블 모델의 성능 비교

김태현1), 초우드리 엠디 아드난 하크2), 노화성3)*
1)전북대학교 토목공학과 박사후연구원
2)전북대학교 토목공학과 석박사통합과정
3)전북대학교 토목공학과 교수

초록

    1. 서 론

    콘크리트 기둥은 교량, 건축물 및 다양한 사회기반시설에서 상부구조의 하중을 지지하고 횡하중에 저항하는 핵심 구조부재이다. 지진하중이 작용할 경우 콘크리트 기둥에는 휨 변형, 전단변형 및 축력 변화가 복합적으로 발생하며, 이러한 응답은 구조물 전체의 내진성능과 손상 수준에 직접적인 영향을 미친다. 특히 기둥 상단의 최대 변위응답은 구조물의 손상 가능성, 사용성 저하 및 내진성능 평가에 중요한 기준으로 활용된다. ASCE 7[1] 및 KDS 41[2] 등 주요 내진 설계 기준에서도 기둥의 횡방향 변위와 이를 기둥 높이로 정규화한 drift ratio를 구조 성능 수준 평가의 핵심 지표로 활용하고 있다. 이에 따라 다양한 구조적 조건과 지진하중 특성을 고려하여 콘크리트 기둥의 최대 변위응답을 합리적으로 예측하는 것은 구조물의 지진응답 평가에서 중요한 의미를 갖는다.

    일반적으로 지진하중을 받는 콘크리트 기둥의 응답은 실험, 등가정적해석, 응답스펙트럼해석 또는 비선형 시간이력해석 등을 통해 평가된다. 이 중 비선형 시간이력해석은 재료 비선형성, 구조물의 형상 특성 및 지진파의 시간의존적 특성을 반영할 수 있다는 장점이 있다. 그러나 해석모델의 구축, 재료모델의 설정, 지진파 선정 및 반복 해석 과정에 많은 시간과 계산 비용이 요구된다. 또한 단면 크기, 기둥 높이, 탄성계수 및 지진파 조건 등 다양한 변수 조합을 반복적으로 검토해야 하는 경우, 기존 해석 기반 접근만으로는 효율적인 응답 예측에 한계가 있을 수 있다.

    최근에는 이러한 한계를 보완하기 위해 구조공학 및 내진공학 분야에서 데이터 기반 머신러닝 기법이 활발히 적용되고 있다[3]. 머신러닝 모델은 입력변수와 출력응답 사이의 복잡한 비선형 관계를 데이터로부터 학습할 수 있으며, 학습이 완료된 이후에는 새로운 입력조건에 대한 구조응답을 비교적 빠르게 예측할 수 있다. Kazemi et al.[4]은 RC 모멘트골조의 지진응답 및 성능평가를 위해 다양한 머신러닝 알고리즘을 적용하여 지진응답 예측모델을 제안하였다. 또한 Demir et al.[5]은 RC 골조의 최대변위를 예측하기 위해 Random Forest, XGBoost 및 stochastic gradient boosting 기반 모델을 적용하였으며, Tree 기반 머신러닝 모델이 복잡한 지진응답 예측에 효과적으로 활용될 수 있음을 보였다.

    부재 수준에서도 머신러닝 기반 예측모델의 적용이 확대되고 있다. Mangalathu and Jeon[6]은 RC 보-기둥 접합부의 파괴모드 분류 및 전단강도 예측을 위해 다양한 머신러닝 기법을 적용하였으며, 형상 특성, 재료특성 및 구조적 변수를 기반으로 부재 성능을 예측할 수 있음을 제시하였다. Koodiani et al.[7]은 RC 기둥의 비선형 모델링 파라미터와 파괴모드 예측을 위해 머신러닝 모델을 활용하였으며, 입력변수 간의 비선형 관계를 고려할 수 있는 데이터 기반 접근이 기존 기준식의 한계를 보완할 수 있음을 보였다. 이러한 연구들은 콘크리트 구조부재의 응답 및 성능 예측에서 머신러닝 모델이 유용한 대안이 될 수 있음을 보여준다.

    개별 머신러닝 모델은 알고리즘의 학습 방식에 따라 예측성능이 달라질 수 있다[8]. Tree 기반 모델은 입력변수 간 비선형 관계와 상호작용을 비교적 안정적으로 학습할 수 있는 반면 Kernel 기반 모델이나 신경망 기반 모델은 데이터의 규모, 변수 구성 및 Hyperparameter 설정에 따라 성능 차이가 발생할 수 있다[9-12]. 이러한 이유로 최근에는 여러 모델의 예측결과를 결합하여 예측성능을 개선하는 앙상블 및 스태킹 기반 접근이 구조공학 분야에서도 적용되고 있다. Kazemi et al.[13]은 RC 전단벽의 지진 확률 및 위험도 평가에 stacked machine learning 모델을 적용하였으며, Khoshkroodi et al.[14]은 구조부재 성능 예측에서 stacking 앙상블이 base learner의 성능을 보완할 수 있음을 보였다.

    그러나 기존 연구들은 주로 구조물 전체의 최대변위, 손상도, 취약도 또는 특정 부재의 강도 및 파괴모드 예측에 초점을 두는 경우가 많았으며, 개별 머신러닝 모델과 스태킹 앙상블 모델의 예측성능을 정량적으로 비교한 연구는 상대적으로 제한적이다. 콘크리트 기둥의 최대 변위응답은 단면 크기, 기둥 높이와 같은 형상 변수뿐만 아니라 재료특성 및 지진파 조건에 의해 복합적으로 결정되므로, 이러한 변수를 함께 고려하여 다양한 개별 모델과 스태킹 앙상블 모델의 예측성능을 비교 평가하는 것이 필요하다. 특히 성능이 높은 개별 모델의 예측결과를 결합한 스태킹 앙상블 모델구성은 제한된 데이터 조건에서도 최대 변위응답의 정확성과 안정성을 향상시킬 수 있을 것으로 판단된다.

    본 연구에서는 형상 변수, 재료특성 및 지진파 조건을 입력변수로 고려하여 콘크리트 기둥의 최대 변위응답을 예측하는 개별 머신러닝 모델과 스태킹 앙상블 모델의 성능을 비교 평가하였다. 학습데이터를 생성하기 위해 콘크리트 기둥의 3D 유한요소모델을 생성하고, 다양한 형상 조건과 지진파 조건에 대한 시간이력해석을 수행하여 기둥의 최대 변위응답을 산정하였다. 산정된 최대 변위응답은 기둥 높이로 정규화한 drift ratio로 변환하여 머신러닝 모델의 출력변수로 사용하였으며, Random Forest, Extra Trees, XGBoost, Gradient Boosting, SVR 및 MLP 등 6개의 개별 머신러닝 모델의 예측성능을 비교하였다. 또한 개별 모델의 예측결과를 결합하여 예측 정확도와 안정성을 향상시키기 위해 스태킹 앙상블 모델을 구성하고 최적 구성 조건을 탐색함으로써, 다양한 형상 조건에서의 콘크리트 기둥 지진응답 예측에 대한 개별 모델 및 스태킹 앙상블 모델의 적용성을 검토하였다.

    2. 데이터 베이스 구성

    본 연구에서는 지진하중을 받는 콘크리트 기둥의 최대변위를 예측하기 위해 범용 구조해석 프로그램인 ABAQUS[15]를 이용하여 시간이력해석 기반의 해석 데이터베이스를 구축하였다. 유한요소모델은 단면 크기와 기둥 높이의 변화를 직접 반영할 수 있도록 Solid 요소(C3D8R) 기반의 3차원 유한요소모델로 생성하였으며, 대표 유한요소모델은 Fig. 1에 나타내었다. 경계조건은 기둥 하단을 고정경계로 설정하였고, 자중에 의한 중력하중을 먼저 적용한 후 지진하중을 기둥 하단에 입력하였다. 시간이력해석 시 감쇠비는 Rayleigh damping ratio 2%를 적용하였으며, 각 해석에서 기둥 상단에 발생한 지진 입력방향의 최대변위를 추출하였다. 콘크리트의 기본 물성치는 단위질량 2400 kg / m 3 , 포아송비 0.3을 적용하였다. 해석 데이터 베이스 구축에 고려한 입력변수는 Table 1에 정리하였다.

    단면 크기는 기둥의 단면 2차 모멘트와 휨 강성에 직접 관련되므로 변위응답에 영향을 미치는 주요 기하학적 변수이다. 기존 문헌에서 다루어진 실제 기둥의 단면 치수 범위(0.3 m~0.9 m)를 참고하여 5개 단면조건을 설정하였다[16-19]. 이를 통해 소규모 단면부터 상대적으로 큰 단면까지 포함하고, 정사각형 및 직사각형 단면 형상에 따른 최대변위 응답 차이를 학습데이터에 반영하고자 하였다.

    기둥 높이는 구조물의 동적특성에 영향을 미치는 변수로, 동일한 단면 및 재료 조건에서도 높이 변화에 따라 변위응답이 달라진다. 기둥 높이는 2.5 m~5.8 m 범위에서 총 36개의 조건으로 설정하였으며, 이는 형상비(Aspect ratio, 기둥 높이/단면깊이) 기준으로 4 미만의 짧은 기둥부터 12를 초과하는 매우 긴 기둥까지 포괄하도록 설정한 것이다. 데이터가 편중되는 것을 방지하기 위해 균등분포 형태로 높이 조건을 구성하여 높이 변화에 따른 최대변위 응답 특성이 학습데이터에 균형 있게 반영되도록 하였다.

    콘크리트 탄성계수는 콘크리트 압축강도를 고려하여 저강도, 보통강도 및 고강도 콘크리트에 해당하는 3개의 탄성계수 조건을 적용하였다. 해당 조건은 실제 기둥에 사용되는 콘크리트 강도 수준을 포괄하도록 선정한 것이다. 이에 따라 동일한 기하학적 조건에서도 콘크리트 강도 수준에 따른 강성 변화가 최대변위 응답에 미치는 영향을 학습데이터에 포함하였다.

    지진하중 조건으로는 서로 다른 규모와 주파수 특성을 갖는 2개의 지진파를 사용하였다. 본 연구는 개별 머신러닝 모델과 스태킹 앙상블 모델의 지진응답 예측 성능을 비교하는 것을 목적으로 하므로 지진파는 서로 다른 최대지반가속도와 주파수 특성을 갖도록 선정하였다. 두 지진파는 최대지반가속도 및 응답스펙트럼의 지배 주기 범위가 상이하여 다양한 동적 응답 특성을 갖는 해석 데이터베이스를 구축하는 데 활용하였다. 해석에 사용된 지진파의 주요 정보는 Table 2에 정리하였으며, 각 지진파의 가속도 시간이력을 Fig. 2에 나타내었다.

    시간이력해석을 통해 산정된 기둥의 변위응답 시간이력의 예시를 Fig. 3에 나타내었으며, 구축된 전체 해석 데이터베이스의 최대 drift ratio 분포를 Fig. 4에 나타내었다. 최대 drift ratio는 0.006에서 0.155 범위에 걸쳐 분포하며, 낮은 drift ratio 구간에 상대적으로 많은 데이터가 집중되어 있으나 높은 drift ratio 구간까지 포함하는 넓은 응답 범위를 확보하고 있음을 확인할 수 있다.

    3. 머신러닝 모델의 구성 및 성능평가

    3.1 개별 머신러닝 모델

    지진하중을 받는 콘크리트 기둥의 최대변위를 예측하기 위해 다양한 개별 머신러닝 회귀모델을 적용하였다. 입력변수는 2장에서 구축한 해석 데이터베이스를 기반으로 기둥 높이, 단면 길이, 단면 폭, 콘크리트 탄성계수 및 지진하중 특성으로 구성하였다. 출력변수로는 최대변위를 기둥 높이로 정규화한 drift ratio를 사용하였으며, 앞서 정의한 입력변수는 식 (1)에, 출력변수는 식 (2)에 나타내었다.

    X = [ B L , B W , H , E c , GM ]
    (1)
    y = Δ max H
    (2)

    여기서 X 는 머신러닝 모델의 입력변수 벡터, B L 과 B W 는 각각 기둥 단면의 깊이와 폭, H 는 기둥 높이, E c 는 콘크리트 탄성계수, GM 은 지진파 조건을 의미한다. 출력변수 y 는 머신러닝 모델의 목표값인 drift ratio이며, Δ max 는 기둥 상단에서 발생한 최대변위이다.

    적용한 개별 머신러닝 모델의 전체 구성은 Fig. 5에 나타냈다. 개별 머신러닝 모델은 학습 구조에 따라 Bagging 계열, Boosting 계열, Kernel 기반 모델 및 신경망 기반 모델로 구분하였다. Bagging 계열로는 Random Forest[9]와 Extra Trees[20]로 구성하였으며, Boosting 계열은 XGBoost[21]와 Gradient Boosting[22] 모델을 적용하였다. 또한 Kernel 기반 회귀모델은 Support Vector Regression(SVR)[23], 신경망 기반 회귀모델로는 Multi-Layer Perceptron(MLP)[24]을 적용하였다. 각 모델은 동일한 입력변수와 출력변수를 사용하여 학습 및 평가하였으며, 이를 통해 모델 구조에 따른 drift ratio 예측성능을 비교하였다.

    Random Forest와 Extra Trees는 다수의 결정트리를 이용하여 예측값을 산정하는 Bagging 계열 앙상블 모델이다. 두 모델은 개별 트리의 구성 방식에는 차이가 있으나, 최종예측값은 식 (3)과 같이 다수의 결정트리 예측값을 평균하여 산정한다.

    y ^ = 1 M ∑ m = 1 M f m X
    (3)

    y ^ 는 머신러닝 모델에 의해 예측된 최대 drift ratio, M 은 결정트리의 개수, f m X 는 m번째 결정트리가 입력변수 X에 대해 산정한 예측값을 의미한다. Random Forest는 일반적으로 Bootstrap sampling을 통해 서로 다른 학습데이터를 구성하고 각 트리에서 최적의 분할 기준을 탐색한다. 반면 Extra Trees는 노드 분할 과정에 더 큰 무작위성을 부여하여 개별 트리 간 다양성을 증가시키는 특징이 있다.

    Gradient Boosting과 XGBoost는 이전 단계 모델의 예측오차를 순차적으로 보정하는 Boosting 계열 모델이다. Boosting 모델의 최종 예측값은 식 (4)와 같이 나타낼 수 있다.

    F M X = F 0 X + ∑ m = 1 M ν h m X
    (4)

    F M M 은 M개의 약한 학습기가 결합된 최종 예측모델, F 0 X 는 초기 예측모델, h m X 는 m번째 단계에서 추가되는 약한 학습기, ν 는 학습률, M은 Boosting 반복 횟수를 의미한다. Gradient Boosting은 이전 단계의 잔차를 줄이는 방향으로 약한 학습기를 순차적으로 추가한다. XGBoost는 이러한 Boosting 구조를 기반으로 하되, 정규화, 트리 성장 방식, 계산 효율성 및 범주형 변수 처리 방식 등에서 차이를 갖는다. 따라서 동일한 데이터베이스를 사용하더라도 각 Boosting 모델은 서로 다른 예측 특성을 보일 수 있다.

    Support Vector Regression(SVR)은 입력변수를 고차원 특징 공간으로 변환한 후, 일정 오차 범위 내에서 최적의 회귀함수를 찾는 Kernel 기반 회귀모델이다. SVR의 회귀함수는 식 (5)와 같이 표현할 수 있다.

    y ^ = f X = w T ϕ X + b
    (5)

    여기서 w 는 가중치 벡터, ϕ X 는 입력변수 X를 고차원 특징공간으로 변화하는 함수, b 는 편향항을 의미한다. SVR은 Kernel함수를 이용하여 비선형 회귀문제를 처리할 수 있으며, 제한된 데이터에서도 비교적 안정적인 예측성능을 보일 수 있다.

    Multi-Layer Perceptron(MLP)은 입력층, 은닉층 및 출력층으로 구성된 신경망 기반 회귀모델이다. MLP는 은닉층의 활성화 함수를 통해 입력변수와 출력변수 사이의 비선형 관계를 학습할 수 있다. 개별 은닉층을 갖는 MLP의 출력값은 식 (6)과 같이 나타낼 수 있다.

    y ^ = f 0 W 0 f h W h X + b h + b 0
    (6)

    여기서 W h 와 b h 는 각각 은닉층의 가중치 행렬과 편향벡터, W 0 와 b 0 는 각각 출력층의 가중치 행렬과 편향항을 의미한다. 또한 f h 는 은닉층의 활성화 함수, f 0 는 출력층의 활성화 함수이다. MLP는 복잡한 비선형 관계를 학습할 수 있다는 장점이 있으나, 학습데이터의 규모, 입력변수 스케일링 및 은닉층 구조에 따라 예측성능이 영향을 받을 수 있다.

    위의 개별 머신러닝 모델들을 동일한 학습 및 평가 조건에서 비교하였다. 지진하중을 받는 콘크리트 기둥의 최대 drift ratio 예측에 적합한 개별 모델을 검토하고, 이후 스태킹 앙상블 모델을 구성하기 위한 Base model 선정의 근거로 활용하였다.

    3.2 모델 학습 및 성능평가

    앞서 구축한 1,080개의 해석 데이터를 이용하여 머신러닝 기반 최대 drift ratio 예측모델을 학습하였다. 전체 데이터는 입력변수와 출력변수로 구분하였으며, 입력변수는 기둥 단면의 길이와 폭, 기둥 높이, 콘크리트 탄성계수 및 지진파 조건으로 구성하였다. 출력변수는 시간이력해석을 통해 산정된 기둥의 최대 drift ratio로 설정하였다. 구축된 데이터베이스는 모델 학습과 성능평가를 위해 Training 데이터와 Test 데이터로 구분하였다. 전체 데이터 중 90%를 Training 데이터로 사용하고, 나머지 10%를 Test 데이터로 사용하였다[25, 26]. Training 데이터는 각 머신러닝 모델의 학습에 사용되었으며, Test 데이터는 학습 과정에 사용되지 않은 독립적인 데이터로서 모델의 예측성능을 평가하는 데 사용하였다.

    6종의 개별 회귀 알고리즘은 모델별 학습 구조와 복잡도 제어 방식이 상이하므로, 각 모델의 특성에 적합한 Hyperparameter 설정이 요구된다[27, 28]. 이를 위해 해석 데이터베이스의 특성을 효과적으로 학습하고 모델의 일반화 성능을 확보하기 위해 RandomizedSearchCV를 이용한 Hyperparameter 최적화를 수행하였다. 각 알고리즘의 학습 특성을 고려하여 트리 개수, 최대 깊이, 학습률 등 예측성능에 영향을 미치는 주요 Hyperparameter를 탐색 범위로 설정하였으며, 5-fold cross-validation 결과 평균절대오차율(MAPE)이 가장 작게 나타나는 조합을 최적 Hyperparameter로 선정하였다[29, 30]. 각 모델에 적용된 탐색 범위와 최적 Hyperparameter는 Table 3에 정리하였다. 5-fold cross-validation은 전체 Train 데이터를 5개 부분집합으로 균등 분할하여 4개로 학습하고 나머지 1개로 검증하는 과정을 5회 반복하는 것을 의미한다. Hyperparameter 최적화 적용 전후의 성능 변화를 결정계수(R2), 평균절대백분율오차(MAPE), 평균제곱근오차(RMSE) 및 평균절대오차(MAE)를 기준으로 비교하였으며, 그 결과를 Table 4에 정리하였다.

    Tree 기반 모델(Random Forest, Extra Trees, XGBoost, Gradient Boosting)은 Hyperparameter 최적화 전 Baseline 조건에서도 결정계수(R2) 0.98 이상의 높은 예측 정확도를 나타냈으며, 튜닝 후 Random Forest를 제외한 나머지 모델에서 MAPE가 소폭 감소하였다. 반면, SVR은 Baseline 조건에서 R2이 -0.53, MAPE이 194.70%로 매우 낮은 예측 성능을 나타냈으나, Hyperparameter 최적화 후 R2은 0.98, MAPE은 17.89%로 성능이 크게 향상되었다. MLP 역시 MAPE가 61.00%에서 3.93%로 개선되었다. 이러한 결과는 모델 계열에 따라 Hyperparameter 최적화의 영향이 다르게 나타남을 보여준다.

    머신러닝 모델의 신뢰성을 검증하기 위해서는 학습데이터의 양이 충분한지, 그리고 모델이 과적합 없이 안정적으로 수렴하는지를 확인하는 것이 중요하다. 이를 위해 Learning Curve 분석을 수행하였다. Learning Curve는 Train 데이터의 크기를 점진적으로 증가시키면서 Train 성능과 검증 성능의 변화를 관찰하는 방법으로, 데이터 충분성 및 모델 수렴성을 평가하는 데 활용된다. 전체 Training 데이터(972개)의 약 10%에서 100%까지 5개 구간으로 Train 데이터 크기를 변화시키며, 앞서 기술한 5-fold validation을 적용하여 R2을 산정하였다. 본 수렴성 검증은 Hyperparameter 최적화가 완료된 조건을 기준으로 수행하였다.

    Fig. 6은 모델별 R2 Learning Curve를 나타낸다. Tree 기반 모델(Random Forest, Extra Trees, XGBoost, Gradient Boosting)은 Training 데이터에서 R2이 0.98 이상으로 안정적으로 수렴하는 경향을 보여 본 연구에서 고려한 학습데이터 수는 충분한 것으로 나타났다. SVR과 MLP는 Training 데이터 증가에 따라 검증 R2이 점진적으로 향상되었으며, 전체 Training 데이터 사용 시 각각 0.981, 0.984 수준으로 수렴하였다.

    Fig. 7은 Training 데이터의 R2와 Test 데이터의 R2의 차이(Gap)를 나타낸다. 5-fold Validation의 무작위 분할 특성으로 인해 일부 구간에서 소폭의 변동이 나타났으나, 전체적으로 데이터 증가에 따라 차이(Gap)가 감소하는 경향을 보였다. 전체 Train 데이터를 사용하는 조건에서 Tree 기반 모델의 Gap은 0.012~0.017 이내, SVR과 MLP는 각각 0.004, 0.004 수준으로 나타나 모든 모델에서 과적합이 발생하지 않음을 확인하였다. 이러한 결과로부터 앞서 구축한 1,080개의 해석 데이터베이스는 머신러닝 모델 학습에 충분한 양임을 확인하였으며, 모든 모델이 과적합 없이 안정적으로 수렴함을 보였다.

    4. Stacking 앙상블 모델의 구성 및 예측성능 평가

    4.1 Stacking 앙상블 모델 구성

    Stacking 앙상블의 예측 성능은 Base 모델의 개별 성능뿐만 아니라 Base 모델 간의 학습 구조 다양성에 의해 영향을 받는 것으로 알려져 있으며[31], 학습 구조의 다양성이 클수록 메타모델이 각 모델의 예측 특성을 상호 보완적으로 결합할 수 있다. 3.3장의 개별 모델 성능 비교 결과 Tree 기반 모델이 전반적으로 높은 예측 성능을 나타냈으며 그 중 Extra Trees와 XGBoost가 MAPE 기준으로 높은 성능을 보였다. Extra Trees는 Bagging 계열 모델로 다수의 결정트리를 독립적으로 학습하는 반면, XGBoost는 Boosting 계열 모델로 이전 단계의 오차를 순차적으로 보정하는 방식으로 동작한다. 두 모델은 서로 다른 학습 구조를 가지므로 예측 특성의 다양성이 확보되며, 이를 고려하여 본 연구에서는 Extra Trees와 XGBoost를 Stacking 앙상블 모델의 Base 모델로 선정하였다.

    Stacking 앙상블에서 메타모델은 Base 모델의 예측값을 입력으로 받아 최종 예측을 수행하는 역할을 한다. 선형 계열 메타모델은 각 Base 모델의 예측값에 가중치( β )를 부여하여 선형 결합하는 방식으로 최종예측값을 산정하며, 이때 계수의 크기는 각 Base 모델이 최종 예측에 기여하는 정도를 나타낸다. 적절한 메타모델의 선정은 스태킹 앙상블의 예측 성능에 직접적인 영향을 미치므로, 4종류의 선형 계열 메타모델(Linear Regression, RidgeCV, LassoCV, ElasticNetCV)을 비교하였다.

    Table 5는 메타모델별 성능 비교 결과를 나타낸다. 4종 모두 R2은 0.99 이상의 높은 예측 성능을 나타냈으며, MAPE 기준으로 RidgeCV가 2.68%로 가장 낮은 오차율을 달성하였다. 계수 분석 결과 RidgeCV는 Extra Trees와 XGBoost의 계수를 각각 0.443( β ET ), 0.556( β XGB )으로 균형 있게 유지하여 두 Base 모델의 예측 정보를 효과적으로 결합하는 것으로 나타났다. 이에 따라 본 연구에서는 RidgeCV를 최종 메타모델로 선정하였다.

    일반적인 Stacking 앙상블은 Base 모델의 예측값만을 메타모델의 입력으로 사용하므로, Base 모델이 포착하지 못한 입력변수와 출력변수 간의 잔여 패턴은 메타모델이 직접 보완하기 어렵다는 한계가 있다. 이를 보완할 수 있는 방법으로 Base 모델의 예측값과 함께 원본 입력변수를 메타모델에 추가로 전달하는 Passthrough 기법이 활용되며, 본 연구에서는 이 기법의 적용 여부에 따른 성능 변화를 비교하였다. Table 6은 Passthrough 적용 전후의 성능 비교 결과를 나타낸다. Passthrough를 적용하지 않은 경우 MAPE는 2.76%였으나, 적용한 경우 MAPE는 3.15%로 오히려 증가하였다. 이는 본 연구의 Base 모델인 Extra Trees와 XGBoost가 비선형적인 입력-출력 관계를 이미 충분히 학습하였기 때문으로 판단된다. 즉 원본 입력변수를 추가로 전달하더라도 Base 모델 예측값과 정보가 상당 부분 중복되며, 선형 구조를 갖는 RidgeCV 메타모델은 이 중복 정보를 새로운 설명력으로 전환하지 못하고 오히려 Base 모델 예측값의 비중만 희석시킨 것으로 해석된다. Train-Validation gap은 두 조건 모두 0.01로 동일하여 과적합 측면에서는 차이가 없었으나, 예측 정확도 측면에서는 Passthrough 미적용의 경우에서 높은 성능을 보였다. 이에 따라 최종 Stacking 앙상블 모델에는 Passthrough를 적용하지 않았다.

    앞서 기술한 바와 같이 스태킹 앙상블의 Out-of-Fold(OOF) 예측값 산정 및 Hyperparameter 최적화 과정에서 5-fold Validation을 적용하였다. 교차 검증의 Fold 수가 증가할수록 검증 데이터의 높은 대표성이 향상되지만 계산 비용 또한 증가함으로 적절한 Fold 수의 선택이 필요하다. 이에 5-fold와 10-fold 교차 검증을 비교하여 현재 데이터 규모에서 5-fold 교차 검증이 충분한지 검토하였다. Table 7은 교차 검증 Fold 수에 따른 Stacking 앙상블의 성능 비교 결과를 나타낸다. 5-fold와 10-fold 교차 검증의 R2은 모두 0.99로 동일하였으며, MAPE 차이는 0.02% 이내로 차이가 없었다. 이는 Train 데이터(972개) 규모에서는 5-fold 교차 검증만으로도 충분한 검증 대표성이 확보됨을 의미한다.

    앞서 수행한 검토 결과를 종합하여 본 연구에서는 Extra Trees와 XGBoost를 Base 모델로, RidgeCV를 메타모델로 선정하였으며, Passthrough를 적용하지 않고 Base 모델의 예측값만을 메타모델에 전달하는 구조로 구성하였다. 또한 Out-of-Fold(OOF) 예측값 산정 시 5-fold 교차 검증을 적용하였다. 최종적으로 구성된 Stacking 앙상블 모델의 학습 절차는 Fig. 8과 같다.

    4.2 앙상블 모델의 예측성능 평가

    Fig. 9 및 Table 8은 최종 최적화 조건에서의 대표 모델별 예측 성능 비교 결과를 나타낸다. Bagging 계열의 Extra Trees(MAPE 3.41%)와 Boosting 계열의 XGBoost(MAPE 3.14%)는 Tree 기반 모델 중 예측 성능을 높게 나타냈다. 신경망 기반의 MLP는 MAPE 3.93%로 Tree 기반 모델과 유사한 수준의 성능을 달성하였으나, Kernel 기반의 SVR은 MAPE 17.89%로 다른 모델 대비 상대적으로 높은 오차율을 나타냈다. Stacking 앙상블은 MAPE 2.68%로 비교 모델 중 가장 낮은 오차율을 달성하였으며, Train-Test 성능 차이(Gap) 또한 0.001로 안정적인 모델 안정도를 보였다. 산점도에서는 모든 모델이 예측선 주변에 유사한 분포를 나타냈으나, Table 8의 정량적 지표를 통해 비교하면 Stacking 앙상블은 Extra Trees, XGBoost, MLP 대비 각각 0.73%, 0.46%, 1.25% 낮은 오차율을 보였다.

    개별 머신러닝 모델 및 Stacking 앙상블 모델의 예측 성능이 기둥의 형상 변수에 따라 어떻게 변화하는지를 평가하기 위해 기둥 높이, 단면 크기, 형상비(Aspect ratio, H B ) 구간별 MAPE를 비교하였다. 형상비 계산 시 단면 크기는 지진 입력방향의 길이( B L )로 하였다. 각 변수는 Test 데이터의 분포를 고려하여 구간을 분할하였으며, 구간별 MAPE 비교 결과는 Figs. 10~12에 나타내었다. 비교 대상 모델은 Tree 기반 모델 중 가장 성능이 뛰어난 Extra Trees와 XGBoost, 신경망 기반의 MLP, 그리고 Stacking 앙상블로 선정하였다. SVR은 Table 8에서 확인된 바와 같이 전체 MAPE가 17.89%로 다른 모델 대비 현저히 높게 나타나 비교 대상에서 제외하였다.

    Fig. 10은 기둥 높이 구간별 모델별 MAPE 비교 결과를 나타낸다. 개별 모델들은 서로 다른 높이 구간에서 각기 다른 양상을 보였다. Extra Trees는 2~3 m 구간에서 평균 MAPE 2.94%로 가장 높은 오차를 나타냈으나 높이가 증가할수록 4~5 m 구간에서 1.62%까지 감소하였다. 반면 MLP는 4~5 m 구간에서 평균 MAPE 3.96%, 편차 2.29%로 전 구간 중 가장 불안정한 성능을 보였다. 이는 전체 입력공간에 대해 하나의 전역 가중치를 공유하는 함수를 적용하여 최종 예측값을 도출하는 MLP 모델의 특징에 기인한 것으로 판단된다. 이처럼 개별 모델의 취약 구간이 서로 다르게 나타나는 가운데, Stacking 앙상블은 전 구간에서 1.40%~1.92% 수준으로 가장 낮은 평균 MAPE를 유지하였다. 이는 Base 모델인 Extra Trees와 XGBoost의 예측이 서로 다른 높이 구간에서 상호 보완적으로 작용하여, 특정 구간에 대한 개별 모델의 취약점이 앙상블 과정에서 완화되었음을 의미한다.

    Fig. 11은 단면 크기 구간별 모델별 MAPE 비교 결과를 나타낸다. Extra Trees는 0.3×0.3 m 및 0.6×0.5 m 구간에서 각각 1.35%, 1.83%로 가장 낮은 오차를 나타낸 반면, MLP는 같은 구간에서 각각 2.78%, 3.19%로 다른 모델 대비 가장 높은 오차를 보여 두 모델 간의 성능 격차가 구간에 따라 확대되는 양상을 나타냈다. 다만 구간 간 변동성 측면에서는 MLP가 10.0%로 가장 낮게 나타났는데, 이는 MLP의 절대 오차 수준 자체가 전 구간에서 비교적 높게 유지되어 구간별 상대적 편차가 작게 산정된 결과로 해석된다. 반면 Extra Trees와 XGBoost는 절대 오차는 낮은 수준을 유지하였으나 단면 크기에 따른 성능 편차는 상대적으로 크게 나타났다. Stacking 앙상블은 절대적인 평균 MAPE(1.19%~1.93%) 측면에서 모든 구간에서 가장 높은 성능을 나타내어, 개별 모델의 이러한 상반된 경향을 효과적으로 절충하였음을 확인하였다.

    Fig. 12는 형상비 구간별 모델별 MAPE 비교 결과를 나타낸다. XGBoost는 형상비 12-15 구간에서 평균 MAPE 3.69%로 가장 불안정하였고, MLP는 2.5-4 및 12-15 구간에서 각각 3.27%, 3.48%로 형상비가 작거나 큰 극단적인 구간에서 취약성을 보였다. 반면 Extra Trees는 형상비가 15-20 구간에서 1.36%로 가장 낮은 오차를 기록하며 극단적인 형상비 구간에서 비교적 안정적인 성능을 유지하였다. 이처럼 형상비가 극단적인 구간(0~4, 12~15, 15~20)에서 모델별 강약이 뚜렷하게 교차하는 가운데, Stacking 앙상블은 해당 구간들에서도 1.17%~2.18% 수준의 평균 MAPE를 유지하며 개별 모델 대비 가장 낮은 오차를 나타냈다. 특히 15~20 구간에서는 평균 1.17%, 편차 0.80%로 절대 오차와 변동성 모두에서 가장 높은 성능 결과를 보였다.

    세 가지 형상 변수(높이, 단면, 형상비)에 대한 분석을 종합하면, 개별 모델은 특정 구간에서는 높은 성능을 보이지만 다른 구간에서는 상대적으로 취약한 구간 의존적 특성을 나타냈으며, 이러한 취약 구간은 모델마다 서로 다르게 나타났다. Stacking 앙상블은 특정 구간에서 항상 가장 낮은 변동성을 보이는 것은 아니었으나, 모든 형상 변수 구간에서 일관되게 가장 낮은 평균 MAPE를 달성하였다. 이는 Base 모델인 Extra Trees와 XGBoost가 서로 다른 형상 조건에서 상호 보완적인 예측 특성을 가지며, 메타모델인 RidgeCV가 이를 효과적으로 결합함으로써 개별 모델의 구간별 취약점을 완화하고 전반적인 예측 정확도를 향상시켰음을 의미한다.

    5. 결 론

    본 연구에서는 지진하중을 받는 콘크리트 기둥의 최대 변위응답을 예측하기 위해 유한요소 시간이력해석 기반의 데이터베이스를 구축하고, 6개의 개별 머신러닝 모델과 스태킹 앙상블 모델의 예측 성능을 비교 분석하였다. 콘크리트 기둥의 최대 변위응답 예측을 위해 단면 크기, 기둥 높이, 탄성계수 및 지진파 조건을 입력변수로 구성하였다. 본 연구를 통한 결론은 다음과 같다.

    • Hyperparameter 최적화 적용 결과, Tree 기반 모델은 기본 조건에서도 MAPE 3~4% 수준의 안정적인 성능을 유지한 반면, SVR과 MLP는 최적화 전 대비 오차율이 크게 감소하였다. 특히 SVR은 MAPE가 194.70%에서 17.89%로, MLP는 61.00%에서 3.93%로 개선되어 모델 계열에 따라 Hyperparameter 최적화의 영향이 상이함을 확인하였다.

    • Extra Trees와 XGBoost를 Base 모델로 하는 스태킹 앙상블을 구성하였으며, 메타모델 비교 결과 RidgeCV가 가장 낮은 MAPE를 나타내어 메타모델로 채택하였다. 이후 Passthrough 적용 여부와 교차 검증 Fold 수에 대한 검토를 통해 Base 모델의 예측값만을 메타모델에 전달하는 5-fold 구성이 가장 적합함을 확인하였으며, 최종 모델은 MAPE 2.68%, Train R2-Test R2 성능 차이 0.001로 안정적인 성능을 보였다.

    • 구간별 성능 분석 결과, Stacking 앙상블은 기둥 높이, 단면 크기, 형상비 등 다양한 형상 변수 범위에서 개별 모델 대비 전반적으로 낮은 평균 MAPE를 나타내었다. 개별 모델은 형상 변수에 따라 서로 다른 구간에서 취약점을 보였으나, Stacking 앙상블은 Base 모델 간의 상호 보완을 통해 이러한 구간별 취약점을 완화하여 형상 변수 변화에 대해 안정적인 예측 성능을 보였다.

    본 연구에서는 대상 기둥의 재료를 탄성 거동으로 가정하였으며, 철근과 관련된 설계 변수를 고려하지 않았다. 이러한 한계점을 보완하기 위해서는 콘크리트의 다양한 압축강도와 이에 따른 탄성계수를 변수로 추가하여야 하며, 주철근과 띠철근의 경우 다양한 항복강도와 배치 간격, 피복 두께를 고려할 필요가 있다. 또한 기둥의 다양한 진동수 범위를 고려하여 입력 지진파의 종류 및 수를 적절하게 늘릴 필요가 있다.

    / 감사의 글 /

    본 연구는 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원(No. RS-2023-00273502)을 받아 수행된 연구이며 이에 감사드립니다.

    Figure

    EESK-30-5-211_F1.jpg

    Representative 3-D finite element model of the concrete column

    EESK-30-5-211_F2.jpg

    Acceleration time histories of the earthquake ground motions

    EESK-30-5-211_F3.jpg

    Representative displacement response time histories

    EESK-30-5-211_F4.jpg

    Distribution of peak drift ratio

    EESK-30-5-211_F5.jpg

    Schematic configuration of machine learning models used to predict the drift ratio of concrete columns

    EESK-30-5-211_F6.jpg

    Learning curve analysis of machine learning models for drift ratio

    EESK-30-5-211_F7.jpg

    Train-Test Gap as a function of training sample size

    EESK-30-5-211_F8.jpg

    Schematic configuration of the Stacking Ensemble model for drift ratio prediction

    EESK-30-5-211_F9.jpg

    Comparison of predicted and actual drift ratio

    EESK-30-5-211_F10.jpg

    MAPE comparison by column height for machine learning models

    EESK-30-5-211_F11.jpg

    MAPE comparison by cross section for machine learning models

    EESK-30-5-211_F12.jpg

    MAPE comparison by aspect ratio for machine learning models

    Table

    Input variables used to construct the analysis database
    Characteristics of earthquake ground motions
    Search ranges and optimal hyperparameters of the individual machine learning models
    Comparison of model performance before and after hyperparameter optimization
    Performance comparison of meta models for Stacking Ensemble (test set)
    Effect of input variables passthrough on stacking ensemble performance
    Effect of cross-validation fold number on stacking ensemble performance (Test set)
    Performance of machine learning models (Test set)

    Reference

    1. American Society of Civil Engineers (ASCE). Minimum Design Loads and Associated Criteria for Buildings and Other Structures (ASCE/SEI 7-22). Reston: American Society of Civil Engineers; c2022.
    2. Ministry of Land, Infrastructure and Transport (MOLIT). Korean Design Standard for Seismic Design of Buildings (KDS 41 17 00). Sejong: Ministry of Land, Infrastructure and Transport; c2019.
    3. Xie Y, Ebad Sichani M, Padgett JE, DesRoches R. The promise of implementing machine learning in earthquake engineering: A state-of-the-art review. Earthq Spectra. 2020;36(4):1693-1721.
    4. Kazemi F, Asgarkhani N, Jankowski R. Machine learning-based seismic response and performance assessment of reinforced concrete buildings. Arch Civ Mech Eng. 2023;23(2):94.
    5. Demir A. Advanced tree-based machine learning methods for predicting maximum drift ratio of regular and vertically irregular RC frames. Structures. 2024;64:106524.
    6. Mangalathu S, Jeon JS. Classification of failure mode and prediction of shear strength for reinforced concrete beam-column joints using machine learning techniques. Eng Struct. 2018;160:85-94.
    7. Koodiani HK, Jafari E, Majlesi A, Shahin M, Matamoros A, Alaeddini A. Machine learning tools to improve nonlinear modeling parameters of RC columns. J Build Eng. 2024;84:108492.
    8. Wolpert DH. The lack of a priori distinctions between learning algorithms. Neural Comput. 1996;8(7):1341-1390.
    9. Breiman L. Random forests. Mach Learn. 2001;45(1):5-32.
    10. Prokhorenkova L, Gusev G, Vorobev A, Dorogush AV, Gulin A. CatBoost: Unbiased boosting with categorical features. Adv Neural Inf Process Syst. 2018;31:6639-6649.
    11. Ke G, Meng Q, Finley T, Wang T, Chen W, Ma W, Ye Q, Liu TY. LightGBM: A highly efficient gradient boosting decision tree. Adv Neural Inf Process Syst. 2017;30:3149-3157.
    12. Grinsztajn L, Oyallon E, Varoquaux G. Why do tree-based models still outperform deep learning on typical tabular data. Adv Neural Inf Process Syst. 2022;35:507-520.
    13. Kazemi F, Asgarkhani N, Jankowski R. Optimization-based stacked machine-learning method for seismic probability and risk assessment of reinforced concrete shear walls. Expert Syst Appl. 2024;255:124897.
    14. Khoshkroodi A, Mangalathu S, Burton HV. Stacking ensemble-based machine learning model for predicting deterioration components of steel W-section beams. Buildings. 2024;14(1):240.
    15. Dassault Systemes. Abaqus Analysis User’s Guide (Version 2021). Providence: Dassault Systemes Simulia Corp; c2020.
    16. Lee CS, Mangalathu S, Jeon JS. Machine learning-assisted drift capacity prediction models for reinforced concrete columns with shape memory alloy bars. Comput Aided Civ Infrastruct Eng. 2024;39(4):595-616.
    17. Ding Y, Wu D, Su J, Li ZX, Zong L, Feng K. Experimental and numerical investigations on seismic performance of RC bridge piers considering buckling and low-cycle fatigue of high-strength steel bars. Eng Struct. 2021;227:111464.
    18. Peng W, Lu W, Liu S, Liu Y, Xu L, Li F. Experimental studies on the seismic performance of socket bridge pier with connection reinforcement. Structures. 2025;71:108040.
    19. Li Y, Sun D, Dai J. Experimental study on seismic performance of bridge pier with new HRB650E high-strength steel bar. Structures. 2024;70:107650.
    20. Geurts P, Ernst D, Wehenkel L. Extremely randomized trees. Mach Learn. 2006;63(1):3-42.
    21. Chen T, Guestrin C. XGBoost: A scalable tree boosting system. In: Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; c2016. p. 785-794.
    22. Friedman JH. Greedy function approximation: A gradient boosting machine. Ann Stat. 2001;29(5):1189-1232.
    23. Smola AJ, Schölkopf B. A tutorial on support vector regression. Stat Comput. 2004;14(3):199-222.
    24. Goodfellow I, Bengio Y, Courville A. Deep Learning. Cambridge: MIT Press; c2016.
    25. Joseph VR. Optimal ratio for data splitting. Stat Anal Data Min. 2022;15:531-538.
    26. Nguyen QH, Ly HB, Ho LS, Al-Ansari N, Le HV, Tran VQ, Prakash I, Pham BT. Influence of data splitting on performance of machine learning models in prediction of shear strength of soil. Math Probl Eng. 2021;2021:4832864.
    27. Bergstra J, Bengio Y. Random search for hyper-parameter optimization. J Mach Learn Res. 2012;13(2):281-305.
    28. Bischl B, Binder M, Lang M, Pielok T, Richter J, Coors S, Thomas J, Ullmann T, Becker M, Boulesteix AL, Deng D, Lindauer M. Hyperparameter optimization: Foundations, algorithms, best practices, and open challenges. WIREs Data Min Knowl Discov. 2023;13(2):e1484.
    29. Kohavi R. A study of cross-validation and bootstrap for accuracy estimation and model selection. In: Proceedings of the 14th International Joint Conference on Artificial Intelligence (IJCAI); c1995. p. 1137-1143.
    30. Brown G, Wyatt J, Harris R, Yao X. Diversity creation methods: A survey and categorisation. Inf Fusion. 2005;6(1):5-20.
    31. Kim S, Noh I, Yu J. A stacking heterogeneous ensemble learning method for the prediction of building construction project costs. Appl Sci. 2022;12(19):9729.
    Journal Abbreviation J. Earthq. Eng. Soc. Korea
    Frequency Bimonthly
    Doi Prefix 10.5000/EESK
    Year of Launching 1997
    Publisher Earthquake Engineering Society of Korea
    Indexed/Tracked/Covered By