구글 TabFM 공개, 학습 없이 표 데이터를 예측하는 파운데이션 모델의 등장
정형 데이터를 다루는 실무자라면 매번 반복되는 피처 엔지니어링과 하이퍼파라미터 튜닝에 지쳐본 경험이 있을 것이다. 구글 리서치는 2026년 6월 30일, 이 과정을 생략하고 곧바로 예측값을 뽑아내는 파운데이션 모델 TabFM을 공개했다. 이번 포스팅에서는 TabFM의 작동 원리와 벤치마크 성적, 그리고 실무 통합 계획까지 살펴본다.
TabFM은 어떻게 작동하는가
TabFM은 표 형식 데이터의 예측을 인컨텍스트 학습 문제로 재정의한 모델이다. 학습 예시와 예측할 행을 하나의 컨텍스트로 함께 읽어들이고, 추론 과정에서 열과 행 사이의 관계를 해석한 뒤 단일 순전파로 예측값을 생성한다. 새로운 데이터셋을 다룰 때도 별도의 피처 엔지니어링이나 하이퍼파라미터 튜닝, 학습 실행이 필요하지 않다.
하이브리드 아키텍처의 구조
TabFM의 아키텍처는 세 단계로 구성된다. 먼저 TabPFN 방식을 참고해 원시 테이블 데이터에 행과 열 어텐션을 교차 적용하고, 각 행을 하나의 밀집 벡터로 압축한다. 이후 TabICL 방식을 따르는 전용 트랜스포머가 압축된 표현들에 대해 인컨텍스트 학습을 수행한다. 연구 과학자 Weihao Kong과 Abhimanyu Das는 구조적 인과 모델을 활용해 동적으로 생성한 수억 개의 합성 데이터셋으로 모델을 완전히 학습시켰다. 이 방식으로 오픈소스 환경에서 고품질 표 형식 데이터셋이 부족하다는 근본적인 문제를 우회했다.
TabArena 벤치마크 성적
TabFM은 TabArena에서 상위권 성적을 기록했다. TabArena는 Elo 점수 시스템으로 38개의 분류 데이터셋과 13개의 회귀 데이터셋을 평가하는 지속 업데이트형 벤치마크이며, 샘플 규모는 700개에서 150,000개까지 다양하다. 기본 버전인 TabFM은 분류와 회귀 두 부문 모두 2위를 기록했고, 크로스 피처와 SVD 특징, 비음수 최소자승법 솔버, 플랫 스케일링까지 적용한 강화판 TabFM-Ensemble은 두 부문 모두 1위를 차지했다. 모델 가중치는 비상업적 라이선스 조건으로 Hugging Face에서 제공되며, 실행 코드와 예제는 Apache 2.0 라이선스로 GitHub에 공개되어 있다.
BigQuery 통합이 갖는 실무적 의미
구글은 앞으로 몇 주 안에 TabFM을 BigQuery에 통합할 계획이라고 밝혔다. 통합이 완료되면 사용자는 단일 AI.PREDICT SQL 명령어만으로 제로샷 분류와 회귀 분석을 실행할 수 있게 된다. 별도의 AutoML 파이프라인을 구성하지 않아도 기존 쿼리 작업과 동일한 인터페이스에서 이탈 예측이나 사기 탐지 같은 예측 모델을 빠르게 프로토타이핑할 수 있다는 점이 특히 주목할 만하다.
서버 인프라 유지보수 현장에서도 이런 변화는 시사점이 크다. 부품 장애 이력이나 로그 데이터를 별도의 ML 파이프라인 구축 없이 즉시 예측에 활용할 수 있다면, 장애 예측이나 부품 교체 주기 예측 같은 작업의 진입장벽이 크게 낮아질 수 있기 때문이다. 다만 모델 가중치가 비상업적 라이선스로 제공되는 만큼, 상용 서비스에 바로 적용하기 전에는 라이선스 조건을 반드시 확인할 필요가 있다.
마무리
이번 포스팅에서 다룬 TabFM의 핵심 내용을 정리하면 다음과 같다.
- TabFM은 데이터셋별 학습 없이 인컨텍스트 학습만으로 표 형식 데이터의 분류와 회귀를 수행하는 파운데이션 모델이다.
- TabArena 벤치마크에서 앙상블 버전이 분류와 회귀 부문 모두 1위를 기록하며 기존 튜닝된 모델들과 경쟁할 만한 성능을 입증했다.
- BigQuery 통합이 완료되면 SQL 명령어만으로 예측 모델을 프로토타이핑할 수 있어 정형 데이터 분석의 진입장벽이 낮아질 전망이다.
출처: MarkTechPost (원문 링크), Google Research 공식 블로그 발표 기준
댓글
댓글 쓰기