[📰논문] TabPFN-2.5

[익명(wanted7407)]

-

A new version of TabPFN is ready! 

When we released TabPFNv1 over three years ago, I didn’t expect at all the hundreds of comments and reposts we would see. Tabular data had been a field getting little love from AI research—but we immediately felt that this was a topic that data scientists, scientists, financial analysts, and enterprise users deeply cared about, and that using in-context learning could be a breakthrough for it.

We kept pushing: v2 landed in Nature earlier this year, and we started Prior Labs so we could obsess over this full-time.  

Now, with TabPFN-2.5, we were honestly surprised by how much further we could go.  

On datasets up to 50,000 datapoints and 2000 features, its untuned performance now far outperforms tuned XGBoost and CatBoost. It even matches a 4-hour tuned AutoGluon ensemble - an ensemble that includes our previous v2 model. 

We also focused a lot on making models deployment-ready: We show how to export our models to a tree or MLP representation (TabPFN-as-MLP in the plot below), making them fast in inference and easy to deploy. At the same time, we improved our Python SDK (a lot!) running TabPFN in the cloud, and added a REST API for developers to access the model from anywhere.  

We are incredibly proud by the ways TabPFN has already helped in science and decision-making, from oncology to climate research (over 400 citations and 100 published use cases since beginning of the year!). 

This new release will immediately boost all those applications - for example, our report shows v2.5 is much stronger for causal inference tasks.  

It's amazing to see the field accelerating. We can't wait to show you what's next.

TabPFN의 새 버전이 나왔습니다!

3년 전 TabPFN v1을 공개했을 때, 이렇게 수백 개의 댓글과 리포스트가 달릴 줄은 전혀 예상하지 못했습니다. 당시 표(tabular) 데이터는 AI 연구에서 거의 외면받던 분야였지만, 우리는 즉시 데이터 사이언티스트, 과학자, 금융 분석가, 기업 사용자들이 이 주제에 얼마나 깊은 관심을 가지고 있는지 느낄 수 있었습니다. 그리고 ‘인컨텍스트 러닝’을 통해 이 분야를 완전히 바꿀 수 있다는 가능성도 보였죠.

우린 멈추지 않았습니다.

올해 초 Nature에 실린 v2를 통해 한 단계 더 나아갔고, 이 프로젝트에 전념하기 위해 Prior Labs를 설립했습니다.

그리고 이제 TabPFN-2.5를 공개합니다.

솔직히, 우리가 예상한 것보다 훨씬 더 큰 도약이었습니다.

5만 개의 데이터 포인트와 2000개의 피처를 가진 데이터셋에서도, 하이퍼파라미터 튜닝을 하지 않은 상태로도 튜닝된 XGBoost와 CatBoost를 능가합니다. 심지어, 4시간 동안 튜닝한 AutoGluon 앙상블(거기엔 TabPFN v2도 포함돼 있음)과 거의 동일한 성능을 냅니다.

이번에는 배포 준비에도 집중했습니다.

모델을 트리나 MLP 형태로 내보내기(TabPFN-as-MLP) 기능을 추가해, 추론 속도를 높이고 배포를 단순화했습니다. 또한 Python SDK를 대폭 개선해 클라우드에서 TabPFN을 실행할 수 있게 했고, REST API도 새로 만들어 어디서든 모델을 쓸 수 있습니다.

올해에만 이미 400편 이상의 인용과 100건이 넘는 실제 응용 사례가 나왔습니다 — 암 연구부터 기후 연구까지 다양하죠.

이번 v2.5는 특히 인과추론(causal inference) 작업에서 훨씬 더 강력한 성능을 보입니다.

이 분야가 가속하고 있다는 게 실감납니다.

그리고 아직 보여드릴 게 많습니다.

- dc official App

[익명(wanted7407)]

x.com/noahholl/status/1986473788360269856?s=46&t=wb8N3QmbKOwoEwsZ5Tg61g - dc App