[📪정보] OAI 연구결과: 추론시간 컴퓨팅으로 '헷갈림' 해결 가능성 제시

[아스타리온(attempt1316)]

https://openai.com/index/trading-inference-time-compute-for-adversarial-robustness/

지금까지의 AI는 인간의 눈으로는 감지할 수 없는 미묘한 변화(일러스트에 AI전용 독 타고 그러는것들을 말하는듯)만 있어도 진짜와 가짜를 구분하지 못하고 헷갈려했으며, 이런 단점 해결은 에이전트 보급을 위해 반드시 해결해야했지만 그게 쉽지 않았다고 함

얼마나 어려웠냐면 AI의 다른 문제점들과는 달리 모델 크기를 늘리는 것만으로는 충분하지 않았고, 해당 분야 전문가 Nicholas Carlini는 최근에 이렇게 발표했다고 함: "10년 동안 적대적 머신 러닝에서 9000편 이상의 논문을 썼으나 아무 진전도 없었다."

하지만 추론 시간 컴퓨팅 증가, 즉 추론 모델에 '생각'할 시간과 리소스를 더 많이 제공하여 개선할 수 있다는 새로운 연구 결과가 나왔음

추론 중에 컴퓨팅을 조정할 수 있는 o1-preview 및 o1-mini와 같은 모델들이 사용 가능한 방식이며 종종 0에 가깝게 감소하기까지 하는 성과를 거둠

다만 100% 해결된게 아니라 '적어도 현재까지는' 이런 단점들이 존재함

1. 몇몇 경우에는 헷갈리는게 처음엔 증가하다가 감소

2. 더 많은 시간을 제공해도 성공률이 감소하지 않는 경우가 있음

3. OAI가 모델 추론 시간 제어 시스템을 아직 완벽하게 설계하지 못함

다만 그렇다고 해서 상황이 완전히 노답인건 아님

해당 논문에서 OAI는 모델이 직접 할당된 컴퓨팅을 "현명하게" 사용하도록 가르치는 걸 탐구해보지 않았고 가장 단순한 방식(논문에 설명된 방식)으로만 연구한 것이기 때문

그렇기에 OAI는 이게 AI의 헷갈림을 개선시키기에 유망하다고 생각한다고 함

* 이 요약에서 사용한 '헷갈림'이란 단어는 가짜 정보를 보다 더 쉽고 명확하게 느낄 수 있게 내가 임의적으로 고른 단어이지 원문에 그렇게 써져있는것은 아니며 전공자가 아니라 잘못 써진 부분이 있을 수 있다는거 참고해주셈

보너스 TMI)

지미애플은 해당 연구결과를 흥미롭고 고무적이라고 평가한 Greg Brockman에게

당신과 코딩이란 존재와 비슷하다 (Similar to you and koding)

라는 의미심장한 말을 남김

[바다기린(hancomputer)]

겨울이다 돔황챠!!!!!

[아스타리온(attempt1316)]

아냐 제일 단순한 방식으로만 연구했댔으니 겨울 아니야 가지마!!!!

[아스타리온(attempt1316)]

수정) 지미애플 TMI 추가

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

메타인지로 이걸로 충분한가

[아스타리온(attempt1316)]

메타인지랑은 별개같은데 좀 연관성이 있는거같기도 하고 잘 모르겠네

[ㅇㅇㅇㅇㅇ(lsh0320jpgpw)]

이해를 ㅈㄴ 잘못하긴 했음 내가 ttc만으로 메타인지적 기능을 어느 정도 자연히 구현 가능하다는 한 가지 예로 해석할 수 있지 않나 싶긴 함