[📪정보] 생각의 나무(Tot) 근황

[부패하는유전자..(sansss2015)]

https://arxiv.org/abs/2309.07694

1) 최근에 도입된 Tree of Thoughts(ToT)는 LLMs가 전역적 결정을 위해 전망과 백트래킹을 통해 추론할 수 있도록 했지만, 중간 결정 포인트에서의 지역적 불확실성을 간과하였습니다.

2) 이 중요한 차이를 해결하기 위해, 우리는 LLMs를 위한 추론 프레임워크인 Tree of Uncertain Thoughts(TouT)를 소개합니다. TouT는 Monte Carlo Dropout을 활용하여 중간 단계에서 LLMs의 다양한 지역 응답과 관련된 불확실성 점수를 정량화합니다.

3) 이 지역 불확실성 정량화와 전역 검색 알고리즘을 결합함으로써, TouT는 모델의 응답 생성에서의 정밀도를 향상시킵니다. Game of 24와 Mini Crosswords와 같은 두 가지 계획 작업에서의 실험은 TouT의 우월성을 강조합니다.

(TouT) 됨

- dc official App

[익명(183.103)]

우는 돼지로 바꼈네

[부패하는유전자!!!(sansss2015)]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ - dc App

[익명(61.101)]

ㅅㅂ ㅋㅋㅋ

[익명(rty1x21s8nhq)]

응애. 너무 어려워. 더 풀어서 설명해 "줘"

[부패하는유전자!!!(sansss2015)]

https://m.dcinside.com/board/thesingularity/159710
- dc App

[부패하는유전자!!!(sansss2015)]

추론 900% 향상 되는데 비용은 많이 잡아먹는 추론 기법이 (TOT)고 저건 더 향상된 버전인가봐 - dc App

[익명(rty1x21s8nhq)]

체고야.. tot는 알았는데 글 내용이 잘 이해가 안되더라구. 도식도 다시 보니깐 이해했어!>.<

[익명(rty1x21s8nhq)]

[부패하는유전자!!!(sansss2015)]

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[부패하는유전자!!!(sansss2015)]

[익명(rechido)]

[익명(landofooo)]

특갤 ㄱ뒤집어졌다