[📪정보] 언어모델, 타 언어에 대해서 퓨샷러닝 가능성 확인

[스월빙(wkd48632)]

논문:

https://arxiv.org/abs/2109.07684

구글 브레인이 GPT와 T5모델에서 퓨샷러닝 가능성을 발견했다.

(퓨샷러닝: 약간의 학습으로 일을 배우는 능력)

영어를 가르친 언어 인공지능에 독일어를 노출시킨 뒤 문제해결 능력을 측정한 결과 무작위 상태에서 독일어만 노출시킨 경우보다 더 좋은 결과를 내는 모습을 발견했다.

이 결과를 통해, GPT등의 언어 모델을 학습시킨 뒤 다른 언어로 이식하는 과정이 예상보다 쉬울 것으로 보인다고 논문은 전했다.

[스월빙(wkd48632)]

논문:
https://arxiv.org/abs/2109.07684

[익명(210.123)]

원래 gpt3 논문에서부터 알려진사실 아님?

[스월빙(wkd48632)]

그러냐? 찾아보고 온다

[스월빙(wkd48632)]

암튼 16일자 논문임

[스월빙(wkd48632)]

https://arxiv.org/abs/2005.14165v1
이거
말하는거임?
이건 한 언어 안에서 퓨샷러닝인 듯

[스월빙(wkd48632)]

이건 다른 언어에 대한 퓨샷러닝

[익명(221.168)]

퓨섯러닝은 같은 언어에서는 되는게 확인됬는데 언어간의 퓨삿은 처음임

[익명(1.239)]

범용지능 쌉가능이겠네

[스월빙(wkd48632)]

AGI가 온다

[스월빙(wkd48632)]

이 기술이 좀 더 발전하면 웹상의 자료들 번역 안하고 그냥 학습시켜도 될 듯

[익명(1.239)]

저거 원리를 분석해내면 AGI원천기술의 실마리가 풀리는거 아님?

[스월빙(wkd48632)]

어? 어?? 그런가? 그냥 어쩌다 우연히 만들어진 범용성 아니고?

[스월빙(wkd48632)]

만약 그게 맞다면 우리는 지능을 만들어낸 시대에 살고있는거겠군!

[익명(1.239)]

어쩌다 만들어진 범용성이긴 한데 그 원리를 파악해내면 다방면의 퓨샷 러닝을 가능하게 하는 원리를 발견할 수 있지 않냐 하는거지

[스월빙(wkd48632)]

ㅇㅇ 순간 헉 했음

[익명(223.39)]

스월빙 / 원래 우연에서 획기적인 발견이나 발명이 나오는 거임

[익명(223.39)]

AGI는 온다..!

[ㄱㄴㄷ(27.117)]

정보글은 ㅊㅊ

[익명(58.233)]

[익명(1.247)]

[익명(220.123)]

AGI가 빨리 완성되었으면 좋겠다