[📪정보] AI2, 새로운 범용 모델 Unified-IO 발표

[익명(122.36)]

https://techcrunch.com/2022/06/17/unified-io-is-an-ai-system-that-can-complete-a-range-of-tasks-including-generating-images/

https://unified-io.allenai.org/

기계 학습 연구에 중점을 둔 비영리 Allen Institute 내 부서인 Allen Institute for AI(AI2)는 오늘 Unified-IO라고 하는 AI 시스템에 대한 작업을 발표했습니다. " AI 작업 세트. Unified-IO는 이미지, 텍스트 및 기타 구조화된 데이터를 처리하고 생성할 수 있으며, 이를 뒷받침하는 연구팀은 유능하고 통합된 범용 AI 시스템을 구축하기 위한 단계라고 말합니다.

AI2의 연구원인 Jaisen Lu는 "작업에 구애받지 않는 [AI 시스템]을 구축하는 데 관심이 있습니다. 이를 통해 실무자가 기본 기계에 대한 지식이 거의 또는 전혀 없이도 새로운 작업에 대해 [머신 러닝] 모델을 훈련할 수 있습니다."라고 말했습니다. Unified-IO, 이메일을 통해 TechCrunch에 말했습니다. "이러한 통합 아키텍처는 작업별 매개변수 및 시스템 수정의 필요성을 완화하고 다양한 작업을 수행하도록 공동으로 훈련할 수 있으며 작업 간에 지식을 공유하여 성능을 높일 수 있습니다."

통합 AI 시스템을 구축하기 위한 AI2의 초기 노력으로 GPV-1 및 GPV-2, 두 가지 범용 "비전 언어" 시스템이 탄생했으며, 이는 이미지 캡션 및 질문 답변을 포함한 소수의 워크로드를 지원했습니다. Lu에 따르면 Unified-IO를 사용하려면 처음부터 새로운 모델을 설계해야 했습니다.

Unified-IO 는 "Transformer"라는 점에서 OpenAI의 GPT-3 과 공통점이 있습니다. 2017년으로 거슬러 올라가는 Transformer는 문서 요약, 음악 생성, 이미지의 개체 분류 및 단백질 서열 분석에 대한 적성을 보여줌으로써 복잡한 추론 작업을 위한 선택 아키텍처가 되었습니다.

모든 AI 시스템과 마찬가지로 Unified-IO는 예를 들어 수십억 개의 단어, 이미지 등을 토큰 형태로 수집하여 학습했습니다. 이러한 토큰은 Unified-IO가 이해할 수 있는 방식으로 데이터를 나타내는 역할을 했습니다.

... 생략 ...

그럼에도 불구하고 AI2 연구원들은 Unified-IO를 향후 작업을 위한 강력한 기반으로 간주합니다. 그들은 오디오 및 비디오와 같은 더 많은 양식에 대한 지원을 추가하고 성능을 향상시키기 위해 확장하면서 시스템의 효율성을 개선할 계획입니다.

“ Imagen 및 DALL-E 2 와 같은 최근 작업은 충분한 훈련 데이터가 주어지면 모델이 … 매우 인상적인 결과를 생성하도록 훈련될 수 있음을 보여주었습니다. 그러나 이러한 모델은 하나의 작업만 지원합니다.”라고 Clark이 말했습니다. “Unified-IO를 사용하면 대규모 멀티태스킹 모델을 훈련할 수 있습니다. 우리의 가설은 데이터와 모델 크기를 엄청나게 확장하면 훨씬 더 나은 결과를 얻을 수 있다는 것입니다."

[익명(103.163)]

AGI는 왔다!

[익명(hyeongim264)]

[익명(211.252)]

마마 메끼나라고마

[익명(rechido)]

[익명(hyeongim264)]

고작 비영리단체인데도 이정도 속도면 진짜 빠른거네

[익명(121.146)]

흥깨는 건 아닌데 GPT랑 DALL-E 개발한 오픈AI도 비영리단체임

[익명(hyeongim264)]

그래도 오픈AI는 투자자들이 레베루가 엄청나지 않노? 저기는 첨들어보는거 같은데도 저정도면 대단한거 같은데

[익명(112.184)]

2025

[익명(122.44)]

하루에 나오는 논문만 100개 이상이다 ㅋㅋㅋ 잠잠해 질라하면 하나 들고와서 2025 거리고있네

[익명(122.44)]

제프리힌튼 앤드류응 얀르 쿤 은 물론 딥마인드(1000명) 메타 구글 애플 수천명의 석학 개발자들 모두 잠잠코 있는데 즈그들끼리 맨날 난리났다 곧온다 ㅇㅈㄹ

[익명(122.44)]

여기 여론과 다르게 실제 업계에서는 AGI 등장 평균값이 2050년 이다 ㅋㅋ

[익명(220.85)]

ㄹㅇ 사실은 2024년인데 2025 거리고 있음;;

[익명(58.29)]