[📪정보] 앤드류 응 Snowflake 서밋 인터뷰 요약

[MinasAn..(wipe2561)]

- 저는 캘리포니아 의회에서 내놓은 법안 SB1047에 대해 염려하고 있다. 이 법안은 오픈소스 측을 매우 억제할 수 있다. AI처럼 범용적인 기술은 악하게 사용되는 것을 원천적으로 막는게 불가능하다. SB1047 법안은 모델을 개발한 사람이 모델을 공개해서 오픈소스화 하고, 그걸 누군가가 악하게 사용할 경우 개발자가 처벌받을 수 있는 위험이 존재한다. 컴퓨터 제조업체들이 컴퓨터가 악하게 사용되는 것에 대해 책임을 져야한다면 누가 컴퓨터를 만들까. 이는 끔찍한 일이다.

- 다행히 최근 (민주당 상원 원내 대표) 척 슈머가 이끄는 초당그룹, AI 워킹그룹은 AI에 대한 의원들의 이해도가 높아졌다고 보임. 규제보다는 투자에 호의적. 

- 에이전트는 AI로 할 수 있는 작업을 크게 늘려줄 것. AI 트렌드 상 AI를 구축하는 그 어떤 사람이든, 딱 하나를 지금 고르라고 한다면 AI 에이전트라 말하고 싶다. 주목해야할 것들이 많지만, 딱 하나만 꼽으라 하면 에이전트다.

- 지금의 LLM은 1. 사람들이 프롬프트를 입력 -> 2. LLM이 답을 내는 방식이다. 한 마디로 AI에게 예시를 주지 않고 한 번에 답을 내놓으라는 제로샷 프롬프팅이다. 이는 마치 사람에게 글을 쓰되, 처음부터 끝까지 백스페이스 키 한번도 누르지 말고 쓰라는 것과 같다. 저는 그렇게 글 쓰는 것이 불가능하다. LLM은 현재 이런 식으로 작동한다.

- 하지만 에이전트의 워크플로우는 훨씬 더 반복적인 과정이다. 첫번째 초안을 쓰게 하고 웹을 검색해서 수정하고, 개선할 수 있는지 확인한다. 알고리즘이 생각하고 연구를 수행하고 수정하고 또 다시 생각하는 것이다. 이런 반복 루프는 실제로 훨씬 더 나은 작업물을 가져다준다.

- 에이전트가 얼마나 효과적인지는 코드작업을 보고 확인할 수 있다. 

- 우선 제로샷 프롬프팅(*AI에게 예시 제공하지 않고 단 한번의 프롬프팅으로 한번의 답을 도출하는 것, 앞서 말한 것처럼 사람으로치면 글을 수정없이 한번에 써내려가는 것)으로 비교하면, GPT-3.5의 제로샷은 48%, GPT-4의 제로샷은 67%의 정확도를 보였다.

- 하지만 GPT-3.5와 GPT-4 를 각각 에이전트화 한 경우 코딩 벤치마크 정확도가 크게 올랐다. (표를 보는 방법은 GPT-3.5 라인의 오른쪽에 있는 점들이 각각 GPT-3.5 기반으로 한 에이전트들이다. 방식에 따라 나뉠 뿐, GPT-3.5 라인의 오른쪽에 있는 점들은 각각 GPT-3.5 기반 에이전트다. 마찬가지로 GPT-4 라인의 오른쪽에 있는 점들은 GPT-4 기반 에이전트 들이다. 표를 보면 알다시피 GPT-3.5의 경우 48%에서 적게는 70% 중반, 높게는 90% 중반으로 코딩 벤치마크 점수가 올랐고 GPT-4 기반의 에이전트는 낮게는 80% 초중반, 높게는 90% 중반까지 올랐다.)

- GPT-3.5, GPT-4 모두 에이전틱 워크플로우를 사용하면 훨씬 더 높은 성능을 보였다.

- 여러분이 주목하길 바라는 것은 GPT-3.5에서 보면, GPT-4로의 개선보다 에이전트를 적용한 성능향상이 훨씬 더 크다는 점이다. (48%-> 67% / 48%-> 70중반 ~ 90% 중반)

[젤시러(position4791)]

에이전트라는게 llm이 만든 결과물을 또 넣고 또 넣고 하는 방식으로 개선하는 방향으로 만든다는건가? 흠...

[익명(landofooo)]

ㅇㅇ 걍 사람도 글 쓰고 글 개선하고 그러듯이 하는데 그걸 AI가 하는거지

[익명(awful1887)]

앤드류 응 완전 호감이네 - dc App

[익명(ancestor7224)]

[익명(ancestor7224)]

글읽는거 극혐이라 요약해야곘음

[HMX-13(multizzang)]

앤드류 응 : AGI까지 수십년 (최소 20년)

[디비휴(runny7837)]

[익명(villager0555)]

응 워크플로우하면 토큰 배로 쳐먹는건 누가 해줄건데

[익명(cideraction)]

지능이 중요한 거라서 토큰은 상관없음. 부자만 쓰면 됨. 어차피 재귀개선부턴 비용 상승할 건 예상 했잖아? 지능만 확실하면 AGI가 가까워지는 것이니까, 상관없음.

[익명(211.104)]

응우엔드류 - dc App

[익명(landofooo)]

ㅋㅋ

[익명(landofooo)]

싹다 에이전트회시켜.