[📪정보] 2022년 ML 연구진은 AI에 대해 어떻게 생각하는가?

[Informa..(175.214)]

출처 : https://aiimpacts.org/what-do-ml-researchers-think-about-ai-in-2022/ (파파고 번역)

AI Impacts는 ML 연구자들을 대상으로 한 새로운 설문조사를 막 끝냈는데, 2016년과 실용적으로 비슷한 내용이었다. 다만 추가하지 않을 수 없을 정도로 흥미로워 보였던 몇 가지 새로운 질문들이 있었다.

이 페이지는 미리 그것에 대해 보도하고 있으며, 우리는 거기서 더 자세한 내용을 추가할 것이다. 그러나 아직까지는 관심을 가질 만한 몇 가지 사항이 있다.

• 복잡한 집계 예측에 따르면 HLMI 확률이 50%가 될 때까지 37년이 걸렸다(그리고 2016년에 현저하게 나중에 추정을 유도한 개념적으로 유사한 노동 완전 자동화에 대한 질문의 데이터를 포함하지 않음).이 2059 종합 HLMI 스케줄은 2016년 종합 예측이 45년 후인 2061년 이후 6년 동안 약 8년 단축되었다. 이 모든 추정치는 "인간의 과학 활동이 큰 부정적인 영향을 미치지 않고 지속되고 있다"는 것을 조건으로 한다.
• P(극단적으로 나쁜 결과)=5%중간 응답자는 진보된 AI가 인류에 미치는 장기적인 영향이 "매우 나쁜(예: 인간 멸종)"일 확률은 5%라고 생각한다. 이는 2016년과 같다(비슷하지만 동일하지 않은 질문에서 장 외 연구진 2022가 2%를 발견했다). 많은 응답자가 그 가능성을 상당히 높게 보고 있다. 즉, 응답자의 48%가 극도로 나쁜 결과를 초래할 가능성을 10% 이상 제시했다. 다른 25%는 0%라고 했다.
• 명시적 P(doom)=5-10% 마지막 질문의 나쁜 수준은 돌이켜보면 모호해 보였기 때문에 나는 인간 멸종에 대한 두 가지 새로운 질문을 명시적으로 추가했다. 중간 응답자가 AI를 통제하지 못할 확률은 10%로, 이상하게도 인간이 AI에서 멸종할 확률은 5%로 중간보다 높았다. 이는 단지 다른 사람들이 이러한 질문을 받고 중앙값이 5%와 10% 사이의 격차에 매우 가깝기 때문일 수 있다. 여기서 가장 흥미로운 점은 이 두 가지 모두 매우 높다는 것이다. 오래된 질문의 '극단적으로 나쁜 결과' 수치는 단순히 재앙적인 AI 결과를 초래한 것만은 아닌 것 같다.
• AI 안전 연구에 대한 지지도 상승: 응답자 중 69%가 사회가 AI 안전 연구를 현재보다 "더" 또는 "더 많이" 우선시해야 한다고 생각하고 있으며, 이는 2016년의 49%에서 증가한 것이다.
• 중간 응답자는 정보 폭발에 대한 주장이 대체로 옳다고 생각한다.중간 응답자는 또한 HLMI 30년 이내에 기계 지능이 아마도 (60%) "모든 직업에서 인간보다 훨씬 더 우수할 것"이며, HLMI 30년 이내에 기계 지능의 결과로 인해 전 세계 기술 개선률이 (80%) 비약적으로 증가할 것이라고 생각한다.
• 연/확률 프레임 효과는 지속된다. 사람들에게 고정된 연수에 대한 확률을 묻는 경우 고정된 확률이 얻어질 때까지의 연수를 묻는 경우보다 나중에 추정치를 얻을 수 있다. 이는 2016년에 매우 강력해 보였으며 2022년 HLMI 데이터에 다시 나타난다. 우리가 몇 년 동안 요청한 사람들만 보면, 총 예측은 29년인데 반해, 확률을 요구한 사람들은 46년이다.(다른 데이터나 더 큰 프레임 효과에 대해서는 아직 확인하지 않았습니다.)
• 예측은 매우 다양하다. 아래 그림: 시간 경과에 따른 사람들의 HLMI 확률 재구성을 시도하고 있으며, 이는 위의 집계 수치에 반영하고 있다. 기본적으로 이 조합을 지지하지 않는 경우는 거의 없다.

[익명(210.106)]

30년....

[익명(122.44)]

선형충 새끼들이 뭘알아 애네가 알트만 바이든 괴르첼 이리나 하사비스 셰인레그 머스크 레커보다 잘나감?? 2025 이상으 선형충 먹금이구만

[익명(175.214)]

괴르첼은 빼자 일부러 그러는거냐?? 선형이냐??

[익명(122.44)]

네 다음 선형

[익명(175.214)]

사견으로는 Open AI (마소) 딥마인드 (구글) 빼고는 사실 다 무시해도 됨 어차피 지금 AGI 흘러가는 방향은 두 회사 말고는 솔직히 아무도 모름