4월 19일
대담 소개

AI가 더욱 발전하고 널리 사용됨에 따라, 인류의 가치에 더 잘 부합하는 모델을 만들기 위해 AI의 작동 방식을 결정하는 데 대중의 참여가 필수적입니다. 지난 5월, Facebook은 AI에 대한 민주적 의견 수렴 프로그램을 발표했습니다. 약 1,000명의 지원자 중 10개 팀과 협력하여 민주적인 방법으로 AI 시스템을 지배하는 규칙을 결정하는 아이디어를 설계, 구축 및 테스트했습니다. 각 팀은 디지털 격차 전반에 걸쳐 다양한 참가자를 모집하고, 다양한 관점을 대변하는 일관된 결과물을 만들고, 대중이 신뢰할 수 있는 충분한 투명성을 갖춘 프로세스를 설계하는 등의 과제를 해결했습니다. OpenAI에서는 외부 이해관계자로부터 입력을 수집하고 이러한 입력을 사용하여 모델의 행동을 훈련하고 형성하는 엔드투엔드 프로세스를 설계함으로써 이러한 모멘텀을 구축해 나가고 있습니다. 우리의 목표는 위의 과제를 해결하면서 강력한 AI 모델을 조정하기 위해 대중의 의견을 통합하는 시스템을 설계하는 것입니다. 이러한 연구를 지속적으로 진행하기 위해 저희는 '집단 조정' 팀을 구성했습니다.

발표자 소개

테디 리는 집단 조정 팀의 제품 관리자로, AI 조정을 위한 민주적 의견 수렴을 위한 프로세스와 플랫폼 개발에 주력하고 있습니다. 이전에는 사람의 피드백을 통해 OpenAI의 모델을 개선하는 데 중점을 둔 OpenAI의 휴먼 데이터 팀의 창립 멤버였으며, OpenAI API의 콘텐츠 조정 도구 개발에도 기여했습니다. 이전에는 Scale AI, Google, McKinsey에서 근무한 바 있습니다. 그는 14,000명 이상의 북캘리포니아 소재 MIT 동문들의 동문 클럽인 북캘리포니아 MIT 클럽의 회장을 맡고 있으며, MIT 동문회 이사회의 일원으로 활동하고 있습니다. Teddy는 스탠포드에서 전기공학 학사, 스탠포드에서 경영과학 및 공학 석사, MIT 슬론에서 MBA를 취득했습니다.

케빈 펭은 워싱턴 대학교에서 인간 중심 디자인 및 엔지니어링 박사 과정 3년 차에 재학 중입니다. 그의 연구는 소셜 컴퓨팅과 대화형 머신 러닝의 교차점에 있으며, 특히 대규모 AI 기반 사회기술 시스템의 적응력을 향상시키기 위한 대화형 도구와 프로세스를 개발하고 있습니다. 그의 연구는 CHI, CSCW, FAccT 등 인간과 컴퓨터의 상호 작용에 관한 수많은 주요 학술 행사에서 발표되었으며, UW News와 몬트리올 AI 윤리 연구소 등의 매체에서 소개된 바 있습니다. 그는 2022년 UW 허볼드 펠로우십을 수상했습니다.  프린스턴 대학교에서 컴퓨터 공학 학사 학위를 받았으며 시각 예술과 기술 및 사회를 부전공했습니다.

앤드류 코냐는 Remesh의 창립자 겸 수석 과학자입니다. AI와 기관을 위한 심의 조정 작업을 하고 있습니다.