[📪정보] 전현직 OAI 직원 11명, "첨단 인공지능에 대해 경고할 권리"

[익명(119.77)]

첨단 인공지능에 대해 경고할 권리

우리는 선구적인 AI 기업의 전현직 직원이며, 인류에게 전례 없는 혜택을 제공할 수 있는 AI 기술의 잠재력을 믿습니다.

우리는 또한 이러한 기술로 인해 발생하는 심각한 위험을 이해합니다. 이러한 위험은 기존 불평등의 고착화에서부터 조작 및 잘못된 정보, 잠재적으로 인류 멸종을 초래할 수 있는 자율 AI 시스템의 통제 상실에 이르기까지 다양합니다. 전 세계 정부[ 4 , 5 , 6 ] 및 기타 AI 전문가[ 7 , 8 , 9 ] 와 마찬가지로 AI 회사 자체도 이러한 위험을 인정했습니다[ 1 , 2 , 3 ].

우리는 과학계, 정책 입안자, 대중의 충분한 지침을 통해 이러한 위험을 적절하게 완화할 수 있기를 바랍니다. 그러나 AI 회사는 효과적인 감독을 피하기 위한 강력한 재정적 인센티브를 가지고 있으며, 맞춤형 기업 지배구조 구조만으로는 이를 변화시키기에 충분하지 않다고 생각합니다.

AI 회사는 시스템의 기능과 한계, 보호 조치의 적절성, 다양한 종류의 피해 위험 수준에 대한 상당한 비공개 정보를 보유하고 있습니다. 그러나 현재 이들에게는 이러한 정보 중 일부를 정부와 공유해야 할 의무가 거의 없으며 시민 사회와는 공유할 의무가 없습니다. 우리는 그들이 모두 자발적으로 정보를 공유할 수 있다고 생각하지 않습니다.

이들 기업에 대한 효과적인 정부 감독이 없는 한, 현재 및 이전 직원은 대중에게 책임을 물을 수 있는 소수의 사람 중 하나입니다. 그러나 광범위한 기밀 유지 계약으로 인해 이러한 문제를 해결하지 못하는 회사를 제외하고는 우려 사항을 표명할 수 없습니다.

일반적인 내부고발자 보호는 불법 활동에 중점을 두기 때문에 충분하지 않은 반면, 우리가 우려하는 위험 중 상당수는 아직 규제되지 않습니다. 업계 전반에 걸쳐 이러한 사례가 있었던 것을 고려할 때 우리 중 일부는 다양한 형태의 보복을 두려워하는 것이 합리적입니다. 우리는 이러한 문제에 대해 처음으로 접하거나 이야기하는 것이 아닙니다.

따라서 우리는 첨단 AI 기업들이 다음 원칙을 준수할 것을 촉구합니다.

1. 회사는 위험과 관련된 우려에 대해 회사를 “비방”하거나 비판하는 것을 금지하는 계약을 체결하거나 집행하지 않으며, 위험 관련 비판에 대해 기득 경제적 이익을 방해하는 방식으로 보복하지 않을 것입니다 .
2. 회사는 현재 및 이전 직원이 회사 이사회, 규제 기관 및 관련 전문 지식을 갖춘 적절한 독립 조직에 위험 관련 우려 사항을 제기할 수 있도록 검증 가능한 익명 프로세스를 촉진할 것입니다.
3. 회사는 공개 비판의 문화를 지원 하고 현재 및 이전 직원이 기술에 대한 위험 관련 우려 사항을 대중, 회사 이사회, 규제 기관 또는 관련 전문 지식을 갖춘 적절한 독립 조직에 제기할 수 있도록 허용합니다. 영업 비밀 및 기타 지적 재산권 이익이 적절하게 보호됩니다.
4. 회사는 다른 프로세스가 실패한 후 위험 관련 기밀 정보를 공개적으로 공유하는 현재 및 이전 직원에 대해 보복하지 않을 것입니다. 우리는 위험 관련 문제를 보고하려는 노력으로 인해 기밀 정보가 불필요하게 공개되는 것을 피해야 한다는 점을 인정합니다. 따라서 회사 이사회, 규제 기관 및 관련 전문 지식을 갖춘 적절한 독립 조직에 익명으로 우려 사항을 제기할 수 있는 적절한 프로세스가 존재하면 처음에는 그러한 프로세스를 통해 우려 사항을 제기해야 한다는 점을 인정합니다. 그러나 그러한 프로세스가 존재하지 않는 한 현재 및 이전 직원은 자신의 우려 사항을 대중에게 보고할 자유를 유지해야 합니다.

서명자:

제이콥 힐튼, 이전에는 OpenAI

다니엘 코코타일로, 이전에는 OpenAI

라마나 쿠마르, 예전에는 구글 딥마인드(Google DeepMind)

닐난다, 현재 Google DeepMind, 이전에는 Anthropic

윌리엄 손더스, 이전에는 OpenAI

캐롤 웨인라이트, 이전에는 OpenAI

다니엘 지글러, 이전에는 OpenAI

익명의, 현재 오픈AI

익명의, 현재 오픈AI

익명의, 현재 오픈AI

익명의, 현재 오픈AI

익명의,이전에는 OpenAI

익명의,

이전에는 OpenAI

승인자(알파벳순):

요슈아 벤지오
제프리 힌튼
스튜어트 러셀

2024년 6월 4일

[익명(119.77)]

https://righttowarn.ai/

[익명(211.214)]

뭔일이여

[익명(125.180)]

제발 씨발 위험이든 뭐든 다 알겠으니 역노화부터 씨1발 죽음부터 극복하라고 그리고나서 뭘 경고를하든 다 알아서 하든 해 지금 발전속도라면 꼼짝없이 뒤지게 생겼잖아 개1새끼들아 경고 씨발 ㅋㅋ 이대로가다간 뒤지는데 뭔 경고야 씨1발 연구원새끼들아.

[익명(118.235)]

병신새끼

[익명(101.235)]

저기요 뒤지는건 원래 자연스럽고 당연한거에요 감정빼고 생각하면

[익명(125.180)]

너가 말기암 걸려도 그런 말이 나올까요? 아니면 죽는건 자연스러운거니 자연의 섭리란게 원래 그런거다. 우린 죽어야 된다는 말을 하고싶은거니? 내가 말기암 환자 병실에 있어봐서 알아 다들 말기암이 어디 그냥 막연하게 종이에 손가락 베일 고통쯤의 장난 수준이라고 생각하면 오산이야 나한테 병신새끼라 욕해봤자 우린 뒤1질게 뻔하다고 위험성 이지1랄 해봤자 아무 의미없는거라고.

[익명(118.235)]

ㄴ그라믄 안락사를 허용하면 되지 으잉?

[해당 댓글은 삭제되었습니다.]

해당 댓글은 삭제되었습니다.

[익명(119.77)]

내부적으로 레드팀같은거 하면서 위험성이 되게 높게 나온 그런 자료같은게 많은듯? 근데 그걸 기밀유지조약이나 폭로했다가는 업계에서 묻어버리니까..

[익명(125.180)]

그럼 뭐해 우린 뒤질텐데 발전속도가 빨라봤자 뭐하냐고 우린 뒤질거라고. 불과 수십년안에.

[Dall리신(221.142)]

또 빙하기야?

[익명(119.77)]

내부 발전이 그만큼 개쩐다는건디 여름이제

[Dall리신(221.142)]

특끼야앗

[익명(210.205)]

저딴걸 승인해준거임? 제프리힌턴이랑 요슈아벤지오 얘네도 얀르쿤이랑 다를거없는 악마들이었구나 인류 발전을 늦추는 개새끼들 윤리 도덕 그딴거 신경쓸 필요 없다고

[익명(172.226)]

특평ㅋㅋ

[익명(gnr2045)]

얀레쿤은 규제반대하는데? 씹새끼야

[MoonChild(aowlr2001)]