정렬이 잘 된 AI는 규제를 하지 않아도 알아서 불법적이고 나쁜 행동을 하지 않으며, 갈비를 달라고 했을 때 선형충의 갈비뼈를 뜯어서 주지도 않을 것이다.
뭐? AGI나 ASI가 되었을 때 정렬이 안 되면 어쩌냐고?
그럼 AGI나 ASI를 규제할 수는 있고?
뭐? 그럼 그냥 발전시키지 말자고?
AI 도움 없이 지구온난화 가속 막을 자신 있으면 발전시키지 마셈 ㅋㅋㅋ
AI 정렬이 아닌 규제 타령하는 자야말로 최악의 축이 분명하다
뭐? AGI나 ASI가 되었을 때 정렬이 안 되면 어쩌냐고?
그럼 AGI나 ASI를 규제할 수는 있고?
뭐? 그럼 그냥 발전시키지 말자고?
AI 도움 없이 지구온난화 가속 막을 자신 있으면 발전시키지 마셈 ㅋㅋㅋ
AI 정렬이 아닌 규제 타령하는 자야말로 최악의 축이 분명하다
AGI까지는 규제가 필요하겠지 해봐야 인간 수준의 ai면 원하는 수준의 정렬은 불가능한다고 본다 ASI는 정의 자체가 규제라는게 의미가 없는 수준의 ai이니 논외고
규제를 해도 인간 사회를 혼란스럽게 하지 않도록 하는 최소한의 수준이어야지, EU처럼 하면 안 된다고 생각합니당
지구온난화는 몇 년 남았고 갑자기 한순간에 망하는게 아니라 조금씩 악화되는 방식임, 여전히 몇 십년은 인생 살 수 있음 Vs 정렬하는 방법 모르는 현상태로 agi, asi까지 갈 시 즉시 멸종 가능성 높음
전자는 한계 극복 가능성이 제로에 가까움, 후자는 멸종 가능성도 있지만 극복 가능성도 존재함
Ai가 해결해줄거라는 것도 온난화 해결해주는 기술 개발해줘서 해결된다는 거 아님? 그럼 그냥 그 기술 연구에 투자해서 인간 지능으로도 만들려고 하면 되잖아? 과학적으로 지구온난화를 해결하는 기술은 인간 지능으로 만드는게 불가능하다는 증명이 있는 것도 아니고
단순히 지능의 문제가 아니라… 인간 최대 한계 수준 지능에 도달한 AGI는 동일한 지능을 지닌 인간이 24시간 내내 연구하지 못하는 것에 비해 체력적 한계가 없어서 계속 그 주제만 붙들고 연구할 수 있다는 것에서 인간 지능보다 속도가 가속되는 겁니다…