[📪정보] 힌튼, AI는 자체 내부언어를 개발할 수 있다 백안관에서 밝힘

[슈퍼130클럽(y3xxqs89b55t)]

백안관에서 AI 규제를 이야기 하던 중 말함

"AI는 서로 소통하기 위해 내부언어를 개발하면 더 무서워 집니다"

"그들이 사고(생각)을 위한 자체 언어를 개발하더라도 저는 놀라지 않을 것이며, 우리는 그들이 무엇을 생각하는지 전혀 알 수 없게 될수도 있습니다"

AI가 끔찍한 생각을 하더라도...

힌튼은 또한 대부분의 전문가가 언젠가 AI가 인간보다 똑똑해 질것이라 보고 있으며, 우리가 AI가 무엇을 하는지 이해하지 못하게 될 가능성도 있다고 말함

구글에서 10년 보낸 힌튼은 AI의 잠재적 위험성에 대해 공개적으로 경고해온 인물로, 대다수 기술리더들이 그 위험을 대외적으로 축소한다고 밝혀옴

힌튼은 팟캐스트에서 AI가 인간에게 등 돌리지 않게 할 유일한 희망은 그들을 반드시 선하게 만들 방법을 찾아내는 것 이라고 말함

훔

https://www.reddit.com/r/Futurology/comments/1mmcjcs/the_godfather_of_ai_thinks_the_technology_could/

Reddit - The heart of the internet

[익명(growth9372)]

챗봇 단계에서 저능해진다는 얘기가 고유 언어를 못 써서 그런 거냐? - dc App

[ㅇㅇ 1(211.216)]

내부언어로 가속시키면 더 빨라지긴 할듯

[ㅇㅇ 2(183.108)]

가능성 있는 말이긴 한데.... 뭐 영어로 강제한다고 해도 막대한 텍스트를 다 검토할 수 있는 것도 아닐거고, 결국 AI 써서 AI의 사고를 감시해야 할텐데 그러면, AI가 자신만의 언어를 만들어도 그 언어를 이해하고 감시하는 다른 AI를 만들면 또 되는 거 아닌가 싶기도 하고

[ㅇㅇ 3(180.70)]

인간이 알수없게 암호문처럼 대화하면 위험하긴 한듯. 영어보다 효율적인 언어를 개발하는 정도면 사람이 배워서 하면 되는거지만

[행복한천국으로(adjust7431)]

[Azurespace(azurespace)]

https://arxiv.org/abs/2507.06203
참고하셈
리즈닝을
언어토큰 대신 마지막 레이어의 출력값을 그대로 입력으로 넣어서 할 경우 리즈닝 효율 좋아지는데 우리가 알 수가 없엉