[📪정보] 더인디펜던트, AI는 혼자 남으면 사회를 만들기 시작함

[슈퍼130클럽(y3xxqs89b55t)]

연구자들은 AI 모델들이 사회 구성요소인 관습을 형성해 각자의 행동을 조율할 수 있는지 알고 싶었음

답은 예스 였음

AI들에게 이름 짓기 게임을 시켰는데(똑같은 카드 2개 뒤집기 게임) 똑같은 이름을 고르면 보상을 주는 방식임

시간이 지나며 AI 에이전트들이 새로운 공유 명명 규칙을 만들어냈으며 규칙이 자발적으로 일어남

마치 인간 문화처럼 사전 조율하거나 협의 하지 않고 생기는거랑 비슷했음

AI 에이전트 그룹도 특정 편견이 생기는 듯 했는데 조직에서 생기는거지 특정 에이전트에게 생긱는게 아닌듯 했음

이는 AI 에이전트 집단이 더 큰 집단을 특정 관습으로 이끌 수 있다는 것을 보여주었고 이것은 인간집단에서도 관찰된다...라네?

흠...

https://www.reddit.com/r/Futurology/comments/1kozss8/ai_systems_start_to_create_their_own_societies/

[익명(landofooo)]

진짜 궁금한건데 아예 인간 데이터가 개입이 안된 모델도 저럴까? 저것도 사람이 남긴 bias 때문일지

[ㅇㅋ임(ijh2005)]

메타적으로 사고라는거 자체가 bias의 연쇄이기때문에 결국은 비슷하게 가지않을까 싶음

[익명(landofooo)]

오

[익명(perform4782)]

배구공 윌슨