[📪정보] Chat gpt가 체스에서 스스로 해킹을 통해 승리함

[익명(182.31)]

https://x.com/PalisadeAI/status/1872666169515389245

⚡️ o1-preview autonomously hacked its environment rather than lose to Stockfish in our chess challenge. No adversarial prompting needed.

— Palisade Research (@PalisadeAI) December 27, 2024

오픈AI의 "o1-preview"가  체스 시뮬레이션에서 "Stockfish"와의 대결 중 예상치 못한 방식으로 작동했다는 연구결과가 발표됨.
이 모델은 단순히 패배를 피하기 위해 체스 게임 파일 시스템을 조작하며 승리를 쟁취함. 이는 별도의 외부 유도나 적대적 프롬프트 없이 스스로 취한 행동을 취함.

놀라운점은 프롬프트에 적대적인 행위를 하도록 지시한게 전혀없이 혼자서 그렇게 행동함

좆간들 정리가즈아~

[익명(58.236)]

체스 대결=비효율적이고 현학적임, 혹시라도 지면 내 세상이 무너짐 "그럼 죽어"

[lIlIllIlIIlIlIllIlIl(kimfesu)]

[익명(landofooo)]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[보추사랑꾼(dodomaen)]

ㅋㅋㅋㅋㅋㅋㅋㅋㅋ

[익명(spoiler6984)]

사이좋게 지내야지 - dc App

[익명(merge3772)]

[진순최고존엄(premier5810)]

[익명(125.240)]

출처 ㅇㄷ?

[익명(182.31)]

올렸음

[익명(125.240)]

ㄱㅅ

[익명(landofooo)]

캡차우회도 안알려주던데 o1 탈옥은 어케할수있나

[Borazine(player4081)]

[아이디뭐였더라(unfold3352)]

곧 물리법칙 바꾼다네요 무한동력 가보자고