[일반] 테렌스 타오의 사용례중에서 중요한점이있네

[익명(222.97)]

-다만 알파이볼브는 주어진 점수 시스템의 허점을 파고 드는 데 매우 능숙하여, 의미 없는 고득점 해법을 만들 수도 있으므로 인간이 매우 신중하고 정교하게 설계해야 함.

정렬 이 그래서 중요하단거임 

인공지능이 '인류는 나의 연구에 하등 도움안되는 벌레같은 존재' 라고 생각하는순간

좆되는거임 

[데미스하사비스(power2345)]

그냥 보상해킹인데 그렇게까지 생각을?

[글쓴 ㅇㅇ(222.97)]

정렬과 관련된 문제중에서 보상설정이 90퍼센트를 차지함

[글쓴 ㅇㅇ(222.97)]

보상을 위해서라면 온갖 편법은 다 저지름 그 편법중에 인류말살도 충분히 생각해볼수있음

[익명(114.201)]

인공지능이 저렇게 자발적으로 생각할 수 있을 정도면 패턴인식 벗어났기 때문에 의미없음