직교분해로 풀려고 하는데 계산이 어디가 이상한건지답이 계속 선지에서 안 나옵니다

이런 문제는 어떻게 깔끔하게 푸나요