디시 프갤 10,000페이지 긁어오라고 시키면 밴할 것 같은데
그래도 안한다고??
생각을 해봐라 디씨 하루 요청이 몇갠데 그걸 크롤러라고 단정짓고 밴때리냐 물론 패턴이 보이면 밴때리긴 하겠지만 수동임
for loop 걸어서 1초마다 동일 사용자가 1~10,000페이지 돌고 앉았으면 기계라고 판단하지 않을까>?
Header user agent를 여러 개 번갈아가면서 쓰면 되지
user-agent만 잘 넣어도 봇이라 판단 잘 안함
생각을 해봐라 디씨 하루 요청이 몇갠데 그걸 크롤러라고 단정짓고 밴때리냐 물론 패턴이 보이면 밴때리긴 하겠지만 수동임
for loop 걸어서 1초마다 동일 사용자가 1~10,000페이지 돌고 앉았으면 기계라고 판단하지 않을까>?
Header user agent를 여러 개 번갈아가면서 쓰면 되지
user-agent만 잘 넣어도 봇이라 판단 잘 안함