robots.txt에서 거부하는 것들의 의미가 게시판에 관련된 모든 항목에 대한 크롤링을 거절하는 것이라고 보면 되나요?
용도는 언어학습을 용도의 데이터 수집으로 게시글 제목, 내용 텍스트만 긁으려는데 이런 데이터도 *에 포함되는건가 싶어서요.
robots.txt에서 거부하는 것들의 의미가 게시판에 관련된 모든 항목에 대한 크롤링을 거절하는 것이라고 보면 되나요?
용도는 언어학습을 용도의 데이터 수집으로 게시글 제목, 내용 텍스트만 긁으려는데 이런 데이터도 *에 포함되는건가 싶어서요.