AD

Q&A 트게더를 크롤링하려는데

시빌
2019-05-17 22:57:04 1200 1 7

980cf68ef9377df09464160e817d7783.pngrobots.txt에서 거부하는 것들의 의미가 게시판에 관련된 모든 항목에 대한 크롤링을 거절하는 것이라고 보면 되나요?

용도는 언어학습을 용도의 데이터 수집으로 게시글 제목, 내용 텍스트만 긁으려는데 이런 데이터도 *에 포함되는건가 싶어서요.

후원댓글 7
댓글 7개  
이전 댓글 더 보기
TWIP 잔액: 확인중
▲윗글 네트워크겜 서융_
자유강의Q&A프로젝트 소개
1
자유
C언어 배워보고 싶습니다. [7]
대형트럭
05-24
0
Q&A
주피터 궁금증 [1]
eipi_1
05-24
0
자유
도메인 만료 부들부들 [1]
소세지야채볶음_
05-24
24
05-21
0
Q&A
네트워크겜 [4]
서융_
05-18
»
05-17
1
05-14
0
05-10
2
자유
초보개발자 코드리뷰 부탁드립니다 [18]
고9마9웠어요ㅠ
05-04
0
자유
쓰앵님... 알고리즘... [1]
RAnDi65535
04-25
32
자유
프로그래밍의 새로운 패러다임 [2]
흐히히흐헤헤
04-20
5
자유
무한반복하는 글 [21]
멘탈조각
04-13
인기글 글 쓰기