어쨋든, 많은 사람이 이야기하는 네이버의 로봇정책이 잘못된걸까?

지식인  : 로봇 수집거부 하고 있습니다. http://kin.naver.com/robots.txt
야후앤서스 : 로봇 수집거부 하고 있습니다. http://answers.yahoo.com/robots.txt

네이버 블로그 : 로봇 수집거부 하고 있습니다. http://blog.naver.com/robots.txt
블로거닷컴 : 로봇 수집거부 하고 있습니다. http://www.google.com/robots.txt 


무슨 차이가 있어서 그렇게도..네이버가 욕을 먹게 하는걸까요?


블로거닷컴의 로봇 수집거부

블로거닷컴의 메인에서는 로봇수집거부가 없습니다.그러나, 실제 개개인 블로거로 접근시

http://beyonce-1.blogspot.com  의 URL이

http://www.google.com/url?sa=D&sntz=1&q=http%3A%2F%2Fbeyonce-1.blogspot.com&usg=AFrqEzcNruaAjl4LYqYjB1aDUXima00M4w

로 리다이렉션 됨을 확인할 수 있습니다.


즉, http://www.google.com/robots.txt 의 거부항목중, /url 이 있으므로
블로거닷컴도 로봇에 의한 수집을 거부함을 알 수 있습니다.

이올린에 북마크하기(0) 이올린에 추천하기(0)
top

Trackback Address :: http://exif.net/trackback/67

  1. BlogIcon Jason 2007/03/03 08:47 댓글주소 | 수정/삭제 | 댓글

    robots.txt가 없더라도 검색 로봇을 통금시킬 수 있지요. 왜 거기에 못숨거는지 논리가 갸냘프다는 생각밖엔 안든답니다.

    • BlogIcon exif 2007/03/05 12:17 댓글주소 | 수정/삭제

      그렇지만...로봇규약은 일차적으로 서로들 준수해줘야 되는 룰이긴 합니다. 다만, 열어줘야 될꺼와 닫아야 될꺼를 구분하여 적용하지 않고 일괄적으로 막는것이 가장 큰 문제라고 생각됩니다.

  2. 보노 2007/03/04 12:12 댓글주소 | 수정/삭제 | 댓글

    다른건 모르겠지만..이쁘네요..-0-;;

  3. 지나가다 2007/12/06 17:26 댓글주소 | 수정/삭제 | 댓글

    구글과 야후의 robots.txt를 보니 네이버와 같이 전부 차단하는게 아닌 일부 개인정보 유출이 우려되는 디렉토리만 차단하고 있네요.

Write a comment


◀ PREV : [1] : [2] : [3] : [4] : [5] : [6] : [7] : [8] : [9] : ... [35] : NEXT ▶