クローラー

ITメモ

【WEB】robots.txtの設定を忘れた

うっかり忘れていた robots.txt の設定。 「robots.txt」とは、 検索エンジン(Google先生とかYahoo!さんとか)がサイトを巡回して検索結果に表示されるようにしてくれるクローラーというものに、「このサイトはここを登...