サクサク読めて、アプリ限定の機能も多数!
これは、うっかりしていたの。robot.txtおいてるかな?
ya--mada のブックマーク 2013/05/28 08:29
大手サイトのrobots.txtでわかる「検索でヒットされたくないページ」の特徴これは、うっかりしていたの。robot.txtおいてるかな?2013/05/28 08:29
このブックマークにはスターがありません。 最初のスターをつけてみよう!
www.geek.sc2013/04/10
robots.txtとは robots.txtは、検索エンジンのクローラー(bot)に、クロールされたいページや、クロールされたくないページを教えるテキストファイルのことです。多くの検索エンジンのクローラーは、そのドメイ...
272 人がブックマーク・29 件のコメント
\ コメントが サクサク読める アプリです /
これは、うっかりしていたの。robot.txtおいてるかな?
ya--mada のブックマーク 2013/05/28 08:29
このブックマークにはスターがありません。
最初のスターをつけてみよう!