robots.txt (ロボッツテキスト)

robots.txt 読み:ろぼっつてきすと
とは、

概要

robots.txtとは、Webサイトにアクセスする検索エンジンのクローラー(bot)へ対して、「どのページを巡回してよいか」「どこを巡回しないか」を指示するための設定ファイルを指す言葉である。

主にサイトのルートディレクトリに配置され、検索結果への不要ページ登録防止やサーバー負荷軽減などの目的で利用される。

ただし、robots.txt は「閲覧禁止」ではなく、あくまでクローラー向けの案内である点に注意が必要である。

語源

詳細≫

robots「自動巡回プログラム(bot)」+txt「テキストファイル形式」を組み合わせた名称。つまり「ロボット向けの指示を書いたテキストファイル」を意味する語。

関連記事