|
クローラ（Crawler）とは、ウェブ上の文書や画像などを周期的に取得し、自動的にデータベース化するプログラムである。「ボット（Bot）」、「スパイダー」、「ロボット」などとも呼ばれる。 主に検索エンジンのデータベース、インデックス作成に用いられているほか、統計調査などの目的にも利用される。近年では電子メールアドレス収集業者などもクローラを利用して、スパムの送信効率を上げている。 一般にクローラは、既知のHTML文書の新しいコピーを要求し、文書中に含まれるリンクをたどり別の文書を収集するという動作を繰り返す。新しい文書を見つけた場合はデータベースに登録する。また、既知のファイルが存在しないことを検出した場合はデータベースから削除する。 == 主なクローラ == 検索エンジンのもの * グーグルボット（Googlebot、Google） * （マイクロソフト・bing） * Baiduspider（百度） * Yetibot（ネイバー） ;インターネット利用者用ソフトウェア * ダウンロードNinja（イーフロンティア、ダウンロード用ソフト（ダウンローダー）） * GetHTMLW - ダウンローダー * Wget - ダウンローダー ;過去 * Yahoo! Slurp（Yahoo!） * Slurp（Inktomi） * InfoSeek Sidewinder（インフォシーク） * Scooter（AltaVista） 抄文引用元・出典: フリー百科事典『 ウィキペディア（Wikipedia）』 ■ウィキペディアで「クローラ」の詳細全文を読む スポンサード リンク
|