プログラム cwlr.sf.net
-
SimplerCrawler 無料
perlで書かれたウェブ(http)のための非常に単純なシングルスレッドクローラ。ルールおよびコレクションに従ってリンクをサポートし、訪問したページの情報を取得します (regexp ベース)。
perlで書かれたウェブ(http)のための非常に単純なシングルスレッドクローラ。ルールおよびコレクションに従ってリンクをサポートし、訪問したページの情報を取得します (regexp ベース)。