プログラム cwlr.sf.net

  • SimplerCrawler 無料

    perlで書かれたウェブ(http)のための非常に単純なシングルスレッドクローラ。ルールおよびコレクションに従ってリンクをサポートし、訪問したページの情報を取得します (regexp ベース)。