今日のDiggin_Scraperチップス#1

Zend FrameworkとDiggin_Service_Wedata::getItems('AutoPagerize')とDiggin_Scraperで
複数ページにまたがるサイトを保存する。
http://coderepos.org/share/browser/lang/php/Scraper/demos/Diggin/autopagerizing_download.php
↑これを使うとURLを設定するだけで、次ページのリンクがあった時だけ、
リクエストを送ってページを保存します。

というか、scraperのデストラクトをちゃんとしてなかったのでループ中つかえねえというバグがあったのですがなおしたので、(いないと思うけど)Diggin_Scraper使ってる人は最新にしてください(今後も常に最新推奨ですが)。

関連:
WWW::Mechanize::AutoPager Web::Scraperで複数ページにまたがるデータを扱う
http://labs.gmo.jp/blog/ku/2008/02/wwwmechanizeautopagerwebscraper.html