ArchiveBox:自分で構築するウェブアーカイブシステムで、ブラウジング履歴とブックマークを永遠に保存

仕事や学校に戻るとき、重要なウェブページを再確認したいと思ったことはありませんか?しかし、相手が突然デザインを変更したり、コンテンツを削除したり、さらにはウェブサイト全体が消えてしまったりすることがあります。このような状況は、ニュース、研究資料、投資情報などで特に一般的で、現在のネットワークコンテンツの変化の速さを考えると、ブックマークやブラウジング履歴だけでは完全に保存することは難しいです。ArchiveBoxは、URL、ブラウジング履歴、ブックマーク、さらにはPocketやPinboardのコレクションを自動的にキャッチするためのオープンソースの自己ホスティングツールで、HTML、JS、PDF、メディアファイルなどをすべてダウンロードして保存し、オフラインでいつでも閲覧できるようにします。研究者、ジャーナリスト、歴史愛好者、または長期的にネットワークリソースを保存する必要があるユーザーに向けています。

ブラウジング履歴とブックマークをインポートし、自動的に完全なアーカイブを生成

ArchiveBoxの最大の利点は、さまざまな入力ソースをサポートしていることです。一度にブラウザの履歴、ブックマーク、さらにはPocketやPinboardなどのサードパーティサービスを処理できます。想像してみてください。ChromeやFirefoxの履歴ファイルをインポートするだけで、システムが各URLを一つずつクロールし、ウェブページの完全なスナップショットを保存します。これにはすべての画像、動画、スクリプトが含まれます。このプロセスは、元の外観を保持するだけでなく、単一ページのHTML、PDF、スクリーンショットなどのさまざまな形式を生成し、将来の検索や比較を容易にします。

ArchiveBoxのインターフェースを開くと、クリーンなリストビューが表示され、各アーカイブ項目にはタイトル、日付、プレビューが表示されます。さらに、内蔵の検索機能を使って、キーワードで結果を迅速にフィルタリングできます。たとえば、「2023 財報」と入力すれば、関連するアーカイブを即座に引き出すことができます。従来のブックマークツールと比較して、ArchiveBoxは単にリンクを保存するだけでなく、コンテンツが常に利用可能であることを保証します。たとえ元のサイトが閉鎖されても。

GitHub - ArchiveBox/ArchiveBox:  Open source self-hosted web archiving. Takes URLs/browser history/bookmarks/Pocket/Pinboard/etc., saves HTML, JS, PDFs, media, and more... · GitHub 介面截圖
GitHub – ArchiveBox/ArchiveBox: Open source self-hosted web archiving. Takes URLs/browser history/bookmarks/Pocket/Pinboard/etc., saves HTML, JS, PDFs, media, and more… · GitHub 公式ページのスクリーンショット

単一のURLの複数のタイムスタンプスナップショットを保存し、コンテンツの変化を追跡

ネットワークコンテンツは静的ではありません。ArchiveBoxはこの点を理解しており、同じURLを複数回アーカイブすることをサポートしています。各アーカイブは独立したスナップショットを生成します。定期的なタスクを設定することができ、たとえば毎週指定されたリストを自動的に再クロールすることで、ニュースのフォローアップ、価格の変動、政策の調整など、ウェブサイトの更新を簡単に追跡できます。この機能は、競合他社を監視したり、長期的な研究プロジェクトを行ったりするのに特に適しており、重要な変化を見逃すことを防ぎます。

実際の操作では、各スナップショットにタイムスタンプが付けられ、インターフェースに差分プレビューが表示されます。たとえば、diffツールを使用して追加または削除された部分を強調表示します。このような多バージョン管理は、Gitのバージョン管理に似ていますが、ウェブページ専用に設計されており、自己ホスティングツールの中では珍しい心配りのある設計です。

クローリング防止機構を回避し、プライベートコンテンツや動的JSページにアクセス

多くのウェブサイトは、クローラーを防ぐために自動ツールをブロックしたり、ログインを要求したりします。ArchiveBoxは、ヘッドレスブラウザを使用して人間の操作をシミュレートするなど、さまざまなワークアラウンドを提供し、成功率を大幅に向上させます。プライベートコンテンツに関しては、VPNやカスタムヘッダーを使用してメンバーエリアにアクセスできますが、特にアーカイブされたJSを実行する際には、悪意のあるコードが隠されている可能性があるため、セキュリティリスクに注意が必要です。

さらに、アーカイブする必要のない敏感なページや無用なページを避けるためのカスタム除外リストもサポートしています。これらの高度な設定により、ArchiveBoxは単なるクローラーではなく、専門的な自己ホスティングアーカイブソリューションとなり、深い制御が必要な高度なユーザーに適しています。

自己ホスティングのデプロイが簡単で、オープンソースでいつでも拡張可能

Dockerネイティブツールとして、ArchiveBoxのインストールは数行のコマンドで済み、Raspberry PiやVPS上で実行できます。複雑な設定は不要です。SQLiteをデータベースとして使用し、リソース消費が少なく、個人や小規模チームに適しています。オープンソースの性質により、コードを自由に変更し、カスタムエクストラクターを追加したり、他のサービスと統合したりできます。長期的にはコストパフォーマンスが非常に高いです。

総じて、ArchiveBoxはネットワークコンテンツの劣化という痛点を解決し、信頼性のある自己制御アーカイブソリューションを提供します。研究やコレクションを頻繁に扱う方には、試してみる価値があります。

製品名:ArchiveBox
公式ウェブサイト:https://github.com/ArchiveBox/ArchiveBox

Nakumura
Nakumura
関連サイト:中文版 / TechRitualThe Base Principle