Firefox Nightlyにブラウザ上でローカルLLMを活用する試験機能 - Shift＋Altでリンク先をカード表示

Mozillaは、ブラウザ上で直接に大規模言語モデルを活用する"Link previews"機能をFirefox Labs 138以降において試験的に搭載している。リンク先に訪問する前におおよその情報を把握できるという新しい試みを提供する同機能は、Shift＋Altキーのマウスホバーでブラウザ上にあるリンク先のコンテンツをカード状の情報表示でプレビューする。

タイトル、説明、リンク先のスナップショットと"記事を読むのにかかる時間"を合わせて表示するほか、記事の内容などのポイントをAIで3つにまとめた「Key Points」も表示する(執筆時、Key Pointsは英語サイトのみで確認)。公式ブログにはその技術的な背景を掲載しているが、同機能を有効にするとHugging Faceの小型言語モデルファミリー「SmolLM2-360M」やWebAssembly版のllama.cpp「wllama」などOSSで構成された369MBのAIモデルがダウンロードされ、ローカル環境で推論や処理速度の最適化などを実施することでプライバシーを保護している。