機能: FedibirdのMisskeyの投稿の検索対象変更・検索範囲用プロフィールキーワードの追加

Mastodon/Fedibird
概要

機能: Fedibirdでのフォロー情報の自分への非表示設定 | GNU social JP」で前回Fedibirdの機能を紹介し、今後紹介すると予告しました。その後、Fedibirdに大きめの変更があったので紹介します。

2023-08-04の「Improved search (WIP) · fedibird/mastodon@88423fd」のコミット時点の更新になります。以下の投稿から始まるスレッドで告知されていました。概要は以下です。

概要
  1. 検索の形態素解析器をKuromojiからSudachiに変更。
  2. Fedibirdの検索で、Misskeyの投稿を公開の検索対象に変更。
  3. Fedibirdの検索で、自分の投稿の公開範囲の初期値を宣言するプロフィールキーワードを追加。

検索に関する機能追加でした。

保守

以下の投稿が開始でした。

avatar

全文検索のメンテナンスですが、終盤に入りました。(でもこれが長い)

新しい投稿が順次検索可能になっていっています。

全文検索は、Elasticsearchという独立した検索サーバを設置して、Mastodon本体と連携をとりながら動作します。

実際には、Elasticsearchが使える場合は、アカウントの検索、ハッシュタグの検索にも用いるように切り替わります。

新しい投稿がされたときや、お気に入りなどリアクションがされたときに、検索に必要な情報をMastodonからElasticsearchに書き込んでいます。

検索する際は、Elasticsearchが結果として投稿のIDを教えてくれるので、そこから必要な投稿データをMastodon側で揃えてユーザーに返します。

今回のように過去データをリセットした場合、Elasticsearchに書き込まれていないデータが大量に出てきます。

Mastodonにはメンテナンスコマンドでこれをまとめて反映する機能があるので、現在それを実行中です。これにはかなりの時間がかかります。

Fedibirdでは最新投稿からこれを反映していくようにしているので、だんだん古い投稿がみられるようになっていきます。

avatar

今回のElasticsearch側のメンテナンスは、インデックス内容の変更に伴うデータ刷新と、形態素解析器をKuromojiからSudachiに切り替える作業を行いました。

インデックス(ここでは全文検索用のデータをデータベースに保存すること)する内容は、後ほど検索オプションを提供するための仕込みで、いろいろと増やしています。

形態素解析器の切り替えは、単語の間に空白を設けない日本語の文章を分析して切り分けるための仕組みが変わるということで、sudachiはその基礎となる辞書が大きいこと、分割が検索に適していることから、検索精度にも影響してくる変更です。

とはいえ、口語調であったり、短い文章が多かったり、辞書にない言葉が使われているなど、うまく分割できないことも多いので、検索の際は ” ” で囲う方法も覚えておいてください。

たとえば『将棋』と検索しても、『将来』とか『大将』が検索結果にでてきてしまいますが、これを “将棋” と指定するとそのままの表現で検索するので、より目的にかないます。

通常の検索は表記揺れに強い(多少表現が違ってもヒットする)反面、余計なものを結果に出す欠点があるということで、うまく使い分けてください。

全文検索機能のメンテナンスを行っており、その際に形態素解析気をKuromojiからSudachiに変えました。

機能

肝心の機能更新の告知が以下です。

残り20016文字。続きはSilver/Gold会員限定。

Free=0/Bronze=220/Silver=1100/Gold=2200円。

会員登録/ログイン (About Member)。

Comments

Ads Blocker Image Powered by Code Help Pro

広告ブロッカー検知/Ads Blocker Detected

このサイトは会費と広告で運営されています。[Bronze=月220円以上に登録] するか、広告ブロッカーを無効にしてください。

This site is operated by membership and advertise. Please [register at least Bronze=220 JPY/month], or disable ads blocker.

Copied title and URL