LDAを使った政治における専門家探しの改善

多くの政治組織、例えば議会では、人々は特定のトピックについて詳しい政治家を探す必要があることがよくある。これをするためには、まず政治家のプロフィールを作る必要があり、その中には彼らの関心分野が含まれる。この情報は、彼らの演説から自動的に集めることができる。政治家は複数の分野の専門家であることがあるので、各専門分野ごとにサブプロフィールを作成できる。

この研究では、潜在的ディリクレ配分（LDA）という手法を使って、これらのプロフィールを作成する新しい方法を紹介する。LDAは政治的演説で議論された主要なトピックを特定し、関連する用語を異なるトピックベースのサブプロフィールに整理するのに役立つ。これを達成するために、十五の距離と類似性の尺度を使って、演説で議論されたトピックの最適な数を見つけ出した。その結果、これらの尺度は一般的に五つの戦略に凝縮されることが分かった：ユークリッド、ダイス、ソーレンセン、コサイン、オーバーラップ。我々のテストでは、提案された戦略からの正確性のスコアは、専門家推薦に使われる標準的な方法よりも通常良好であり、適切なトピック数を使用することが重要であることが示された。

#専門家発見の重要性

この研究の背景には、ユーザーのテキスト記述や個々の好みに基づいてアイテムを提案するコンテンツベースの推薦システムがある。人を推薦する際、特定のタスクや問題を処理するのに最適な人を探している。私たちの場合、これらの人は特定の分野の専門家である政治家だ。

例えば、農業委員会にいる国会議員（MP）は、関連する法律、問題、イニシアチブ、補助金、異なる場所の作物の種類など、さまざまな農業問題について深い理解を持っているべきだ。健康、文化、経済、教育などに焦点を当てた他の委員会で働くMPにも同じことが言える。

誰かが特定の問題に直面しているとき、たとえば、学校の年度末に教室が暑すぎる場合や、夜間の住宅地での騒音レベルの上昇について情報を求めている場合、最初のステップは連絡すべき適切な人物を特定することだ。一般的な検索エンジンを使って政治家のリストを見つける方法もあるが、情報が散逸していて信頼性が低いため、時間がかかり非効率的になる可能性がある。代わりに、専門の専門家発見システムを使うことで、政治家に関するテキスト情報を保存し、ユーザーがクエリを提出して関連するMPのリストを受け取ることができる。このシステムは、ユーザーが自分の問題を手伝ってくれる正しい政治家に簡単にアクセスできるのを支援する。

各専門家に関するテキスト情報には、彼らの興味や専門分野が含まれており、レポートや文書、議会での演説の書き起こしなど、さまざまなソースから取得できる。この情報を分析することで、彼らが何を言うかに基づいて専門家について学ぶことができる。

正しい専門家を推薦するためには、彼らの専門分野を明確に表現する必要がある。その際最も一般的なのは、彼らの興味や専門性を説明する用語を使うことだ。候補者が健康、教育、環境など多様な興味を持っている場合、それらを一つのプロフィールにまとめるのは理にかなわないかもしれない。これでは特定のトピックが過小評価される可能性がある。より焦点を絞ったサブプロフィールに分けることで、彼らの専門性のより明確で役立つ表現を提供できる。

#より良い推薦のためのプロフィールの分解

この論文の目的は、一つの多様なプロフィールを、政治家の演説から集めたすべての用語から作成されたものを、複数の焦点を絞ったサブプロフィールに分解する方法を見つけることだ。候補者の興味を正確に特定することで、より良い推薦を提供できる。

これを達成するために、LDAを利用して政治家に関連する文書内のトピックを特定する。以前の研究では、トピックモデルの代わりにクラスタリング技術を使って同じ問題にアプローチした。

この研究では、専門家発見と合わせてLDAを従来のやり方とは異なる方法で使用することを目指している。ほとんどのアプローチは、用語ベクトル（バグオブワーズ）を使って文書とプロフィールを表現する。しかし、我々のアプローチでは、LDAといったトピックモデルを活用して、用語からトピックへの表現をシフトさせるつもりだ。我々は、文書を異なるトピックにリンクされたサブ文書に分けるだけでなく、それらをトピック領域に変換することなく、用語空間内に保持する。同じトピックに属するサブ文書は、サブプロフィールを形成するために結合される。この方法で、特に限られた用語を持つ候補者には圧倒的な数のサブプロフィールが生じる可能性があるため、最も関連性の高いトピックだけを選択することでこのプロセスを簡略化する方法も作成した。

私たちの研究の焦点は、政治的文脈における専門家サブプロフィールを作成するためのLDAの効果にある。主な貢献には以下が含まれる：

1. 政治的環境内で専門家発見のためにLDAがどのように多くの焦点を絞った用語サブプロフィールを生成できるかを調査すること。
2. LDA生成行列に基づいて用語を分配することで文書をテーマ別のサブ文書に分ける戦略を提案すること。
3. 距離と類似性の尺度に基づいて各文書に最適なトピックの選択を割り当てる体系的なアプローチを構築すること。
4. 提案といくつかのベースラインモデルを比較する広範なテストを実施すること。

#関連研究

専門家発見の方法は、特定の専門分野を持つ個人を結びつけることを目指しており、これらのシステムには関心が高まっていて、多くの応用がある。例えば：

• 会議やジャーナルに提出された論文のレビューアを割り当てること。
• プロジェクトに適した共同作業者を見つけること。
• 学術環境やソーシャルメディア、組織、または広範なウェブで専門家を見つけること。

政治的領域では、専門家発見に取り組んできたのは、この研究の著者たちである。

専門家発見の基本的なアプローチは二つある：

1. プロフィールベースの方法で、関連する文書を組み合わせて各専門家のプロフィールを作成する。
2. 文書ベースの方法で、専門家に関連する文書を個々のエンティティとして保存し、ユーザーのクエリに基づいて関連文書を取得する。

我々の場合、文書はMPの個々の演説に関連しているため、文書ベースのアプローチを採用する。文書ベースの方法は一般的により良い結果を出すが、いくつかの研究では混合結果が示されている。

我々の研究では、トピックモデル、特にLDAに焦点を当てる。既存の多くの方法がコミュニティ質問応答（CQA）システムで確率的潜在意味解析（pLSA）を使用している。pLSAモデルは、ユーザーの質問に関連するトピックの集約された分布に基づいてユーザーを表現するか、ユーザーに関連する質問を反映した文書として表現することができる。

文書ベースのモデルでは、クエリ用語の確率は通常、最大尤度推定とディリクレ平滑化を使用して推定される。しかし、いくつかの方法は、文書コレクションから得られたLDA学習トピックをユーザー表現に組み込むことで、専門家発見プロセスを改善している。

他にも、著者-ペルソナ-トピック（APT）モデルのようなトピックモデルがあり、これは提出された論文のレビューアを推薦するのに役立つ。各著者をさまざまな役割を反映した隠れトピックの分布で表現する。

この研究の目的は、MPの演説から均一なサブプロフィールを作成することに特化したアプローチを探ることだ。

#演説分析を用いた専門家発見のプロセス

潜在的な専門家候補のグループと、それに関連する文書のコレクションがある状況を考えよう。我々の場合、候補者はMPであり、各文書は議会での演説にリンクしている。

我々の目的は、MPに関連するすべての文書からの用語を含む多様なプロフィールを、より焦点を絞ったテーマ別サブプロフィールに分解することだ。これを行うために、まずLDAを適用して文書コレクション内のさまざまなトピックを特定する。

LDAを文書コレクションに使用すると、二つの行列が生成される：

• 各エントリは、トピックに関連する用語の確率を示す。
• 各エントリは、文書に関連するトピックの可能性を反映する。

LDAがトピックを特定したら、次のステップは、異なるトピックで議論された内容に基づいて各文書を複数のサブ文書に分けることだ。

この例では、文書が「健康」と「教育」という二つのトピックに関するものであれば、健康に関連する用語が一つのサブ文書に主に割り当てられ、教育に関連する用語が別のサブ文書に入るべきだ。ただし、いくつかの用語は複数のトピックに関連している場合があり、これは割り当てプロセスを複雑にする。

我々の提案した方法は、LDAから得た確率に基づいて各用語の出現をサブ文書に分配する。これらの確率は、用語、文書、トピック間の関係を使用して計算する。

分離プロセスを適用した後、同じトピックにリンクされたサブ文書を結合して候補者のサブプロフィールを作成する。この方法で多くのサブプロフィールが生成される可能性があるが、各文書に関連するトピックだけを選択することで、サブプロフィールの数を減らす戦略を適用できる。

#最適なサブドキュメントの数を選ぶ

トピックの数を選ぶことは、発見の結果に大きな影響を与える可能性がある。そのため、体系的にこのアプローチを取ることが重要だ。これを行うために、トピックの確率分布を確立し、最も関連性の高いトピックを選択するための最適なインデックスを決定する。

さまざまな距離と類似性の尺度を利用して、この作業を助けることができる。主な目標は、最適なパフォーマンスを提供するための適切なトピックセットを見つけることだ。

異なる距離と類似性の尺度を分析すると、注目すべきいくつかの指標が見つかる：

• コサイン類似度。
• ダイス係数。
• ジャカール類似度指数。
• ユークリッド距離。
• オーバーラップ係数。

距離と類似性の尺度の探索において、計算する方法は多数存在するが、一般的に五つの異なる選択戦略に収束することが分かる。

これらの戦略を専門家発見のタスクに適用することで、候補者を効果적으로表現するためのより正確なサブプロフィールの数を導き出すことができる。

#実験の実施

この研究の主な目的は、LDAを使って用語のサブプロフィールを構築することで、政治的文脈における専門家発見を改善できるかを判断することだ。これを検証するために、アンダルシア議会で議論されたさまざまなイニシアチブに関する演説が含まれる議会記録に基づくデータを利用する。

文書を訓練セットとテストセットに分ける。訓練セットはLDAを実行してサブプロフィールを作成するために使用し、テストセットはシステムの評価に使用する。このサンプリングプロセスを何度も繰り返して、正確な予測を保証する。

システムの有効性を測るために、三つの標準的な情報検索メトリックを計算する：精度、上位十人のMPに焦点を当てた正規化割引累積利益（NDCG）、および関連MPの総数に基づく再現率だ。

#分配戦略の分析

介入用語がさまざまなトピックにどのように分配されているかを分析した後、それが各MPのために作成されたサブプロフィールにどのように影響するかを評価できる。用語を分配する方法は、MPの出力ランキングに大きな影響を与える可能性があり、効果的な推薦には重要だ。

さまざまな分配戦略を使用して生成されたサブプロフィールのサイズを調べることで、トレンドを観察できる。具体的には、考慮されるトピックの数が増えると、生成されたサブプロフィールの数が増加する傾向がある。しかし、各サブプロフィールに含まれる平均用語の数は減少する傾向がある。

この観察は期待通りである：MPの演説をより具体的なトピックに分類することで、専門化のパターンを認識できるようになる。これにより、各MPの専門性をより明確に理解できる。

50用語未満の小さなサブプロフィール、つまり代表性の潜在的な問題を特定することで、関連性のある政治家を特定する際に課題が生じる可能性がある。多くの小さなサブプロフィールがあると、最も関連性の高い政治家を特定するのが難しくなる。

#パフォーマンス評価

さまざまな分配戦略の有効性を評価した後、用語とトピックベースのベースライン、および深層学習モデルを含むさまざまなモデルのパフォーマンスについて議論した。我々の発見は、用語ドメインがトピックドメインよりも良い結果をもたらす傾向があることを示唆している。

提案されたアプローチをテストすると、分配戦略は一般的にベースラインを上回るパフォーマンスを示した。しかし、選択されたトピックの数は全体的な有効性を決定する重要な役割を果たす。

さまざまなテストを通じて、各分配戦略には独自の強みがあることは明らかだったが、特にソーレンセン戦略がより均一なプロフィールを作成する際に際立っていた。

#結論と今後の方向性

この研究は、演説からの用語を採掘するためにLDAを適用することが、政治的文脈での専門家推薦にどのようにプラスの影響を与えるかを示している。LDAを使用した構造化されたアプローチが、価値のあるトピックベースのプロフィールを生成することを示した。異なる分配戦略は、トピック間で一貫した用語分布を作成するために効果的に機能する。

今後の方向性として、これらのサブプロフィールの構築に影響を与える時間的側面を探求することや、単に用語レベルではなく段落レベルで文書用語を分配して、演説内の重要なトピックをよりよく捉えることを考えている。最後に、これらの方法論を政治以外のさまざまなドメインに適用してさらなる検証を行うことにも興味を持っている。