概要 - 「手を放つ?」ほどではない:コンテンツベースの初期化を使用した連続的な推薦におけるアイテムの冷始末問題の解決策を探る
タイトル
「手を放つ?」ほどではない:コンテンツベースの初期化を使用した連続的な推薦におけるアイテムの冷始末問題の解決策を探る
時間
2025-07-25 17:57:31
著者
{"Anton Pembek","Artem Fatkulin","Anton Klenitskiy","Alexey Vasilev"}
カテゴリ
{cs.IR,cs.AI,cs.LG}
リンク
http://arxiv.org/abs/2507.19473v1
PDF リンク
http://arxiv.org/pdf/2507.19473v1
概要
この論文は、シーケンス推薦システムにおける「冷スタート問題」に取り組んでおり、特に少ないまたはないインタラクションを持つアイテムを効果的に使用する挑戦に焦点を当てています。著者らは、凍結された内容埋め込みに小さな訓練可能なデルタを導入する新しいアプローチを提案し、モデルが元のセマンティック構造から過度に逸れないままアイテムの表現を調整できるようにしました。 冷スタート問題は、特にモデルがユーザーの履歴に基づいて次のインタラクションを予測するシーケンス設定における推薦システムの重要な挑戦です。少ないまたはないインタラクションを持つアイテムはモデルにとって難しく、それらのための効果的な表現を学習するのに苦労します。その結果、推薦品質が劣化します。 この問題に対処するために、論文はトランスフォーマーに基づくシーケンス推薦モデルにおける冷スタート問題における内容ベースの埋め込み初期化の影響を調査しています。内容ベースのアプローチは、テキスト説明などのアイテムメタデータを利用して冷アイテムの埋め込みを作成します。しかし、凍結された内容埋め込みの直接の使用は、それが推薦タスクに十分に適応していないため、性能が劣化することが多いです。また、これらの埋め込みを微調整することで、訓練の後アイテムの表現が元の構造から大きく変化するため、冷スタートアイテムの性能が低下する可能性があります。 提案されたアプローチは以下の2つの主成分から構成されています: 1. 固定ノルムを持つ凍結された内容埋め込み:これらの埋め込みはアイテムの初期表現として機能し、訓練中に固定されます。これにより、モデルがアイテムメタデータから得られたセマンティック情報を保持することができます。 2. 固定ノルムを持つ小さな訓練可能なデルタベクトル:このベクトルはモデルがアイテムの表現をわずかに調整するのを許可しますが、元の内容ベースの埋め込みに近く保つように設計されています。 bounded normの制約は、修正が初期埋め込みから過度に逸れないようにします。 論文は、このアプローチが異なるデータセットおよびモダリティ(テキスト説明を持つe-commerceデータセットやオーディオベースの表現を持つ音楽データセットを含む)の冷アイテムにおいて一貫して性能を向上させることを示しています。実験結果は、提案された方法が内容ベースの初期化や微調整などの従来のアプローチよりも推薦品質において優れていることを示しています。 論文の主な貢献は以下の通りです: 1. トランスフォーマーに基づくシーケンス推薦モデルにおける冷スタート問題における内容ベースの埋め込み初期化の影響を調査したこと。 2. 凍結された内容埋め込みの上に bounded normを持つ小さな訓練可能なデルタを学習する方法を提案したこと。 3. 提案されたアプローチが異なるデータセットおよびモダリティにおいて冷アイテムの性能を一貫して向上させることを示したこと。 論文は、提案された方法がシーケンス推薦システムにおける冷スタート問題に対するシンプルかつ効果的な解決策であり、アイテムメタデータを活用しつつ、モデルが新しいアイテムに適応する余地を提供するバランスを取るとして結論付けます。
推奨論文
均一なデジットシリアルモジュラス算術を使用する高性能パイプラインNTTアクセラレータ
高度に微調整された大規模言語モデルにおける記憶
ブロック符号化におけるアンシラ・オーバーヘッドを削減する方法
VisionThink:強化学習を通じてスマートで効率的な視覚言語モデル
制約表現可能な中間表現に導かれた3Dソフトウェア合成
MCP4EDA: バックエンド認識合成最適化付きのLLM駆動モデルコンテキストプロトコルRTL-to-GDSII自動化
任意の挑戦分布下での柔軟な刺穿可能暗号機能のコピー保護方法
AQuilt: 専門用LLMsのための低コスト、高い関連性を持つデータ統合にロジックと自己検査を織り交ぜたもの
有限領域における可変 Min-Cut Max-Flow 界とアルゴリズム
不確実性下での堅牢最適化を通じてのパーソナライズド薬剤の計算的デザイン