より良いAttention機構がLLMの長文処理の性能を向上させる！
より良いAttention機構がLLMの長文処理の性能を向上させる！
Large language models
言語処理
See Finer, See More. テキストベースの人物検索のための暗黙のモダリティアライメント
See Finer, See More. テキストベースの人物検索のた ...
深層学習
【beeFormer】推薦システムでのテキスト情報とインタラクションデータを組み合わせてTransformerを学習
【beeFormer】推薦システムでのテキスト情報とインタラクションデ ...
Large language models
大規模言語モデルを使用して執筆されたコンテンツに対する所有感覚と著作感覚
大規模言語モデルを使用して執筆されたコンテンツに対する所有感覚と著作感 ...
Large language models
MLPの代わりにKolmogorov-Arnold Network（KAN）を導入してモデルの表現力と性能を向上
MLPの代わりにKolmogorov-Arnold Network（K ...
Large language models
タンパク質の機能を化学結合を基に予測し性能を向上させるCNNベースのモデルが登場
タンパク質の機能を化学結合を基に予測し性能を向上させるCNNベースのモ ...
medical
失敗から学ぶLLM、新しいベンチマーク「COTERRORSET」の提案
失敗から学ぶLLM、新しいベンチマーク「COTERRORSET」の提案
Large language models
【BitNet b1.58】モデルパラメータを3値で表現しLlama以上の精度を達成！？
【BitNet b1.58】モデルパラメータを3値で表現しLlama以 ...
Large language models
超長いプロンプト文を圧縮してメモリを抑えるGoogleの高性能LLM
超長いプロンプト文を圧縮してメモリを抑えるGoogleの高性能LLM
Large language models
【SpliceBERT】生物種の遺伝情報で事前学習を行うBERTモデル！
【SpliceBERT】生物種の遺伝情報で事前学習を行うBERTモデル ...
medical
【IGModel】GNN+Attention機構を応用した手法が創薬における実用性の向上
【IGModel】GNN+Attention機構を応用した手法が創薬に ...
medical
モデル自身が自分に報酬を与えてトレーニングを行う！？
モデル自身が自分に報酬を与えてトレーニングを行う！？
Self Rewarding
【JMMLU】プロンプトの礼儀正しさがLLMのパフォーマンスに影響する！？
【JMMLU】プロンプトの礼儀正しさがLLMのパフォーマンスに影響する ...
ChatGPT
「LLMが長文を出力する際の正確さ」を自動評価する手法が誕生
「LLMが長文を出力する際の正確さ」を自動評価する手法が誕生
Large language models
ゲーム用LMベースエージェント（LMA）のアーキテクチャのレビューと課題
ゲーム用LMベースエージェント（LMA）のアーキテクチャのレビューと課 ...
Large language models
集団における文化的進化をLLMでシミュレートするためのフレームワークが登場！
集団における文化的進化をLLMでシミュレートするためのフレームワークが ...
Cultural evolution
フェイクニュースの検出に初めてLLMを活用したフレームワークが登場！
フェイクニュースの検出に初めてLLMを活用したフレームワークが登場！
fakenews
「BioinspiredLLM」大規模言語モデルを活用した生物学的材料研究の革新
「BioinspiredLLM」大規模言語モデルを活用した生物学的材料 ...
Large language models