【BitNet b1.58】モデルパラメータを3値で表現しLlama以上の精度を達成！？
【BitNet b1.58】モデルパラメータを3値で表現しLlama以 ...
Large language models
超長いプロンプト文を圧縮してメモリを抑えるGoogleの高性能LLM
超長いプロンプト文を圧縮してメモリを抑えるGoogleの高性能LLM
Large language models
盲目のAIが環境の地図を学習するという興味深い発見
盲目のAIが環境の地図を学習するという興味深い発見
強化学習
二重連結性に着目しグラフニューラルネットワークの性能を大幅向上
二重連結性に着目しグラフニューラルネットワークの性能を大幅向上
GNN
アップルがLLMのようにスケーラブルな大規模自己回帰画像モデルを開発
アップルがLLMのようにスケーラブルな大規模自己回帰画像モデルを開発
Computer Vision
【Google開発】機械学習システムにおけるプライバシー保護を高速に監査する手法
【Google開発】機械学習システムにおけるプライバシー保護を高速に監 ...
privacy
データ制約のあるLLMの限界と解決策
データ制約のあるLLMの限界と解決策
Large language models
Metaがツールの使い方を覚える言語モデルToolformerを開発
Metaがツールの使い方を覚える言語モデルToolformerを開発
Large language models
Metaがベイズ最適化の予想外の改善を実現
Metaがベイズ最適化の予想外の改善を実現
Bayesian Optimization
複数種類の生物学的データを統合する半教師有り協調学習
複数種類の生物学的データを統合する半教師有り協調学習
semi-supervised
高難度な「要約の出来栄え評価」をLLMの文脈内学習で自動化
高難度な「要約の出来栄え評価」をLLMの文脈内学習で自動化
Large language models
【DPO】強化学習を用いずに大規模言語モデルをユーザの好みに直接合わせる手法
【DPO】強化学習を用いずに大規模言語モデルをユーザの好みに直接合わせ ...
RLHF
アップルがメモリ容量が限られたデバイス上で効率的な大規模言語モデルの推論を実現
アップルがメモリ容量が限られたデバイス上で効率的な大規模言語モデルの推 ...
Large language models