LLM が抱える課題と RAG 技術の登場 LLM は大量のデータを使って学習しますが、学習データに含まれない情報を含む質問にはうまく回答できません。例えば、「最新の科学論文に基づいて、この病気の新しい治療法を提案してください」といった質問に対して、LLM は学習データに含まれていない最新の科学論文の内容を理解することができません。 この問題を解決するために、Retrieval-Augmented Generation (RAG) 技術が登場しました。RAG は、ユーザーの質問に基づいて関連情報を検索し、その結果を LLM への入力として使用することで、より正確な回答を生成します。 従来の RAG では、検索にベクトル類似度が用いられてきました。しかし、Microsoft Research の最新の研究では、非公開データの分析において、プロンプト拡張が有効であることが示唆されました。 Gr
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? はじめに この記事では、巷で「この技術によりGPUが不要になるかもしれない、NVIDIAなどの半導体関係の株価が...」と話題になっている、BitNet b1.58についての論文を丁寧に解説します。このMicrosoftが先日発表したBitNet b1.58はそのエネルギー効率の凄まじさから2024年初めの大きな技術改革となるかもしれません！！ 筆者の見解 関する論文解説に入る前に、この技術に関する私の個人的な意見を述べたいと思います。 1bitの技術を用いることで達成されたその驚異的なエネルギー効率の高さは、既存の大規模言語モデル（L
2023年2月7日のMicrosoft発表イベント、および同8日のGoogle発表イベントの内容をまとめています。いずれも検索エンジンに搭載されるAIサービスに関する新プロダクトが発表されました。 このページは随時更新しています。 Microsoft、AIを搭載した新しいBingと Edgeブラウザを発表 Microsoftイベントの発表内容（日本時間 2023年2月8日午前3時〜） 従来の検索サービスは複雑な質問の回答に適していない 従来の検索結果画面とAIチャットウインドウ GPT-4相当の技術を搭載 ChatGPTよりも自然で意図にあった回答をするデモを披露 違法行為を促進しないための安全システム 新しいBingのデモ画面 AIを搭載した新しいBingの概要（Microsoft公式発表資料より） Bing Webmaster Guidelines 会話型検索に関する記述 Google
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
