跳到主要內容

什麼是RAG?RAG技術突破LLM限制,結合「資訊檢索」和「文字生成」動態獲取知識大幅提升

https://www.techbang.com/posts/115773-what-is-rag

為為解決這個問題,谷歌大腦實驗室提出了RAG(Retrieval Augmented Generation,檢索增強生成)技術。RAG是一種全新的LLM訓練模式,透過將「資訊檢索」與「文字生成」結合,讓LLM能夠動態取用並理解新的知識,提升其在特定場景下的問答及文字生成品質。

RAG的工作原理是先利用檢索模型從龐大知識庫(如網路、維基百科等)中找出與問題相關的文字資訊片段,再將這些資訊片段連同原始問題一起輸入語言生成模型,讓模型理解這些補充知識後,生成準確且連貫的答案文字。

RAG技術的另一大優點,在於它讓LLM生成的文字可追溯知識來源。傳統LLM雖然擁有驚人的生成能力,但很難知道模型到底是基於什麼樣的知識做出回應。而RAG則採用了向量資料庫技術,讓我們能清楚看到模型生成的答案是源於知識庫中的哪些特定文字資訊。

以上是簡單的摘要,本人認為RAG的發展是很正確的方向,這與人類獲取知識的方式很相近,透過檢索,閱讀與修正,始能成為該領域的專家!

留言

這個網誌中的熱門文章

以色列創新者常常將「the idea is…」(這個點子是這樣的…) 掛在嘴邊

[周傳久]以色列比美國更有威力的新思維 Posted by 客座投稿 • 六月 2, 2015 • 名家專欄 , 服務設計 • Add Comment 擔任公視獨立特派員記者,讓我有機會走訪世界多國,探索各國解決各項問題的好方法,最近剛從以色列製作系列創新故事,這是第三次到以色列做類似目的出訪,我發現一個有趣的地方,就是創新者常常將「the idea is…」(這個點子是這樣的…) 掛在嘴邊。 從紙牌動腦玩具說起 在出國前有一位以色列朋友送我一種擺在桌上的紙牌動腦玩具,玩法是把不同卡片的圓圈圖案和圓點圖案重疊套成完整的圓。我請懂希伯來文的人幫我解釋。協助者不但翻譯,在解說時一直用”the idea is”,讓我印象深刻。她說紙牌the idea is玩的人要同時看全局,而不是聚焦一兩張,不然你就不能很快找到解答。換言之,練習頭腦整合思考,一次看全局,加速找出配對符號而勝出。 (圖一:以色列駐台大使向作者解說如何使用遊戲卡片) 我從她不斷強調「the idea is」回想起過去幾次在以色列,還真的好幾次他們解釋創新背後都用這個說法。於是第三度去以色列就特別留意還有誰講這個詞,果不其然,又多次在不同場合聽到這個說法。似乎真的許多亮眼的創新都有這種思維色彩。接下來舉幾個例子: 軍方朋友告訴我, 以色列許多重要發明不一定都是來自學者的研究與論文。他們也不會因為自己年輕或者別人懷疑你的領域不同而質疑你,然後就會自卑或裹足不前,什麼想法都去做、去試試看、不限制自己的思考就對了。 以色列買了許多美國的武器,也是世界上唯一被原廠同意把戰鬥機上電腦系統換成自己研發系統的國家。以色列軍人告訴我,「美國人發展武器彈是我們把它用得更有威力,因為面對敵情,the idea is …,對於掌握的武器如何用,the idea is ….」,似乎這句話帶領以色列更加強大。 溝通常常是致命錯誤的關鍵 兩位二十六歲的年輕軍人發展出鐵穹飛彈防禦系統。發明者最早在聊天時覺得「the idea is 如果面對不斷入侵的火箭,若能有一套攔截子彈的天網…」也許可以找新的方法。以色列空軍素質世界有名,有位戰鬥機飛行官因為教座艙資源管裡執行戰術任務不斷用到模擬機,想到溝通常常是致命錯誤的關鍵,後來轉而將模擬機的知識轉用到醫學中心,降低醫療語照顧服務錯誤的模擬設施。現在是一個有31間教室可以模擬戰場、天災...

台灣的未來:從硬體轉到軟體,從專利轉到著作權

台灣的未來:從硬體轉到軟體,從專利轉到著作權 (一) http://iknow.stpi.narl.org.tw/post/Read.aspx?PostID=12612 這幾篇文章非常值得大家參考! 台灣的未來:從硬體轉到軟體,從專利轉到著作權 (二) 台灣的未來:從硬體轉到軟體,從專利轉到著作權 (三) 台灣的未來:從硬體轉到軟體,從專利轉到著作權 (四) 台灣的未來:從硬體轉到軟體,從專利轉到著作權 (五) 台灣的未來:從硬體轉到軟體,從專利轉到著作權 (六) 台灣的未來:從硬體轉到軟體,從專利轉到著作權 (七) 本文作者:陳歆 博士 (Dr. Robert H. Chen) 密歇根大學空間物理學博士、史丹佛大學雷達天文學後博士、加州大學柏克萊法學院法學博士,美國加州執業律師、美國專利暨商標局註冊律師、曾任職美國律師事務所,在臺灣曾任職宏碁電腦、國際通商法律事務所、台積電、奇美電子、日月光,以及國立臺灣、清華、和交通大學的兼任教授。現在是財團法人資策會和工研院的專案顧問。

CEF中間選民論壇-教授與教師、家長團體代表座談-不可忽視的家庭教育