Page: 13 / 106
AI / MLCloudflareJavaScriptLangChain.jsLLMNode.jsSaaS / FaaS
[LangChain.jsでいろんなRAGを作る]Cloudflare Workers AIで作ったRAGに翻訳機能を追加してみた
Cloudflareを使用してRAGを構築する際、モデルやプロンプトに関連して回答が英語になる可能性があることが挙げられます。そのため、特定の言語で回答を生成するために翻訳ステップを追加することが有効です。これにより、複数のChainをつなぎ合わせて、質問に対して検索を行い、結果を元に日本語で回答生成する流れを完成させることができます。多言語サポートが必要な場合は、翻訳処理を追加して検索精度を向上させることが可能です。
AI / MLCloudflareJavaScriptLangChain.jsLLMNode.jsSaaS / FaaS
LangChain.jsでCloudflare Workers AIの翻訳モデルを利用する
LangChain.jsを使用すると、Cloudflare Workers AIを簡単に活用できます。Text GenerationやText Embeddingsのモデルは問題なく利用できますが、Translationモデルなど一部のモデルは対応していない。LangChain.jsでは新たな実装が必要な場合、自身で処理を実装しChainに組み込むことができます。RunnableLambdaを使用すれば、テキスト生成以外のモデルもLangChain.jsで活用可能。Cloudflare Workers AIを効果的に使用していくためには、適切な実装が必要です。
AI / MLJavaScriptLangChain.jsLLMNode.js
LangChain Hubのプロンプトを利用して、RAG向けにブログ記事のchunkを実施する
RAG（Retrieval Augmented Generation）において、適切なサイズにデータを分割する手法は重要であり、LangChain Hubを使用すれば、プロンプトの簡単な利用や更新が可能です。LLMを用いたChunk作成は効果的だが、コストや意図しないテキスト生成には注意が必要。LangChain Hubのプロンプトの変更に伴う挙動変化にも注意が必要。Hub上のプロンプトを使ってプロンプト変更の管理が簡略化される一方で、第三者プロンプトの変更影響についても検討が必要。
AI / MLJavaScriptLangChain.jsLLMNode.js
[LangChain.jsでいろんなRAGを作る] 一度生成した回答文章を用いて、もう一度検索とテキスト生成を実施する
RAGに関する調整・実装方法について紹介があります。HyDEの手法を活用した「一度RAGで処理した結果を用いて、もう一度RAGを実行する方法」に焦点が当てられています。質問文と検索結果から回答文章を生成し、その回答文章を利用して再度検索処理と回答文章の生成を行います。2回目のテキスト生成では、回答文章を改善する指示が出されています。劇的な回答文章の変化は見られませんが、データの前処理や技術の追加学習後に再試行したいとの考察も述べられています。