Page: 13 / 103

LangChain.jsOSS

LangChain.jsにMomentoまわりのPull Requestを出してマージしてもらった話

LangChain / Honoを使用してMomentoやSupabaseなどのさまざまなサービスを試している中でエラーに遭遇しました。具体的には、LangChain内部で使われている@gomomento/sdkへの参照が解決できず、エラーが発生していました。そのため、ローカルでの修正を試みましたが、毎回コードを変更するのは現実的ではありません。そのため、Issueを立てて報告し、コードの提案と共にPull Requestを提出し、無事マージされました。LangChain.jsはオープンな体制を持っており、使いやすいエッジコンピューティング環境でもあるため、今後もContributionを続けたいと思います。

Okamoto Hidetaka

AWSJavaScript

Bedrock Knowledge baseのデータをAWS SDK JS v3で更新する方法

Bedrock Knowledge Baseを使用すると、RAGのベースとなるベクターストアを簡単に準備できます。ただし、CMSやECサイトなどでは定期的なデータ更新が必要です。AWS SDKを使用してデータの更新/同期を行う方法を調査しました。データの取り込みはIngestionJobと呼ばれ、StartIngestionJob APIを使用して実行できます。データ量によって取り込みに時間がかかる場合は、ListIngestionJobs APIを使用してIngestion Jobの履歴を取得できます。また、個別のジョブについて詳細を確認するにはGetIngestionJob APIを使用します。データソースはS3に保存されているため、シンプルにジョブを実行できます。App FlowやEventBridge / Step Functionsと組み合わせることでさまざまなことができます。

Okamoto Hidetaka

AI / MLLangChain.jsLLMSupabase

LangChainでSupabaseのHybrid searchを試してみた

SupabaseとOpenSearchなどでは、ベクトル検索と全文検索の両方を組み合わせたHybrid Searchが可能です。LangChain経由でSupabaseのHybrid Searchを試す方法や、ベクトル検索用のテーブル生成や関数作成の手順が説明されています。また、実際に検索を行う際のコード例も示されています。Hybrid Searchでは、Retrieverとしての役割を担うようです。関連するドキュメントやサンプルコードも紹介されています。

Okamoto Hidetaka

SaaS / FaaSSupabase

SupabaseのData APIで DBの情報をREST APIから直接取得する

Supabaseでは、直接DBにアクセスするためのAPIが利用できるとの情報を耳にしました。テスト用のテーブルを作成し、データを投入しました。また、Row Level Securityを有効化するための手順も確認しました。準備ができたので、Data APIを使用してデータを取得しました。取得したデータは、指定の形式で取得できました。

Okamoto Hidetaka

SaaS / FaaSSupabase

Supabaseで作ったPostgreSQLのテーブルに全文検索を実行する

PostgreSQLなのでSupabaseで作ったデータベースに対して全文検索が可能です。to_tsvectorとto_tsqueryを使用して検索する方法を紹介しています。日本語の場合、デフォルトでは対応していないため、カスタマイズが必要です。詳細な手順は別途調査し、後日紹介予定です。参考にした記事は以下です：https://supabase.com/docs/guides/database/full-text-search、https://www.amris.jp/tsja/index.html

Okamoto Hidetaka

JavaScriptLangChain.jsNode.jsSaaS / FaaSSupabase

LangChainのベクターストアとしてSupabaseを試してみた

Supabaseは、pgvectorを使用しているようで、他のPostgreSQL版（Amazon RDSなど）と組み合わせて使用することも可能です。Supabaseのプロジェクトを作成し、データベースを生成するSQLを実行します。また、Supabaseを使用してデータを挿入し、類似検索を行うAPIを作成することもできます。データの確認はTable EditorやSupabase SDKから行えます。ただし、RAGを使用する場合は負荷や影響を考慮する必要があります。

Okamoto Hidetaka

AI / MLAWSLLM

Amazon Bedrockのモデル実行結果をStreamで受け取る方法

LLMを使用したアプリの開発では、ユーザーの待ち時間内にインタラクションを作成するために、Streamを使ってレスポンスを処理するのが一般的です。Amazon Bedrockでホストされているモデルを呼び出す際に、Streamでレスポンスを受け取る方法について調査しました。Bedrock Runtime ClientのInvokeModelWithResponseStreamを使用することで、Streamでの受け取りが可能です。ただし、必須項目としてmax_tokens_to_sampleを指定する必要があります。また、Claudeを使用する場合には、「Assistant:」で終わらせる必要があります。

Okamoto Hidetaka

AWSJavaScriptLangChain.jsNode.js

Amazon DynamoDBを利用して、LangChain.jsでの会話履歴を保存する

AlexaやLex / LINEなどのチャットボットは、ステートレスに作られており、過去の入力と返答は保存する必要があります。この記事では、Amazon DynamoDBを会話履歴DBとして使用する方法について調査しました。会話のセッションIDをキーとして、DynamoDBのテーブルを作成し、LangChain.jsを使用してDynamoDBを呼び出す方法を紹介しています。また、実際に会話データがDynamoDBに保存される構造と、セッションを復元する方法も説明されています。ただし、データの維持には注意が必要であり、Momentoなどのデータストアを検討することも推奨されています。

Okamoto Hidetaka

AI / MLJavaScriptLangChain.jsLLMNode.js

LangChainを利用して、GitHubリポジトリの情報からRAGを作る

ここ最近ずっとRAGやLangChainと格闘しています。DevRelとしての仕事で、仕事に関係するOSSやサンプルなどのコードを読んだり参照したりすることが少なく無い頻度であるのですが、RAGで効率化できないかというと […]

Okamoto Hidetaka

SaaS / FaaSSupabase

SupabaseのHeadless vector search試してみた

Supabaseの勉強も兼ねてGitHubのデモアプリを試しています。今回はベクトル検索のデモを触りました。プロジェクトをローカルにダウンロードし、Supabaseのアカウントでプロジェクトを作成。CLIコマンドでプロジェクトとサンプルアプリを紐付け、データベースのプッシュやAPIキーの設定、エッジファンクションのデプロイを行いました。最後にデプロイされたAPIを呼び出した結果も確認しました。このデモアプリは自動生成されたドキュメントなどからRAGを作る際に使えるようです。

Okamoto Hidetaka
Home
Search
Bookmark