WordPressにはデフォルトでさまざまなブロックが用意されていますが、ブロックをカスタマイズしたい場合もあります。そのようなケースでは、「ブロックの拡張方法」が役立ちます。まず、create-blockコマンドなどを使用してブロックプラグインをセットアップし、registerBlockVariation関数を追加します。これにより新しいブロックが作成されます。また、コードでブロックの設定値をカスタマイズすることもできます。さらに、inserterプロパティを使用すると、コマンドや本文内からもブロックを追加できます。innerBlocksプロパティを利用すると、子ブロックも指定できます。カスタムブロックを作成する際には、保守コストに注意しながら検討することが重要です。

LangChain / Honoを使用してMomentoやSupabaseなどのさまざまなサービスを試している中でエラーに遭遇しました。具体的には、LangChain内部で使われている@gomomento/sdkへの参照が解決できず、エラーが発生していました。そのため、ローカルでの修正を試みましたが、毎回コードを変更するのは現実的ではありません。そのため、Issueを立てて報告し、コードの提案と共にPull Requestを提出し、無事マージされました。LangChain.jsはオープンな体制を持っており、使いやすいエッジコンピューティング環境でもあるため、今後もContributionを続けたいと思います。

Bedrock Knowledge Baseを使用すると、RAGのベースとなるベクターストアを簡単に準備できます。ただし、CMSやECサイトなどでは定期的なデータ更新が必要です。AWS SDKを使用してデータの更新/同期を行う方法を調査しました。データの取り込みはIngestionJobと呼ばれ、StartIngestionJob APIを使用して実行できます。データ量によって取り込みに時間がかかる場合は、ListIngestionJobs APIを使用してIngestion Jobの履歴を取得できます。また、個別のジョブについて詳細を確認するにはGetIngestionJob APIを使用します。データソースはS3に保存されているため、シンプルにジョブを実行できます。App FlowやEventBridge / Step Functionsと組み合わせることでさまざまなことができます。

SupabaseとOpenSearchなどでは、ベクトル検索と全文検索の両方を組み合わせたHybrid Searchが可能です。LangChain経由でSupabaseのHybrid Searchを試す方法や、ベクトル検索用のテーブル生成や関数作成の手順が説明されています。また、実際に検索を行う際のコード例も示されています。Hybrid Searchでは、Retrieverとしての役割を担うようです。関連するドキュメントやサンプルコードも紹介されています。

Supabaseでは、直接DBにアクセスするためのAPIが利用できるとの情報を耳にしました。テスト用のテーブルを作成し、データを投入しました。また、Row Level Securityを有効化するための手順も確認しました。準備ができたので、Data APIを使用してデータを取得しました。取得したデータは、指定の形式で取得できました。

PostgreSQLなのでSupabaseで作ったデータベースに対して全文検索が可能です。to_tsvectorとto_tsqueryを使用して検索する方法を紹介しています。日本語の場合、デフォルトでは対応していないため、カスタマイズが必要です。詳細な手順は別途調査し、後日紹介予定です。参考にした記事は以下です：https://supabase.com/docs/guides/database/full-text-search、https://www.amris.jp/tsja/index.html

Supabaseは、pgvectorを使用しているようで、他のPostgreSQL版（Amazon RDSなど）と組み合わせて使用することも可能です。Supabaseのプロジェクトを作成し、データベースを生成するSQLを実行します。また、Supabaseを使用してデータを挿入し、類似検索を行うAPIを作成することもできます。データの確認はTable EditorやSupabase SDKから行えます。ただし、RAGを使用する場合は負荷や影響を考慮する必要があります。

LLMを使用したアプリの開発では、ユーザーの待ち時間内にインタラクションを作成するために、Streamを使ってレスポンスを処理するのが一般的です。Amazon Bedrockでホストされているモデルを呼び出す際に、Streamでレスポンスを受け取る方法について調査しました。Bedrock Runtime ClientのInvokeModelWithResponseStreamを使用することで、Streamでの受け取りが可能です。ただし、必須項目としてmax_tokens_to_sampleを指定する必要があります。また、Claudeを使用する場合には、「Assistant:」で終わらせる必要があります。

AlexaやLex / LINEなどのチャットボットは、ステートレスに作られており、過去の入力と返答は保存する必要があります。この記事では、Amazon DynamoDBを会話履歴DBとして使用する方法について調査しました。会話のセッションIDをキーとして、DynamoDBのテーブルを作成し、LangChain.jsを使用してDynamoDBを呼び出す方法を紹介しています。また、実際に会話データがDynamoDBに保存される構造と、セッションを復元する方法も説明されています。ただし、データの維持には注意が必要であり、Momentoなどのデータストアを検討することも推奨されています。

ここ最近ずっとRAGやLangChainと格闘しています。DevRelとしての仕事で、仕事に関係するOSSやサンプルなどのコードを読んだり参照したりすることが少なく無い頻度であるのですが、RAGで効率化できないかというと […]