Category: AI / ML

1adde6671de223e93300c82596bc1275-20241001084709

Google Colaboratoryでセッション動画から、YouTubeやサイトに掲載する文章を生成する

DevRelとして企画運営に携わるJP_Stripesコミュニティでは、登壇者のセッションを動画アーカイブ化しており、Google ColaboratoryとWhisperを使用して動画の説明文やコミュニティウェブサイトの文章作成を行っています。動画のアーカイブ化により、過去のセッション内容の理解を深める取り組みをしており、Shifterを用いてウェブサイトの保守時間を短縮しています。文字起こしや動画紹介文章の生成を自動化するためにWhisperやClaude 3.5 Sonnetを活用しています。

Published at: 2024/10/02

AI / ML LLM

Claude 3 (Opus)で公開しているライブラリの説明文を作らせてみた（複数ファイル編）

以前の1ファイルのライブラリの実験に続き、今回は複数ファイルで構成されたライブラリを使用して、使い方やドキュメントの生成などの実験をおこないました。”aws-api-responsebuilder”はAWS Lambda関数でAPIGatewayのレスポンスを構築するための便利なライブラリで、インストールから使い方まで詳細に解説されています。フルエントインターフェースを活用し、型安全性が確保されています。README.mdの生成に利用することも可能です。

Published at: 2024/08/16

AI / ML Cloudflare LLM

LangChain.jsとLangSmithをCloudflare Workersで動かす場合の環境変数について

LangSmithを使用して、LLMアプリのトレースと分析方法を調査中。Cloudflareにデプロイする際の環境変数の扱いについて説明。LangSmithでは環境変数のexportが必要であり、Cloudflareでは実行時の引数で設定。LangSmithの方法だとトレースが開始できないため、実行時に直接値を設定する方法を紹介。Honoを使用する際はmiddlewareを利用して全リクエストで処理可能。詳細は参考資料をご覧ください。

Published at: 2024/08/12

AI / ML LLM

LangSmithのアカウントを作ってデモデータを見てみた

LangChainやBedrockを使用してAIアプリを開発する際の課題は、「実行結果の評価」。LangSmithを利用し、実行結果のモニタリングやトレースログ確認を行うことが重要。無料でアカウントを作成し、デモ用プロジェクトを通じてLLMアプリの実行結果やトレース機能を活用することが可能。LangSmithは複数回のLLM API呼び出しをトレースするツールで、JavaScriptとPythonをサポート。環境変数の扱いには注意が必要。

Published at: 2024/08/11

AI / ML LLM

Claude 3 (Opus)で公開しているライブラリの説明文を作らせてみた（単一ファイル編）

作ったOSSライブラリの説明やサンプルコードを自動生成したいと試行錯誤している。特定のファイル内のコードを読み込んで説明させる実験を行い、AWS CDKでNode.jsのLambda関数を生成するライブラリの解説生成に成功。ライブラリの導入や使い方を自動で生成し、効率化に役立てられる可能性がある。しかし、生成結果は作者の試行結果に依存するため、検証は必要。今後は複数ファイルの場合やアプリケーション化の実装などにも研究を続ける。

Published at: 2024/08/05

AI / ML Cloudflare SaaS / FaaS

Cloudflare AI Gatewayを、LangChain.jsで作ったアプリに入れてみた

Cloudflare Meetup OsakaでAI Gatewayの話を聞き、AI Gatewayを使ってみた。管理画面から名前を指定するだけでAI Gatewayを作成できる。APIエンドポイントはプラットフォームによって変わり、LangChain.jsでの実装方法が紹介された。Cloudflare Workersでの処理実行やログ機能の確認方法も解説。AI Gatewayの便利な機能や課金不要の利点があり、レスポンスキャッシュやレートリミットも設定可能。LangSmithなど他のツールとも併用が可能。

Published at: 2024/05/17

AI / ML JavaScript LangChain.js LLM Node.js

外部APIを利用したRAGをLangChain.jsのLCELだけで作る2 – 部分的なベクトル検索を採用する

LangChain.jsを使用して、RAGやテキスト生成機能を実装するシリーズが続いています。前回はWordPressのREST APIを使用して、RAGの検索部分に挑戦しました。今回はエラーが発生した記事本文や複数記事をLLMに渡す試みについて説明されています。MemoryVectorStoreを利用することで、記事の関連性の高い文章を取得し、記事の検索結果をさらに深掘りする方法も紹介されています。WordPressから取得した記事情報の検索結果をMemoryVectorStoreに保存する方法や、RAGのインデックスと検索処理を実装する手順も示されています。Cloudflare Workers AIを使用して生成された日本語の回答に関する内容や、AWS Lambdaのアプリケーションをアップデートする手順についても触れられています。LLMのトークン数上限に対処する方法や、回答を生成する際に必要な文章の抽出方法についても言及されています。ベクターインデックスを利用した検索についての知見が共有されています。

Published at: 2024/04/03

AI / ML Cloudflare JavaScript LangChain.js LLM Node.js SaaS / FaaS

[LangChain.jsでいろんなRAGを作る]Cloudflare Workers AIで作ったRAGに翻訳機能を追加してみた

Cloudflareを使用してRAGを構築する際、モデルやプロンプトに関連して回答が英語になる可能性があることが挙げられます。そのため、特定の言語で回答を生成するために翻訳ステップを追加することが有効です。これにより、複数のChainをつなぎ合わせて、質問に対して検索を行い、結果を元に日本語で回答生成する流れを完成させることができます。多言語サポートが必要な場合は、翻訳処理を追加して検索精度を向上させることが可能です。

Published at: 2024/03/31

AI / ML Cloudflare JavaScript LangChain.js LLM Node.js SaaS / FaaS

LangChain.jsでCloudflare Workers AIの翻訳モデルを利用する

LangChain.jsを使用すると、Cloudflare Workers AIを簡単に活用できます。Text GenerationやText Embeddingsのモデルは問題なく利用できますが、Translationモデルなど一部のモデルは対応していない。LangChain.jsでは新たな実装が必要な場合、自身で処理を実装しChainに組み込むことができます。RunnableLambdaを使用すれば、テキスト生成以外のモデルもLangChain.jsで活用可能。Cloudflare Workers AIを効果的に使用していくためには、適切な実装が必要です。

Published at: 2024/03/30

AI / ML JavaScript LangChain.js LLM Node.js

LangChain Hubのプロンプトを利用して、RAG向けにブログ記事のchunkを実施する

RAG（Retrieval Augmented Generation）において、適切なサイズにデータを分割する手法は重要であり、LangChain Hubを使用すれば、プロンプトの簡単な利用や更新が可能です。LLMを用いたChunk作成は効果的だが、コストや意図しないテキスト生成には注意が必要。LangChain Hubのプロンプトの変更に伴う挙動変化にも注意が必要。Hub上のプロンプトを使ってプロンプト変更の管理が簡略化される一方で、第三者プロンプトの変更影響についても検討が必要。

Published at: 2024/03/25