生成AIアプリケーションの高速化、
ベクトルデータベースと従来のデータベースの違い
提供Tencent Japan合同会社
ChatGPTの登場以降、多くの企業が大規模言語モデルを活用したユースケースを模索しています。その中で注目されているのが、大規模言語モデルが学習していない企業内データをベクトルデータベースに保管し、ChatGPTなどを利用して効果的に活用する検索拡張生成(RAG: Retrieval-Augmented Generation)システムです。
テンセントクラウドのベクトルデータベースは,完全マネージドの自社開発の企業向け分散データベースサービスで、多次元ベクトルデータの保存、検索、分析に特化しています。このデータベースは、複数のインデックスタイプと類似度計算方法をサポートし、単一インデックスでは10億規模のベクトルをサポートし、百万レベルのQPSとミリ秒でクエリ応答が可能です。
本講演では、テンセントクラウドのベクトルデータベースが生成AIアプリケーションをどのように高速化できるかについて説明します。
この講演を通じて、参加者はテンセントクラウドのベクトルデータベースが提供する高速化ソリューションの概要を理解し、自社の生成AIプロジェクトに活用するための具体的なアイデアを得ることができます。