Gwenlake API
チャット、埋め込み、リランキング、音声に対応する、OpenAI 互換のひとつの API です。オープンソースのモデルを主権的なインフラ上に展開し、GPU、スケーリング、アップグレードまで当社が運用します。貴社のアプリケーションから見えるのは、エンドポイントひとつだけです。
四つの機能を ひとつのエンドポイントで
検索パイプラインには、チャットモデルだけでは足りません。必要なものはすべて同じ API から、同じキーと同じクォータのもとで提供されます。
チャットと補完
オープンソースの LLM を、ストリーミング、ツール呼び出し、構造化出力とともに提供します。お使いのライブラリがすでに扱える OpenAI 互換の形式です。
埋め込み
お好みの埋め込みモデルで、文書とクエリをベクトル化します。他の機能と同じ主権的なインフラ上で動作します。
リランキング
取得した文章を実際の関連度で並べ替えます。平凡な RAG パイプラインを実用に耐えるものに変える工程です。
音声
通話、会議、録音の書き起こしに対応します。そこには、文書と同じだけの知識が眠っています。
経路上に 第三者はいません
プライベート推論は、チェックを入れて済む設定ではありません。このサービスが存在する理由そのものです。
オープンウェイトのモデル
主権的なインフラ上に展開し、運用します。
専用エンドポイント
組織ごと、プロジェクトごとに分離されています。
学習には使いません
貴社のプロンプトと文書が、誰かのモデルの学習に使われることはありません。
ゼロリテンション
ペイロードを一切残してはならない処理のために。
検証した モデルだけ
この API では、当社自身が評価していないものは一切動きません。当社の研究から生まれたものか、ベンチマークし、展開し、運用したうえで採用したオープンウェイトのモデルのいずれかです。
当社自身の成果
顧客案件と並行して続けている研究から生まれた、当社が自ら開発するアルゴリズムとモデルです。
測定したオープンウェイト
オープンソースおよびオープンウェイトのモデルは、カタログに載せる前に実際のタスクでベンチマークし、新しいバージョンが出るたびに測り直します。
ブラックボックスなし
検証も、ホスティングも、説明もできないモデルへ中継することはありません。自分たちで動かせないものは、提供しません。
追えるカタログ
カタログはコードではなく設定です。貴社のアプリケーションを 1 行も変えずにモデルを追加、バージョン管理、廃止でき、変更があればお知らせします。
アプリケーションの向き先を変えるだけ
すでに OpenAI API を使っているコードであれば、主権的なエンドポイントへの移行はベース URL とキーの変更だけです。何を動かしているかをお聞かせいただければ、規模を一緒に見積もります。