モデルサポート
Groqの使用
GroqCloud APIキーの取得方法とLobeVidolでのGroqの設定方法を学び、Groqの強力な性能を体験しましょう。
LobeVidolでのGroqの使用
Groqの LPU推論エンジン は、最新の独立した大規模言語モデル(LLM)ベンチマークテストで優れたパフォーマンスを発揮し、その驚異的な速度と効率でAIソリューションの基準を再定義しました。LobeVidolとGroq Cloudの統合により、Groqの技術を活用してLobeVidolで大規模言語モデルの実行を簡単に加速できます。
Groq LPU推論エンジンは、内部ベンチマークテストで毎秒300トークンの速度を達成し、ArtificialAnalysis.aiのベンチマークテストによって、Groqはスループット(毎秒241トークン)と100トークンの出力を受け取るための総時間(0.8秒)で他のプロバイダーを上回ることが確認されています。
このドキュメントでは、LobeVidolでGroqを使用する方法を説明します。
ステップ1: GroqCloud APIキーの取得
まず、GroqCloud ConsoleにアクセスしてAPIキーを取得する必要があります。
コンソールのAPI Keys
メニューでAPIキーを作成します。
ポップアップに表示されるキーを適切に保存してください。これは一度しか表示されず、誤って失った場合は新しいキーを再作成する必要があります。
ステップ2: LobeVidolでのGroqの設定
設定
-> 言語モデル
の中にGroqの設定オプションがありますので、先ほど取得したAPIキーを入力してください。
次に、アシスタントのモデルオプションでGroqがサポートするモデルを選択すると、LobeVidolでGroqの強力な性能を体験できます。