在 LobeVidol中使用 Groq

Groq LPU 推理引擎在内部基准测试中连续达到每秒 300 个令牌的速度,据 ArtificialAnalysis.ai
的基准测试确认,Groq 在吞吐量(每秒 241 个令牌)和接收 100 个输出令牌的总时间(0.8
秒)方面优于其他提供商。
步骤 1: 获取 GroqCloud API Key
首先,你需要到 GroqCloud Console 中获取一个 API Key。
API Keys
菜单中创建一个 API Key。

妥善保存弹窗中的 key,它只会出现一次,如果不小心丢失了,你需要重新创建一个 key。
步骤 2: 在 LobeVidol中配置 Groq
你可以在设置
-> 语言模型
中找到 Groq 的配置选项,将刚才获取的 API Key 填入。
