概述

GitHub Models 是 GitHub 最近推出的一项新功能,旨在为开发者提供一个免费的平台来访问和实验多种 AI 模型。GitHub Models 提供了一个互动沙盒环境,用户可以在此测试不同的模型参数和提示语,观察模型的响应。该平台支持多种先进的语言模型,包括 OpenAI 的 GPT-4o、Meta 的 Llama 3.1 和 Mistral 的 Large 2 等,覆盖了从大规模语言模型到特定任务模型的广泛应用。

GitHub Models 速率限制

当前 Playground 和免费 API 的使用受到每分钟请求数、每日请求数、每个请求的令牌数以及并发请求数的限制。若达到速率限制,则需等待限制重置后方可继续发出请求。不同模型(低、高及嵌入模型)的速率限制有所不同。模型类型信息请参阅 GitHub Marketplace。

这些限制可能随时更改,具体信息请参考 GitHub 官方文档

配置步骤

1. 获得 GitHub 的访问令牌

  1. 登录 GitHub 并打开 访问令牌 页面
  2. 创建并设置一个新的访问令牌
  1. 在返回的结果中复制并保存生成的令牌
  • GitHub Models 测试期间,要使用 GitHub Models,用户需要申请加入等待名单(waitlist) 通过后才能获得访问权限。

  • 请安全地存储访问令牌,因为它只会出现一次。如果您意外丢失它,您将需要创建一个新令牌。

2. 在 LobeVidol中配置 GitHub Models

  1. 访问 LobeVidol的设置界面
  2. 语言模型下找到 GitHub 的设置项
  1. 填入获得的访问令牌
  2. 为你的 AI 助手选择一个 GitHub 的模型即可开始对话

至此你已经可以在 LobeVidol中使用 GitHub 提供的模型进行对话了。