什么是Groq?

Groq是一个硬件和软件平台,为人工智能推理提供卓越的计算速度、质量和能效。Groq为人工智能应用提供云端和本地解决方案,向开发者提供高性能的人工智能模型和API访问。其目标是提供比竞争对手更快速、更低成本的推理服务。

如何使用 Groq?

开发者可以通过访问GroqCloud™平台或GroqRack™集群来使用Groq。只需修改三行代码,设置OPENAI_API_KEY为Groq API Key,设置基本URL并选择模型,就可以无缝切换到其他提供商,如OpenAI。

Groq 的核心功能

  • 快速的人工智能推理
  • LPU™推理引擎
  • 云端和本地解决方案
  • 与OpenAI端点兼容

Groq 的使用案例

#1以瞬时速度运行公开可用的人工智能模型,如Llama、DeepSeek、Mixtral、Qwen和Whisper。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注