Groq

Groq开发了世界上第一个语言处理单元™，或称LPU。 Groq LPU具有确定性的单核流式架构，设定了标准 用于GenAI推理速度，具有可预测和可重复的性能，适用于任何给定的工作负载。

超越架构，Groq软件旨在赋能像您这样的开发者， 提供您创建创新、强大AI应用所需的工具。

以Groq作为您的引擎，您可以：

• 实现无妥协的低延迟和性能，适用于实时AI和HPC推理🔥
• 了解任何给定工作负载的确切性能和计算时间 🔮
• 利用我们的尖端技术保持竞争优势 💪

安装和设置

安装集成包：

pip install langchain-groq

请求一个 API 密钥 并将其设置为环境变量：

export GROQ_API_KEY=gsk_...

聊天模型

查看 使用示例。

from langchain_groq import ChatGroq