Groq
Free + ProAPI-доступ
Берём за рекордную скорость ответа моделей
Groq — провайдер инференса на собственных чипах LPU, известный рекордно низкой задержкой и высокой скоростью генерации токенов.
Подходит для реалтайм-приложений: голосовые боты, стриминговые ответы, агенты. OpenAI-совместимый API.
Открыть сайт
Кому: Тем, кому критична скорость инференса — реалтайм-чат, голос, агенты.
Что умеет
- Рекордная скорость генерации
- Открытые модели (Llama и др.)
- OpenAI-совместимый API
- Щедрый бесплатный тариф
Плюсы
- Очень низкая задержка
- Простой API
- Есть бесплатный доступ
На что обратить внимание
- Каталог моделей ограничен
- Лимиты на бесплатном
Цена
Free + Pro. Есть бесплатный тариф; платно — по токенам.
#api#инференс#скорость
