Groq API 免费使用教程

fatiery

. h' z, r& v( P: O1 ]下面的内容是转载的
; Q4 i* K3 M% e. s4 N4 s

1. ## 第一步：获取 API
   % [1 _; y3 C$ m8 M" a+ V
2. 1. 访问 https://console.groq.com/
   : O  l! {- V8 J# E
3. 2. 完成注册并申请 API
   + b2 w3 g6 I% Q2 \3 W- n# L
4. 3. 保存获得的 API 密钥
   " x) K  x) u4 d3 S
5. 
   
6. ## 第二步：配置 NextChat
   
7. 1. 打开 https://app.nextchat.dev/
   ( Z, Y: c: S  T9 X* o9 N# _# A
8. 2. 在左侧设置中填入：
   / L! J- j* U& I8 a1 A
9.    - 接口地址：`https://api.groq.com/openai/`
   * H( d- b1 v+ E# U& v/ G
10.    - API Key：填入之前获取的密钥
    # R+ r5 D6 u& t4 f( z
11.    - 自定义模型：`llama-3.3-70b-versatile`
    + F0 y* [( }# ^8 L- B
12. 
    
13. ## 主要优势
    
14. - 响应速度：200 Token/秒
    * R: ?# }* Q' Z" S. M* r2 i
15. - 性能表现：接近 GPT-4.0 水平
    
16. - 完全免费使用
    & o3 e4 L7 G8 N2 }3 x& n& u
17. 
    
18. ## 使用限制
    . ]7 d$ f7 d) P1 A1 r2 d/ Z+ y
19. - 每分钟限额：6000 Token
    0 o6 t# h# [9 b1 B7 V
20. - 每日 API 调用：14000 次
    
21. - 足够普通用户日常使用

复制代码

1 i5 O  i% b. H! |) }+ v根据实际操作，NextChat这样还不行，下面是我自己的操作步骤详细化，仅供参考：
  Z: ~; o8 e! F3 i6 s  n1. 点击左下角设置
' X4 V3 ~: t' P# e4 j) I- y2. 勾选自定义接口
- S$ z3 T* G$ g3 t' ?4 q' [9 p3. 接口地址输入：https://api.groq.com/openai/
4. API Key输入：gsk_XXXX(你的API密钥)
5. 自定义模型输入：llama-3.3-70b-versatile
6. 模型 下拉 选择我们输入的 llama-3.3-70b-versatile
  R2 G) {6 w4 O$ X
5 L- a" G+ @" l  ]这样就可以对话使用了，其实不止NextChat，其实有其他类似NextChat的程序，搭建网站供他人使用的，可以在Github找下。
% z  h* S: L& D- u
: [) I6 ]; q0 `  t  U当然这对直接能用ChatGPT的人来说，没啥用，重点就是它的免费API调用次数，对我们编程的人而言，结合自动化的程序，比如翻译、总结、改写等等，绝对量大管饱。

官方教程

1. export GROQ_API_KEY=<your-api-key-here>

复制代码

1. pip install groq

复制代码

1. import os
   # n" V8 @( g% H( o6 }2 W
2. 
   
3. from groq import Groq
   % h2 ^" \- A1 A$ h1 M/ @
4. 
   
5. client = Groq(
   ! q- f$ b$ g! x' `- x
6.     api_key=os.environ.get("GROQ_API_KEY"),
   
7. )
     W4 J5 k8 Q$ z9 P' f( b, c) ^/ n
8. 
   
9. chat_completion = client.chat.completions.create(
   
10.     messages=[
    * I( a4 u0 y( r: i% W
11.         {
    . H& u6 t7 K9 Y, Z/ A5 w
12.             "role": "user",
    . X# @# s* ~( r- `5 ^
13.             "content": "Explain the importance of fast language models",
    
14.         }
    / K  d: f1 ~& A7 d# b6 }
15.     ],
    
16.     model="llama3-8b-8192",
    
17. )
    * O+ t8 R2 s4 y& w. Y
18. 
    ! z2 J, }0 @* f) D9 }9 O+ o9 T6 T
19. print(chat_completion.choices[0].message.content)

复制代码

. y- M* U. }2 v# p& o2 d
8 t/ E( @) ^" X) q% @' M实际使用：
" f5 A& U4 k+ f* w记得把模型 llama3-8b-8192 换为 llama-3.3-70b-versatile
) J. z0 z8 U& l  ^3 h1 }' ?" I! e
! ?$ h: H# ^( i/ h2 M+ S+ g下面是我用过API提问，“llama-3.3-70b-versatile与llama3-8b-8192的区别，用中文回复” 的结果
, i: @5 F1 J0 Q$ Q3 o

1. LLaMA 是一种大语言模型，由 Meta AI 开发。LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 是 LLaMA 的两个不同版本，它们之间的区别主要体现在以下几方面：
   5 g/ H9 L. v2 R6 ?
2. 
   
3. 1. **模型大小**：LLaMA-3.3-70b-versatile 的参数量大约为 70 亿，而 LLaMA-3-8b-8192 的参数量大约为 8 亿。这意味着 LLaMA-3.3-70b-versatile 的模型规模比 LLaMA-3-8b-8192 大得多，通常来说，更大的模型对应着更强的表达能力和更好的性能。
   2 z, ~. O" H' @1 b
4. 2. **计算资源**：由于 LLaMA-3-8b-8192 的模型大小相对较小，所需的计算资源也相对较少。这使得它可以在较低端的硬件上运行，包括一些个人电脑或较早的 GPU，而 LLaMA-3.3-70b-versatile 则需要更强大的计算资源来处理。
   
5. 3. **性能差异**：一般来说，参数量更大的模型如 LLaMA-3.3-70b-versatile 在语言理解和生成任务上会表现更好，因为它能够捕捉到语言中更复杂和细致的模式。然而，性能的差异也取决于具体的应用场景和任务。
   
6. 4. **训练数据**：两个模型可能使用的训练数据集不同，尽管它们都是基于大规模语料库训练的，但数据的范围、深度和覆盖面可能有所不同，这也会影响它们的性能和适用范围。
   1 [3 K3 p# \  D' ]/ Q
7. 
   
8. 总而言之，LLaMA-3.3-70b-versatile 和 LLaMA-3-8b-8192 之间的选择，主要取决于你的应用场景、可用的计算资源以及对模型性能的需求。如果需要更强大的语言处理能力且计算资源充足，较大的模型可能是一个更好的选择；如果计算资源有限或需要一个更轻量级的解决方案，较小的模型可能更合适。
   

复制代码

* ~7 s* t/ b; g2 S8 b, `+ W
因为比较急，即使简单的贴子也难免有错误的地方，大家请多担待，姑妄言之姑看之。
4 B1 G7 P+ r2 }

keepmoving

谢谢版主分享