大模型调用的Token优化技巧:怎么在不影响效果的前提下把提示词长度压缩50%
行业资讯
Prompt长度和Token消耗直接成正比,每多100个Token,每次调用就多花100个Token的钱。很多团队觉得Prompt压缩会影响大模型输出效果,不敢轻易动,但实际上用对方法,完全可以在不影响效果甚至提升效果的前提下,把Prompt长度压缩50%以上。