“帮我做一下年度总结PPT。”
“再高级一点。”“再详细一点。”“换个版本吧。”
这些话,你在使用TeleAgent等
AI应用时,
是不是也常对AI说?
但你知道吗
从一句要求到一份满意的结果,
AI不断处理和生成内容时,
背后都离不开词元(Token)
而你的每一次无效提示
都会在你的“Token账单”上
多记上一笔
Token都花在哪了?
今天,小翼就带你了解一下
什么是词元(Token)?
AI的“语言积木”
你对AI说的一句完整的话,在模型处理之前,会先由“分词器”把文本转换成一串Token,再将它们映射为数字编号,送入模型计算。
你可以把Token理解成一块块“语言积木”。模型结合上下文处理这些积木,再逐步生成回答。
那么,一个字就是一个Token吗?不能直接画等号,也可能对应一个词、词的一部分或标点。
不同模型的切分规则不同,Token数量也可能不同。因此,Token数量不能直接等同于字数。
Token用在哪儿?
读进去、推理中、写出来
只问了一句话,为什么用了这么多Token?因为AI处理的内容,可能远远超过你最后输入的那句话。
一次任务的Token用量,主要涉及以下几个方面:
01
读进去的内容:
除了你的要求,还可能包括相关历史对话、附件文字和检索资料。一句“根据这些材料总结一下”,背后可能是几十页文档。
02
推理中的内容:
部分具备推理能力的模型,还会产生用于推理的Token用量,它们不一定全部显示在最终答案中。
03
写出来的内容:
摘要、文案、代码等生成结果,同样会产生Token用量。每次重写,都可能增加一轮输入和输出。
因此,最终答案的长度,并不等于整个任务的Token用量。复杂任务如果涉及多次模型调用,用量还会逐次累积。
Token越多,
AI就越聪明吗?
Token数量不等于AI的能力,也不直接代表答案质量。用量多,可能是材料更长、任务更复杂,也可能是反复修改的结果。
回答是否准确、有用,还与模型能力、资料质量和需求是否清晰有关。比起一味追求“多”,让AI读对材料、理解要求,更有助于得到好答案。
一篇冗长却偏题的回答,未必比一段准确简洁的结论更有价值,更值得关注的是:这些用量是否换来了需要的结果。
如何用得更高效?
把需求说清楚
回到最初的需求:“帮我简单做一下年度总结PPT。”这句话很短,却留下了不少需要补充的信息:给谁看?需要几页?重点讲什么?依据哪些材料?先出大纲,还是直接写完整内容?
后续的“再高级一点”“再详细一点”,同样没有明确修改方向。需求含糊时,AI可能交出不符合预期的结果。于是,补充要求、重新生成、再次修改,多轮往返不断增加。输入得少,不一定意味着整个任务用得少。
如果一开始就把要求说清楚,往往更有机会减少返工。
例如:“请根据附件材料,为部门负责人制作一份12页年度总结PPT文案。内容包含年度成果、重点项目、问题复盘和明年计划。语言简洁,保留关键数据,不补写材料中没有的信息。先输出逐页大纲,确认后再展开正文。”
这段要求虽然更长,却明确了对象、篇幅、结构、内容边界和工作步骤。清晰的提示词不保证每次都能降低总用量,但能帮助AI更准确地理解任务,减少无效尝试。
把AI用得更明白,从三个习惯开始:材料选相关的,复杂任务先确认方向,修改时明确位置和要求。输入更清楚,往往更有机会减少无效往返。
认识词元(Token),
更懂AI
从一句提问到一份方案,Token贯穿着我们与大模型的交互。理解Token,能帮助我们看懂AI处理了什么、生成了什么,以及哪些往返可以更高效。
下次打开AI对话框,不妨把“帮我简单做一下”,换成一句更清楚的需求。让每一次调用,都离想要的答案更近一点。
最后,不妨使用TeleAgent星辰超级智能体,体验一下你新学会的“烧Token”技巧吧。
扫描下方二维码
即刻体验
“星标”我们,让遇见更为简单
编辑:庄文超、陈博博、黄晓鹏
执行主编:廖鸿翔、张朋
主编:祝建平
往期推荐
Recommend
【点击上图查看】重要提醒!接到陌生来电,建议先沉默三秒!
【点击上图查看】这个手机里的“隐藏功能”,已在绝境中救下多人!
点点在看,让更多人看到↓↓↓
股票
板块
用户
资讯
评论 (0)