文章详情

专注互联网科技,赋能企业数字化发展

为何大模型总在字数上“跑偏”

作者:为何大模型总在字数上“跑偏”

大模型不能完美控制字数,主要是因为它们是基于token来理解和生成文本的,但是可以通过一些prompt的技巧,有效引导AI生成更加符合我们字数要求的文本~ 举个栗子🌰: 你要100字:假设模型生成的每个token平均对应1.5个字(比如中文常用token化规则),那它需要生成约67个token(67×1.5≈100)。 但实际可能遇到: 长token:比如生成一个token是“人工智能”(4个字),导致字数突然超标。 短token:比如生成一堆标点(“,”算1个token但只占1字),导致token用完了字数还不够。 #大模型 #人工智能 #AI #科普 #llm #AI新手村 #AI产品经理 #DeepSeek

返回新闻列表