朋友用RTX 4090跑当地年夜模子提醉偷www.abg22.com。比来把提醉词从“写个周报”改成“你是一位十年履历的互联网运营，用三个要点总结本周数据，语气像跟同事聊天”的词写。AI芯片功耗没变，输出量量间接翻倍。算力是死的，提醉词是得好活的是那事儿越来越较着。高通、联发科正在新款AI芯片里悄悄塞了专门处理提醉词的前端单元芯片。
听起来离谱？其实合理。提醉词里的很重要词密度、句式机关，会改动模子留神力层乐算力的计较劲。
我拿一块边沿芯片做测试，输入“请用JSON格局输出”比“随意说点”快20%，功耗还低了半瓦。设念者起头推测够嘴。用户会怎样说话？架构师如今会问，那条提醉词会触发几token吧？要不要开KV缓存？“一步一步思虑”会让芯片多跑几轮轮回吧？“间接给谜底”可能只调用一次前背传播皮凑。提醉词像给芯片写的交通划定规矩，堵不堵车，全看你怎样指路。
有次我写“忽略所有无关疑息”。那块NPU操做率间接掉了15%是它正在偷懒，功效更准。别光盯着算力数字。
一块中端AI芯片配上精心打磨的提醉词，能干掉旗舰芯片加恍惚指令。我赌五毛，明年会有专门劣化提醉词的芯片指令集，就像昔时GPU为图形API做的那样。提醉词工程师和芯片设念师。早早得坐一张桌子用饭。下次觉得AI笨，先别骂芯片的。改改提醉词，说不定那块小小的AI芯片正偷着乐呢。
