（来源：上观新闻）
因为几乎没有👻🇲🇾品牌愿意丧失信誉🤜🅾，使用二🌳🕥手芯片🍅。该图片🥴使用了A5️⃣I生成技术来源：🇨🇮🌮AI生成 大模型🌹🧖♀️技术彻底改变了本🏘体的构建🇦🇼方式🇧🇮。不过，📑🇧🇲最近中国科学💟🇻🇦技术大学的研👨👧👧究团队发现了一个🥮被大家忽略的问题🛶⛰：当AI使用这🙊些工具时，背🍘🍐后的计算成🇦🇿♓本远比➿我们想象的🍊🇦🇴要复杂🇲🇼。
一方面，🇦🇽👴每生成一个t🕕🇭🇳oken，GPU🎐9️⃣都需要从内存中🍒读取历史K🔠V缓存🗜和模型权重，并写👬回新的状态；另✌🦸♂️一方面，KV🦒👨🏫缓存会随🧐🗑着上下文🔱🧝♀️长度线性增长，🚪🏴并在多用户场景👿🤯下成倍叠加🔆👨✈️。
