Loading model... Model loaded! ====================================================================== 📋 输入的三条 Prompts ====================================================================== [Prompt 1] 请计算:1 加 3 等于几? [Prompt 2] 写一句关于春天的诗 [Prompt 3] 中国的首都是哪个城市? ====================================================================== ⏱️ 方式 1:单条推理(顺序执行) ====================================================================== [Output 1] 1 加上 3 等于 4。 [Output 2] 春风拂面柳依依,桃花笑开映日辉。 [Output 3] 中国的首都是北京。 ⏱️ 总耗时:8.40 秒 ====================================================================== ⚡ 方式 2:Batch 推理(并发处理) ====================================================================== [Output 1] 1 加 3 等于 4。 [Output 2] 春风吹绿江南岸,花开满园香四溢。 [Output 3] 中国的首都是北京。 ⏱️ 总耗时:3.53 秒 ====================================================================== 📊 性能对比分析 ====================================================================== 单条推理耗时:8.40 秒 Batch 推理耗时:3.53 秒 性能提升倍数:2.38x 总体加速:57.9%