一个进度条出现在屏幕下方。
【预计时间:17h】
“就知道。”
只要涉及到大模型,实验的时间就不会短,不过十几个小时也算快了,前世周昀曾经一个实验跑了两周,主要就是当时的服务器实在太垃圾了。
三天后,周五。
经过几天的实验,周昀的AgileEdge算是初步能用,但是距离他预想的性能,还有一些差距。
而且不同的大模型之间,压缩后的性能也存在较大的差距。
他的想法是在模型压缩的同时,性能不变,但是现在看来,模型压缩,性能就一定会变差,这看上去似乎是一个无解的问题。
周昀能保证,自己的AgileEdge框架是没有问题的,不然也不可能实现模型压缩,那么有问题只可能是模型本身。
大模型本身特殊的架构,限制了其参数的数量。
简单来说就是,无论如何压缩,其总是会存在一个下限,而周昀要做的就是突破这个下限。
内容未完,下一页继续阅读