Quantization

就如同我之前提的人人使用老師-學生模型⁠ 類似alphago出paper之後會有開源的source code和社群訓練的網路參數
最近也越來越多local host的語言模型也有人公開一定程度訓練的參數
比如minigpt4(Vicuna) 就是用老師-學生模型學出來的

當然參數越多效果越好隨之而來的就是家用也會往快速擴增gpu ram的方向發展

另外同時還有另一個問題可以談目前的AI都是先管效果不管大小