O futuro
A inteligência do modelo cabe em menos bits
A binarização parcial guarda a maior parte dos pesos em um único bit e preserva os mais salientes em maior precisão. A técnica muda a conta para levar modelos de linguagem a dispositivos de borda.
quantizacao
1 matéria sobre este assunto.