Tencent publica os pesos abertos do Hy4 flash, modelo de 220B com 12B ativos
O modelo tem 220 bilhões de parâmetros no total e 12 bilhões ativos por token, numa arquitetura de mistura de especialistas (só parte da rede roda a cada token). Aceita texto e imagem, gera texto e tem contexto de até 1 milhão de tokens. A licença é a Tencent Hy License.