CEO da IBM diz que modelos de pesos abertos chegam a 90% do desempenho por 10% a 25% do custo
🎧 Ouça esta notícia
Durante a apresentação dos resultados financeiros da IBM, Arvind Krishna afirmou que a diferença entre modelos de fronteira e alternativas de pesos abertos diminuiu. Segundo seu exemplo, a distância teria passado de 70 contra 20 ou 30 pontos no fim de 2024 para 70 contra 50 no fim de 2025; agora, os modelos abertos chegariam a cerca de 90% do desempenho dos mais avançados, com custo por token entre 10% e 25% do valor cobrado por eles.
Krishna não identificou avaliações específicas para sustentar os números. Ele também disse que uma grande empresa média poderia começar com dois ou três racks para executar esses modelos, embora essa opção exija investimento em infraestrutura, eletricidade, manutenção e pessoal especializado. A comparação envolve modelos cujos pesos podem ser baixados e executados por terceiros, sem que isso necessariamente signifique acesso ao código ou aos dados de treinamento.
Por que importa · interpretação editorial
Se a comparação de Krishna se sustentar, organizações podem avaliar modelos de pesos abertos não apenas pelo custo por token, mas também pelo investimento em infraestrutura, energia, manutenção e equipe especializada. Como ele não identificou as avaliações que embasam os números, a dimensão dessa vantagem permanece difícil de verificar.