Moonshot AI rilascia Kimi K2: un rivale gratuito e più intelligente di DeepSeek

Moonshot AI ha rilasciato Kimi K2, un modello linguistico di intelligenza artificiale di grandi dimensioni, gratuitamente con una licenza MIT modificata https://github.com/MoonshotAI/Kimi-K2/blob/main/LICENSE. L'LLM si è immediatamente classificato tra i primi dieci modelli di intelligenza artificiale più potenti al mondo nella classifica dell'arena testuale di LMSys. Kimi K2 ha ottenuto un punteggio superiore a quello di DeepSeek, un'altra IA gratuita che ha guadagnato l'attenzione mondiale per la sua potenza e la licenza gratuita quando è stata rilasciata alla fine del 2024 rilasciato alla fine del 2024.

Kimi K2 è un modello di miscela di esperti (MoE) da un trilione di parametri (1T) con una finestra di contesto da 128K e 384 esperti che utilizzano un sottoinsieme di parametri attivati da 32 miliardi. L'AI è stata sviluppata per l'uso in agenti AI specializzati nella risoluzione autonoma di problemi, nel ragionamento e nell'uso di strumenti, consentendo il suo utilizzo nella risoluzione di compiti complessi e nella ricerca di risposte a problemi aziendali di alto livello.

A causa della limitatezza dei dati di addestramento all'uso di strumenti nel mondo reale, Kimi K2 è stato addestrato utilizzando una combinazione di ambienti reali e simulati. Inoltre, l'addestramento dell'AI ha utilizzato un meccanismo di auto-giudizio, consentendole di determinare da sola se i compiti completati sono stati svolti in modo adeguato o meno durante l'addestramento. L'ottimizzatore MuonClip è stato sviluppato per risolvere il problema della stabilità dell'addestramento riscontrato nell'ottimizzatore Muon di per le reti neuraliconsentendo a Kimi K2 di essere preaddestrato con successo su token da 15,5T in tempi rapidi.

I lettori interessati a sviluppare Kimi K2 per uso aziendale dovranno disporre di almeno 1 TB di spazio di archiviazione per il modello e di un cluster di almeno 16 GPU Nvidia H20/H200 prima di scaricarlo gratuitamente da Hugging Face. Gli utenti domestici possono facilmente eseguire versioni distillate di DeepSeek su GPU Nvidia con 12 GB o più di memoria, come questa scheda su Amazon, in attesa delle versioni distillate di Kimi K2.

I consumatori possono chattare con il chatbot Kimi gratuitamente quie gli sviluppatori di software possono pagare per utilizzare Kimi attraverso la sua API qui.