La startup di inferenza Infinity raccoglie 15 milioni di dollari da Touring Capital, OpenAI e ricercatori di Anthropic

Infinity, una startup di inferenza focalizzata sullo sviluppo di infrastrutture per l'intelligenza artificiale, ha raccolto 15 milioni di dollari in finanziamenti per una valutazione di 100 milioni di dollari. Il round ha incluso la partecipazione di Touring Capital, Principal VC e ricercatori affiliati a società come OpenAI e Anthropic.

Nixon ha fondato Infinity dopo la sua esperienza nella creazione di un algoritmo di apprendimento automatico chiamato Omega, che ha generato nuovi algoritmi e li ha valutati in un ciclo di feedback. Ispirato da questo successo, ha esplorato applicazioni in hardware, credendo che i sistemi automatizzati potrebbero produrre il codice di basso livello necessario per un efficiente funzionamento del chip AI. L'agente di ricerca AI di Infinity, Ignition, è progettato per scrivere il codice di basso livello richiesto per l'inferenza AI su chip alternativi a Nvidia.

L'obiettivo della startup è quello di creare uno stack software simile a CUDA che consenta agli sviluppatori di implementare modelli di IA su diversi tipi di chip, tra cui SRAM, GPU, chip telefonici e array sistolici. Questo approccio affronta una limitazione chiave affrontata da molte startup a livello di app, che spesso non hanno le risorse o le competenze per sviluppare kernel personalizzati per hardware specifico. Automatizzando questo processo, Infinity cerca di semplificare l'implementazione di modelli di IA e ridurre la dipendenza dal framework CUDA di Nvidia. La soluzione di Infinity prevede un sistema di auto-ottimizzazione che impara e migliora continuamente le sue prestazioni.

Gli utenti forniscono indicazioni di alto livello, mentre l'agente gestisce le attività di codifica dettagliata, accelerando significativamente il ciclo di sviluppo. Uno studio di caso ha evidenziato che l'agente può completare le attività che in precedenza richiedevano settimane o mesi in poche ore o giorni. Infinity non addebita una commissione di licenza anticipata; invece, ottiene entrate attraverso una quota di miglioramenti delle prestazioni e risparmi sui costi, misurati in termini di token elaborati al secondo. Attualmente, Infinity impiega 26 persone in dipartimenti come progettazione, operazioni e ingegneria. La sua base di clienti include D-Matrix, un produttore di chip AI che si posiziona come potenziale concorrente di Nvidia.

Infinity è anche impegnata in discussioni con altri importanti fornitori di chip e servizi cloud, indicando un crescente interesse per la sua tecnologia. Mentre Infinity continua ad espandersi, affronta la concorrenza di player affermati come Nvidia e sfidanti emergenti come D-Matrix. L'abilità della startup di mantenere la sua promessa di una libreria di inferenza versatile e auto-ottimizzante determinerà il suo impatto sul panorama dell'infrastruttura di IA. Con negoziati in corso e una visione chiara, Infinity è pronta a svolgere un ruolo fondamentale nel plasmare il futuro della compatibilità e dell'efficienza dell'hardware AI.