Das Inferenz-Startup Infinity sammelt 15 Millionen Dollar von Touring Capital, OpenAI und Anthropic-Forschern

Infinity, ein Inferenz-Startup, das sich auf die Entwicklung von KI-Infrastruktur konzentriert, hat 15 Millionen US-Dollar bei einer Bewertung von 100 Millionen US-Dollar gesammelt. Die Runde umfasste die Teilnahme von Touring Capital, Principal VC und Forschern, die mit Unternehmen wie OpenAI und Anthropic verbunden sind. Im vergangenen Jahr von Jeremy Nixon, einem ehemaligen Google Brain-Forscher und Schöpfer der AGI House-Community, ins Leben gerufen, zielt Infinity darauf ab, die Dominanz von Nvidia auf dem KI-Chip-Markt herauszufordern, indem es eine universelle Inferenzbibliothek anbietet, die auf verschiedenen Hardwareplattformen laufen kann.

Nixon gründete Infinity nach seiner Erfahrung mit der Erstellung eines maschinellen Lernalgorithmus namens Omega, der neue Algorithmen erzeugte und sie in einer Feedback-Schleife bewertete. Inspiriert von diesem Erfolg erforschte er Anwendungen in der Hardware, in der Annahme, dass automatisierte Systeme den für einen effizienten KI-Chip-Betrieb erforderlichen Low-Level-Code erzeugen könnten.

Das Ziel des Startups ist es, einen CUDA-ähnlichen Software-Stack zu erstellen, der es Entwicklern ermöglicht, KI-Modelle über verschiedene Arten von Chips, einschließlich SRAM, GPUs, Telefonchips und systolischen Arrays, zu implementieren. Dieser Ansatz adressiert eine Schlüsselbeschränkung, mit der viele Startups auf App-Ebene konfrontiert sind, denen oft die Ressourcen oder das Know-how fehlen, benutzerdefinierte Kernels für bestimmte Hardware zu entwickeln. Indem Infinity diesen Prozess automatisiert, versucht Infinity die Implementierung von KI-Modellen zu rationalisieren und die Abhängigkeit von Nvidia's CUDA-Framework zu reduzieren.

Die Benutzer geben Anweisungen auf hoher Ebene, während der Agent die detaillierten Coding-Aufgaben abwickelt, was den Entwicklungszyklus erheblich beschleunigt. Eine Fallstudie hob hervor, dass der Agent Aufgaben abschließen kann, die zuvor Wochen oder Monate in nur Stunden oder Tagen erforderten. Infinity berechnet keine Lizenzgebühr im Voraus; stattdessen erzielt es Einnahmen durch einen Anteil an Leistungsverbesserungen und Kosteneinsparungen, gemessen an pro Sekunde verarbeiteten Token.

Infinity ist auch in Gesprächen mit anderen prominenten Chip- und Cloud-Service-Providern verwickelt, was auf ein wachsendes Interesse an seiner Technologie hinweist. Da Infinity weiter expandiert, steht es vor Konkurrenz von etablierten Spielern wie Nvidia und aufstrebenden Herausforderern wie D-Matrix.