Kunstig intelligens er ved at presse computerkraft til grænsen. Som svar på det pres har Nvidia nu investeret 14 millioner dollar i den indiske startup Simplismart, der udvikler software til at køre AI-modeller mere effektivt – nogle gange med færre GPU’er.
Nvidia var blandt investorerne i Series B-rundeingen ved siden af Accel, Shastra VC og Micromax. Dallas Venture Capital ledede investeringen. Simplismart, der er fire år gammelt, værdiansættes nu til omkring 100 millioner dollar inklusive den nye finansiering.
Virksomheder bruger i dag enorme summer på GPU’er til at drive AI-applikationer, men at køre disse modeller pålidelig og økonomisk i stor skala er stadig en udfordring. Forskellige arbejdsopgaver kræver forskellige afvejninger mellem hastighed, omkostning og ydeevne.
Software mellem model og hardware
Simplismarts software fungerer som et lag mellem AI-modellerne og den computerinfrastruktur, de kører på. Det justerer automatisk, hvordan modellerne implementeres og styres, så de passer til kundens behov – uden at kunderne selv skal håndtere komplekse justeringer.
“Ingen virksomhed behøver faktisk den hurtigste eller billigste inferens,” siger Amritanshu Jain, medstifter og CEO for Simplismart. “Virksomheder skal i stedet køre AI-modeller med hastigheder og omkostninger, der giver mening for deres specifikke applikationer.”
Softwaren optimerer faktorer som svartid, anmodningskapacitet og energiforbrug, hvilket hjælper virksomheder med at få mere ud af deres eksisterende GPU-stack. Simplismart tilbyder både en selvbetjent platform og løsninger, der kan implementeres i virksomheders cloud- og on-premises-infrastruktur.
Dokumenteret besparelse hos kunderne
Startup’en har gjort opmærksom på, at videogeneringplatformen InVideo reducerede GPU-omkostninger med 56 procent ved hjælp af Simplismarts software. Andre kunder omfatter AI-videoselskaberne HeyGen og Higgsfield samt enterprise-AI-startup Ema. Den indiske cloud-udbyder Yotta bruger teknologien til at drive sit serverløse AI-inferensstjenester inden for Shakti Studio-platformen.
Simplismarts årlige omsætning er vokset 14 gange over de seneste seks måneder til et tocifret millionbeløb, ifølge Jain. Over halvdelen af omsætningen kommer fra USA, selv om startup’en har flere kunder i Indien.
Paradoksalt nok ser Nvidias investering ud til at gå imod chipmakkerens egen interesse – Nvidia sælger GPU’erne, som Simplismart hjælper med at spare på. Men Jain argumenterer, at mere effektiv AI-inferens gavner Nvidia ved at gøre deres hardware mere attraktivt og opfordre til bredere adoption af AI-applikationer.
Konkurrence fra store aktører
Simplismart opererer på et marked, der bliver stadigt mere fyldt. Konkurrenter omfatter Nvidia selv, samt store cloud-udbydere som Amazon Web Services, Google Cloud og Microsoft Azure. Et voksende antal startup’er udvikler også værktøjer til at gøre AI-modeller hurtigere og billigere at køre.
“Hvor vi har tendens til at vinde, er hvor kunder skal overholde strenge service level agreements og kontrolle deres samlede omkostninger,” siger Jain. I modsætning til konkurrenter, der tilbyder forudindstillede muligheder for hurtigere eller billigere inferens, sigter Simplismart mod at finde en balance, der er skræddersyet til hver kundes behov.
Startup’en blev grundlagt i 2022 af Amritanshu Jain, tidligere ingeniør hos Oracle, og Devansh Ghatak, tidligere Google-ingeniør. De to mødtes som studerende på BITS Pilani. Simplismart beskæftiger nu 58 personer.
Virksomheden planlægger at bruge den nye finansiering til at ekspandere i USA, vokse sit team og investere videre i udviklingen af sin inferens-software. Jain bekræftede over for TechCrunch, at USA er en nøglemarknad, hvor startup’en ønsker at bygge videre på sin eksisterende kundebase.