La scorsa settimana, Inflection AI, una nuova startup fondata da Mustafa Suleyman, ex capo di Deep Mind e cofondatore di Inflection AI, ha annunciato di aver raccolto 1,3 miliardi di dollari per il finanziamento di un progetto ambizioso. In collaborazione con Microsoft e Nvidia, l’obiettivo di Inflection AI è la costruzione di un supercomputer che utilizzerà ben 22.000 GPU di calcolo H100 di Nvidia.
Secondo quanto dichiarato da Suleyman, il supercomputer di Inflection AI sarà costituito da un cluster di circa 22.000 GPU H100. Questa quantità di potenza di calcolo è circa tre volte superiore a quella utilizzata per addestrare tutto il GPT-4. Ad alte velocità e di grande dimensione, si prevede che il supercomputer di Inflection AI sarà in grado di offrire prestazioni di picco simili a quelle del supercomputer chiamato “Frontier”.
Un cluster di 22.000 GPU di calcolo Nvidia H100, utilizzando i core Tensor, teoricamente potrebbe raggiungere prestazioni FP64 di 1,474 exaflops. Tuttavia, al momento, il supercomputer più veloce del mondo, Frontier, raggiunge prestazioni di calcolo di picco FP64 di 1,813 exaflops (raddoppiate a 3,626 exaflops per le operazioni matriciali). Pertanto, il nuovo supercomputer di Inflection AI si posiziona temporaneamente al secondo posto.
Sebbene il costo totale del progetto non sia noto, considerando il prezzo di oltre 30.000 dollari per unità delle GPU di calcolo H100 di Nvidia, è ragionevole ipotizzare che solo le GPU costino centinaia di milioni di dollari. Un’ampia parte dei 1,3 miliardi di dollari di finanziamento ricevuto da Inflection AI sarà destinata all’acquisto di tutto l’hardware necessario, tra cui i server rack.
Inflection AI è attualmente valutata circa 4 miliardi di dollari, nonostante sia stata fondata solo un anno fa. Al momento, l’azienda ha un solo prodotto sul mercato, ovvero il chatbot di intelligenza artificiale generazionale chiamato Pi, acronimo di personal intelligence. Tuttavia, il nuovo supercomputer rappresenta un importante passo avanti per l’azienda nel campo dell’intelligenza artificiale. Con il suo elevato throughput di picco FP16/BF16 pari a 43,5 exaflops, sarà particolarmente adatto per le attività orientate all’intelligenza artificiale.
22.000 Nvidia H100 unite nel secondo supercomputer più potente al mondo
La startup Inflection AI, fondata dall’ex capo di DeepMind e sostenuta da Microsoft e Nvidia, ha recentemente raccolto 1,3 miliardi di dollari per costruire un supercomputer basato su 22.000 GPU di calcolo H100 di Nvidia. Questo supercomputer avrà prestazioni simili a quelle del Frontier, il supercomputer più veloce al mondo. Il sistema sarà particolarmente efficiente per le attività legate all’intelligenza artificiale e avrà un costo stimato di centinaia di milioni di dollari. Inflection AI, che ha appena un anno di vita, è attualmente valutata intorno ai 4 miliardi di dollari e il suo unico prodotto fino ad ora è un chatbot chiamato Pi.
