A NVIDIA revelou ontem (7) o NVIDIA Project DIGITS, um supercomputador pessoal de IA que fornece aos pesquisadores de inteligência artificial, cientistas de dados e estudantes do mundo todo, acesso ao poder da plataforma NVIDIA Grace Blackwell.

O Projeto DIGITS apresenta o novo NVIDIA GB10 Grace Blackwell Superchip, oferecendo um petaflop de desempenho de computação de IA para prototipagem, ajuste fino e execução de grandes modelos de linguagem de inteligência artificial.

Com o Projeto DIGITS, os usuários podem desenvolver e executar inferências em modelos utilizando seu próprio computador e, então, implantá-los perfeitamente em uma nuvem acelerada ou uma infraestrutura de data center.

“A IA será a principal via em todas as aplicações para todos os setores da indústria. Por meio do Projeto DIGITS, o superchip Grace Blackwell chegará para milhões de desenvolvedores”, disse Jensen Huang, fundador e CEO da NVIDIA. “Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador de IA e estudante os capacita a se envolverem e moldarem a era da inteligência artificial.”

O Superchip GB10 fornece um petaflop de desempenho de IA com eficiência energética

O Superchip GB10 é um sistema de um chip (SoC) baseado na arquitetura NVIDIA Grace Blackwell e fornece até um petaflop de desempenho de IA com precisão FP4.

O GB10 traz uma GPU NVIDIA Blackwell com núcleos CUDA de última geração e Tensor Cores de quinta geração, conectados via interconexão chip-to-chip NVLink-C2C a uma CPU NVIDIA Grace de alto desempenho, que inclui 20 núcleos com eficiência energética construídos com a arquitetura Arm. A MediaTek, líder de mercado no designs de sistemas de um chip (SoC) baseados em Arm, colaborou no design do GB10, contribuindo para uma melhor eficiência energética, desempenho e conectividade da categoria.

O superchip permite que o Projeto DIGITS entregue um desempenho poderoso usando apenas uma tomada elétrica padrão. Cada unidade do Projeto DIGITS possui 128 GB de memória unificada e até 4 TB de armazenamento NVMe. Com o supercomputador, os desenvolvedores podem executar modelos de linguagem grande de até 200 bilhões de parâmetros para turbinar inovações de IA. Além disso, utilizando a rede NVIDIA ConnectX, dois supercomputadores de IA do Projeto DIGITS podem ser conectados para executar modelos de até 405 bilhões de parâmetros.

Supercomputação de IA Grace Blackwell ao seu alcance

Com a arquitetura Grace Blackwell, empresas e pesquisadores podem prototipar, ajustar e testar modelos de IA em sistemas locais do Projeto DIGITS, executando o sistema operacional NVIDIA DGX baseado em Linux e, em seguida, implantá-los perfeitamente no NVIDIA DGX Cloud, na nuvem ou em infraestruturas de data centers.

Isso permite que os desenvolvedores criem protótipos de IA no Projeto DIGITS e depois os dimensionem na infraestrutura de nuvem ou data center, usando a mesma arquitetura Grace Blackwell e a plataforma de software NVIDIA AI Enterprise.

Os usuários do Projeto DIGITS podem acessar uma extensa biblioteca de softwares de IA da NVIDIA para experimentação e prototipagem, incluindo kits de desenvolvimento de software, frameworks e modelos disponíveis no catálogo NVIDIA NGC e no portal NVIDIA Developer. Os desenvolvedores podem ajustar modelos com o framework NVIDIA NeMo, acelerar a ciência de dados com bibliotecas NVIDIA RAPIDS e executar estruturas de frameworks como PyTorch, Python e notebooks Jupyter.

Para criar aplicações de agentes de inteligência artificial, os usuários também podem aproveitar os microsserviços da NVIDIA Blueprints e NVIDIA NIM, que estão disponíveis para pesquisa, desenvolvimento e testes por meio do NVIDIA Developer Program. Quando os aplicativos de IA estiverem prontos para passar da experimentação para a produção, a licença NVIDIA AI Enterprise fornecerá segurança de nível empresarial, suporte e lançamentos de produtos do software NVIDIA AI.