Lançamento dos Aceleradores de IA na Koyeb
Poucas semanas após a fabricante de chips Tenstorrent arrecadar quase 700 milhões em investimentos, agora os desenvolvedores podem testar os aceleradores de IA da Tenstorrent na plataforma Koyeb. A Tenstorrent oferece processadores de IA baseados na arquitetura de conjunto de instruções RISC-V e desenvolveu sua própria biblioteca de rede neural de código aberto, chamada TT-NN, além de um modelo de programação de baixo nível, o TT-Metalium.
Competição Acelerada no Mercado de Chips de IA
A Tenstorrent faz parte de um grupo de empresas que buscam criar alternativas às GPUs da Nvidia e sua biblioteca CUDA. A empresa compete com Axelera, Etched, Groq e outras.
Koyeb: A Plataforma de Nuvem Inovadora
A Koyeb foi fundada por ex-executivos da Scaleway e se concentra no desenvolvimento de uma plataforma de nuvem sem servidor, destinada a desenvolvedores que buscam uma camada de abstração na infraestrutura de nuvem. Ela compete com empresas como Fly.io, Railway e Render.
A Koyeb permite que os desenvolvedores implantem aplicativos em várias máquinas virtuais usando uma interface de linha de comando ou um comando git push após a integração com o repositório de código. A plataforma oferece suporte a contêineres Docker e a várias linguagens populares.
Funcionalidades Avançadas da Koyeb
Uma das principais características da Koyeb é a capacidade de escalar automaticamente um aplicativo para centenas de servidores, quando necessário. Além disso, quando há menos tráfego, a plataforma consegue reduzir automaticamente a infraestrutura de servidores.
Nos últimos meses, a Koyeb focou especialmente em aplicativos de IA. Devido à natureza sem servidor de sua plataforma, ela pode oferecer uma experiência de baixa latência para cargas de trabalho de IA.
Integração com a Tecnologia da Tenstorrent
No que diz respeito à parte de hardware, a Koyeb implementou placas PCIe da Tenstorrent em seus centros de dados. Os desenvolvedores podem acessar o SDK de baixo nível TT-Metalium da Tenstorrent para escrever programas de host e kernel.
Categorias de Instâncias Inéditas na Koyeb
Os desenvolvedores encontrarão dois novos tipos de instâncias na documentação da Koyeb e nos painéis administrativos:
- A instância TT-N300S possui 24 GB de memória GDDR6, 192 MB de SRAM e oferece até 466 FP8 TFLOPS. Acompanha 64 GB de RAM e 4 vCPUs.
- A instância TT-Loudbox tem quatro N300S. Os desenvolvedores recebem 96 GB de GDDR6, 768 MB de SRAM e até 1.864 FP8 TFLOPS. Ela conta com 256 GB de RAM e 16 vCPUs.
A Estratégia Dual da Koyeb e Tenstorrent
Com esse lançamento, a Koyeb busca se posicionar como uma plataforma de nuvem agnóstica em relação ao hardware. “Isso nos lembra da estreia da ARM no mercado de servidores com chips de alto desempenho”, comentou o co-fundador e CEO da Koyeb, Yann Leger, ao TechCrunch.
“Desde que apresentamos a ARM ao mercado com a Scaleway, oferecendo servidores totalmente personalizados em 2013-2014, temos a experiência de implantar diversas arquiteturas e operar diferentes hardwares,” acrescentou.
Perspectivas Futuras para a Tenstorrent
No que diz respeito à Tenstorrent, a fabricante de chips de IA procura parceiros para construir um ecossistema de desenvolvedores em torno de seu modelo de programação de código aberto. O desenvolvimento colaborativo será crucial para oferecer uma alternativa ao ecossistema de IA da Nvidia.
FAQ
O que é a Tenstorrent?
A Tenstorrent é uma fabricante de chips que se destaca por desenvolver processadores de IA com base na arquitetura de conjunto de instruções RISC-V. Recentemente, a empresa arrecadou quase 700 milhões em investimentos, o que demonstra seu potencial no mercado. Com a criação de sua biblioteca de rede neural de código aberto, TT-NN, e do modelo TT-Metalium, a Tenstorrent busca impulsionar o uso de sua tecnologia.
Como funciona a integração entre Tenstorrent e Koyeb?
A Koyeb integrou placas PCIe da Tenstorrent em seus centros de dados, permitindo que desenvolvedores testem aceleradores de IA na plataforma. Essa integração proporciona acesso ao SDK TT-Metalium, o que facilita a escrita de programas de host e kernel, ampliando as possibilidades de desenvolvimento e uso de suas soluções de IA.
Quais as características da plataforma Koyeb?
A Koyeb é uma plataforma de nuvem sem servidor, criada por ex-executivos da Scaleway. Ela permite que desenvolvedores implantem aplicativos utilizando uma interface de linha de comando ou um simples comando git push, após integração com repositórios de código. A plataforma também suporta contêineres Docker e várias linguagens populares, atendendo a diversas demandas do mercado.
O que diferencia as instâncias TT-N300S e TT-Loudbox?
A instância TT-N300S oferece 24 GB de memória GDDR6 e até 466 FP8 TFLOPS de performance. Já a TT-Loudbox, que possui quatro N300S, entrega 96 GB de GDDR6 e até 1.864 FP8 TFLOPS. Ambas as instâncias foram projetadas para atender a diferentes necessidades de desempenho, especialmente em cargas de trabalho de IA.
Qual é a abordagem da Koyeb em relação ao hardware?
A Koyeb busca se estabelecer como uma plataforma de nuvem agnóstica em relação ao hardware. Isso significa que ela deseja oferecer serviços independentemente do tipo de chips usados, similar à trajetória da ARM no mercado de servidores. Ao promover essa flexibilidade, a Koyeb se destaca entre seus concorrentes.
Porque a Tenstorrent é vista como uma concorrente da Nvidia?
A Tenstorrent compete diretamente com a Nvidia na fabricação de chips de IA, oferecendo alternativas para a popular biblioteca CUDA. A crescente demanda por soluções de IA tem levado várias empresas, incluindo a Tenstorrent, a buscar inovar e oferecer produtos que podem rivalizar com os da Nvidia.
Como a Koyeb lida com escalabilidade de aplicações?
A Koyeb oferece uma funcionalidade que permite a escalabilidade automática de aplicações. Quando há aumento de tráfego, a plataforma pode expandir a infraestrutura para centenas de servidores, e quando a demanda diminui, ela reduz automaticamente os recursos necessários, otimizando custos e eficiência.
Quais os planos futuros da Tenstorrent?
No futuro, a Tenstorrent busca formar parcerias para construir um ecossistema de desenvolvedores em torno de seu modelo de programação de código aberto. Este desenvolvimento colaborativo é visto como crucial para oferecer uma alternativa sólida ao sistema de IA da Nvidia.
Qual a importância da biblioteca TT-NN na Tenstorrent?
A biblioteca TT-NN, desenvolvida pela Tenstorrent, é uma parte essencial de sua estratégia, pois fornece uma plataforma de código aberto para redes neurais. Isso permite que desenvolvedores experimentem e criem soluções personalizadas em IA, aumentando a acessibilidade e o potencial de inovação dentro do espaço de IA.
Como a Koyeb se diferencia de outras plataformas de nuvem?
A Koyeb se diferencia ao oferecer uma solução sem servidor, com foco em uma camada de abstração na infraestrutura de nuvem. Isso a coloca em competição com outras empresas como Fly.io, Railway e Render, mas com o destaque de oferecer uma experiência de baixa latência, especialmente para aplicações de IA.
Com informações: TechCrunch
Veja também: Reino Unido Avança na IA: Protesto dos Músicos