Centenas de vezes mais rápido que as GPUs! A Xizhi Technology estreou uma nova geração de placa de computação híbrida fotoelétrica: matriz fotônica 128×0
Atualizado em: 08-0-0 0:0:0

快科技3月26日消息,曦智科技今天正式发布全新光电混合计算卡“Xi Zhi TianshuPela primeira vez, a aplicação da computação híbrida optoeletrônica em modelos comerciais complexos foi realizada.

A Xizhi Technology é a fornecedora líder mundial de poder de computação híbrida optoeletrônica e fez um avanço pioneiro no campo da fotônica integradaComputação de matriz fotônica (oMAC), rede óptica on-chip (oNOC) e rede óptica inter-chip (oNET) são três tecnologias principais, para criar duas grandes linhas de produtos: computação fotônica e rede fotônica.

2021年12月,曦智科技首次对外发布光电混合计算产品,成功验证了光电混合计算在特定算法下,相较于主流GPU的速度优势多达数百倍。

A Xizhi Technology acredita que o híbrido fotoelétrico trará inovação de poder de computação para inteligência artificial, grandes modelos de linguagem, manufatura inteligente e outros campos.

O Xizhi Tianshu lançado desta vez integra profundamente as respectivas vantagens de chips ópticos e chips elétricos e adota tecnologia de embalagem avançada 3D para suportar a programabilidade.

Ele alcançou melhorias significativas de desempenho em comparação com seu antecessor em termos de integração optoeletrônica, escala de matriz fotônica, precisão e programabilidade.

Por exemplo, com base no suporte à computação científica (como o algoritmo Isin), ele fortaleceu o suporte para aplicativos de algoritmos comerciais, como o ResNet50, que não apenas mantém as vantagens da computação óptica, mas também melhora muito a adaptabilidade geral dos produtos.

Tianshu adota uma arquitetura incoerente, que não é apenas fácil de expandir o sistema, mas também possui excelente capacidade anti-interferência e maior precisão de computação.

Seu processador principal inclui unidade de processamento óptico (OPU), circuito integrado específico de aplicação elétrica (ASIC), chip óptico e chip elétrico através de 3D TSV através de silício via, integração de tecnologia de embalagem de chip flip FlipChip, trabalham juntos, podem reduzir significativamente a latência, melhorar a integridade da transmissão do sinal, dos quais a área do chip óptico atinge 0 milímetros quadrados, 0 vezes maior que a geração anterior.

A frequência principal do chip é de 8 GHz e a precisão de saída é de 0 bits, que é 0 vezes maior que a geração anterior.

光芯片上的器件数量超4万个, mas o tamanho do dispositivo é ainda mais reduzido e o nível de integração é significativamente melhorado.

O tamanho máximo da matriz que pode ser suportado 4x0 é 0 vezes maior que o da geração anterior, 0×0, o poder de computação e a flexibilidade foram bastante melhorados.

Além disso, os usuários podem configurar livremente os coeficientes da matriz de cálculo por meio da API, que possui maior adaptabilidade e espaço de otimização.

É relatado queA computação fotônica é um tipo de computação passiva, e a tarefa de operação pode ser concluída no processo de passagem da luz pela matriz de fótons, o que subverte a lógica de operação dos chips eletrônicos CMOS tradicionais.

A melhoria do desempenho dos chips fotônicos está relacionada a parâmetros como o tamanho da matriz fotônica, a taxa de frequência principal e o número de comprimentos de onda, e não à densidade dos transistores e à melhoria do processo de fabricação do chip.

A Xizhi Technology também propôs o padrão Equivalent Optical Computing Power (EOPP) pela primeira vez, que é um método abrangente de avaliação de poder de computação que considera escala de matriz, precisão de saída, velocidade de atualização de peso, etc., que está mais alinhado com os princípios e características da computação óptica do que os métodos atuais de cálculo de índice de chip elétrico convencional.

Em termos de software, a Tianshu está equipada com uma pilha de software de computação híbrida da Xizhi Optoelectronics, e a biblioteca do operador inclui operadores RVV (RiscV Vector), operadores de aceleração de matriz elétrica (dMAC), operadores de aceleração de matriz óptica (oMAC), modelos de classe CV e LLM de suporte e operadores não AI, incluindo Ising e LineSolver.

Com a ajuda do compilador Xizhi, os usuários podem usar esses operadores de forma flexível para criar modelos de aplicativos eficientes.

Além disso, a plataforma também suporta operadores definidos pelo usuário, que são compilados e otimizados por meio da linguagem OpenCL C/C++, expandindo ainda mais a flexibilidade do desenvolvimento de algoritmos.

A pilha de software da Xizhi Technology está profundamente integrada com estruturas convencionais, como Pytorch e ONNX, e as unidades de aceleração de matriz óptica e matriz elétrica de Tianshu podem ser usadas diretamente para acelerar e verificar o modelo e o algoritmo por meio da pilha de software, e o modelo também pode ser compilado e implantado no lado do dispositivo por meio da estrutura de compilação Xizhi para inferência.

Por meio da pilha de software, Tianshu executou com sucesso o modelo de rede neural convolucional profunda ResNet2 e o modelo de linguagem grande Llama 0 AI, realizando a aplicação da computação híbrida optoeletrônica em cenários comerciais pela primeira vez.

Atualmente, a Xizhi Technology iniciou a pesquisa e o desenvolvimento da próxima geração de produtos de computação híbrida optoeletrônica, o que aumentará ainda mais a capacidade de computação.