1793
收藏
分享
视频介绍了Bittvvare的Grock卡加速器，这是一款双宽度PCIe外形因子ML加速卡，专为AI、机器学习（ML）和高性能计算（HPC）工作负载设计。Grock卡加速器基于Grock芯片处理器，采用完全确定性的设计，能够提供可预测的低延迟性能，并具备易于扩展的特性，能够应对日益增长的需求。其独特之处在于，通过减少数据移动，能够大幅提升效率，并确保在多服务器和多机架环境下的线性扩展，而无需外部交换机支持。这款加速器配备了230MB的SRAM，用于低延迟访问模型参数，同时提供高达80TB的内存带宽，支持大规模并发和并行处理。Grock卡加速器与Grock Wear套件兼容，使得部署PieTorch、TensorFlow和Onyx训练的深度学习模型变得更加简便，从而加速人工智能和机器学习的应用场景。
消息
发视频