Bài đăng

炒币买布加迪
炒币买布加迪
#闪迪纳入标普100,焦点转向AI需求 训练阶段(HBM):AI学习的时候,要不停反复计算,优先要快,模型数据来回反复读写。哪怕仓库小点,传输速度必须拉满。 推理阶段(HBF):AI已经学完了,现在是接待用户提问。 模型本身体量巨大,需要一个超大的地方完整装下整套模型参数。 如果用HBM去存整套大模型:太贵、容量不够,成本直接炸。 HBF就是:没有HBM那么快,但能放下超大体积模型,单价便宜很多。 把整个大模型直接放在算力芯片旁边,用户一问,直接就近读取,不用从远处硬盘慢慢调,省钱。 总结 训练拼速度(HBM)海力士 美光 推理拼大容量(HBF) 闪迪 未来是Ai的,那么闪迪未来是黑马中的黑马!

Miễn trừ trách nhiệm: Nội dung OKX Orbit chỉ để tham khảo. Tìm hiểu thêm

Phản hồi

Chưa có bình luận. Trở thành người phản hồi đầu tiên!