商业观察
nvidia利用ai来设计和开发gpu 最新hopper已拥有1.3万个电路实例-凯发游戏
在过去几年时间里,nvidia 深耕 ai 领域,他们的 gpu 不仅成为 hpc 的首选,也成为包括 ai 和深度学习生态系统在内的数据中心的首选。在最新公布的开发者博文中,nvidia 宣布正利用 ai 来设计和开发 gpu,其最新的 hopper gpu 拥有将近 13000 个电路实例,而这些实例完全由 ai 创建。
在 nvidia develope 上发布的新博客中,该公司重申了其优势以及它自己如何利用其 ai 功能来设计其迄今为止最强大的 gpu--hopper h100。 nvidia gpu 主要是使用最先进的 eda(电子设计自动化)工具设计的,但在利用 prefixrl 方法的 ai 的帮助下,使用深度强化学习优化并行前缀电路,公司可以设计更小、更快、更节能的芯片,同时提供更好的性能。
计算机芯片中的算术电路是使用逻辑门网络(如 nand、nor 和 xor)和电线构成的。理想的电路应具有以下特点:
● 小:较小的区域,以便更多电路可以安装在芯片上。
● 快速:降低延迟以提高芯片的性能。
● 消耗更少的功率:芯片的功耗更低。
nvidia 使用这种方法设计了近 13000 个 ai 辅助电路,与同样快速且功能相同的 eda 工具相比,它们的面积减少了 25%。但是 prefixrl 被提到是一项计算要求非常高的任务,并且对于每个 gpu 的物理模拟,它需要 256 个 cpu 和超过 32,000 个 gpu 小时。为了消除这个瓶颈,nvidia 开发了 raptor,这是一个内部分布式强化学习平台,它特别利用 nvidia 硬件进行这种工业强化学习。
raptor 具有多项可提高可扩展性和训练速度的功能,例如作业调度、自定义网络和 gpu 感知数据结构。在 prefixrl 的上下文中,raptor 使得跨 cpu、gpu 和 spot 实例的混合分配工作成为可能。
这个强化学习应用程序中的网络是多种多样的,并且受益于以下几点。
● raptor 在 nccl 之间切换以进行点对点传输以将模型参数直接从学习器 gpu 传输到推理 gpu 的能力。
● redis 用于异步和较小的消息,例如奖励或统计信息。
● 一种 jit 编译的 rpc,用于处理大容量和低延迟的请求,例如上传体验数据。
nvidia 得出结论,将 ai 应用于现实世界的电路设计问题可以在未来带来更好的 gpu 设计。完整的论文在此处,您也可以在此处访问开发人员博客以获取更多信息。
相关文章
- 华为强势回归!重夺2024年中国智能手机市场销量冠军宝座
- 华为引领中国研发风潮:全球科技投入榜单中国再显实力
- 巴塞罗那将迎科技盛宴,华为携智能化新篇亮相mwc 2024
- 格力电器辟谣:额外两亿年终奖非手机,员工晒出现金与兑换奖品
- 驴妈妈旅游网陷困境:凯发k8国际手机app下载官网停摆、现金流吃紧,积极寻求凯发游戏的解决方案
- 腾讯ceo马化腾:游戏业务面临挑战,ai成未来发展重点
- 三星集团四家子公司联手,创建跨企业工会,业界瞩目
- 微软office 365营收显著增长,ai功能助推企业及个人生产力提升
- macpaw扩展setapp服务,剑指欧洲第三方应用商店市场
- 苹果公司连续17年蝉联《财富》“全球最受赞赏公司”榜首