login
欢迎浏览华语科技网
凯发游戏-凯发k8国际手机app下载 凯发游戏-凯发k8国际手机app下载 凯发游戏-凯发k8国际手机app下载

凯发游戏-凯发k8国际手机app下载

您现在的位置是: 凯发游戏-凯发k8国际手机app下载 > 业界资讯 > 商业观察

商业观察

nvidia利用ai来设计和开发gpu 最新hopper已拥有1.3万个电路实例-凯发游戏

2022-07-11 商业观察
在过去几年时间里,nvidia 深耕 ai 领域,他们的 gpu 不仅成为 hpc 的首选,也成为包括 ai 和深度学习生态系统在内的数据中心的首选。在最新公布的开发者博文中,nvidia 宣布正利用 ai 来设计和开发 gpu,其最新

  在过去几年时间里,nvidia 深耕 ai 领域,他们的 gpu 不仅成为 hpc 的首选,也成为包括 ai 和深度学习生态系统在内的数据中心的首选。在最新公布的开发者博文中,nvidia 宣布正利用 ai 来设计和开发 gpu,其最新的 hopper gpu 拥有将近 13000 个电路实例,而这些实例完全由 ai 创建。

  在 nvidia develope 上发布的新博客中,该公司重申了其优势以及它自己如何利用其 ai 功能来设计其迄今为止最强大的 gpu--hopper h100。 nvidia gpu 主要是使用最先进的 eda(电子设计自动化)工具设计的,但在利用 prefixrl 方法的 ai 的帮助下,使用深度强化学习优化并行前缀电路,公司可以设计更小、更快、更节能的芯片,同时提供更好的性能。

  计算机芯片中的算术电路是使用逻辑门网络(如 nand、nor 和 xor)和电线构成的。理想的电路应具有以下特点:

  ● 小:较小的区域,以便更多电路可以安装在芯片上。

  ● 快速:降低延迟以提高芯片的性能。

  ● 消耗更少的功率:芯片的功耗更低。

  nvidia 使用这种方法设计了近 13000 个 ai 辅助电路,与同样快速且功能相同的 eda 工具相比,它们的面积减少了 25%。但是 prefixrl 被提到是一项计算要求非常高的任务,并且对于每个 gpu 的物理模拟,它需要 256 个 cpu 和超过 32,000 个 gpu 小时。为了消除这个瓶颈,nvidia 开发了 raptor,这是一个内部分布式强化学习平台,它特别利用 nvidia 硬件进行这种工业强化学习。

  raptor 具有多项可提高可扩展性和训练速度的功能,例如作业调度、自定义网络和 gpu 感知数据结构。在 prefixrl 的上下文中,raptor 使得跨 cpu、gpu 和 spot 实例的混合分配工作成为可能。

  这个强化学习应用程序中的网络是多种多样的,并且受益于以下几点。

  ● raptor 在 nccl 之间切换以进行点对点传输以将模型参数直接从学习器 gpu 传输到推理 gpu 的能力。

  ● redis 用于异步和较小的消息,例如奖励或统计信息。

  ● 一种 jit 编译的 rpc,用于处理大容量和低延迟的请求,例如上传体验数据。

  nvidia 得出结论,将 ai 应用于现实世界的电路设计问题可以在未来带来更好的 gpu 设计。完整的论文在此处,您也可以在此处访问开发人员博客以获取更多信息。

标签ad报错:该广告id(20)不存在。

文章评论

")); document.write(unescape("")); } // 引入jquery开关,下面这行代码请勿删除! console.log('ey_is_jquery');
加载中~
网站地图