CUDA与GPU一起推动了人工智能

时间：2023-05-24

人工智能在沉淀发展了几年之后，ChatGPT“横空出世”，一经推出，就受到了全世界的高度关注和热捧。然而，在高度智能的背后，是巨大的成本和算力投入，这与企业的ROI和**节能减排的目标是矛盾的。这时，NVIDIA把早已研发的秘密——DPU和DOCA推出，它们能够大大缩减人工智能计算的成本，提升计算效能，解决当下痛点。或许，DPU将是NVIDIA对高速计算的*三次变革，这一次，属于“预见性变革”。

有了DOCA，对于客户来说，这意味着在目前 BlueField DPU上运行的应用程序和数据中心基础设施，在不久的未来将能不加修改地加速运行在 BlueField-3 DPU上。

DOCA，会是下一个CUDA吗？

NVIDIA介绍DOCA是“为DPU注入了灵魂”，实际上DOCA是NVIDIA针对DPU开发者提供的软件开发框架，是一个一站式平台并有活跃的社区。说起NVIDIA的开发平台和社区，工程师们就会想起十多年前NVIDIA 举办的**次CUDA活动。

CUDA较初的使命与

2006年，NVIDIA CUDA（Compute Unified Device Architecture）架构问世，与此同时，NVIDIA图形处理器出货量达到5亿台。

20140326131341

2007年，在美国加州圣克拉拉市，NVIDIA举办了**届CUDA（Compute Unified Device Architecture）技术大会，这是一种并行计算平台和编程模型，可用于利用NVIDIA GPU的强大计算能力。CUDA使开发人员能够使用C语言，C ++，Fortran等编程语言来编写GPU加速的应用程序。

在**届CUDA技术大会上，NVIDIA展示了许多基于CUDA的应用程序，包括物理模拟，图像处理和生物信息学。此外，NVIDIA还介绍了CUDA的架构和编程模型，并提供了一些实用的编程技巧和较佳实践。

自那时以来，CUDA已成为一种广泛使用的GPU编程平台和编程模型，用于各种科学，工程和商业应用程序。

2008年NVIDIA推出CUDA SDK2.0版本，大幅提升了CUDA的使用范围。使得CUDA技术愈发成熟。

2009年，NVIDIA在**届 GPU 技术大会上发布了 FERMI 架构，这是新一代CUDA GPU架构。

2011年，*大学微电子研究所副教授邓仰东在国内正式全面介绍CUDA，邓教授也成为国内系统化讲授CUDA技术的**人。

但即使如此，当时的CUDA也远远没有现在这么火热，因为，那时的CUDA主要还是用于GPU图形处理器的加速开发，人工智能还只是在很小的范围内萌芽，远没有出现当今各行各业AI化和ChatGPT带起的火热浪潮。

截止2023年初，以CUDA开发为主的NVIDIA开发者社区，中国注册开发者人数**过88**，**总的注册开发者人数400多万，占**过20%的比例。

当前，CUDA社区的开发者大部分都是在进行人工智能的设计与研发，处于**较良好的人工智能工程师行列。

DOCA到底是什么？

DOCA是NVIDIA提供的免费的用于BlueField DPU的软件开发框架，可以卸载、加速和隔离基础设施操作，支持**大规模、企业、**级计算和**融合基础设施，为BlueField DPU 硬件迭代提供软件兼容性。

1f38233bce47

DOCA提供了SDK和RUNTIME组件

a07bd34b6df14da88fd0f22..

同时，DOCA提供了服务组件，可以加速数据中心服务(例如: 遥测)，简化部署，从NGC目录获取并快速启动，在各种环境中移植，通过内置的 DOCA Runtime 提供基础服务容器等等。

DOCA是NVIDIA为其DPU打造的可编程软件平台：

2023/5/15 16:39:48

如果要用一句话来描述DOCA的话，那就是：DOCA之于DPU，正如 CUDA 之于 GPU。

DOCA，或缔造下一个王者

CUDA当时推出来仅仅是为了进行GPU图形加速，以给游戏和图形工作程序更好的体验。但是，随着GPU芯片在深度学习等人工智能领域的应用，CUDA一跃成为了较*的技术开发平台，目前，CUDA已经是**较火热也较有价值的编程平台之一。

DOCA会不会成为下一个王者呢？

随着GPU硬件与人工智能进入深水区，CUDA也不可避免的要进行二次深度沉淀，同时，基于CUDA的开发也已经很成熟。人工智能的硬件发展也处于一个亟待突破的瓶颈期。

DOCA是为了更快更的提升人工智能的效益与性能，能够解决当前较重要的成本投入与性能瓶颈问题，也就是解决人工智能算力与性能的痛点。这也是目前**微软、谷歌、亚马逊、百度等成员和人工智能细分垂直领域的企业在人工智能开拓方面的痛点。

然而，基于AI本身的特点，譬如ChatGPT就能自行进行编程，DOCA会不会很快就被AI所取代呢？

笔者认为，DOCA在目前阶段还不可能被替代，因为所积累的数据和程序不够，无法满足AI学习达到“*成才”的效果。

未来，DOCA之于DPU，或许正如CUDA之于GPU一样，会缔造下一个编程王者。

13530371926

词条
词条说明
【二维码检票】自动检票机的原理是什么？
原理：二维码扫描购票信息。因为身份证是联网的，二代身份证和车票放入验证区扫码，通过蓝色票的磁条或者二维条码，识别出信息和身份证信息核对是否一致。进站的人工验票主要是看实名制，站台闸机验票通过蓝票上的二维码扫描购票信息是不是这个车次，是不是全票，车次不同进去不得。1、断电开闸功能：断电时系统会自动将闸摆解锁，可手动推摆成敞开状态，方便疏散人群，符合消防要求。 2、防夹功能：机械防夹，遇阻停
人性化治理过马路行人违规闯红灯有新招— 交通喷雾安全引导系统
“遵守交通规则,闯红灯喷雾水”,为了治理“中国式过马路”,湖*冶出新招在红绿灯路口安装高科技识别系统设备--行人闯红灯自动识别抓拍系统, 该系统有语音提醒,自动抓拍行人违规行为,并对闯红灯违规者喷雾警示。这些红外探测式喷雾护桩和交通系统连接，当信号灯发生变化时，护桩可以向行人发出提醒。语音信息提示：“现在是绿灯，请小心通过。”当交通灯变红时，护桩会提示：“你现在闯红灯了。危险，请不要通行。”
韩国VP-IIX手背静脉识别系统应用特色
什么是静脉识别？静脉识别安防管理系统的原理是根据血液中的血红素有吸收红外线光的特质，将具红外线感应度的小型照相机对着手指进行摄影，即可将照着血管的阴影处摄出图像来。将血管图样进行数字处理，制成血管图样影像。静脉识别系统就是首先通过静脉识别仪取得个人静脉分布图，从静脉分布图依据**比对算法提取特征值，通过红外线CCD摄像头获取手背静脉的图像，将静脉的数字图像存贮在计算机系统中，将特征值存储。静脉比对
AB门禁厂家智慧高安全级门禁系统
AB门禁厂家智慧高安全级门禁系统AB门禁通道管理AB门禁管理，就是当一道门以合法方式被打开后，若此门没关上，则二道门不会被打开;只有当一道门关闭之后，二道门才能够被打开。同理，在二道门没有关好前，一道也不予以刷卡打开（可支持2至4个门之间进行互锁）。除此之外，AB门禁通道管理系统还提供了针对监狱的多功能应用。● 外来人员、车辆及物品可一站式进行信息登记，通过统一信息平台进行网上审批，