GPU - 主题 - twt企业IT交流平台

动态

2 会员关注

随着AI大模型技术的迅猛发展，其在各行各业的应用越来越广泛，但同时单台GPU服务器的成本也是极高的，GPU硬件池化改造必定是未来的发展趋势之一。本文不仅详细介绍了多种GPU虚拟化技术，还对不同方案进行了对比分析，对于这方面需求的伙伴来说，这些都有很高的参考价值。...(more)

赞同2

专栏: 解决方案剖析

大语言模型·2024-05-23

大模型的局限与发展趋势解读分析

仙守苏宁易购擅长领域：人工智能, 大语言模型, 机器学习

大模型应用广泛，但存在框架局限、数据需求大等问题。未来发展方向包括小型化、专业化等。大模型将成为各行业的落地利器，开源大模型能提高社区追随度和模型完善度，闭源大模型则能形成技术先发优势。...(more)

赞同

专栏: 趋势观点

GPU·2024-04-28

GPU加速计算能力能否提升关系型数据库性能？

Ethan_Yang

某金融司擅长领域：数据库, 灾备, 人工智能

GPU具有并行计算能力和高速内存带宽，能够加速大模型计算和关系型数据库的部分计算任务，但也存在数据传输成本、部分计算任务不适合GPU加速、开发和维护成本高、可扩展性有限等不足之处。需要综合考虑实际需求和应用场景，权衡其优势和不足之处。...(more)

赞同

证券GPU· 2024-04-17

GPU加速计算能力能否提升当前市面上的关系型数据库性能？xxx

larryz IICN 擅长领域：云计算, 信创, 信创云

GPU和cpu的指令集不一样、IP设计也不一样的。

证券GPU· 2024-04-15

匿名用户

GPU服务器因其强大的并行处理能力在高性能计算、深度学习、图形渲染等领域非常受欢迎。一台装配有多个GPU的服务器尤其在配置和优化上需要注意以下几个要点：硬件配置注意点GPU选择：确保选择适合应用需求的GPU，如NVIDIA的Tesla或Quadro系列针对科学计算和深度学习优化，而GeFor...(more)

赞同1

回答

关注2

能源采矿GPU· 2024-04-11

当前的测试流程中是否存在数据处理、图像处理等需大计算资源的环节?这些可以通过GPU或并行计算提速吗?xxx

回答

关注5

银行大语言模型· 2024-03-25

英伟达 GPU 性能不断剪裁的情况下，金融行业的大模型资源池应该如何建设？xxx