大模型GPU服务器采购采购公告

正文内容

项目名称 大模型GPU服务器采购 项目编号 SUSTech-JC-****-***** 项目类型 货物类 成交方式 最低价成交 采购方式 公开竞采 公告开始时间 ****-**-** **:**:** 公告结束时间 ****-**-** **:**:** 预算(元) ******.** 项目预算是否含税 国产含税 备注 采 购 明 细 序号 名称 数量 单位 * 大模型GPU服务器采购（核心货物） * 台 是否接受进口 拒绝进口 品牌 无推荐品牌 型号 无推荐型号 技术规格及参数 平台： *U机架式服务器/支持*颗第三代 Intel Xeon 可扩展CPU；双插槽 P+ (LGA-****)，单颗最多**个内核，最大 功率***W/支持**条 DDR* RDIMM或LRDIMM内存， 速率最高支持****MT/s，支持**根英特尔®傲腾®持久内存PMem ***系列；可选配高性能RAID控制器, 支持RAID*/*/**/*/*/**/**；支持最多**个PCIE*.*标准插槽+*个 OCP*.*网卡专用插槽；≥*TB/**块*.*，其中支持NVME≥*个；≥*个/板载双千兆电口网络/≥**个PCle插槽，后置≥**个PCIe *.* x**；支持≥*张双宽全高全长GPU；* 个具有最佳风扇速度控制的重型风扇；*x ****W 冗余钛金级电源(*x ****W 冗余钛金级电源)，含导轨,散热器,原厂包装箱。 配置≥*颗CPU：Ice Lake/**C/**T/*.*GHz/**MB/***W/****MHz；内存：≥***GB；存储硬盘：≥*个***GB NVME PCLe *x* *.*"*mm(*DWPD）；≥*个 *.**T NVMe PCle *x* *.*"*mm(*DWPD)SED；网卡：≥*个AIOM *-port **GBase-T,Intel X***,RoHS---AOC-ATG i*TM-O电源：≥****W(*+*)冗余电源； 为确保产品质量，电源模块功耗转化率≥**%，需提供测试证明材料。 配置管理软件及计算软件： 一、GPU 集群管理软件必须是国产可控。需与机器兼容，提供容器+镜像的管理，提供GPU+CPU集群的管理和调度；多数据中心管理，用户可以选择使用某一数据中心**；备*层组织架构管理；如管理员、组织管理员、成员等，通过设定对组织及用户进行**配额；支持对**进行套餐分配及设置使用权限，可设置部分或全部使用；用户按需申请深度学习环境，包括深度学习框架，网络模型，GPU及CPU等**，支持用户对环境框架、**配置进行动态调整。支持对环境做定时快照和备份，用于环境的快速回滚；支持把当前环境一键打包至镜像仓库，用户可以基于该镜像创建新的环境；数据标注工具服务化，通过平台集成的数据标注工具，可以在线完成数据标注；平台具备多种计费模式；提供完整的计量计费功能，管理可通过计费模块对GPU、CPU、内存等**进行费用设定，根据用户使用时长进行计费；支持用户通过支付宝等方式在线充值；也支持虚拟充值，在后台管理系统上由运营人员进行充值；也支持免费使用；（以上所有功能需提供截图证明材料。）管理集群中GPU服务器及GPU卡的运行状况，**使用情况，包含GPU总数/使用数，GPU核心平均利用率，GPU显存平均利用率等。*支持单机单卡，单机多卡，多机多卡分配**；提供单GPU卡多任务共享、GPU切割（vGPU）方式分配**，提升GPU利用率；AutoML超参调优，用于调整用户算法的超参数，原生支持众多机器学习框架，支持不同的AutoML算法； 支持分布式并行训练功能，支持TensorFlow、pytorch分布式训练，同时集成horovod、ray分布式训练框架；支持将训练好的AI模型部署成在线服务（Web Service），支持用户自定义推理脚本文件，提供在线UI预测推理能力，为用户提供可调的用API接口。支持设置模型服务自动停止时间，避免不必要的**浪费；用户的程序计算过程中的CPU、GPU、内存、磁盘、网络、内存带宽等性能指标量化记录（如平均值、峰值等）形成图表，并在此基础上提供程序性能分析服务（需提供证明截图证明） 二、***配置要求：提供基于高性能计算物理集群的算力**，不接受vCPU、vGPU、虚拟核心、逻辑核心（超线程）等虚拟化**或云主机**。采用的算力**为基于高性能计算集群的物理CPU算力**，非vCPU、虚拟核心、逻辑核心（超线程）等虚拟化**或云主机**。**操作系统应采用CentOS Linux *.*或以上版本；预装GPU驱动、CUDA、编译器、数学库、MPI、Anaconda等计算环境。支持用户联网在线安装部署相关计算软件；采用Slurm作业调度管理系统和Lustre并行文件系统，支持磁盘配额管理及按需在线扩容。操作系统为CentOS Linux *.*或以上版本，并预装了GPU驱动、CUDA、编译器、数学库、MPI、Anaconda等计算环境。同时支持用户联网在线安装部署相关计算软件。此外需采用Slurm作业调度管理系统和Lustre并行文件系统，支持磁盘配额管理及按需在线扩容，以确保用户在使用过程中的顺畅和灵活性。可见操作系统采用CentOS *.*.****；预置Intel/GNU编译器、MPI并行计算环境、MKL数学库、Anaconda科学计算工具包等并行计算环境（通过module工具统一管理，通过“module avail 软件/工具名称”查看已预装的工具软件及版本情况，通过“module load 软件/工具名称”加载和使用），采用Slurm作业调度管理系统分发计算任务，软件版本为**.**.*-*；采用Lustre存储系统且支持磁盘配额和动态扩容。操作系统：采用CentOS Linux release *.*.****，符合指标要求，预置并行计算环境：预置Intel/GNU编译器、MPI计算环境、MKL数学库、Anaconda科学计算工具包等计算环境，可通过module工具统一管理，通过“module avail 软件/工具名称”查看已预装的工具软件及版本情况，通过“module load 软件/工具名称”加载和使用；如版本不匹配也可联网在线安装，以上功能需要在投标文件中提供截图证明。 作业调度系统：采用Slurm作业调度管理系统分发计算任务，软件版本为**.**.*-*文件系统：采用Lustre文件存储系统，总存储空间*.*PB，可为采购人提供足量的存储空间，支持磁盘配额和动态扩容。提供超算预警消息自助管理入口，支持用户通过Web和微信公众号自助设置消息通知开关及余额、作业运行时长、存储使用等消息的报警阈值。超算预警消息自助管理入口，用户可以通过Web和微信公众号自助设置消息通知开关，以及设置余额、作业运行时长、存储使用等消息的报警阈值，以便用户能够及时获得重要通知和预警。多种消息管理渠道，用户可通过超算服务控制台的自助中心（Web方式）以及“超算云服务”微信公众号自助设置超算预警消息通知开关，支持自定义设置余额、作业长时间运行、存储使用等预警消息的阈值；支持通过微信公众号接收上述预警消息。云桌面提供了超算预警消息自助消息管理工具，支持用户通过Web界面及微信公众号自助设置消息通知开关及余额、作业运行时长、存储使用等消息及报警阈值；可设置是否接收超算云服务提供的相关告警及提示消息，并支持自助设置余额、作业运行时长、存储使用等消息的报警阈值（提供验证材料），超算作业查询：供应商可提供可实时查询超算作业状态和消费记录超算服务微信小程序，提供超算服务微信小程序，用户可以通过它实时查询超算作业状态和消费记录，以便随时掌握作业进展和费用情况。在系统中绑定超算云账号后即可实时查询超算作业状态和消费记录（以上功能需要在投标文件中提供截图证明）。免费提供*x**小时技术支持服务；并承诺*分钟内响应客户需求，提供必须的计算相关答疑服务和使用文档、免费协助安装开源软件及产权清晰的商业软件，提供硬盘邮寄等服务。免费协助安装开源软件及产权清晰的商业软件，提供硬盘邮寄等服务。 质保期 三年 售后要求 提供基础上门安装服务，提供计算节点基础安装服务，原厂全新未拆封产品，货到验收时可以通过原厂网站查询验证保修信息，（要求提供官方查询验证网址），提供原厂工程师基础安装服务，提供厂商盖章的证明文件。 付款方式 甲方应在货物交付、安装调试、试运行及验收合格并收到乙方开具相应发票之日起（**）个工作日内向乙方支付本合同价款总额的***%。 交货期 合同签订后*天（自然日）内，具体时间根据学校要求提前*天（自然日）通知送货 报价网址：http://jc.biddingoffice.sustech.edu.cn