5. 开放端口
场景: 在实例中部署了比如各类Flask/Django/Streamlit/Gradio等Web服务需要开放端口使用浏览器打开,或者需要不同主机上的多个实例开放端口通过tcp连接互联(用于多机多卡并行等)
方案:
关于开放端口私有云提供了两种方式:
1. 通过proxy agent的方式来开放端口。要使用该功能需要管理员打开 [系统配置 → 允许用proxy agent暴露端口],然后用户在创建实例(或实例更多操作中更改配置)设置自定义服务端口
。通过此方式开放的端口适合用于Web服务等,简单够用,无需用户过多配置,但不适合需要高性能GPU并行的场景
2. 通过容器到宿主机端口映射的方式开放端口。要使用该功能需要管理员在后台编辑某台主机
,打开支持端口映射
开关或者直接开启--net=host
高级选项(选其一),然后用户在创建实例时选择此主机,在高级配置
栏中设置端口映射或者勾选--net=host
选项。注意:对于多机多卡并行的场景,由于NCCL需要识别机器之间的网络拓扑,仅仅是端口映射无法让NCCL正常工作,需要使用--net=host
的方式才可以让NCCL正确识别网络拓扑关系,正常工作