服务器自动抢占GPU运行程序-创新互联

其原理是通过nvidia-smi扫描每块显卡上的内存,然后查询已经使用的内存,若已经使用的显卡内存不大于一个阈值,则运行python脚本(你也可以替换成别的命令)

成都服务器托管,成都创新互联提供包括服务器租用、托管服务器、带宽租用、云主机、机柜租用、主机租用托管、CDN网站加速、域名申请等业务的一体化完整服务。电话咨询:18980820575
#!/bin/bash
var=0
ocp_memory=${2:-500}
while [ $var -eq 0 ]
echo 'waiting for available gpu...'
do
    count=0
    for i in $(nvidia-smi --query-gpu=memory.used --format=csv,noheader,nounits)
    do
        if [ $i -lt ocp_memory ]
        then
            echo 'GPU'$count' is avaiable'
            CUDA_VISIBLE_DEVICES=$count python ${1}
            var=1
            break
        fi
        count=$(($count+1))    
    done    
done

使用时的命令为

sh ocp_gpu.sh test.py 500

test.py即需要运行的py文件,500代表显卡被占有内存小于等于500MB。

你是否还在寻找稳定的海外服务器提供商?创新互联www.cdcxhl.cn海外机房具备T级流量清洗系统配攻击溯源,准确流量调度确保服务器高可用性,企业级服务器适合批量采购,新人活动首月15元起,快前往官网查看详情吧


当前文章:服务器自动抢占GPU运行程序-创新互联
分享路径:http://bzwzjz.com/article/dpicgc.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 响应式网站设计 手机网站建设 成都网站制作 品牌网站建设 网站建设方案 手机网站制作 网站建设方案 成都网站建设 成都网站建设 响应式网站建设 成都企业网站制作 手机网站建设套餐 网站建设方案 四川成都网站设计 成都网站设计 成都企业网站建设 企业网站建设公司 成都品牌网站设计 高端网站设计推广 企业网站设计 温江网站设计 成都网站制作