节点CPU规格

ai_node_cpu_count

Core

ML 服务节点的 CPU 规格。

节点内存规格

ai_node_memory_total

GiB

ML 服务节点的内存规格。

节点磁盘规格

ai_node_disk_total

GiB

ML 服务节点的磁盘规格。

节点CPU使用率

ai_node_cpu_usage

%

ML 服务节点的 CPU 使用率。

节点内存使用量

ai_node_memory_used

GiB

ML 服务节点的内存使用量。

节点磁盘使用量

ai_node_disk_used

GiB

ML 服务节点的磁盘使用量。

节点网络流入速度

ai_node_network_receive_speed

KiB/s

ML 服务节点的网络流入速度。

节点网络流出速度

ai_node_network_send_speed

KiB/s

ML 服务节点的网络流出速度。

QPS

ai_node_qps

无

ML 服务的 QPS。

平均响应时间

ai_node_mean_reponse_ms

μs

ML 服务的平均响应时间。

节点GPU数

ai_node_gpu_count

Count

ML 服务节点使用的 GPU 个数。

节点GPU使用率

ai_node_gpu_usage

%

ML 服务节点 GPU 使用率。

节点GRAM容量

ai_node_gram_total

GiB

ML 服务节点的 GRAM 容量。

节点GRAM用量

ai_node_gram_used

GiB

ML 服务节点 GRAM 使用率。