谷歌云GKE动态切片正式可用，TPU任务启动提速至多5倍

谷歌云宣布，GKE动态切片（Dynamic Slicing）正式可用，该功能将逻辑TPU切片的组建与物理节点池的供给解耦。谷歌云称，与为每个TPU切片单独创建静态节点池相比，动态切片可将AI工作负载启动时间最多缩短5倍，工作负载恢复速度提升4.5倍。该功能借助TPU光路交换（OCS）技术动态拼接TPU立方体，支持超出单个立方体规模的超级切片，以及将单个立方体划分为多个更小切片供多个工作负载在同一节点池内运行。谷歌云表示，该机制可消除删除并重建节点池的循环，将硬件故障影响范围限制在单个16虚拟机4x4x4切片拓扑内，并在一至两分钟内替换不健康立方体，同时支持部分健康节点池的利用。