Ray, Google Cloud에서 공식 TPU 지원을 획득

Ray 2.55는 이제 Google Cloud TPU를 1급 가속기로 취급하며, 공식 API, 사전 빌드된 이미지, 핵심 라이브러리 전반의 지원을 제공합니다. 이번 업데이트를 통해 이미 GPU에서 Ray를 사용 중인 팀은 Google Kubernetes Engine(GKE)을 통해 TPU에서 유사한 Python 워크로드를 실행할 수 있습니다. 이 글에서는 TPU 칩이 슬라이스로 구성되어 있으며, 작업자들이 상호 연결망을 통해 통신할 수 있도록 이 슬라이스가 온전하게 유지되어야 한다고 설명합니다. GKE는 이러한 슬라이스를 프로비저닝하고 레이블을 지정하며, Ray Core는 그 레이블을 사용해 한 번에 전체 슬라이스를 예약하여 분산 작업이 올바르게 스케줄링되도록 돕습니다. Google은 또한 Ray Operator 애드온이 GKE에 KubeRay와 TPU 웹훅을 어떻게 설치하는지 설명합니다. 사용자는 TPU 세대, 토폴로지, 호스트 수를 지정하여 RayCluster 매니페스트에서 TPU 리소스를 요청할 수 있으며, Data, Train, Serve와 같은 Ray AI 라이브러리는 맞춤 배치 코드 없이도 TPU 지원을 사용할 수 있습니다.