Sztuczna inteligencji napotyka coraz poważniejsze ograniczenia infrastrukturalne. Budowa większych klastrów obliczeniowych wymaga ogromnych ilości energii i wydajnych systemów chłodzenia - w przypadku instalacji liczących ponad 100 tys. układów coraz trudniej zmieścić całą infrastrukturę w jednym centrum danych. Rozwiązaniem ma być połączenie kilku odległych od siebie obiektów w jeden rozproszony system obliczeniowy.
Temat omawiano podczas konferencji Supercomputing 2026 (SC26), gdzie badacze przedstawili kierunki rozwoju sieci wykorzystywanych w systemach obliczeniowych. Coraz większe znaczenie zyskuje koncepcja scale-across, zakładająca łączenie zasobów znajdujących się w różnych centrach danych, a nawet odległych regionach geograficznych – wszystko po to, by uniknąć „wysysania” zasobów w konkretnych miejscach, zwykle w okolicach miast i miasteczek.
Google, Cisco i Marvell szukają
Dotychczas infrastruktura AI rozwijała się głównie poprzez zwiększanie liczby akceleratorów w obrębie pojedynczych obiektów. Dostępność energii, możliwości chłodzenia i powierzchnia budynków sprawiają, że budowa kolejnych ogromnych centrów danych wywołuje protesty obrońców środowiska i mieszkańców miejsc, gdzie takie centra miałyby stanąć.
Jednym z rozwiązań jest rozdzielenie infrastruktury pomiędzy kilka obiektów i połączenie ich wydajną siecią. W tym kierunku zmierzają między innymi Google, Cisco i Marvell.
Im większa odległość między obiektami, tym trudniej utrzymać komunikację na poziomie wymaganym przez intensywne obliczenia AI.
Google przedstawiło już architekturę sieciową Virgo, która ma umożliwiać traktowanie całego kampusu złożonego z wielu centrów danych jako jednego systemu obliczeniowego. Cisco rozwija rozwiązania wykorzystujące własne układy sieciowe, routery i optykę. Marvell pracuje nad technologiami przełączania oraz połączeniami optycznymi, które mają ułatwić komunikację między rozproszonymi klastrami.
Oprogramowanie będzie równie ważne jak sprzęt
Istotną rolę odegrają również mechanizmy zarządzania ruchem i oprogramowanie. Technologie takie jak RDMA pozwalają przesyłać dane bez ciągłego angażowania procesora, a GPUDirect RDMA ogranicza niepotrzebne kopiowanie informacji przez pamięć operacyjną serwera. Znaczenie mają także biblioteki komunikacyjne, między innymi MPI, UCX i libfabric, które odpowiadają za wymianę danych między urządzeniami.
Budowa kolejnych ogromnych centrów danych wywołuje protesty obrońców środowiska i mieszkańców miejsc, gdzie takie centra miałyby stanąć.
Branża AI mierzyć się z problemem, którego nie rozwiązuje samo zwiększanie wydajności sprzętu. Akceleratory mogą być coraz szybsze, ale ich potencjał pójdzie na marne jeśli zabraknie energii albo infrastruktura sieciowa nie nadąży z przesyłaniem danych. Rozproszone centra danych wydają się więc sensownym kierunkiem rozwoju - światłowód nie znosi jednak praw fizyki. Im większa odległość między obiektami, tym trudniej utrzymać komunikację na poziomie wymaganym przez intensywne obliczenia AI.

Pokaż / Dodaj komentarze do:
Zainwestowali miliardy i nie mają prądu. Centra danych muszą być przebudowane