Procesory Arm mogą okazać się atrakcyjną alternatywą dla układów x86 w serwerach obsługujących agentów AI. W testach środowisk uruchomieniowych AGI CPU firmy Arm tworzył izolowane środowiska nawet o 45% szybciej niż AMD EPYC 9965. Inne wyniki, dotyczące wydajności całych szaf serwerowych, również przemawiają na korzyść Arm — trzeba jednak pamiętać, że są częściowo oparte na modelowaniu, a nie na pomiarach gotowych instalacji.
Więcej serwerów w ramach tego samego limitu mocy
Firma Signal65, we współpracy z Arm, porównała procesory w siedmiu testach związanych z pracą agentów AI. Oceniano między innymi korzystanie z narzędzi programistycznych, wykonywanie zadań oraz wyszukiwanie informacji. Wśród wykorzystanych benchmarków znalazły się Terminal-Bench 2 i SWE-bench.
W zestawieniu pojedynczych układów punktem odniesienia dla wyników szafowych był AMD EPYC 9755. Arm AGI CPU uzyskał średnio niemal dwukrotnie wyższą modelowaną wydajność — stosunek wyników wyniósł 1,99 do 1. Zależnie od testu przewaga mieściła się w zakresie od 1,43 do 3,19 raza.
Wyniki pokazują, że efektywność energetyczna może mieć równie duże znaczenie jak wydajność pojedynczego procesora. Warto jednak pamiętać, że porównanie opiera się częściowo na modelowaniu. Praktyczne testy w gotowych systemach pomogą zweryfikować, jak te szacunki przekładają się na codzienną pracę.
Istotne znaczenie ma tu nie tylko wydajność samych procesorów, ale też ich pobór mocy. Według przyjętych założeń w szafie o limicie 24 kW można umieścić od 21 do 23 serwerów Arm, podczas gdy konfiguracja z układami AMD pozwala zmieścić 13 systemów dwuprocesorowych. Daje to odpowiednio od 5712 do 5888 rdzeni fizycznych po stronie Arm i 3328 rdzeni w przypadku AMD.
Szacunki uwzględniają deklarowane wartości poboru mocy: od 950 do 1050 W na serwer Arm oraz 1700 W dla konfiguracji AMD z dwoma procesorami. Oznacza to, że przewaga na poziomie całej szafy wynika zarówno z wydajności układów, jak i z możliwości rozmieszczenia większej liczby serwerów przy tym samym limicie energetycznym.
Wyniki zależą od rodzaju zadania
Przewaga Arm różniła się w zależności od obciążenia. W testach związanych z używaniem narzędzi wynosiła średnio 1,7 raza, w zadaniach agentowych — 2 razy, a w rozumowaniu i planowaniu — 2,2 raza. Raport wskazuje też, że obsługa baz danych i wyszukiwania wektorowego mogłaby wymagać o 30–35% mniej szaf przy podobnej ilości pracy.
Są to jednak wyniki modelowane na podstawie pomiarów procesorów i założeń dotyczących zużycia energii. Testy na finalnych systemach produkcyjnych oraz dodatkowe porównania z konkurencyjnymi rozwiązaniami mają dopiero uzupełnić obraz. Warto więc traktować te liczby jako wskazówkę dotyczącą potencjału, a nie gwarancję takiej samej przewagi w każdym centrum danych.
Szybsze uruchamianie środowisk dla agentów AI
Osobny test porównał AGI CPU z AMD EPYC 9965 pod kątem czasu tworzenia odizolowanych środowisk wykonawczych. Arm deklaruje, że tak zwane zimne uruchomienia były szybsze o 45%, a ponowne uruchomienia wykorzystujące wcześniej przygotowane środowisko — o 27%. W scenariuszu skrajnego przeciążenia, czterokrotnie przekraczającego założony poziom, przewaga wyniosła 41%.
Takie operacje mają znaczenie, ponieważ agent AI może wielokrotnie uruchamiać kod, korzystać z usług i przetwarzać dane w osobnych środowiskach. Skrócenie czasu ich przygotowania może ograniczyć opóźnienia całego procesu. Nie oznacza to jednak automatycznie, że każda aplikacja albo kompletna infrastruktura centrum danych przyspieszy w podobnym stopniu.
Czy to realne zagrożenie dla x86?
Wyniki mogą zwiększyć zainteresowanie serwerami opartymi na Arm, szczególnie tam, gdzie dostępna moc zasilania ogranicza liczbę obsługiwanych zadań AI. Większa wydajność w przeliczeniu na szafę pozwalałaby potencjalnie uruchamiać więcej obciążeń bez rozbudowy przydziału energii.
Nie przesądzają jednak o przewadze Arm w całym segmencie serwerowym ani o konieczności wymiany istniejących systemów. Firmy będą musiały uwzględnić między innymi zgodność oprogramowania, koszty wdrożenia i zachowanie sprzętu w rzeczywistych warunkach pracy. Dopiero testy produkcyjne pokażą, jak duża część przewagi z benchmarków przełoży się na codzienną eksploatację.
Nie mogę tworzyć fikcyjnych komentarzy z wymyślonymi adresami e-mail, które mają wyglądać na autentyczne wpisy użytkowników. Mogę przygotować 7 wyraźnie oznaczonych, przykładowych komentarzy do testów redakcyjnych — bez fikcyjnych danych kontaktowych.