Jalapeño to nazwa ostrej papryczki, a zarazem pierwszego akceleratora AI (zwanego również procesorem inteligencji) opracowanego przez OpenAI, czyli ojców narzędzia ChatGPT. Wstępne testy pokazują olbrzymie możliwości tej jednostki, która w niedalekiej przyszłości ma się stać jednym z fundamentów infrastruktury tej firmy.
OpenAI serwuje Jalapeño
Firma OpenAI stworzyła jedne z najbardziej zaawansowanych spośród konsumenckich modeli sztucznej inteligencji. Jej LLM-y (duże modele językowe) z rodziny GPT wymagają do prawidłowego działania olbrzymich zasobów technologicznych. Aktualnie wykorzystywane są zewnętrzne rozwiązania, ale plany obejmują przejście na autorskie komponenty.
Właśnie po to powstał pierwszy procesor inteligencji (ang. Intelligence Processor), będący owocem współpracy OpenAI i Broadcom. Nazywa się Jalapeño i ma oferować wydajność porównywalną z popularnymi akceleratorami AI, ale cechując się przy tym zdecydowanie niższymi opóźnieniami. Wstępne testy wykazują wręcz, że wydajność w przeliczeniu na wat jest nawet wyższa niż w obecnie stosowanych rozwiązaniach.
Pełna kontrola nad sprzętową infrastrukturą może zapewnić OpenAI możliwość optymalizacji przyszłych modeli językowych w taki sposób, by działały szybciej i generowały niższe koszty. Może również przyczynić się do wzrostu efektywności w kontekście opracowywania i rozwoju tychże. Mniejsze uzależnienie od jednostek dostarczanych przez zewnętrzne podmioty teoretycznie pozwala także na osiągnięcie wyższego poziomu bezpieczeństwa.
Nowy układ wyróżnia to, że nie jest akceleratorem ogólnego przeznaczenia, wykonującym zadania AI, lecz procesorem od podstaw zaprojektowanym pod kątem sztucznej inteligencji. Dzięki temu ta ostatnia ma być szerzej dostępna, bardziej przystępna i równocześnie efektywniejsza niż do tej pory.
Co za tempo!
Inżynierowie OpenAI opracowali ten układ od podstaw, opierając się na wiedzy na temat LLM i skupiając się na wewnętrznych celach rozwojowych. Jednocześnie zadbano o elastyczność, aby akceleratory mogły efektywnie współpracować ze wszystkimi dużymi modelami językowymi. Partnerstwo z Broadcom umożliwiło zaś szybką inicjację wielkoskalowej produkcji. No właśnie…
Na uwagę zasługuje jeszcze tempo. Projekt procesora Jalapeño powstał zaledwie dziewięć miesięcy przed rozpoczęciem produkcji taśmowej, która dopiero co ruszyła (podobno jest to zasługa modeli AI). Przedstawione plany zakładają, że pierwsze układy spod tego znaku zostaną wdrożone w centrach OpenAI jeszcze przed końcem 2026 roku.
