Amazon si vyvinul nový ARM procesor a akcelerátor AI

Značky: AmazonCPUARMumelá inteligencia

DSL.sk, 28.11.2023

Spoločnosť Amazon Web Services na svojej konferencii AWS re:Invent dnes oznámila vyvinutie a nasadenie novej generácie jej čipov používaných v cloudovej službe AWS.

Spoločnosť si vyvinula novú generáciu serverového ARM procesora Graviton4 a akcelerátora pre trénovanie veľkých neurónových sietí Trainium2.

Spoločnosť neavizuje konkrétne parametre nových čipov, iba zlepšenia oproti predchádzajúcej generácii.

Graviton4 má podľa spoločnosti o 30% vyšší výpočtový výkon ako predchádzajúca generácia Graviton3, o 50% viac jadier a o 75% vyššiu priepustnosť prepojenia s pamäťou. Keďže Graviton3 má 64 jadier Neoverse V1, Graviton4 má teda zrejme 96 jadier.

Trainium2 zase umožňuje podľa spoločnosti 4-krát rýchlejšie trénovanie neurónových sietí, má 3-krát vyššiu kapacitu pamäte a 2-krát lepšiu energetickú efektívnosť. Bude sa dať použiť v klasteroch s maximálne 100-tisíc čipmi, čo umožní trénovať veľmi veľké modely.

Graviton4 bude použitý v serverových konfiguráciách označených EC2 R8g, ktoré sú zatiaľ dostupné v preview režime a štandardne budú dostupné v nasledujúcich mesiacoch.

Trainium2 bude k dispozícii v konfiguráciách EC2 Trn2 so 16 čipmi Trainium2. Klaster so 100-tisíc čipmi bude mať maximálny výkon 65 exaflopov / s a umožní trénovať veľký jazykový model s 300 miliardami parametrov za týždne oproti mesiacom zrejme s prvou generáciou. Presný termín dostupnosti Trn2 konfigurácií oznámenie zrejme neuvádza.




Najnovšie články:



Diskusia:

Akcelerátor hlúpnutia ľudstva - maximálna veľkosť bAnálneho dilda Od: Akcelerátor hlúpnutia ľudstva. | Pridané: 28.11.2023 22:43 To je úžasné. Raz nám stužená inteligencia odpovie na základne otázky. Odpovedať Známka: 10.0 Hodnotiť:

Re: Akcelerátor hlúpnutia ľudstva - maximálna veľkosť bAnálneho dilda Od: abcdefg | Pridané: 29.11.2023 7:39 čo robiť na záchode počas srania? Odpovedať Známka: 6.7 Hodnotiť:

Re: Akcelerátor hlúpnutia ľudstva - maximálna veľkosť bAnálneho dilda Od: Brucho | Pridané: 29.11.2023 12:15 ako hrubé majú byť palacinky :P Odpovedať Známka: 1.1 Hodnotiť:

haluz Od: Kelišová. | Pridané: 29.11.2023 15:25 Len toľko hrubé, aby sa vošli popod dvere. Ale sranda je, že hentaký sa stretnú v jednej promo base. Černák vyzerá namakane furt, to čo v tej base "robí"? Odpovedať Známka: -3.3 Hodnotiť:

Re: haluz Od: GážduI'o | Pridané: 30.11.2023 8:06 Si predstav že priekazne to, čo teba ani na sloboďe nenapadlo zkúsitt, jíst palačinky veru nie je tá oná aktivyta. Odpovedať Hodnotiť:

blbiny Od: Henrieta. | Pridané: 30.11.2023 6:25 Čo robiť? No asi srať a nemobilovať. Odpovedať Hodnotiť:

Re: blbiny Od: GážduI'o | Pridané: 1.12.2023 6:40 Srať a ňé mó bí lí zó vaťť. Aj keď to by se na ňekteré sviňé voplatilo. Taký magorič, strapatý, špekačka a všetcia ich súkmeňovci, chcelo by nás dostatek na takové to jarní upratování! Nu ale nasrát, voni se odpracú priekazne sami, to je na tom to krásné. Odpovedať Hodnotiť:

re...... Od: dando111 | Pridané: 29.11.2023 0:14 +50% jadier ale iba +30% vykonu? Odpovedať Hodnotiť:

Re: re...... Od: Denzel | Pridané: 29.11.2023 1:09 Je to vynasobene bulharskou konstantou pre istotu Odpovedať Hodnotiť:

Re: re...... Od: Berg | Pridané: 29.11.2023 1:44 Nizsi clock, nizsia spotreba, menej chladenia. Odpovedať Hodnotiť:

Re: re...... Od: Jaaasom | Pridané: 29.11.2023 8:38 Ušetríme hliník... Odpovedať Hodnotiť:

ultraradikálny špecifikácionalizmus Od: syntaxterrorXXX, . Y | Pridané: 29.11.2023 8:50 S názvami ako Graviton3, Neoverse V1 či Trainium2 tam môže byť akurát Vyssi clock, mrte nizsia spotreba a mrte menej chladenia, inak sa akurát priekazne navonok marketingom prekrýva zlyhanie technologického vývoja. Odpovedať Známka: -3.3 Hodnotiť:

Re: ultraradikálny špecifikácionalizmus Od: GážduI'o | Pridané: 30.11.2023 8:15 Na môj cpu codename melón s priekazne 739 jadrami to ňémá. Ai vnuk sa mi nenudil, učil počítať, zlomkovať a deliť podľa farieb či abnormálnosti, naturálne rodený rasista či sexista odpisujúc neplodné paškvily. Odpovedať Hodnotiť:

Zmena Od: Ivan Blanár | Pridané: 29.11.2023 9:17 "Amazon si vyvinula...". Je to firma, tak ako Apple. Odpovedať Známka: 3.3 Hodnotiť:

Amazon si vyvinul nový ARM procesor a akcelerátor AI Od: Dr Jansky | Pridané: 29.11.2023 15:05 Mam zaujem, je to dostupne? Odpovedať Hodnotiť:

ultraradikálny špecifikácionalizmus Od: syntaxterrorXXX, . Y | Pridané: 29.11.2023 15:34 S aktivovanou službou Rapid Delivery od Starlink-u stačí na kus kartónu napísať "Cem Trainium2 Klaster" aspoň 16-kou fontom a otrčiť na nebo. A zvyšok už priekazne porieši AI. Odpovedať Známka: 5.0 Hodnotiť:

Pridať komentár