ChatGPT сыяктуу моделдер жетектеген AI тиркемелеринин тез өсүшү менен эсептөө кубаттуулугуна суроо-талап кескин өстү. AI доорунун өсүп жаткан эсептөө талаптарын канааттандыруу үчүн, Tsinghua Unigroup кол чатыры астында H3C Group жакында H3C UniServer G6 жана HPE Gen11 сериясындагы 11 жаңы өнүмдөрдү 2023-жылдагы NAVIGATE Leader Summitинде көрсөттү. Бул жаңы сервердик өнүмдөр ар кандай сценарийлер боюнча AI үчүн комплекстүү матрицаны түзүп, массалык маалыматтарды жана моделдик алгоритмдерди иштетүү үчүн күчтүү платформаны камсыздайт жана AI эсептөө ресурстарынын кеңири камсыздалышын камсыздайт.
Ар түрдүү AI эсептөө муктаждыктарын чечүү үчүн ар түрдүү продукт матрицасы
Акылдуу эсептөөлөрдүн лидери катары H3C Group көп жылдар бою AI тармагында терең алектенип келет. 2022-жылы, H3C Кытайдын ылдамдатылган эсептөө рыногунда эң жогорку өсүш темпин камсыз кылды жана өзүнүн күчтүү техникалык тажрыйбасын жана мүмкүнчүлүктөрүн көрсөтүп, эл аралык таанымал AI эталондук MLPerf сынагында бардыгы болуп 132 дүйнөдөгү биринчи рейтингдерди топтоду.
Интеллектуалдык эсептөөнүн негизинде курулган өнүккөн эсептөө архитектурасын жана интеллектуалдык эсептөө күчүн башкаруу мүмкүнчүлүктөрүн колдонуу менен, H3C интеллектуалдык эсептөөчү флагмандык H3C UniServer R5500 G6, атайын масштабдуу моделди окутуу үчүн иштелип чыккан. Алар ошондой эле H3C UniServer R5300 G6, гибриддик эсептөө кыймылдаткычын кеңири масштабдуу жыйынтык чыгаруу/окутуу сценарийлери үчүн ылайыктуу киргизишти. Бул өнүмдөр ар кандай AI сценарийлериндеги ар түрдүү эсептөө талаптарына жооп берип, AI эсептөөлөрүнүн толук камтылышын камсыз кылат.
Интеллектуалдык эсептөөчү флагмандык чоң масштабдагы моделди окутуу үчүн иштелип чыккан
H3C UniServer R5500 G6 күчүн, аз энергия керектөөсүн жана интеллектти айкалыштырат. Мурунку муунга салыштырмалуу, ал GPT-4 масштабдуу моделин окутуу сценарийлери үчүн окутуу убактысын 70% га кыскартуу менен үч эсе көп эсептөө күчүн сунуштайт. Бул масштабдуу окутуу, кеп таануу, сүрөттөрдү классификациялоо жана машина которуу сыяктуу ар кандай AI бизнес сценарийлерине тиешелүү.
Күч: R5500 G6 96га чейин CPU өзөгүн колдоп, негизги иштешин 150% жогорулатат. Ал жаңы NVIDIA HGX H800 8-GPU модулу менен жабдылган, 32 PFLOPS эсептөө күчүн камсыздайт, натыйжада AIнын масштабдуу моделин окутуу ылдамдыгы 9 эсе жакшырган жана масштабдуу моделдин AI чыгаруу көрсөткүчү 30 эсе жакшырган. Кошумчалай кетсек, PCIe 5.0 жана 400G тармагынын колдоосу менен колдонуучулар AIнын ишканаларда кабыл алынышын жана колдонулушун тездетип, жогорку натыйжалуу AI эсептөө кластерлерин орното алышат.
Интеллект: R5500 G6 эки топология конфигурациясын колдойт, ар кандай AI колдонмолорунун сценарийлерине акылдуу түрдө ыңгайлашып, терең үйрөнүүнү жана илимий эсептөө колдонмолорун тездетип, GPU ресурстарын пайдаланууну бир топ жакшыртат. H800 модулунун көп инстанциялуу GPU өзгөчөлүгүнүн аркасында бир H800 7 GPU инстанцияларына бөлүнөт, 56 GPU инстанциясына чейин мүмкүнчүлүгү бар, алардын ар бири өз алдынча эсептөө жана эс ресурстарына ээ. Бул AI ресурстарынын ийкемдүүлүгүн олуттуу жогорулатат.
Төмөн көмүртектүү изи: R5500 G6 суюк муздатуу, анын ичинде CPU жана GPU үчүн суюк муздатууну толугу менен колдойт. 1.1ден төмөн болгон PUE (энергияны колдонуунун эффективдүүлүгү) менен, ал эсептөө толкунунун ысыкта "салкын эсептөөнү" камсыз кылат.
Белгилей кетсек, R5500 G6 чыгарылгандан кийин "Эсептөө натыйжалуулугу боюнча 2023 кубаттуулук рейтингинде" "2023-жылдын эң мыкты 10 жогорку натыйжалуу серверлеринин" бири катары таанылган.
Окутуу жана корутунду талаптарынын ийкемдүү дал келүүсү үчүн гибриддик эсептөө кыймылдаткычы
H3C UniServer R5300 G6, кийинки муундагы AI сервери катары, мурункусуна салыштырмалуу CPU жана GPU спецификацияларында олуттуу жакшыртууларды сунуш кылат. Ал мыкты өндүрүмдүүлүккө, интеллектуалдык топологияга жана интеграцияланган эсептөө жана сактоо мүмкүнчүлүктөрүнө ээ, бул аны терең үйрөнүү моделин окутуу, терең үйрөнүү боюнча корутунду жана башка AI колдонуу сценарийлери үчүн ылайыктуу кылып, ийкемдүү түрдө окутуу жана корутунду эсептөө муктаждыктарына шайкеш келет.
Мыкты аткаруу: R5300 G6 мурунку муунга салыштырмалуу 4,85 эсеге жакшыртууну камсыз кылуучу NVIDIA ишкана деңгээлиндеги GPUлардын акыркы муунуна шайкеш келет. Ал ар кандай сценарийлерде AIнын гетерогендик эсептөө кубаттуулугуна талаптарды канааттандыруу үчүн GPU, DPU жана NPU сыяктуу AI тездетүү карталарынын ар кандай түрлөрүн колдойт, интеллект дооруна мүмкүнчүлүк берет.
Акылдуу топология: R5300 G6 беш GPU топологиясы жөндөөлөрүн сунуштайт, анын ичинде HPC, параллелдүү AI, сериялык AI, 4-карта түз жетүү жана 8-карта түз кирүү. Бул болуп көрбөгөндөй ийкемдүүлүк колдонуучу колдонмолорунун ар кандай сценарийлерине ыңгайлашууну абдан жакшыртат, ресурстарды акылдуу бөлүштүрөт жана эффективдүү эсептөө күчүн иштетет.
Интеграцияланган эсептөө жана сактоо: R5300 G6 ийкемдүү түрдө AI ылдамдатуу карталарын жана акылдуу NIC'терди жайгаштырып, окутуу жана жыйынтык чыгаруу мүмкүнчүлүктөрүн айкалыштырат. Ал 10го чейин эки кеңдиктүү GPU жана 24 LFF (Ларге Форма Фактор) катуу диск слотторун колдойт, бул бир серверде бир эле убакта окутууга жана жыйынтык чыгарууга мүмкүндүк берет жана чөйрөлөрдү иштеп чыгуу жана сыноо үчүн үнөмдүү эсептөө кыймылдаткычын камсыз кылат. 400ТБ чейин сактоо сыйымдуулугу менен, ал AI маалыматтарынын сактоо мейкиндигине болгон талаптарга толугу менен жооп берет.
AI бум алдыга жылган сайын, эсептөө күчү тынымсыз өзгөртүлүп, кыйынчылыктарга дуушар болууда. Кийинки муундагы AI серверлеринин чыгарылышы H3C Groupтун "өзгөчө интеллект" технологиясына жана анын интеллектуалдык эсептөөлөрдүн эволюциясы үчүн үзгүлтүксүз аракетине болгон умтулуусундагы дагы бир этапты белгилейт.
Келечекке көз салып, "Булут-Түпкүлүктүү Интеллект" стратегиясын жетекчиликке алып, H3C Group "доорду акыл менен камсыз кылган кылдат прагматизм" концепциясын карманат. Алар интеллектуалдык эсептөөнүн түшүмдүү топурагын өстүрүүнү улантат, AI колдонуунун терең деңгээлиндеги сценарийлерин изилдеп, келечекке даяр, ийкемдүү эсептөө күчү менен интеллектуалдык дүйнөнүн келишин тездетет.
Посттун убактысы: 04-04-2023
