BMS, avtobus, sanoat, asbobslash kabeli uchun.
Bahor festivali yaqinlashganda, chuqurligi kuchayadi. Yaqinda o'tkazilgan bayram texnologiya sohasidagi raqobatni ta'kidladi, bu "mushuk" ni muhokama qilish va tahlil qilish bilan. Silikon vodiysi misli ko'rilmagan inqiroz tuyg'usini boshdan kechirmoqda: ochiq manbaning himoyachilari o'z fikrlarini bildirmoqdalar va hatto Oplayni ham uning yopilish strategiyasi eng yaxshi tanlov ekanligini qayta ko'rib chiqmoqda. Kamroq hisoblash xarajatlarining yangi paradigmasi NVIIIA singari chip gigantlari orasida zanjirli reaktsiyani boshdan kechirdi, chunki AQSh fondlari tarixidagi bir kunlik bozor qiymatidagi yo'qotishlarga olib keladi, hukumat idoralari esa chuqurlashgan chiplarning narxlarini tekshirmoqda. Chet elda chuqurlik bilan sharhlar, mamlakatimizning hayoti g'ayrioddiy o'sishni boshdan kechirmoqda. R1 modelini ishga tushirgandan so'ng, tegishli ilova transport sohasidagi o'sishning o'sishi AI ekotizimini oldinga surishini ko'rsatadigan transport vositasini ko'rib chiqdi. Ijobiy tomoni shundaki, chuqur tomoni pastroq chatgptga tayanib, kelajakda chatgptga tayanib, kelajakda qimmat emasligini anglatadi. Ushbu siljish OpeniAi yaqinda bo'lib o'tgan faoliyatida, shu jumladan O3-Mini jamoatchiligiga javoban foydalanuvchilarning O3-Mini nomli oqilona modelni taqdim etishda aks ettirilgan. Ushbu fikrlar zanjiri xulosa bo'lib xizmat qilgan bo'lsa-da, chet eldan ko'plab foydalanuvchilar chuqurroq minnatdorlik bildirdilar.
Optimiy jihatdan, bu lazzatlanish mahalliy futbolchilarni birlashtirganligi aniq. O'quv xarajatlari, turli xil balandlikdagi chip ishlab chiqaruvchilarni kamaytirishga e'tibor qaratgan holda, chuqur bulutli provayderlar va ko'plab boshlang'ichlar ekotizimga kirib bormoqda, bu esa chuqurlashuvchan modeldan foydalanish uchun xarajatlarni kuchaytiradi. Teaperek gazetalariga ko'ra, V3 modelini to'liq tayyorlash faqat 2,788 million GPU soatini talab qiladi va o'quv jarayoni juda barqaror. Snama 3-ga nisbatan 405 milliard parametr bilan taqqoslaganda o'qishni oldindan o'qitish xarajatlarini qisqartirish uchun juda muhimdir. Hozirgi vaqtda V3 - SHARda bunday yuqori belkurakni namoyish etuvchi birinchi taniqli model. Bundan tashqari, MLA (ko'p qatlamli e'tibor) asarlar jihatidan, ayniqsa aql jihatdami jihatidan ishlaydi. "Mou, Kvcachining asosiy cheklov omilidan to'liq foydalanish uchun zarur bo'lgan partiyaning katta hajmini, Kvcaching texnologiyasini sezilarli darajada kamaytiradi", deb ta'kidladi KVCaching texnologiyasini AI texnologiyasini ko'rib chiqish uchun tahlil qilish. Umuman olganda, chuqurlikning muvaffaqiyati nafaqat yolg'iz emas, balki turli xil texnologiyalarning kombinatsiyasida yotadi. Sanoat insayderlari chuqurlashtirilgan o'quv va operator optimallashtirish sohasida yuqori darajadagi durustalash natijalariga erishishda yuqori darajadagi takomillashtirish bo'yicha yuqori darajadagi natijalarga erishish uchun jamoaning muhandislik imkoniyatlarini maqtaydilar. Lealsekning ochiq manbali yondashuvi katta modellarning umumiy rivojlanishini yanada kuchaytiradi va agar shunga o'xshash modellar tasvirlar, videolar va boshqalarga kirsa, bu sohadagi talabni sezilarli darajada rag'batlantiradi.
Uchinchi tomon mulohazalari uchun imkoniyatlar
Ma'lumotlar shuni ko'rsatadiki, ulanishdan beri LEAPTPTning kunlik foydalanuvchilar bazasi (DAU) kuniga 16,95 mln. Bolli faol foydalanuvchilarga erishildi va kuniga 157 mamlakat / mintaqalarda eng tez rivojlanmoqda. Biroq, foydalanuvchilar dov-shab ichar ekan, kiber xakerlar tezda suzish dasturiga hujum qilib, uning serverlarida sezilarli darajada kuchli ta'sir ko'rsatdi. Sanoat tahlilchilarining fikriga ko'ra, bu qisman o'qitish uchun kadrlar uchun kadrlar uchun kadrlar tayyorlash uchun depleyli kadrlar bilan shug'ullanish uchun, mulohaza yuritish uchun etarli miqdorda hisoblash uchun. Sanoat AI texnologiyasini ko'rib chiqish to'g'risida ma'lumot berishdi "," Ko'p uchraydigan server muammolari ko'proq mashinalar sotib olish uchun osonlikcha hal qilinishi mumkin; oxir-oqibat, bu chuqurlashuvlarga bog'liq. " Ushbu mahsulotni ishlab chiqarish texnologiyasiga qaratish bo'yicha savdo-sotiqni taqdim etadi. Lealektronlik ko'p jihatdan o'z-o'zini ta'minlash uchun kvant miqdorida o'zini ta'minlashga, nisbatan kam pul oqimining bosimi va toza texnologik muhitga olib keladi. Hozirgi vaqtda yuqorida aytib o'tilgan muammolar tufayli ba'zi foydalanuvchilar foydalanishning qo'llanilishi yoki foydalanuvchini oshirish uchun pullik xususiyatlarni joriy etish uchun ijtimoiy tarmoqlarda chuqurlashmoqdalar. Bundan tashqari, ishlanuvchilar optimallashtirish uchun rasmiy API yoki uchinchi tomon Apisdan foydalana boshladilar. Biroq, yaqinda tezda dedi: "Joriy server resurslari tanqis va API xizmat zaryadlari to'xtatildi".
Bu shubhasiz AI infratuzilmasi sohasida uchinchi tomon sotuvchilarga ko'proq imkoniyatlar ochadi. Yaqinda, ko'plab mahalliy va xalqaro bulutli gigantlar, "Microsoft" va Amazon "ning yanvar oxirida birinchisiga birinchisidan bir qatorda, Ichki va Amazonning modeli Modicasi va Amazon-ning modeli tashkil etilishini boshladilar. Ichki lider Xuawei buluti Silikon asosidagi oqimlarni tarqatib yubordi. AI texnologiyasining rezeratsiyasini amalga oshirdi. Ayni shuni ko'rsatadiki, Silikonga asoslangan oqim xizmatlari platformani samarali ravishda boshlagan. Katta yildagi yirik uchta texnologiyali kompaniyalar - Bat (Baydu, Alibaba, Tencent), shuningdek, Lasterekning so'nggi yilgi Narxlar Ending, bu erda "Narx qassobi" ni "Narx qassobi" deb nomlash bilan bog'liq. Microsoft Azurure va OpureAiAii o'rtasidagi kuchli aloqalar, Microsoft AzureC ekzureMe-ni ularning yirik modellari bilan raqobatlashishga imkon beradigan "Microsoft Azure Ecotematike" ni ishga tushirgan boshqa sotuvchilarga "Microsoft Azure Ecotematike" ning navbatdagi savdolariga katta ta'sir ko'rsatdi. Bu holatda, chuqurlik nafaqat mahsulotni issiqlik bilan bir qatorda, balki Llamaning GPTP-3-ni qayta tiklanishiga o'xshash O1 chiqindilaridan keyin ochiq manbali modellardan ustun keldi.
Aslida, bulutli provayderlar o'zlarini AI dasturlari uchun yo'l shlyuzlari sifatida o'zlarini boshqaradi, ya'ni ishlab chiquvchilar bilan aloqalarni chuqurlashtirishni chuqurlashtirishni rejalashtirishni oldindan izohlaydi. Xabarlarga ko'ra, Baydu aqlli bulut 15000 dan ortiq mijozlar modelning uchish kuni orqali Qianfer platformasi orqali 15000 dan ortiq mijozlar foydalangan. Bundan tashqari, bir nechta kichik firmalar kremniylardagi oqim, chuanjen texnologiyasi, chuanjen texnologiyalari, chuanjen texnologiyasi va LEAEK modellarini qo'llab-quvvatlaydigan turli xil AI infba operatsionerlari. AI texnologiyasini ko'rib chiqish Mahalliy ikki sohada optimizmallashtirish imkoniyatlari, birinchi navbatda ikki sohada mavjudligi: Gibrid GPU / CPUning 371 mlrd. TMB ma'lumotlarini o'chirish uchun MOE modelining o'zgaruvchanligi yondashuvi uchun OR MOD modelining siyrak xususiyatlarini optimallashtirish. Bundan tashqari, MLA ni optimallashtirish juda muhimdir. Biroq, LITEKKning ikkita modeli joylashtirishni optimallashtirishda haligacha muammolarga duch kelmoqda. "Modelning o'lchami va ko'p sonli parametrlari tufayli optimallashtirish juda murakkab, xususan, ishlash va xarajat o'rtasidagi maqbul muvozanat qiyin kechadi", deb ta'kidladi Chuanjiting texnologiyasidan tadqiqotchi. Xotiraning salohiyatini engishda eng muhim to'siqlar. "Biz CPU va boshqa hisoblash resurslaridan to'liq foydalanish uchun turli xil hisoblash manbalarini to'liq ishlatish uchun turli xil hisoblash uchun ajratilmagan, zichliklar uchun mo'ljallangan. Xabarlarga ko'ra, Chuanjingning ochiq manbali doirasi Chuanjingning ochiq manbali doirasi, birinchi navbatda turli xil strategiyalar va operatorlarni asosan Amul Sodiq kabi usullardan foydalangan holda in'ektsiyalarni sezilarli darajada oshiradi. Chuqurliklarning o'sish imkoniyatlari uchun imkoniyatlar yaratdi, chunki o'sish imtiyozlari namoyon bo'ladi; Ko'pgina firmalar APIni ishga tushirgandan keyin mijozlarning o'sishi sezilarli ekanliklarini, Optimalitatsiyalarni qidirayotgan avvalgi mijozlar sonini qabul qilgan so'rovlarni qabul qildilar. Sanoat insiderlari ta'kidladilarki, o'tmishda, tog 'festivalidan oldin bir oz ko'proq kompaniyalar guruhlari ko'pincha yirik kompaniyalarning standartlashtirilgan xizmatlariga ega bo'ldik va hatto ilgari harakatsiz mijozlar bizning suyak xizmatlarimizni joriy etishni tugatgandan so'ng. " Hozirgi vaqtda chuqurlik model infektsiyalari tobora tanqidiyligini oshirmoqda va yirik modellarni keng qabul qilish bilan bog'liq bo'lib, bu AI infrotexnika sanoatida sezilarli darajada rivojlanib boraveradi. Agar past narxda lokal darajadagi model mahalliy sharoitda joylashtirilsa, u juda katta xarajatlarga yordam beradi va bu korxona raqamli o'zgarishlar amalga oshiriladi. Biroq, ba'zi mijozlar katta model imkoniyatlari bo'yicha katta miqdordagi model imkoniyatlarga nisbatan katta taxminlarga ega bo'lishlari mumkin, chunki uni muvozanatlashning ishlashi va amaliy tarqatish sharoitida zarur bo'lgan.
Chotgent Chotgt-dan yaxshiroq ekanligini baholash uchun, ularning asosiy farqlari, kuchli farqlarini, kuchli farqlarini va ishlaridan foydalanish juda muhimdir. Mana kompleks taqqoslash:
| Xususiyat / aspektsiya | Chuqurlashmoq | Chatgpt |
|---|---|---|
| Egalik | Xitoy kompaniyasi tomonidan ishlab chiqilgan | Openii tomonidan ishlab chiqilgan |
| Manba modeli | Ochko'zlik | Mulkdor |
| Narx | Foydalanish uchun bepul; API API kirish variantlari | Obuna yoki to'lov uchun to'lash |
| Sozlash | Foydalanuvchilarga juda mos keluvchi, foydalanuvchilarga uning ustiga qurish va qurishga imkon beradi | Cheklangan sozlash mavjud |
| Muayyan vazifalardagi ishlash | Ma'lumotlar analitsics va axborotni olish uchun ba'zi sohalarda ustunlar | Ijodiy yozish va suhbatdoshlardagi kuchli ishlashi bilan ko'p qirrali |
| Tilni qo'llab-quvvatlash | Xitoy tili va madaniyatiga kuchli e'tibor | Keng tilni qo'llab-quvvatlash, ammo bizdan kortrik |
| O'qish narxi | Trening xarajatlari, samaradorligi uchun optimallashtirilgan | Muhim hisoblash resurslarini talab qiladigan ko'proq o'quv xarajatlari |
| Javob o'zgarishi | Har xil javoblarni taklif qilishi mumkin, ehtimol geosiyosiy nuqtai nazar ta'sir qilishi mumkin | O'quv ma'lumotlariga asoslangan izchil javoblar |
| Maqsadli auditoriya | Ishlab chiqaruvchilarga va tadqiqotchilarga moslashuvchanlikni istash | Suhbatni qidirayotgan umumiy foydalanuvchilarga qaratilgan |
| Ishlardan foydalaning | Kodni yaratish va tezkor vazifalar uchun yanada samaraliroq | Matnni yaratish uchun ideal, so'rovlarga javob berish va muloqotda qatnashish |
"Nvidia" ni buzish bo'yicha tanqidiy nuqtai nazar
Hozirgi vaqtda Huawei, Mur Ipreads, Muxi, Biran texnologiyalari va Tiangxu Jixinning bir nechta mahalliy chip ishlab chiqaruvchilari, shuningdek, bu ikki modelga moslashmoqda. "Searkaning tuzilishi innovatsiyalarni namoyish etmoqda", deb aytdi. Ammo bu LEBEKga moslashish, asosan, texnik jihatdan to'g'ridan-to'g'ri va tezkor ravishda to'g'ri va tezkor ravishda amalga oshirishga qaratilgan. " Biroq, harom yondashuvi, moslashuv davrida ko'plab muhandislik muammolarini hal qilishda saqlash va tarqatish bo'yicha yuqori talablarni talab qiladi, moslashuv davrida ko'plab muhandislik muammolarini taqdim etadi. - Ayni paytda mahalliy hisoblashning kuchi NVIDIA-ga mos kelmaydi va dasturiy ta'minotni sozlash, muammolarni bartaraf etish va malaka oshirish va malaka oshirish uchun asl amaliyotchi. Shu bilan birga, "R1ning katta parametrlari miqyosida, maishiy hisoblash qobiliyati bir xil tugunlarni keltirib chiqaradi. Bundan tashqari, mahalliy apparatning 910bini chuqurlashib, FP8-ni qo'llab-quvvatlash mumkin emas." V3 modelining diqqatga sazovor joylaridan biri bu FP8 aralashtirilgan aniq o'quv doirasini joriy qilishdir, u katta yutuqni belgilab, juda katta modelga samarali tasdiqlangan. Ilgari Microsoft va NVIDIA kabi asosiy o'yinchilar tegishli ishlarni taklif qilishdi, ammo texnik-iqtisodiy asoslar bo'yicha sohada davom etmoqda. INT8, FP8-ning asosiy afzalligi bilan taqqoslaganda, o'quv-mashg'ulotdan keyingi savollar deyarli befarqlik tezligini sezilarli darajada oshirishi mumkin. FP16, FP8 NVIDIA H20 va H100 da 1,5 baravardan 1,5 baravar tezlashishni tezlashtirish mumkin. Xususan, mahalliy hisoblash tarmoqlari tendentsiyasini kuchaytirib, nvidia buzilishi mumkinmi va Cuda Moatni chetlab o'tish mumkinmi yoki yo'qmi, tobora ko'proq tarqalgan bo'lsa, tobora ko'proq tarqalgan. Bitta shubhasiz haqiqat shundaki, bu chuqurlik NVIDIA bozor qiymatidagi jiddiy pasayishiga olib keldi, ammo bu o'zgarishi Nvidiyaning yuqori martabali hisoblashning mustahkamligi to'g'risida savol tug'diradi. Oldinda kapital tomonidan hisoblash bo'yicha hisoblash uchun qabul qilingan rivoyatlar e'tiroz bildirmoqda, ammo NVIDIA uchun stsenariylarda to'liq almashtirilishi qiyin. CAUEKning chuqur foydalanish tahlili shuni ko'rsatadiki, SM-ni aloqa yoki to'g'ridan-to'g'ri tarmoq kartalarini boshqarish kabi moslashuvchanligi ko'rsatilgan. Sanoatning nuqtai nazari Nvidiyaning Ma'nasi faqat Kudadagi butun Cudaning butun ekotizimni qamrab oladi, bu esa ishlov berayotgan ptx (parallel ipning qatl qilinishi) qud'a ekotizimining bir qismidir. "Qisqa muddatda NVIDIAning hisoblash qudrati, ayniqsa, maoshli ichki kartochkalarni joylashtirish uchun aniq bo'lishi mumkin emas. Shunday qilib, mahalliy kartalar uchun internatni jalb qilish osonlashadi; Umuman olganda, infektsiya nuqtai nazaridan, sharoitlar mahalliy katta model chiplari uchun dalda beradi. Ichki chip ishlab chiqaruvchilarning inferatsiyasi doirasidagi imkoniyatlar, o'qitishning haddan tashqari yuqori talablariga javob beradigan imkoniyatlar yanada aniqroqdir. Tahlilchilar shunchaki ichki xulq-atvor kartalari kifoya qiladi; Agar kerak bo'lsa, qo'shimcha mashinaga ega bo'lish mumkin bo'lsa, o'quv modellari ko'p sonli mashaqqatli muammolarni keltirib chiqaradi, ularning soni esa og'irlikning ko'payishi va yuqori xatolar stavkalariga salbiy ta'sir ko'rsatishi mumkin. Treningda shuningdek, aniq klaster miqdoriga ega, shuningdek, klasterlardagi talablar, gPU talablarini engillashtiradigan darajada qat'iy emas. Hozirgi vaqtda NVIDIAning yagona H20 kartasining ijrosi Huawei yoki Kembriyning ishi emas; Uning kuchi klasterga yotadi. Luchen texnologiyasining asoschisi, "Luchen Technology" kompaniyasining asoschisi, "Leakere ultra yirik o'quv klasteriga" hisob-kitob qilish, bozorga bo'lgan ehtiyojni sezilarli darajada kamaytirishi mumkin. Hisoblash energiyasida talab qilingan. " Bundan tashqari, "Seek-ga" Ticking "xizmatlari uchun talabning kuchaytirilganligi, mahalliy imkoniyatlar nisbatan zaif va mahalliy ishlab chiqaruvchilar uchun ishlab chiqaruvchilar uchun mahalliy hisoblash ekotizimining turli darajadagi imkoniyatlarini keltirib chiqaradi". Luchen Texnologiyalari Xuawei bulutini ichki hisoblash qobiliyatiga asoslangan R1 Seric Serice Apis va bulutni tasvirlash xizmatlarini ishga tushirdi. Yang kelajak haqida optimizm bildirdingiz: "Seals Interstriyo ishlab chiqarilgan echimlarga ishonchni uyg'otadi, maoshli ishtiyoqni rag'batlantiradi va mahalliy hisoblash imkoniyatlariga sarmoya kiritishga va sarmoya kiritishga yordam beradi."
Xulosa
Chotgt-ga qaraganda "yaxshiroq" degani, foydalanuvchining o'ziga xos ehtiyojlari va maqsadlariga bog'liq. Moslashuvchanlik, arzon narx va xususiylashtirish, chuqurlashishi mumkin bo'lgan vazifalar ustun bo'lishi mumkin. Ijodiy yozuv, umumiy so'rovlar va foydalanuvchilarga do'stona suhbat interfeysi, ChatGPTPT boshqaruvini olib borishi mumkin. Har bir vosita turli xil maqsadlarda xizmat qiladi, shuning uchun tanlov ular ishlatiladigan kontekstga bog'liq.
Boshqaruv kabellari
Tuzilgan kabel tizimi
Tarmoq va ma'lumotlar, optik tolali kabel, yamoq shnuri, modullar, dona
Dubayda 1-aprel - 1824 yilgacha bo'lgan o'rta sharq-energiya
Moskvadagi 2016 yil 18-chi, 2024 yil
Shanxayda yangi mahsulot va texnologiyalarni ishga tushirish
Pekinda 2024 yil oktyabrda joylashgan xavfsizlik xitoy
NO NO.19-20, 2024 yilgi ulangan Dunyo KSA
O'tish vaqti: fevral-10-2025