Q.ANT fotonik chipni til modellarining ishlashini tezlashtirishga oʻrgatdi
Germaniyaning Q.ANT kompaniyasi sunʼiy intellekt hisob-kitoblarini tezlashtirish va videoxotiraga tushadigan yukni kamaytirish uchun optik soprotsessorni AMD tezlatkichi bilan birlashtirdi.

Q.ANT kompaniyasi gibrid inferensning eksperimental tizimini taqdim etdi. Unda til modelidagi hisob-kitoblarning bir qismi yorugʻlik yordamida bajariladi. Chikagodagi SC26 konferensiyasida ishlab chiquvchilar NPU Gen 2+ fotonik protsessori va AMD Instinct MI210 tezlatkichining birgalikdagi ishini namoyish etdilar.
Optik chip neyron tarmoqning ayrim qatlamlarida diqqat mexanizmining (self-attention) anʼanaviy amallari oʻrnida ishlatiladigan diskret Furye oʻzgartirishini bajaradi. Ishlab chiquvchilarning fikricha, bunday yondashuv soʻrovlarni qayta ishlashni tezlashtirish va uzun kontekstlar bilan ishlaganda videoxotiraning katta qismini egallaydigan KV-kesh hajmini kamaytirish imkonini beradi.
Eksperimentda taxminan 1 mlrd parametrga ega til modelidan foydalanildi. Shu bilan birga, transformerdagi qolgan hisob-kitoblar hamon GPUʼda bajarildi.
Biroq Q.ANT sinovlarning asosiy koʻrsatkichlarini — tokenlarni generatsiya qilish tezligi, xotiraning amalda tejalishi va model javoblarining sifatini — hozircha oshkor qilmadi. Shu sababli texnologiyaning haqiqiy samaradorligini hozircha baholab boʻlmaydi.
Kompaniya seriyali tizimlarni 2027-yilning ikkinchi yarmida bozorga chiqarishni rejalashtirmoqda. Ishlab chiquvchilar, shuningdek, maxsus uskunalardan foydalanmasdan texnologiya bilan tajriba oʻtkazish imkonini beruvchi C va Python tillaridagi interfeyslarga ega SDKʼni ham chiqardi.
Shu bilan birga, diqqat mexanizmini Furye oʻzgartirishi bilan almashtirish gʻoyasining oʻzi yangi emas: Google 2021-yilning oʻzidayoq FNet arxitekturasida shunga oʻxshash yondashuvni taqdim etgan. Endi asosiy savol — Q.ANT hisoblashlar unumdorligini sezilarli darajada oshirish bilan birga, generatsiya sifatini saqlab qola oladimi?



