A Xiaomi jelentős ugrásra készül az okostelefonok mesterséges intelligencia képességeinek terén az Arm legújabb SME2 (Scalable Matrix Extension 2) technológiájának köszönhetően.
Nem fokozatos frissítésekről beszélünk, mert ez azonnali, akár 20x gyorsabb MI-feldolgozást jelent, ami komoly áttörést jelent a mobil termelékenység és a felhasználói élmény terén.
Jelentős mesterséges intelligencia teljesítménynövekedés
Az Arm SME2 technológiája alapvetően átalakítja a mobil eszközök mesterséges intelligencia világát. Az Armv9 alapokra épülő SME2 felgyorsítja a mátrixműveleteket – a modern mesterséges intelligencia gerincét –, példátlan sebességet és hatékonyságot biztosítva. Az Arm saját benchmarkjai azt mutatják, hogy a Google Gemma 3 modellje hatszor gyorsabban fut SME2 hardveren a hagyományos CPU-khoz képest. Gyakorlati hatás? Az olyan feladatok, mint a részletes, 800 szavas összefoglalók létrehozása, mostantól egy másodperc alatt elvégezhetők, mindössze egyetlen CPU-mag használatával.
Továbbfejlesztett mesterséges intelligencia funkciók Xiaomi felhasználók számára
Az SME2-vel a Xiaomi mesterséges intelligencia eszköztára gyorsan bővül. A jelenlegi funkciók között megtalálható egy valós idejű mesterséges intelligencia tolmács az azonnali nyelvi fordításhoz, a Circle to Search a gyors információhozzáféréshez, valamint a fejlett beszédfelismerő, amely automatikusan felismeri a nyelveket.
A jövőben a felhasználók további fejlesztésekre számíthatnak: automatizált dokumentum-összefoglaló, intelligens felhasználói felület-elrendezések és mesterséges intelligencia által működtetett korrektúra. A kreatív szakemberek és a mindennapi felhasználók egyaránt profitálhatnak a mesterséges intelligencia által vezérelt képbővítésből, a fejlett fotószerkesztésből (AI Erase Pro) és az automatizált filmkészítésből – mindezt natívan az eszközeiken futtatva.
Széleskörű kompatibilitás és zökkenőmentes integráció
Az SME2 nem csak a csúcskategóriás okostelefonokhoz készült. Skálázható kialakításának köszönhetően a Xiaomi számos eszközön, többek között táblagépeken és laptopokon is telepítheti, a teljesítmény vagy az akkumulátor hatékonyságának feláldozása nélkül. A korábbi, adatközpontoknak fenntartott verziókkal ellentétben az SME2 teljes mértékben mobilra van optimalizálva.
Szoftveres oldalon az Android készen áll. Az SME2 támogatás integrálva van a Google XNNPACK könyvtárába, és kompatibilis a vezető MI-keretrendszerekkel, mint például a llama.cpp, az Alibaba MNN és a Microsoft ONNX. Ez biztosítja, hogy az új MI-funkciók gyorsan és megbízhatóan bevezethetők legyenek a Xiaomi ökoszisztémájában.
Átalakító hatás a mobil mesterséges intelligencia alkalmazásokra
Az SME2 érkezése a Xiaomi-t a mobil mesterséges intelligencia innováció élvonalába helyezi. A hagyományos chatbotokon vagy hangasszisztenseken túl az SME2 fejlett valós idejű képgenerálást, kifinomultabb természetes nyelvi feldolgozást és kontextus-érzékeny csoportos csevegés-összefoglalókat tesz lehetővé – mindezt közvetlenül az eszközön.
Röviden, a Xiaomi SME2 bevezetése a mobil számítástechnika új korszakát nyitja meg – ahol az asztali számítógépekhez hasonló mesterséges intelligencia teljesítmény válik szabványossá a hordozható eszközökön. Az üzleti felhasználók és a mindennapi fogyasztók számára egyaránt ez egy intelligensebb, gyorsabb és sokkal hatékonyabb okostelefon-élményt jelent.
Az Arm hivatalos bejelentése
A fotók élesítésétől közvetlenül az exponálás előtt, a valós idejű háttérzaj elszűrésén át a hívás közbeni valós idejű háttérzaj-szűrésig, vagy akár egy mesterséges intelligenciával segített asszisztenssel való offline interakcióig, az eszközön található mesterséges intelligencia újraértelmezi a mobilélményeket. Ezeket a zökkenőmentes interakciókat az Arm számítási platform működteti.
De ahogy a mesterséges intelligencia által vezérelt munkaterhelések egyre kifinomultabbá és elterjedtebbé válnak, a mobilfejlesztőknek egyre nagyobb igényük van arra, hogy valós idejű, hatékony teljesítményt nyújtsanak a memória, az energiafogyasztás és a hőköltségek szigorú és változatos korlátai között, anélkül, hogy tovább bonyolítanák alkalmazásaikat és munkaterheléseiket.
Ezen kihívások leküzdésére az Arm bemutatta a Scalable Matrix Extension 2-t (SME2), hogy felgyorsítsa a mátrixigényes munkaterheléseket – amelyek elengedhetetlenek a számítógépes látás és a generatív MI-alkalmazások számára – közvetlenül a mobil CPU-n. Az SME2 egy fejlett CPU-utasításkészlet az Armv9 architektúrában, amely az SME alapjaira épül, és lehetővé teszi a valós idejű mobil következtetési feladatokat, például a kép- és természetes nyelvi feldolgozást, valamint a hanggenerálást, a mesterséges intelligencia heterogén számítási megközelítésének részeként.
Hogyan férhetnek hozzá a fejlesztők az SME2 előnyeihez?
Az SME2 előnyei könnyen elérhetők a mobilfejlesztők számára anélkül, hogy módosítaniuk kellene a meglévő kódjukat, modelljeiket vagy alkalmazásaikat. Ezt az Arm KleidiAI, az Arm szoftvergyorsító rétege teszi lehetővé, amely zökkenőmentesen integrálódik a vezető futásidejű könyvtárakba és AI-keretrendszerekbe.
A mélyreható és kiterjedt KleidiAI integrációknak köszönhetően az SME2 engedélyezve van a Google XNNPACK-jában, egy Androidra optimalizált neurális következtetési könyvtárban, valamint számos keretrendszerben, beleértve az Alibaba MNN-jét, a Google LiteRT-jét és MediaPipe-ját , a Microsoft ONNX Runtime-ját és a llama.cpp-t. Ezek az integrációk azt jelentik, hogy az SME2 már be van ágyazva a szoftververembe. Amikor az SME2 engedélyezve van és kompatibilis, az XNNPACK automatikusan átirányítja a mátrixnehéz műveleteket az SME2-nek a KleidiAI-n keresztül, így a fejlesztők közvetlenül profitálnak az alkalmazáslogika vagy az infrastruktúra módosítása nélkül.
Ugyanakkor a KleidiAI nem csak a jelen gyorsulásáról szól – a jövőre tervezték. Ahogy az Arm új funkciókat és architektúrális fejlesztéseket vezet be, a KleidiAI továbbra is automatikus teljesítményjavításokat fog nyújtani a támogatott MI-keretrendszerekhez és futásidejű könyvtárakhoz anélkül, hogy további fejlesztői erőfeszítéseket igényelne.
Mesterséges intelligencia teljesítmény- és hatékonyságoptimalizálás
A mobilfejlesztők számára az SME2 teljesítménybeli előnyei hamarosan elérhetők lesznek az SME2-vel továbbfejlesztett hardverrel rendelkező Android okostelefonokon, és már elérhetők a legújabb iOS-eszközökön is – a teljes eszközlista itt található –, feltéve, hogy alkalmazásaik a támogatott AI-keretrendszereket használják.
SME2-vel továbbfejlesztett hardveren futtatva a Google Gemma 3 modellje hatszor gyorsabb mesterséges intelligencia általi válaszokat biztosít csevegési interakciók esetén, mint ugyanazon eszköz, amely nem támogatja az SME2-t. Emellett egyetlen CPU-magon, SME2 gyorsítással a Gemma 3 akár 800 szavas szöveges összefoglalást is képes elindítani egy másodpercen belül. Eközben egy vezető független szoftvergyártó már elkötelezte magát amellett, hogy alkalmazástoken-generálásának nagy részét a felhőből a mobilra helyezi át, részben az eszközön belüli mesterséges intelligencia képességeinek fejlesztése révén.
„ Az SME2 által továbbfejlesztett hardver lehetővé teszi a fejlettebb MI-modellek, mint például a Gemma 3, közvetlen futtatását számos eszközön. Ahogy az SME2 tovább terjeszkedik, lehetővé teszi a mobilfejlesztők számára, hogy zökkenőmentesen telepítsék a következő generációs MI-funkciókat az ökoszisztémákban. Ez végső soron a végfelhasználók számára előnyös lesz, mivel alacsony késleltetésű élményt nyújt, amely széles körben elérhető okostelefonjaikon .” Iliyan Malchev, a Google Androidért felelős kiemelkedő szoftvermérnöke.
A teljesítménynövelés mellett az SME2 hordozható megoldásokat tesz lehetővé az Arm-alapú ökoszisztémákban, mint például az iOS és az Android, amelyek kilenc millió Armon futó alkalmazást és több mint 22 millió szoftverfejlesztőt tartalmaznak, akik alkalmazásaikat és munkafolyamataikat Armon építik.
A fejlesztők támogatása a mesterséges intelligencia jövőjének építésében
Az Android fejlesztőknek szóló üzenetünk egyszerű: győződjetek meg róla, hogy alkalmazásaitok mesterséges intelligencia keretrendszerekre és futásidejű könyvtárakra épülnek a KleidiAI integrációival , így automatikusan élvezhetitek az SME2 előnyeit, és a következő generációs mesterséges intelligencia funkciókat minden eszközön elérhetővé tehetitek .
A mai felkészüléssel biztosíthatod, hogy alkalmazásaid optimalizálva legyenek az SME2-vel továbbfejlesztett hardverekhez a bevezetéskor, így gyorsabb teljesítményt, alacsonyabb késleltetést és jobb hatékonyságot biztosítva a felhasználók számára anélkül, hogy egyetlen sor kódot is újra kellene írnod.
