Atnaujinimas birželio 24 d.: „Daring Fireball“ atstovas Johnas Gruberis paaiškina, kodėl „Private Cloud Compute“ negali perimti visų „Apple Intelligence“ funkcijų.
Jei per WWDC pagrindinį pranešimą pirmadienį žiūrėjote Apple demonstruojančias pagrindines Apple Intelligence funkcijas, tikriausiai galvojote apie visus būdus, kaip šį rudenį galėtumėte naudotis nauja paslauga savo iPhone. Tačiau kai jis baigėsi, daugelis „iPhone“ naudotojų išsigando sužinoję, kad jis neveiks jų telefone – „Apple Intelligence“ yra uždrausta naudoti visus, išskyrus naujausius ir brangiausius telefonus.
Nors „Mac“ ir „iPad“ kompiuteriai, grįžtantys į 2020 m., gaus „Apple Intelligence“ pranašumus, „iPhone“ asortimento palaikymas apsiriboja 15 Pro ir 15 Pro Max. Be dviejų naujausių „Apple“ telefonų, išleistų vos prieš kelis mėnesius, taip pat visų senesnių modelių, kurie vis dar parduodami, ir „iPhone SE“.
Tačiau nors tai gali atrodyti keistas sprendimas, nes A16 lustas „iPhone 15“ ir „iPhone 15 Plus“ yra pakankamai greitas, nauja Ming-Chi Kuo ataskaita atskleidžia dalykus. Kaip jis pažymi, A16 lusto neuroninio variklio galia iš tikrųjų yra didesnė nei M1 (17 trilijonų operacijų per sekundę, palyginti su 11 TOPS), todėl reikalavimai nėra susiję su NPU. Greičiau tai susiję su atmintimi: A16 lustas turi 6 GB RAM, palyginti su mažiausiai 8 GB visuose įrenginiuose, palaikančiuose „Apple Intelligence“.
Jis dar labiau suskaido: „DRAM paklausą galima patikrinti kitu būdu. „Apple Intelligence“ naudoja įrenginyje esantį 3B LLM (kuris turėtų būti FP16, nes M1 NPU/ANE gerai palaiko FP16). Suglaudinus (naudojant mišrią 2 ir 4 bitų konfigūraciją), bet kuriuo metu reikia rezervuoti maždaug 0,7–1,5 GB DRAM, kad įrenginyje būtų paleista „Apple Intelligence“ LLM.
„Daring Fireball“ metu Johnas Gruberis paaiškina, kodėl įrenginiai, kuriuose nėra pakankamai atminties, negali naudoti „Private Cloud Compute“ daugeliui užduočių: „Įrenginyje veikiantys modeliai yra visiškai kitokie nei tie, kurie veikia debesyje. ir vienas iš tų įrenginyje esančių modelių yra euristika, kuri nustato, kurias užduotis galima atlikti apdorojant įrenginyje ir kurioms reikia privataus debesies skaičiavimo arba „ChatGPT“. Jis taip pat sako, kad „Vision Pro“ negauna „Apple Intelligence“, nes naujos kartos įrenginys „jau daug naudoja M2 neuronų variklį, kad papildytų R1 lustą realiuoju laiku apdorojimo tikslais – okliuzijos ir objektų aptikimo, panašių dalykų“.
Anksčiau sklandė gandai, kad visi „iPhone 16“ modeliai turės 8 GB RAM, o remiantis „Apple Intelligence“ reikalavimais, tai beveik neabejotinai. Kuo taip pat mano, kad būsimi įrenginiai greičiausiai prasidės nuo 16 GB RAM, nes „Apple Intelligence“ vystysis „greičiausiai iki 7 mlrd. LLM“. Kai kurie išmanieji telefonai, tokie kaip „OnePlus 12“ ir „Xiaomi 14“, jau turi 16 GB RAM.
Jei esate programuotojas, situacija yra šiek tiek blogesnė. Remiantis „Apple“ dokumentais, naujajam nuspėjamojo kodo užbaigimo AI „Xcode 16“ reikia „Apple Silicon Mac“ su 16 GB RAM.
Kai šį rudenį „Apple Intelligence“ pasirodys su „iOS 18“, ji vis tiek bus beta versija. Tačiau ataskaitose teigiama, kad tai vis tiek bus pagrindinė „iPhone 16“ funkcija.