La rivoluzione dell'intelligenza artificiale generativa si è concentrata principalmente sull'esecuzione di modelli di intelligenza artificiale grandi e complessi nei data center dei server. Tuttavia, alcuni modelli di intelligenza artificiale sono sufficientemente ottimizzati per essere eseguiti su computer tipici e Intel sta facendo alcuni progressi in questo ambito.
Intel ha annunciato oggi che ora sono disponibili oltre 500 modelli di intelligenza artificiale ottimizzati per i suoi nuovi processori Intel Core Ultra, che sono stati presentati a dicembre e hanno iniziato ad apparire nei nuovi PC portatili. Tale elenco probabilmente include molti modelli sperimentali e di test che non hanno uno scopo pratico per la maggior parte delle applicazioni, ma ce ne sono alcuni grandi: Phi-2, il modello Meta's Lllama, Mistral, Bert, Whisper e Stable Diffusion 1.5.
Intel ha affermato in un comunicato stampa: “I modelli costituiscono la spina dorsale delle funzionalità software potenziate dall'intelligenza artificiale come la rimozione di oggetti, la super risoluzione delle immagini o il riepilogo del testo”. Esiste un collegamento diretto tra il numero di modelli abilitati/ottimizzati e l’ampiezza delle funzionalità di intelligenza artificiale rivolte agli utenti che possono essere immesse sul mercato. Senza un modello, la caratteristica non può essere progettata. Senza l'ottimizzazione del runtime, la funzionalità non può raggiungere le prestazioni migliori.”
La maggior parte (se non tutti) di questi modelli di intelligenza artificiale possono essere eseguiti su hardware non Intel, ma l'aggiunta del supporto per le funzionalità hardware più recenti specifiche degli ultimi chip Intel li rende più pratici per l'uso nel mondo reale. Ad esempio, Intel ha affermato che il processo di ottimizzazione del modello AI OpenVINO includeva “bilanciamento del carico su tutte le unità di calcolo, compressione dei modelli per l'esecuzione efficiente in un PC AI e ottimizzazione del runtime per sfruttare la larghezza di banda della memoria e l'architettura core all'interno Intel Core Ultra.”
L'apprendimento automatico e i modelli di intelligenza artificiale eseguiti localmente sui computer non sono una novità, ma l'esecuzione locale di modelli di intelligenza artificiale generativa più recenti sui PC presenta alcuni casi d'uso interessanti. Potresti avere qualcosa come ChatGPT e Microsoft Copilot in esecuzione interamente sul tuo PC, eliminando potenzialmente i problemi di privacy e i requisiti di connettività di rete derivanti dall'invio di dati tempestivi a server esterni. Il chatbot locale ChatRTX di NVIDIA è un passo in quella direzione, ma è ancora sperimentale e richiede un PC con una potente scheda grafica RTX serie 30 o 40.
Intel spera che il software che utilizza questi modelli ottimizzati possa spingere le persone ad acquistare computer più recenti con processori Core Ultra. Per ora, però, gli strumenti AI basati su cloud come ChatGPT e Copilot non vanno da nessuna parte.
Fonte: Intel