Xiaomi al lavoro su un chatbot AI per smartphone: come sarà
Xiaomi lavora al suo chatbot a base di AI con l'obiettivo di farlo funzionare in locale, direttamente sullo smartphone
L‘intelligenza artificiale generativa rappresenta un nuovo punto di riferimento per molte aziende del settore tech. Il successo di OpenAI con ChatGPT sta spingendo diverse importanti realtà a investire in queste tecnologie.
Anche Xiaomi intende ritagliarsi il suo spazio. L’azienda cinese, infatti, già da tempo ha iniziato a sviluppare tecnologie legate all’intelligenza artificiale e ora sembra intenzionata a premere sull’accelerazione.
Con Xiaomi MiLM-6B, infatti, la casa cinese ha presentato un modello di linguaggio su cui sviluppare il suo chatbot, entrando in diretta concorrenza con ChatGPT, vero e proprio punto di riferimento del settore AI.
A differenza degli altri chatbot, però, Xiaomi punta a sviluppare una tecnologia in grado di funzionare anche in locale, con ottime prestazioni e senza “appesantire” il dispositivo. Una prima demo sembra dare ragione a Xiaomi.
Il chatbot di Xiaomi sta arrivando
Xiaomi punta sull’AI e sta rafforzando il team dedicato allo sviluppo di Xiaomi MiLM-6B. Secondo i dati disponibili, infatti, l’azienda cinese avrebbe rafforzato la divisione dedicata allo sviluppo di tecnologie legate all’intelligenza artificiale. Attualmente, Xiaomi avrebbe circa 3.000 dipendenti al lavoro sul suo modello AI.
L’obiettivo è quello di creare un sistema efficiente e completo, in grado di adattarsi a vari contesti di utilizzo e di fare concorrenza a ChatGPT e altre soluzioni analoghe, già nel breve periodo. Xiaomi, inoltre, punta più in alto e intende rendere disponibile un chatbot in grado di funzionare in locale, anche senza una connessione.
AI generativa su smartphone: l’obiettivo di Xiaomi
Xiaomi punta a portare il suo modello AI, Xiaomi MiLM-6B, direttamente su smartphone. Questa versione, denominata MiLM-1.3B, è basta su 1,3 miliardi di parametri (la versione completa arriva a 6 miliardi) ma riesce ugualmente a garantire prestazioni equivalenti, almeno stando alle anticipazioni dell’azienda. Il chatbot AI in locale, infatti, presenterebbe capacità molto vicine a quelle dei modelli in cloud.
Una demo pubblicata da Xiaomi conferma le dichiarazioni dell’azienda: il chatbot AI in locale è in grado di generare risposte con una velocità di 11,2 parole al secondo, andando a utilizzare solo una porzione delle risorse hardware dello smartphone.
Nella demo, infatti, l’AI impiega circa l’11% delle prestazioni della CPU e poco meno di 3 GB di memoria RAM per svolgere il suo lavoro. Questo risultato viene ottenuto anche sfruttando le NPU, processori complementari integrati nei chip di Qualcomm e MediaTek e pensati per agevolare i compiti delle AI.
Le basi per un progetto interessante ci sono tutte. Sarà necessario, in ogni caso, valutare la qualità delle risposte del chatbot AI in locale di Xiaomi. Portare l’intelligenza artificiale generativa su smartphone, senza affidarsi a soluzioni cloud, non è semplice ma l’azienda cinese intende continuare a investire nel progetto con l’obiettivo di avere a disposizione un’arma in più per sostenere la diffusione dei suoi dispositivi.