Lara Mini, il modello di IA che Translated ha addestrato in 45 lingue

Oltre vent’anni di lavoro nella traduzione e nell’intelligenza artificiale hanno portato Translated a porsi una domanda. Che cosa succede se si addestra un modello di IA in 45 lingue fin dal primo giorno?

La risposta è Lara Mini. Translated ha addestrato da zero questo modello di IA per uso generale in 45 lingue, comprese tutte le 24 lingue ufficiali dell’Unione europea. Nella valutazione condotta da Translated, Lara Mini si è classificato al primo posto assoluto tra 36 modelli di base aperti con un massimo di 2 miliardi di parametri attivi.

Che cosa ha imparato Translated dall’addestramento in 45 lingue?

Fin dall’inizio, Translated ha scelto di addestrare Lara Mini su testi provenienti da lingue e culture diverse. Nell’intero addestramento, il 41% dei token proveniva da dati in inglese e il 36% da dati nelle altre 44 lingue. Il resto proveniva da codice, contenuti matematici ed esempi formulati come istruzioni.

Per capire se una quota maggiore di inglese avrebbe migliorato i risultati, il team ha sostituito parte dei dati multilingue con altri dati in inglese. I punteggi nei test di inglese sono cambiati di poco, mentre le prestazioni nelle altre lingue sono calate sensibilmente. Nella valutazione di Translated, il modello finale si è classificato secondo nei test di inglese e primo nella comprensione multilingue.

Come ha fatto Lara Mini a classificarsi al primo posto nella sua categoria?

Translated ha sottoposto tutti e 36 i modelli agli stessi 26 benchmark. Inglese, comprensione multilingue, matematica e programmazione valevano ciascuno un quarto del punteggio complessivo. Per i test multilingue, Translated ha calcolato la media dei risultati nelle 44 lingue diverse dall’inglese usate per addestrare Lara Mini.

Lara Mini ha ottenuto 57,0 punti complessivi, con 3,1 punti di vantaggio sul secondo classificato. Ha raggiunto questo risultato con 600 milioni di parametri attivi per token. Il modello ha 7,2 miliardi di parametri in totale e ne usa solo una parte per elaborare ciascun token. La categoria della classifica è definita dal numero di parametri attivi.

Per il team di Translated è un traguardo che arriva dopo oltre vent’anni di lavoro. È anche il punto di partenza per Lara 4, con un modello di base che integra la diversità linguistica e culturale fin dal primo giorno di addestramento.

Che cosa renderà possibile Lara Mini per chi usa Lara Translate?

Translated sta usando Lara Mini come modello di base per la traduzione di testo offline nella prossima versione dell’app Lara Translate. Quando la funzione sarà disponibile, potrai tradurre un testo anche in aereo o ovunque manchi una connessione a Internet. L’app elaborerà la traduzione direttamente sul telefono, quindi il testo resterà sul dispositivo.

FAQ

Posso già usare Lara Mini in Lara Translate?

Al momento Lara Mini non è disponibile in Lara Translate. Nella pagina dedicata alla ricerca di Lara Translate trovi i dettagli sul rilascio per la ricerca, su come accedere al modello e sul report tecnico.

Qual è la differenza tra Lara Mini e Lara 4?

Lara Mini è il modello di base per uso generale che Translated ha rilasciato per la ricerca. Lara 4 è la famiglia di modelli su cui si baserà la prossima generazione di Lara Translate. La funzione di traduzione offline prevista per l’app sarà sviluppata a partire da Lara Mini.

La traduzione offline sarà disponibile in tutte e 45 le lingue?

Le 45 lingue si riferiscono ai dati usati per addestrare Lara Mini. Nell’annuncio di ricerca, Translated non ha specificato quali lingue saranno disponibili al lancio della funzione offline.

Di cosa parla questo articolo

Il rilascio di Lara Mini per la ricerca, ciò che il team di Translated ha imparato addestrando un modello di IA in 45 lingue e come questo lavoro contribuirà a portare la traduzione di testo offline in Lara Translate.