Scrivere codice che riesca a sfruttare appieno l'architettura computazionale dei chip dedicati all'intelligenza artificiale rappresenta una delle sfide ingegneristiche più complesse e persistenti dell'intera infrastruttura tecnologica moderna. Fino ad oggi, la stragrande maggioranza degli sviluppatori ha maturato esperienza quasi esclusivamente sulle tradizionali GPU, un limite strutturale che rallenta la capacità di adattare i software ai microprocessori nati specificamente per gestire i carichi di lavoro legati ai modelli linguistici e predittivi. Per scardinare questo monopolio e plasmare il futuro del settore, Amazon ha stanziato un fondo da 110 milioni di dollari destinato al programma Build on Trainium, offrendo a docenti e studenti l'accesso diretto a Trainium, il chip proprietario ad alte prestazioni progettato da AWS per l'addestramento e il deployment dei modelli di frontiera. L'iniziativa non si limita a fornire potenza di calcolo tramite cluster dedicati, ma mette a disposizione della comunità accademica gli scienziati dei dati e gli esperti di Neuron dell'azienda, raccogliendo già oltre diecimila studenti attorno a proposte di ricerca che spaziano dalle scienze computazionali alla medicina e al calcolo quantistico.

Tra le istituzioni in prima linea in questa transizione spicca la UC Berkeley, i cui team di ricerca stanno sviluppando kernel ottimizzati, ovvero le routine di calcolo fondamentali a basso livello che determinano l'efficienza con cui un chip esegue le operazioni logiche. Il gruppo guidato dal professor Christopher Fletcher ha sviluppato TeAAL, un framework di programmazione innovativo che permette agli sviluppatori di descrivere semplicemente l'obiettivo del calcolo, lasciando al software il compito di tradurlo e generare in automatico il codice ottimizzato per la macchina. Durante le fasi di test, questo approccio ha dimostrato un'accelerazione tangibile, muovendosi da 1,4 a 1,6 volte più velocemente rispetto ai metodi standard quando applicato a LoRA, una delle tecniche di ottimizzazione fine più diffuse al mondo per i grandi modelli IA.

Un approccio complementare ma opposto è quello intrapreso dai professori Sophia Shao e Alvin Cheung con il loro sistema automatizzato denominato Autocomp. Questo progetto utilizza gli stessi modelli linguistici avanzati per generare e ottimizzare autonomamente il codice a basso livello destinato a Trainium, sfruttando l'intelligenza artificiale stessa per mappare e correggere i colli di bottiglia dell'hardware sulla base dei feedback prestazionali in tempo reale, eliminando la necessità di qualsiasi intervento manuale. La prossima fase dello sviluppo estenderà l'automazione di Autocomp dalle singole operazioni fino all'intera pipeline di esecuzione per modelli complessi come Llama e Qwen. L'aspetto più rivoluzionario dell'intero programma risiede nella sua filosofia di condivisione: tutta la ricerca scientifica prodotta è rilasciata in modalità open source, garantendo che ogni singolo miglioramento del codice o dell'efficienza dei chip ritorni immediatamente a disposizione dell'intera comunità globale degli sviluppatori.