▾ G11 Media Network: | ChannelCity | ImpresaCity | SecurityOpenLab | Italian Channel Awards | Italian Project Awards | Italian Security Awards | ...
InnovationCity

E4 Computer Engineering per l'AI "fatta in casa"

La piattaforma Urania di E4 permette alle imprese di creare propri sistemi di Data Science, AI e GenAI. Con il vantaggio di un completo controllo sulla gestione dei dati.

Intelligenza Artificiale

Le imprese oggi vedono nell'AI - e in particolare nella "nuova" AI generativa - una opportunità da cogliere. Ma anche, giustamente, qualche potenziale rischio nella tutela di informazioni sensibili e proprietà intellettuali. Il problema è noto: per operare gli algoritmi di AI devono "macinare" grandi quantità di dati e le aziende, per avere risultati mirati sulle proprie esigenze, devono ovviamente fornire anche i propri. Fin qui, nulla di nuovo. È sempre successo nel mondo della data analytics.

Oggi però le aziende hanno qualche perplessità in più: i servizi di GenAI non sono sotto il loro diretto controllo e c'è il rischio concreto che le informazioni aziendali date in pasto agli algoritmi siano carpite da altri, usate impropriamente, rese pubbliche, quantomeno usate per addestrare sistemi che poi saranno usati anche da altre imprese magari concorrenti.

La soluzione a tutto questo è chiaramente addestrare direttamente "in casa" gli algoritmi di AI, ma è una operazione che richiede competenze ben specifiche. Per aiutare le aziende che intendono porsi su questa strada - e non solo, come vedremo - la emiliana E4 Computer Engineering ha sviluppato Urania, una piattaforma completa per l'AI e la Data Science on-premise.

Mario Rosati, CEO di E4 Analytics

"Urania - spiega Mario Rosati, CEO di E4 Analytics, la "sister company" di E4 creata per fornire consulenza e servizi professionali in ambito Big Data analytics e AI - può seguire tutto il ciclo di vita del dato dal punto di vista della Data Science, spaziando dall'addestramento dei modelli sino alla possibilità di integrare modelli addestrati in applicazioni specifiche".

Data Science, ma non solo

La piattaforma di E4 è una soluzione nativa cloud basata sulla containerizzazione e su una versione ottimizzata di Kubernetes, a cui sono state aggiunte componenti che permettono l'uso nativo di GPU e di reti ad alte prestazioni. "In questo modo Kubernetes diventa una piattaforma che orchestra carichi di lavoro numericamente intensivi", spiega Rosati, ma Kubernetes è stato anche (relativamente) semplificato nella parte di gestione e potenziato nelle componenti per lo storage, sempre pensando alle applicazioni di AI e Data Science.

Nello sviluppo di Urania, E4 si è data due target di mercato principali: tutto il mondo università e ricerca, sempre interessato a nuove soluzioni per il calcolo, e le aziende che hanno necessità di avere una infrastruttura cloud-native per il calcolo tecnico-scientifico orientato alla Data Science.

In realtà il bacino potenziale di utenza è anche più ampio, perché Urania può anche essere usata "semplicemente" per ospitare modelli addestrati altrove, aggiungendovi le sue proprie funzioni.. Addestrare un LLM da zero è alla portata di pochi, ma le operazioni di ri-addestramento e finetuning richiedono molte meno risorse di computing e sono gestibili dalle imprese utenti.

In uno scenario d'uso che sarà probabilmente sempre più comune nell'utilizzo degli LLM, Urania può ad esempio partire da un LLM pre-addestrato e provvedere alla sua "specializzazione" su un ambito specifico usando i dati - privati e protetti, a questo punto - dell'azienda utente. In questo modo si può ad esempio creare un assistente virtuale specializzato sulla knowledge aziendale e gestire il suo utilizzo, usando una infrastruttura IT tutto sommato contenuta.

Scenari di "private LLM" come questo saranno sempre più importanti perché garantiscono la privacy dei dati aziendali, ma anche perché in prospettiva puntare solo sull'AI in cloud per molte imprese non sarà praticabile.

"Il cloud funziona molto bene sino a quando la potenza in gioco è relativamente piccola - spiega Rosati - ma quando dobbiamo usare strumenti di calcolo complessi, i costi cominciano a diventare importanti". Inoltre, modelli complessi hanno un loro tempo di caricamento e non è accettabile che questo venga percepito dall'utilizzatore finale ogni volta che, ad esempio, si attiva un assistente virtuale. "Per evitarlo dobbiamo avere modelli inferenziali senza latenza, già pre-caricati sulle GPU: in questi casi il pay-per-use del cloud non sarebbe affatto vantaggioso", sottolinea Rosati.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato
Iscriviti alla nostra Newsletter Gratuita. Iscriviti
Rimani sempre aggiornato, seguici su Google News! Seguici

Related news

Ultime Notizie

Euro 5+ e Euro 7: le novità in arrivo per auto e moto

Tra le novità che verranno applicate una diagnostica avanzata, verifiche di degrado nel tempo, riduzione della rumorosità, verifiche più stringenti in termini di emissioni

07-02-2025

AgriFoodTech Italia: crescono le startup ma calano gli investimenti

Nel 2024, gli investimenti nell'AgriFoodTech italiano si sono fermati a 103 milioni di euro, segnando un netto calo rispetto ai livelli record dell’anno precedente. Di contro, con 407 startup attive, in aumento rispetto alle 341 del 2023, e un focus crescente su tecnologie avanzate come Intelligenza Artificiale, Biotecnologie e IoT, il comparto italiano si conferma terreno fertile per innovazione e sostenibilità.

07-02-2025

Le rinnovabili "democratiche" di Octopus Energy

Octopus Energy pone dieci punti strategici per far evolvere il mercato italiano dell'energia, verso un futuro prossimo incentrato su rinnovabili e Smart Grid

07-02-2025

Cibo Vegano, un mercato in forte crescita. I 5 fattori che alimentano il settore

Secondo gli ultimi dati pubblicati, analizzati dall’Osservatorio VEGANOK, l'etica, la salute, l'aspetto ambientale, le diverse evoluzioni in termini di gusto e qualità e le influenze sociali stanno spingendo i numeri relativi all'alimentazione vegana. Un esempio su tutti: la crescita del consumo del gelato e della pasticceria vegana.

07-02-2025

Notizie più lette

1 Epson PaperLab A-8100 trasforma la carta stampata usata in una nuova carta pulita

PaperLab A-8100 utilizza un processo praticamente a secco grazie alla tecnologia Epson Dry Fiber ovvero trasforma la carta stampata usata in nuova carta pulita con un processo senza acqua, in loco e su richiesta

2 Greenhushing: 6 aziende su 10 nascondono l'impegno per la sostenibilità per paura delle accuse di greenwashing

Il maggiore controllo normativo in ambito di rendicontazione ESG, in cui errori ed eventuali accuse di greenwashing possono comportare multe e danni reputazionali, porta sempre più spesso le aziende a mantenere “segreti” gli obiettivi di sostenibilità e i progressi compiuti per raggiungerli

3 Registro rifiuti (RIENTRI): dal 13 febbraio digitalizzazione obbligatoria. Gli strumenti per adeguarsi alle nuove procedure

Adeguarsi alle nuove procedure RENTRI non è solo un obbligo, ma un'opportunità per le imprese di modernizzare le proprie operazioni, ridurre i costi amministrativi e contribuire attivamente alla tutela ambientale

4 Tesla, a gennaio in Europa crollano le vendite. Scatta il boicottaggio?

In Germania il crollo è vicino al 60% così come in Francia che arriva al 63% rispetto a gennaio 2024. Non va meglio negli altri paesi come l'UK. Il colosso delle auto elettriche paga le continue ingerenze in Europa del suo fondatore

Iscriviti alla nostra newsletter

Join our mailing list to get weekly updates delivered to your inbox.

Iscriviti alla newsletter