Chatbot.it

I decision models conquistano terreno: la personalizzazione è la prossima frontiera

Fonte: TechCrunch AI · · AI *

In ottobre, più di una richiesta su quattro sul router di modelli AI di Vercel è stata gestita da decision models, una categoria di intelligenza artificiale nata appena un mese prima. I decision models sono LLM (modelli linguistici di grandi dimensioni) che non generano token di output, ma utilizzano la loro intelligenza generale per decidere rapidamente ed economicamente tra opzioni preimpostate, registrando il livello di fiducia nella scelta. Questa tecnologia si rivela particolarmente utile negli ambienti di produzione, dove la rapidità decisionale prevale sul ragionamento fornito da modelli più lenti e costosi. L'azienda TypeSafe ha raggiunto una valutazione di 7,5 miliardi di dollari grazie alla famiglia di modelli Jev, mentre Microsoft ha annunciato il rilascio immediato del modello Microsoft-Decision-1.1 per l'uso su Azure. Nel frattempo, la startup britannica Sqwish ha raccolto 3 milioni di dollari in un round pre-seed per il suo modello kettei fat.

Il successo in questa categoria di modelli sembra dipendere dai dati. Il CEO di TypeSafe, Diogo Almedia, ha dichiarato a TechCrunch che la parte più complessa nello sviluppo di Jev è stata la calibrazione del giudizio tramite dati sintetici corretti statisticamente. Anche Sqwish utilizza dati sintetici, affiancati da strumenti di post-training integrati che sfruttano i dati di produzione dei clienti per migliorare continuamente il giudizio del modello. I cofondatori di Sqwish, Ushnish Sengupta e Federica Freddi, sottolineano che la personalizzazione continua basata sui dati aziendali rappresenta il vero elemento di differenziazione rispetto alle commodity, superando i limiti dei tradizionali benchmark. Anche il vicepresidente dell'ingegneria di Microsoft, Achint Srivastava, ha evidenziato come i modelli ottimizzati esclusivamente per i benchmark falliscano rapidamente nell'uso aziendale reale, confermando che l'equilibrio tra accuratezza, affidabilità, velocità ed efficienza dei costi sia la vera sfida.

Per le startup, competere con i grandi hyperscaler rappresenta l'opportunità di affiancare intelligenze di tipo System One, come i decision models, a intelligenze di tipo System Two, come i frontier LLM. Secondo Federica Freddi, il mercato dei decision models costituirà comunque un'opportunità miliardaria, offrendo uno spazio di mercato complementare rispetto ai giganti dell'industria.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su TechCrunch AI

Titolo originale: As decision model use skyrockets, is customization is the next frontier?