Chatbot.it

Addestrare un'IA a rifiutare la menzogna nelle gare d'appalto

Fonte: ailucius.com · · AI *

ailucius.com ha sviluppato Lucius, un'IA che redige risposte per gare d'appalto pubbliche e che si rifiuta di "mentire". Recentemente, il sistema ha processato una gara da £950.000, generando una bozza in circa cinque minuti e segnalando 11 requisiti non soddisfatti, una capacità di rifiuto che ha richiesto un anno di sviluppo.

Il fondatore Davor ha ingegnerizzato Lucius per contrastare la tendenza alla fabbricazione degli LLM. Le sfide includevano l'invenzione di "partner fantasma", la perdita silenziosa del 50% dei requisiti, e verificatori di citazioni errati. Le soluzioni sono state strutturali, come controlli di idoneità pre-stesura e verifiche di copertura basate sull'estensione del documento.

L'innovazione di ailucius.com sposta il focus degli LLM dalla persuasività alla veridicità, cruciale in contesti come le gare d'appalto dove la fabbricazione comporta la squalifica. La capacità di un'IA di dichiarare esplicitamente di "non sapere" diventa una caratteristica di prodotto fondamentale, contrapponendosi alle attuali dinamiche di mercato che spesso premiano un'eccessiva fiducia.

* Titolo e riassunto generati con l'intelligenza artificiale a partire dalla fonte originale. Non sono rivisti uno per uno da una persona: per i dettagli fa fede l'articolo originale, qui sotto.

Fonte originale: Leggi l'articolo completo su ailucius.com

Titolo originale: Making an AI bid writer refuse to lie