allineamento AI

15 notizie su "allineamento AI" — Agenti AI, LLM, robotica e automazione in italiano.

• OpenAI investe 7,5 milioni di dollari nella ricerca indipendente sull'allineamento AI
• Rilevamento e riduzione dei comportamenti ingannevoli (scheming) nei modelli AI
• Comprendere e prevenire la generalizzazione del disallineamento nell'IA
• Evoluzione del Red Teaming: l'integrazione tra esperti umani e IA per la sicurezza dei modelli
• Trovare gli errori di GPT-4 con GPT-4: OpenAI presenta CriticGPT
• Generalizzazione da debole a forte: una nuova frontiera per il superallineamento
• Migliorare il ragionamento matematico attraverso la supervisione del processo
• Leggi di scaling per l'eccessiva ottimizzazione dei modelli di ricompensa
• Riassumere libri tramite il feedback umano: la nuova frontiera di OpenAI
• Migliorare il comportamento dei modelli linguistici tramite dataset curati
• Perché la sicurezza dell'IA ha bisogno degli scienziati sociali
• Apprendere obiettivi complessi tramite l'amplificazione iterativa
• Sicurezza dell'AI tramite il dibattito tra agenti
• Apprendimento dalle preferenze umane: un passo verso un'IA più sicura
• Problemi concreti nella sicurezza dell'IA