NVIDIA ha rilasciato una serie di nuovi microservizi NIM per proteggere le applicazioni di intelligenza artificiale agentica, parte della sua raccolta di strumenti software NVIDIA NeMo Guardrails. Questi microservizi ottimizzati aiutano le aziende a migliorare la sicurezza, la precisione e la scalabilità delle loro applicazioni AI, rispondendo alle crescenti preoccupazioni in termini di fiducia, sicurezza, protezione e conformità.
NeMo Guardrails, parte integrante della piattaforma NVIDIA NeMo, consente agli sviluppatori di integrare e gestire guardrail dell’AI nelle applicazioni Large Language Model (LLM). Aziende leader come Amdocs, Cerence AI e Lowe’s già utilizzano NeMo Guardrails per salvaguardare le loro applicazioni AI.
Tra i nuovi microservizi introdotti vi sono il microservizio NIM per la sicurezza dei contenuti, che protegge l’AI dalla generazione di output dannosi; il microservizio NIM per il controllo degli argomenti, che mantiene le conversazioni focalizzate su argomenti approvati; e il microservizio NIM per il rilevamento del jailbreak, che aggiunge protezione contro i tentativi di bypassare le restrizioni del sistema.
NVIDIA ha curato l’Aegis Content Safety Dataset, una delle fonti di dati annotate da esseri umani di qualità più elevata, per addestrare questi microservizi. Il dataset è disponibile al pubblico su Hugging Face e include oltre 35.000 campioni di dati annotati.
Questi strumenti sono progettati per migliorare la produttività aziendale e la soddisfazione dei clienti, consentendo agli agenti AI di fornire risposte sicure e appropriate. I modelli di linguaggio di piccole dimensioni offrono una latenza inferiore e sono ideali per ambienti distribuiti o con risorse limitate.
Aziende come Amdocs, Cerence AI e Lowe’s stanno già sfruttando queste soluzioni per migliorare le interazioni con i clienti e garantire risposte contestualmente appropriate e sicure. Taskus, Tech Mahindra e Wipro stanno integrando NeMo Guardrails nelle loro soluzioni per offrire applicazioni AI generative più sicure e affidabili.
NVIDIA ha anche annunciato che il suo NVIDIA AI Blueprint per gli assistenti allo shopping nel commercio al dettaglio incorpora i microservizi NeMo Guardrails, creando interazioni con i clienti più affidabili durante le esperienze di acquisto digitali.
NeMo Guardrails è aperto ed estensibile, integrandosi con un ecosistema di fornitori leader di modelli di sicurezza AI e strumenti di osservabilità AI come ActiveFence, Hive, Fiddler AI Observability e Weights & Biases.
