Skip to main content

LLM

La sezione LLM delle impostazioni permette di registrare i modelli linguistici (LLM) che vtenext puòpuò usare per gli agenti e altre funzioni AI collegate. Qui si definiscono i dati di connessione del modello, il nome con cui identificarlo e alcuni parametri che influenzano il comportamento delle risposte.

vtenext non include un modello AI giàgià pronto all'interno del CRM. Per configurare un LLM èè necessario disporre di un modello remoto accessibile tramite API compatibili con OpenAI, oppure di un modello locale giàgià installato e raggiungibile. In altre parole, questa configurazione serve a collegare vtenext a un servizio AI esterno o locale: il modello non èè "a bordo" del CRM.

La schermata elenco

Nella lista sono visibili le configurazioni giàgià salvate. Per ogni voce puoi vedere:

[SCREENSHOT: panoramica della lista LLM con colonne Attivo, Nome, URL, Modello e pulsante Aggiungi]

  • Stato attivo o non attivo
  • Nome della configurazione
  • URL del servizio
  • Modello utilizzato

Dalla lista puoi creare una nuova configurazione, modificare una voce esistente, eliminarla oppure attivarla e disattivarla rapidamente.

Creare un nuovo LLM

[SCREENSHOT: form di creazione di una configurazione LLM con i campi principali visibili]

  1. Apri la sezione LLM.
  2. Fai clic su Aggiungi.
  3. Compila i campi richiesti.
  4. Se necessario, esegui un test della configurazione.
  5. Salva.

[SCREENSHOT: dettaglio dei parametri avanzati come Base URL, Provider, temperatura e limiti token]

  • Attivo: rende il modello disponibile per l'utilizzo.
  • Nome: nome descrittivo del modello visualizzato in vtenext. Campo obbligatorio.
  • URL: endpoint API a cui vtenext invia le richieste al modello (ad esempio https://api.openai.com/v1/chat/completions). Campo obbligatorio.
  • Modello: identificativo del modello da utilizzare (ad esempio gpt-5.2). Campo obbligatorio.
  • Base URL: èè l'indirizzo di base del servizio che ospita il modello. In pratica dice agli agenti AI e all'orchestratore Python dove si trova il servizio del modello. Diventa particolarmente importante quando si utilizza un modello locale o un servizio interno all'infrastruttura, per esempio un endpoint come http://127.0.0.1:11434.
  • Provider: indica a vtenext e all'orchestratore Python che tipo di servizio c'èè dietro al modello, ad esempio OpenAI oppure Ollama.
  • API Key: chiave di autenticazione fornita dal provider, necessaria per autorizzare le richieste API.
  • Temperatura: controlla il livello di casualitàcasualità delle risposte generate. Valori bassi (ad esempio 0,2) producono risposte piùpiù coerenti, prevedibili e ripetibili; valori piùpiù alti (ad esempio 0,8 o superiori) favoriscono risposte piùpiù varie e creative.
  • Token massimi: definisce il numero massimo complessivo di token che il modello puòpuò utilizzare per elaborare la richiesta, includendo sia i messaggi inviati sia la risposta generata (se supportato dal provider).
  • Token di completamento massimi: limita il numero massimo di token che il modello puòpuò utilizzare esclusivamente per la risposta generata.
  • Developer Message: istruzioni rivolte al modello con ruolo developer, utilizzate per definire regole di comportamento o vincoli applicativi.
  • System Message: istruzioni generali che definiscono il comportamento del modello durante la conversazione.
  • User Message: messaggio di prova inviato al modello per verificarne il funzionamento. Campo obbligatorio.

Come funziona il test

Il pulsante di test invia una richiesta reale al modello con i parametri configurati e mostra:

[SCREENSHOT: intestazione del form con il pulsante di test visibile prima del salvataggio]

  • esito dell'operazione
  • codice di risposta
  • header restituiti
  • corpo completo della risposta

[SCREENSHOT: finestra con il risultato del test, codice di ritorno, header e risposta del modello]

Il test serve a verificare la configurazione, ma non sostituisce il salvataggio.

Il test invia una richiesta reale al modello remoto o locale. Se il modello non èè raggiungibile via API, il test non puòpuò funzionare.

Esempi pratici

Esempio 1: modello compatibile OpenAI

Usa questa configurazione quando il modello èè disponibile come servizio remoto tramite API esterna. Imposta nome, URL, modello e API Key, poi invia un semplice messaggio di test.

Esempio 2: modello locale

Se il modello gira in locale o su infrastruttura interna, compila anche Base URL e Provider. Anche in questo caso il modello deve essere giàgià installato, attivo e raggiungibile via rete.

Back to top