Skip to main content

22.1 LLM

The LLM section of the settings allows you to register the Large Language Models (LLMs) that vtenext can use for AI agents and other AI-powered features. Here, you can define the model's connection details, assign it a name for identification, and configure parameters that influence the model's response behavior.

vtenext does not include a built-in AI model within the CRM. To configure an LLM, you must have either a remote model accessible through OpenAI-compatible APIs or a locally installed model that is reachable by the system. In other words, this configuration is used to connect vtenext to an external or local AI service—the model itself is not built into the CRM.

The List View

The list displays all previously saved configurations. For each entry, you can view:

image.png

  • Active or inactive status
  • Configuration name
  • Service URL
  • Model used

From the list, you can create a new configuration, edit an existing entry, delete it, or quickly enable and disable it.

Creating a new LLM

image.png

  1. ApriOpen lathe sezioneLLM LLM.section.
  2. FaiClick clic su Aggiungi.Add.
  3. CompilaFill iin campithe richiesti.required fields.
  4. SeIf necessario,necessary, eseguirun una testconfiguration della configurazione.test.
  5. Salva.Save.

image.png

  • AttivoActive:: rendemakes ilthe modellomodel disponibileavailable perfor l'utilizzo.use.
  • NomeName:: nomedescriptive descrittivoname delof modellothe visualizzatomodel displayed in vtenext. CampoRequired obbligatorio.field.
  • URLURL:: API endpoint APIto a cuiwhich vtenext inviasends lerequests richiesteto althe modellomodel (adfor esempioexample, https://api.openai.com/v1/chat/completions). CampoRequired obbligatorio.field.
  • ModelloModel:: identificativoidentifier delof modellothe damodel utilizzareto be used (adfor esempioexample, gpt-5.2)2). CampoRequired obbligatorio.field.
  • Base URLURL:: è l'indirizzo dithe base deladdress servizioof chethe ospitaservice ilhosting modello.the model. In praticapractice, diceit agli agentitells AI eagents all'orchestratoreand the Python doveorchestrator siwhere trovathe ilmodel servizioservice delis modello.located. DiventaIt particolarmentebecomes importanteparticularly quandoimportant siwhen utilizzausing una modellolocal localemodel oor unan serviziointernal internoservice all'infrastruttura,within perthe esempioinfrastructure, unfor example an endpoint comesuch as http://127.0.0.1:11434.
  • ProviderProvider:: indicaindicates ato vtenext eand all'orchestratorethe Python cheorchestrator tipowhat ditype servizioof c'èservice dietrois albehind modello,the admodel, esempiosuch as OpenAI oppureor Ollama.
  • API KeyKey:: chiaveauthentication dikey autenticazioneprovided fornitaby dalthe provider, necessariarequired perto autorizzareauthorize leAPI richieste API.requests.
  • TemperaturaTemperature:: controllacontrols ilthe livellolevel diof casualitàrandomness dellein rispostegenerated generate.responses. ValoriLower bassivalues (adfor esempioexample, 0,2)0.2) produconoproduce rispostemore piùconsistent, coerenti,predictable, prevedibiliand erepeatable ripetibili;responses; valorihigher più altivalues (adfor esempioexample, 0,0.8 oor superiori)above) favorisconoencourage rispostemore piùvaried varieand ecreative creative.responses.
  • TokenMaximum massimiTokens:: definiscedefines ilthe numeromaximum massimototal complessivonumber diof tokentokens chethat ilthe modellomodel puòcan utilizzareuse perto elaborareprocess lathe richiesta,request, includendoincluding siaboth ithe messaggimessages inviatisent siaand lathe rispostagenerated generataresponse (seif supportatosupported dalby the provider).
  • TokenMaximum diCompletion completamentoTokens: massimi:limits limitathe ilmaximum numeronumber massimoof ditokens tokenthat chethe ilmodel modellocan puòuse utilizzareexclusively esclusivamentefor perthe lagenerated risposta generata.response.
  • Developer MessageMessage:: istruzioniinstructions rivolteaddressed alto modellothe conmodel ruolowith the developer, utilizzaterole, perused definireto regoledefine dibehavioral comportamentorules oor vincoliapplication applicativi.constraints.
  • System MessageMessage:: istruzionigeneral generaliinstructions chethat definisconodefine ilthe comportamentomodel’s delbehavior modelloduring durantethe la conversazione.conversation.
  • User MessageMessage:: messaggiotest dimessage provasent inviatoto althe modellomodel perto verificarneverify ilits funzionamento.operation. CampoRequired obbligatorio.
    field.

Come funziona il test

Il pulsante di PROVA invia una richiesta reale al modello con i parametri configurati e mostra:

image.png

  • esito dell'operazione
  • codice di risposta
  • header restituiti
  • corpo completo della risposta

image.png

Risultato della chiamata: tab RISULTATO

image.png

Risultato della chiamata: tab HEADERS

image.png

Risultato della chiamata: tab RISPOSTA

Il test serve a verificare la configurazione, ma non sostituisce il salvataggio.

Il test invia una richiesta reale al modello remoto o locale. Se il modello non è raggiungibile via API, il test non può funzionare.

Esempi pratici

Esempio 1: modello compatibile OpenAI

Usa questa configurazione quando il modello è disponibile come servizio remoto tramite API esterna. Imposta nome, URL, modello e API Key, poi invia un semplice messaggio di test.

Esempio 2: modello locale

Se il modello gira in locale o su infrastruttura interna, compila anche Base URL e Provider. Anche in questo caso il modello deve essere già installato, attivo e raggiungibile via rete.