Uj = FA(SAj)                                                    (A2>
La (2) può anche essere riscritta secondo la:
    Uj = FA(SAj + Bj)                                               (A3)
dove Bj è il bias che rappresenta il valore soglia dell’attivazione deH’ieSjmo neurone. Il bias può essere considerato come il peso di una connessione fitti-zia di un neurone immaginario con l’iesimo neurone.
    In ogni caso lo scopo della FA è di produrre l’output dell’unità Nj solo al superamento di un certo livello di soglia.
    L’idea basilare di questo approccio è, pertanto, il tentativo di riprodurre la struttura cerebrale, fondata su neuroni, assoni e dendriti, mediante un modello matematico. Ogni neurone riceve tramite i dendriti i segnali elettrici e li ritrasmette mediante gli assoni. È quindi possibile, in linea di principio, pensare di costruire un minuscolo modello di struttura cerebrale mediante delle porte logiche, facilmente descrivibili mediante l’algebra booleana. Il neurone perciò viene modellato mediante una porta logica che ha lo scopo di modificare e ritrasmettere il segnale obbedendo ad una particolare regola. La trasmissione del segnale è funzione di diversi parametri dello stato interno della porta logica, dello stato delle porte precedenti e del segnale ricevuto. L’output perciò viene determinato mediante una funzione di attivazione che può essere lineare, non lineare o a soglia e che dipende dal tipo di decisioni che il sistema deve simulare o di operazioni logiche che il sistema è chiamato a compiere.
    Una struttura neuronaie artificiale consiste, quindi, in un insieme di nodi che costituiscono le unità di calcolo logico (in senso booleano) connessi da canali di comunicazione (sinapsi) che costituiscono la struttura di memorizzazione dei dati. Per ogni neurone si può definire una soglia g ed uno stato s. Ad ogni sinapsi viene associato un peso sinaptico.
    Tre sono le dinamiche caratteristiche del sistema: attivazione, apprendimento, iterazione.
    La prima consiste nell’aggiornamento degli stati dei neuroni, la seconda modifica i pesi delle connessioni, la terza regola l’ordine di attivazione. Una rete neuronaie è in grado di imparare un modello prestabilito. Per far questo si dice che la rete viene addestrata finché l’introduzione di un input possa far corrispondere in uscita un output desiderato o consistente con esso.
    L’addestramento consiste nel presentare alla rete neuronaie un insieme di input e quindi modificare i pesi sinaptici in maniera tale da ottenere gli output considerati. Si definisce training set l’insieme dei modelli che vengono presentati alla rete in fase di apprendimento. I modelli usati per verificare il livello di apprendimento sono chiamati validation set.
    Possiamo dividere gli algoritmi di apprendimento in due classi:
a) supervised;
b)  unsupervised.
    I primi richiedono che a ciascun modello di input sia associato un modello di output desiderato. Il training set contiene perciò entrambe le informazioni.
85