identificazione e controllo intelligente -intro...

Identificazione e Controllo Intelligente – A.A. 2006/2007 1

Presentazione del corso

Identificazione e

Controllo Intelligente

David NasoA.A. 2006-2007


Identificazione e controllo intelligente (ICI)

• Primo Semestre - 6 CFU • Obbligatorio per studenti ing. dell’Automazione e

Ing. Informatica Sistemi intelligenti• A scelta per studenti Ing. Inf. Indirizzo Sistemi

informativi e reti• 4 ore settimanali di cui circa 2 in laboratorio• Ricevimento (provvisorio MARTEDI’ Mattina)


ICI: Introduzione al corso

Conoscenze preliminari e prerequisiti• Conoscenze di base della teoria dei sistemi e dei

fondamenti di automatica. – Trasformata di Laplace, modelli di sistemi lineari, sistemi

tempo-discreti, Trasformata Z, funzioni di trasferimento, analisi della stabilità, tecniche di analisi e progettazione di sistemi di controllo lineari, analisi armonica.

• Conoscenze di base di teoria dei segnali(comunicazioni I). – Elementi di teoria della probabilità, teoria dei processi

stocastici, analisi spettrale.


Introduzione al corso

Prerequisiti pratici• Conoscenze generali di informatica• Abilità/interesse a programmare in ambiente di

sviluppo Matlab/simulink• M-file, function, comandi generali di sistema e del

control system toolbox


Introduzione al corso

• Modalità esame:• A) Colloquio orale sugli argomenti sia teorici sia

pratici (con eventuale prova pratica al calcolatore)• B) Attività di approfondimento individuale o di

gruppo.


Materiale per il corso

• Materiale di riferimento: IDENTIFICAZIONE• Appunti e materiale fornito dal docente • Sergio BITTANTI, Identificazione dei modelli e

sistemi adattativi, Pitagora Editrice.• Testi di consultazione

• L. Ljung, System Identification, Theory for the User, Prentice-Hall, 1999.

– Per la parte di teoria dei segnali, probabilità, ecc.• M. Luise, G. M. Vitetta, Teoria Dei Segnali, McGraw Hill.


Materiale per il corso

• Materiale di riferimento: Controllo Intelligente• Appunti e materiale fornito dal docente • Sergio BITTANTI, Identificazione dei modelli e sistemi

adattativi, Pitagora Editrice.• Testi di approfondimento e consultazione

– J.-S. R. Jang, C.-T. Sun and E. Mizutani. Neuro-Fuzzy and Soft Computing - A Computational Approach to Learning and Machine Intelligence. Prentice Hall Inc., 1997.

– R. Babuska. Fuzzy Modeling for Control. Kluwer Academic Publishers, 1998


Strumenti Web

• Il seguente link è già attivo

http://dee.poliba.it/dee-web/nasoweb/index.htm

Mailing List del corso


Argomenti trattati nel corso

• IDENTIFICAZIONE: determinazione di modelli matematici di sistemi dinamici basata su osservazioni sperimentali.

• CONTROLLO INTELLIGENTE: l’aggettivo intelligente può presentare ambiguità di interpretazione. Proviamo a rifarci alle definizioni date nel contesto della artificial intelligence (AI).


Controllo “intelligente”?

• L’intelligenza è genericamente definibile come la capacità di padroneggiare le situazioni nuove o di risolvere i problemi, piùche con l’esperienza, mediante la comprensione dei vari rapporti esistenti fra i vari elementi della situazione.

• Intelligenza Artificiale (Artificial Intelligence, AI):• “è lo studio di metodi che permettano al computer di svolgere

compiti in cui l’uomo si dimostra migliore”, E. Rich; • “è la scienza che permette alle macchine di fare cose che

richiederebbero intelligenza se compiute dall’uomo”, M. Minsky;

• “è la meccanizzazione o duplicazione dei processi mentali umani”, A. C. Staugaard


Computational Intelligence, Soft Computing

• Nel nostro contesto l’aggettivo “intelligente” indica una classe di metodi matematici sviluppati prevalentemente nell’ultimo trentennio ed ispirati a organismi o fenomeni naturali.

• Per distinguere questa classe di metodi dalla AI tradizionale, Bezdek ha coniato il termine “Computational Intelligence” per sottolineare il fatto che queste tecniche non si basano sul concetto, tipico della AI classica, di rappresentazione della conoscenza esperta, ma sono orientati prevalentemente allo sfruttamento “intelligente” dei dati (numerici) disponibili riguardo al problema considerato.

• Soft Computing = sinonimo di Computational Intelligence


CONTROLLO INTELLIGENTE:il punto di vista della IEEE CSS

• The ever increasing technological demands of today call for very complex systems, which in turn require highly sophisticated controllers to ensure that high performance can be achieved and maintained under adverse conditions.


Intelligent control systems and tech

• There is a significant need to achieve higher degrees of autonomous operation for robotic systems, spacecraft, manufacturing systems, automotive systems, underwater and land vehicles, and others. To achieve such highly autonomous behavior for complex systems one can enhance today's control methods using intelligent control systems and techniques.


IC: definizione della _

• The area of Intelligent Control is a fusion of a number of research areas in Systems and Control, Computer Science, and Operations Research among others, coming together, merging and expanding in new directions[…].

• This identifies the areas of Fuzzy Systems, Neural Networks, [Evolutionary Computation], Planning and Expert Systems, Machine Learning, Multi-sensor Integration, Failure Diagnosis, and Reconfigurable Control, to mention but a few, as existing research areas that are related and important to Intelligent Control.


PARTE I: Identificazione

• Esistono due strade principali per definire un modello matematico

• A) decomporre il sistema in elementi singloi dei quali si conosce il legame causa-effetto (MODELING)

• B) determinare un modello sulla base di osservazioni (dati) sperimentali (IDENTIFICATION)


Finalità di un processo di identificazione

• Predizione

• Simulazione

• Fault Diagnosis


Struttura di un problema di identificazione

• DATI, ottenuti da un esperimento che (ove possibile) deve essere progettato per essere sufficientemente “ricco” di informazioni sul sistema

• SET DI MODELLI, che specifichi la classe in cui stiamo cercando il nostro.

• CRITERIO DI SCELTA (o di qualità) del modello, in grado di quantificare quanto il modello è valido nel riprodurre i dati sperimentali. Ci sono poi criteri ausiliari (ordine, complessità, interpretabilità del modello).


Problema di Identificazione

16 17 18 19 20 21 22 23 243.5

4

4.5

5

5.5

6

6.5Temperature

16 17 18 19 20 21 22 23 243

3.5

4

4.5

5

5.5

6

6.5

7Power


Processo di identificazione

64 65 66 67 68 69 70 71 72-1.5

-1

-0.5

0

0.5

1

1.5

Tem

pera

ture

Measured Output and Simulated Model Output

Measured Outputm1 Fit: 42.28%


Processo di identificazione

64 65 66 67 68 69 70 71 72-1.5

-1

-0.5

0

0.5

1

1.5

Tem

pera

ture

Measured Output and Simulated Model Output

Measured Outputm2 Fit: 88.43%


Stima parametrica e non-parametrica

• Modelli parametrici lineari: funzioni di trasferimento, equazioni alle differenze, modelli in variabili di stato.

y_out

To Workspace

RandomNumber

u_in

FromWorkspace

(z+0.95)

z(z-0.5)Discrete

Zero-Pole2

1

Constant

10 1 1

11 1

( )m m

m mn n

n n

b s b s b s bG ss a s a s a

−−

−−

+ + + +=

+ + + +……


Stima parametrica e non-parametrica

• Stima non parametrica: la soluzione cercata (il modello) non è confinata in una particolare classe in cui il numero di parametri liberi è definito a priori. Due tipici esempi sono la risposta all’impulso o la risposta in frequenza (più precisamente i dati numerici che ne descrivono il comportamento) del sistema.

-2 -1 0 1 2 3 4 5-0.2

0

0.2

0.4

0.6

0.8

1

1.2

1.4

1.6

1.8From Power

To T

empe

ratu

re


Le difficoltà principali

• Il rumore ed altri fattori stocastici• La mancanza di conoscenza

sufficiente, e la scelta di una famiglia di modelli inadeguata a descrivere il sistema osservato

• La possibilità che il criterio di scelta sia inefficace, complicando la ricerca del modello ottimale.

• Le non linearità


Incertezza nei parametri stimati

-0.8 -0.6 -0.4 -0.2 0 0.2 0.4 0.6 0.8 1

-1

-0.8

-0.6

-0.4

-0.2

0

0.2

0.4

0.6

0.8

1

0.9

0.8

0.7

0.6

0.5

0.4

0.3

0.2

0.1

π/T

0.9π/T

0.8π/T

0.7π/T

0.6π/T0.5π/T

0.4π/T

0.3π/T

0.2π/T

0.1π/T

π/T

0.9π/T

0.8π/T

0.7π/T

0.6π/T0.5π/T

0.4π/T

0.3π/T

0.2π/T

0.1π/T

From Power

To T

empe

ratu

re


Identificazione di sistemi non lineari

• Qualora le tecniche offerte dalla teoria dell’identificazione dei sistemi lineari non portino a risultati di qualità soddisfacente, come si procede?

Varie possibilitàA) Scelta di una famiglia di modelli più generaleB) Scelta di algoritmi di ricerca (del modello) più

complessi


Identificazione di sistemi non-lineari

• Modelli parametrici di interpolazione non-lineare:

Le reti neurali e i sistemi fuzzy


PARTE II: Le reti neurali

• Soma: body of the neuron.• Dendrites: receptors (inputs) of the neuron.• Axon: output of neuron; connected to dendrites of other neurons

via synapses.• Synapses: transfer of information between neurons (electrical-

chemical-electrical).


Use of Artificial Neural Networks

• Input is high-dimensional • Output is multidimensional• Mathematical form of system is unknown• Interpretability of identified model is unimportant

WeightSynapseOutputAxonInputDendriteNeuronSoma

Artificial neural network

Biological neural network

ApplicationsPattern recognitionClassificationPredictionModeling


Artificial neuron

xi: i-th input of the neuronwi: synaptic strengh (weight) for xi

y = σ (Σwixi): output signal

w2

wn

x1

x2

xn

...y

Neuron


Multi-Layer Perceptron (MLP)

• Can learn functions that are not linearly separable.

Out

puts

igna

ls


Applications of neural networks

• Black-box modeling using input-output data• Classification• Pattern Recognition• Fault Detection and Diagnosis• Control:

– Inverse-model control– Predictive control– Adaptive control

• …


Schema generale di un’approssimatore

[The schemes for NN controllers in this presentation are reprinted from the tutorial http://hagan.okstate.edu/HaganDemuthACC99.pdf]


Nonlinear Internal Model Control


Adaptive inverse control


Model Reference Adaptive Control

Prediction

Tracking


Neural AdaptiveIndirect Feedback Linearization


PARTE III: Logica Fuzzy

• Nel 1965 fu pubblicato un articolo in cui si proponeva una estensione dell’Insiemistica Classica in cui l’appartenenza è definita da una funzione a valori compresi tra zero (totale esclusione dalla classe) e l’uno (totale inclusione). Ogni valore intermedio indica un’appartenenza parziale, approssimata, individuabile solo attraverso un grado (il valore della funzione di appartenenza).

• Zadeh scelse di rappresentare l’appartenenza ad una classe con una variabile continua sulla base della constatazione che la mente umana non fa alcun uso di classi binarie, ma solo di classi definite in modo soggettivo, vago ed approssimato, privo di vincoli o criteri di definizione a soglia ed univoci.

• Zadeh pertanto definì questo tipo di insiemi con il termine “fuzzy”, in inglese sinonimo di sfumato, approssimato, confuso, indistinto.


Esempio

20 400

60 80 100

1

mem

bers

hip

grad

e

young middle age oldsemantic rules MX


Set theoretic operations

)()( xxBA BA µµ ≤⇔⊆

0

0.2

0.4

0.6

0.8

1

A Is Contained in B

Mem

bers

hip

Gra

des B

A

0

0.2

0.4

0.6

0.8

1

(a) Fuzzy Sets A and B

A B

0

0.2

0.4

0.6

0.8

1

(b) Fuzzy Set "not A"

0

0.2

0.4

0.6

0.8

1

(c) Fuzzy Set "A OR B"

0

0.2

0.4

0.6

0.8

1

(d) Fuzzy Set "A AND B"


Logica fuzzy

• La teoria degli insiemi fuzzy non si limita ad emulare il comportamento dell’uomo nella fase di classificazione o di valutazione di una misura, ma permette di realizzare anche semplici processi di inferenza, guidati da regole linguistiche del tipo:

“ Se x1 è Alto e x2 è Medio e… xn è Bassoallora y1 è Basso e y2 è Medio e … ym è Alto”.

•L’interpretazione di queste regole secondo la logica fuzzyavviene secondo meccanismi matematici definiti nella Teoria degli insiemi fuzzy.


Logica fuzzy

• Nei sistemi di inferenza fuzzy si può calcolare una conclusione anche nel caso in cui la combinazione di cause non sia esattamente tra quelle annoverate nella base delle regole: prima si misura quanto ciascuna delle cause osservate si avvicini a quelle previste nelle regole, poi, in base ai valori ottenuti da questo primo confronto, si calcola qual è il peso diciascuna regola (più le cause osservate sono vicine a quelle previste dalla regola, maggiore è il suo peso) ed infine si calcola l’insieme di effetti come combinazione pesata delle parti conseguenti delle regole coinvolte nella decisione.

• L’interpretazione matematica di queste procedure, come gran parte della logica fuzzy, non è univoca, ma può essere realizzata in vari modi.


Fuzzy control – elementi di base

1 1 2 2: is is is is

k k k kn n

kR x A x A x A

u BIf and and andthen

…


Fuzzy control

Fuzzy LogicController Process

yr

d


Perché usare il controllo fuzzy

• Per realizzare un dispositivo che emuli il comportamento di un operatore esperto, sostituendo il controllo manuale

• Perché un sistema fuzzy è un interpolatore universale, e quindi permette di realizzare qualsiasi legge input-output


Schemi avanzati:Controllo Fuzzy Adattativo

my

ξ

cu x

φ

w

y

esu


PARTE IV: Ottimizzazione numerica

Techniques for non-convex optimization:• Gradient search methods

– Very fast and accurate– may converge to local minima– Need knowledge about the cost function

• Gradient-free search methods– Point-by-point (Hill climbing, Simplex, Simultaneous

Perturbation Stochastic Approximation)– Population-based (Genetic Algorithms, Ant Colonies,

Swarm optimization)


Algoritmi Genetici

• Nell’ultimo trentennio, le teorie sull’evoluzione naturale dellespecie e l’ereditarietà dei geni, hanno richiamato l’attenzione di alcuni matematici ed ingegneri come fonte di ispirazione per nuove tecniche di ottimizzazione stocastica.

• Meccanismo di funzionamento:1. la generazione di un insieme iniziale di soluzioni (la popolazione);2. La selezione delle soluzioni con più alto valore di ‘fitness’;3. l’alterazione delle soluzioni prescelte con meccanismi che emulano le leggi

della genetica naturale;4. La creazione di una nuova popolazione, che contiene le migliori soluzioni e

quelle alterate.5. L’iterazione dei passi 1-4.


Struttura di un EA

begin

t←0

initialize P(t) (population at time t)

evaluate P(t)

while (not terminate condition) do

begin

t←t+1

select P(t) from P(t-1)

alter P(t)

evaluate P(t)

end

end


Vantaggi

• per applicare un EA non è necessario imporre né ipotizzare che la funzione obbiettivo soddisfi i prerequisiti tipici delle tecniche di ottimizzazione convessa basate sul calcolo dei gradienti. In altre parole, è possibile applicare un GA a problemi di cui si conosce ben poco sulla forma della funzione obiettivo, cosa che rende questi algoritmi estremamente versatili.

• la scrittura di un EA è particolarmente semplice, perlomeno rispetto a molte altre tecniche di ottimizzazione stocastica di paragonabile efficacia.

• Gli EA sono implicitamente paralleli: ad ogni generazione, si indaga in parallelo su punti diversi. All’inizio dell’esecuzione, ogni soluzione nella popolazione è estremamente diversa dalle altre, e quindi l’algoritmo parte esplorando in parallelo svariate zone. In particolare, l’operatore di selezione è progettato in modo tale da dirigere l’esplorazione nell’intorno di quelle soluzioni più promettenti.


Campi di applicazione

• Identificazione parametrica

• Ottimizzazione di sistemi di controllo off-line

• Ottimizzazione di sistemi di controllo on-line (come algoritmo di adattamento)


• DEMO

identificazione e controllo intelligente -intro...

Documents