Metodi e tecniche di ottimizzazione innovative per applicazioni ... -...

32
Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche Ottimizzazione multiobiettivo Parte 2 Tecniche di scalarizzazione Maurizio Repetto Politecnico di Torino, Dip. Ingegneria Elettrica Industriale Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 1/32

Transcript of Metodi e tecniche di ottimizzazione innovative per applicazioni ... -...

Page 1: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Metodi e tecniche diottimizzazione innovative per

applicazioni elettromagneticheOttimizzazione multiobiettivo

Parte 2 Tecniche di scalarizzazione

Maurizio Repetto

Politecnico di Torino, Dip. Ingegneria Elettrica Industriale

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 1/32

Page 2: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Contents

Definition of Vector Optimization problem

Pareto Optimality

Vector Optimization MethodsPareto based methodsAggregation methods

Weighting of objectivesConstrained approachGoalFuzzy

conclusion

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 2/32

Page 3: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Aggregation tecniques(1/2)

Aggregation or scalarization techniques follow adifferent approach and have been extensively used inthe past

they mingle together the two steps of VOP solutionbecause they can possibly find a particularconfiguration on the Pareto front

Different approaches have been devised and they willbe briefly outlined:

weighting of objectivesconstrained approachgoal programmingfuzzy combination of objectives

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 3/32

Page 4: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Aggregation tecniques(2/2)

Also aggregation techniques have not a univocalimplementation so that the methods presented havebeen interpreted by researchers in different ways

Some critical points are shared by all the aggregationtechniques:

objectives do not share the same physicaldimensions (incommensurability), beforeaggregation they have to be normalizedobjectives do not have the same variation range inthe problem domainthe analysis of only few points on the Pareto frontcan be misleadingseveral scalar optimization runs must be performed

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 4/32

Page 5: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Weighting of objectives (1/3)

This method is the oldest multiobjective technique used

The method finds its theoretical basis in theKuhn-Tucker conditions for noninferiority

Scalar objective function is defined as:

O(X) =M∑

k=1

wkOk(X)wk ≥ 0., k = 1, ...,M

weights wk act as:normalization constantspreference indicators giving more importance to anobjective wrt to another

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 5/32

Page 6: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Weighting of objectives (2/3)

Following the definition of the new objective function it iseasy to see that the extremum point lies on the Paretofront:

O(X) ⇒ ∇O(X) = 0 ⇒M∑

k=1

wk∇Ok(X) = 0

this, under the hypothesis specified by K-T conditions,allows to say that the point is on the Pareto front

since weights wk have been selected "a priori" thischoice will define which particular point on the Paretofront will be hit

changing the set of wk values allows one to explore thenoninferior set at the cost of one optimization run perpoint

several scalar optimization run must be performedMetodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 6/32

Page 7: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Weighting of objectives (3/3)

Using again the two objectives example (same physicaldimensions)

O1(x, y) = 1 − (x − 1)2 − y2 O2(x, y) = 1 − (x + 1)2 − y2

O(x, y) = α ∗ O1(x, y) + (1 − α) ∗ O2(x, y)

α =0α =1

α =0.5

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 7/32

Page 8: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Payoff table

As it was pointed out previously, extrema of Pareto frontcan be obtained by setting all the weights to 0 exceptone set to 1

A table containing the M combinations can give someuseful knowledge about the problem and variationrange of the objectives

w1 w2 O1 O2

1 0 1 -120 1 -12 1

The analysis of the table allows one to have a measureof the possible tradeoff among different objectives

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 8/32

Page 9: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Constrained approach (1/2)

Another approach which converts the VOP in a scalaroptimization problem requires to change theformulation:

maximize Oi(X)subject to Oj(X) = Lj j = 1, ...,M, j 6= i

the objective transformed in constraints are fixed to agiven value Lj which has to be stated by the user

obviously this approach requires to have an optimizationprocedure able to handle constrained problem

changing the set of Lj values change the optimal point,if the values of Lj are suitably selected, the optimalpoint lies on the Pareto front

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 9/32

Page 10: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Constrained approach (2/2)

Maximization of objective O1 subject to O2 = L2

O =L

-2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0

-2.0

-1.5

-1.0

-0.5

0.0

0.5

1.0

1.5

2.0

max O

Pareto front

O =L ’

max O

2 2 1

1

2 2

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 10/32

Page 11: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Goal Programming (1/4)

The Goal Programming method looks for a VOPsolution by a prior specification of a "best" solution

This best solution can be in general unfeasible as theone that maximizes all the objectives at the same time,in some implementation this configuration is called infact utopia {G1, G2, ..., GM}

minimize d(X) =M∑

k=1

wk | Gk − Ok(X) |

weights wk are needed because in general Ok areincommensurable

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 11/32

Page 12: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Goal Programming (2/4)

the optimal point found depends on the set ofnormalization constants wk and on the set of goals Gk

Several implementations of the goal programming havebeen presented changing the distance definition(euclidean, max etc.)

In general the optimal point found does not belong tothe Pareto front unless the goal point is not on thePareto front or it is unfeasible

Again an exploration of the Pareto front needs severaloptimization runs changing the goal set.

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 12/32

Page 13: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Goal Programming (3/4)

-2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0

-2.0

-1.5

-1.0

-0.5

0.0

0.5

1.0

1.5

2.0

minimum on

Pareto front

G =2, G =2 unfeasible

w =w =1 1

1

2

2

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 13/32

Page 14: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Goal Programming (4/4)

-2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0

-2.0

-1.5

-1.0

-0.5

0.0

0.5

1.0

1.5

2.0

minima out of

Pareto front

G =-2, G =-2 dominated

w =w =1 1

1

2

2

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 14/32

Page 15: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy logic (1/3)

Among aggregation techniques, Fuzzy combination ofobjectives has become largely used in the last ten years

Fuzzy Logic (FL) was originally proposed by L.A. Zadehin 1965 for control applications in the area ofmultiattribute decision making.

The new logic was proposed to overcome someproblems created by "crisp" decision making, usinginstead some tools able to include an uncertainty level

One of the most powerful issues of FL is the naturalway of translating a sentence in a numerical information

The multi-level logic allowed to define a series of logicaloperators similar to the ones of classical logic (AND,OR, NOT etc.)

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 15/32

Page 16: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy logic (2/3)

Defining a numerical continuous truth level ranging from0=false to 1=true, FL allows one to state the degree oftruth of one proposition by means of a function:

µA : Y −→ [0, 1]

where µ is called membership function and Y is itsdomain

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 16/32

Page 17: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy logic (3/3)

Membership functions are very useful in defining thedegree of truth of an uncertain statement the degree ofbelonging of a man to the "set of average height man"

y cm

160 170 180

µ

1

0

y=175 cm −→ µ = 0.5

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 17/32

Page 18: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy operators

Logical operators can be defined on these new functions

µA.OR.µB

maxy∈Y {µA(y), µB(y)}

y

µ

µA.AND.µB

miny∈Y {µA(y), µB(y)}

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 18/32

Page 19: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy examples

A degree of satisfaction of a certain objective can beexpressed by means of a suitable membership function

Force must be around100N and δ representsthe maximum distance ac-cepted from 100N

y, N

µ

100 100+δ100−δ

Weight must be as min-imum as possible: over100 kg is unacceptable,any value under 50 kg isaccepted

y, kg

µ

50 100

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 19/32

Page 20: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy combination (1/)

Membership functions perform a natural normalizationof any quantity in a logical level, this allows to compareand combine different degrees of satisfaction in a globalone

The degree of acceptance of each configuration isdefined as the intersection of all the single membershipfunctions.

The logical intersection operator is the AND one whichin FL is interpreted by the minimum of all membershipfunctions

optimization ⇒ maximizes the global degree ofsatisfaction:

maximize min{µj(Oj(X))} j = 1, ...,M

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 20/32

Page 21: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy combination (2)

A flowchart of the fuzzy aggregation becomes:

X

O 1(X)

O 2(X)

O 3(X)

O 4(X)

AND

µ 1

µ 2

µ 3

µ 4

µ AGG

parameters

objectives

fuzzy values

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 21/32

Page 22: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

definition of µ

Piecewise linear membership functions are simple todefine but can give rise to problems for instance when aflat 0 or 1 value are obtained in a certain region

to avoid this problem analyticalµ can be defined usinggaussian or sigmoidal functionsx = 5 → µ = 0.1 x = 7.5 → µ = 1.0

x = 10 → µ = 0.9 x = 5, 10 → µ = 0.5

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 150.0

0.2

0.4

0.6

0.8

1.0

µ

X0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

0.0

0.2

0.4

0.6

0.8

1.0

µ

X

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 22/32

Page 23: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Pareto fuzzy approach

Membership functions perform a mapping fromobjective space to "logical" space. Also in this spacePareto optimality can be defined.

A configuration Xµ is fuzzy-Pareto optimal if there is noway of improving a single membership function withoutdegradating any of the other

Obviously, the solution of the fuzzy VOP lies on thePareto front only if the maximum satisfaction levelsspecified in the m are higher than the ones ofdominated solutions

An exploration of the fuzzy-Pareto front can beperformed by changing the limits of the membershipfunctions

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 23/32

Page 24: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy aggregation

Defining two identical sigmoidal membership fuctionswith the following parameters:

x = 1.5 −→ µ = 0.9 x = −10 −→ µ = 0.1

-2.0 -1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0

-2.0

-1.5

-1.0

-0.5

0.0

0.5

1.0

1.5

2.0

maximum on

Pareto front

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 24/32

Page 25: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy iterative refinement (1/2)

The use of min (fuzzy AND) operator does not take intoaccount the values of all membership functions in theglobal fuzzy indicator

Only the objectives at the minimum value are taken intoaccount in the optimization process, thus there is noinformation about other objectives.

Configurations X1 and X2 are different but leads to thesame global fuzzy indicator

min{µA(X1) = 0.25, µB(X1) = 0.25, µC(X1) = 0.5} = 0.25min{µA(X2) = 0.25, µB(X2) = 0.5, µC(X2) = 0.25} = 0.25

Obviously X2 is better than X1 but they give rise to thesame global indicator

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 25/32

Page 26: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy iterative refinement (2/2)

In order to avoid situations like the previous one, a localrefinement can be performed around an optimal pointXopt:

µ(Ok(Xopt)) = µk

a new optimization can be defined as:

maximize σk(X)

{σk(X))} =

{

µk(Ok(X)) − µk, if µk(Ok(X)) > µk

0 if µk(Ok(X)) ≤ µk

}

= 0

obviously if Xopt is a Pareto optimal solution the secondoptimization is not able to find any better solution,otherwise increments in objectives with µ values greaterthan the minimum can be obtained

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 26/32

Page 27: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

VOP example (1/2)

A simple example of a VOP problem can be obtained bythe optimization of an electromechanical actuator

Electromechanical actuators are very simple to analysebut they are a good test on the optimization point ofview

g

l

l

xmax

d

h l

l

SFe

analysis can be carriedout by means of magneticcircuit method taking intoaccount nonlinearities

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 27/32

Page 28: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

VOP example (2/2)

Maps of objectives

Flux Weight

Joule losses

maxmin

min

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 28/32

Page 29: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Pareto ranking (1/2)

By using a Pareto ranking scheme on the problem anidentification of the Pareto front can be obtained

10 20 30 40 50

10

20

30

40

50

flux

weight

losses

A

B

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 29/32

Page 30: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Pareto ranking (2/2)

10 20 30 40 50

10

20

30

40

50

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 30/32

Page 31: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Fuzzy aggregation

Using the fuzzy aggregation rule and setting 3 membershipfunctions on the objectives, the map of the resulting scalarfunction becomes

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 31/32

Page 32: Metodi e tecniche di ottimizzazione innovative per applicazioni ... - …nettuno.unina.it/scuolaphd_03/files/2004/Repetto/vector2... · 2004. 10. 21. · Parte 2 Tecniche di scalarizzazione

Conclusions

The solution of vector optimization problems is an art ofcompromise and tradeoff among different requirements

While scalar optimization problems can find univocally asolution, vector ones require a criterion to pick up a"best" solution among a set of Pareto optimal ones

Despite these difficulties, which are proper of the VOPs,research has found methods which can take advantageof the results got in scalar optimization

In fact, both with Pareto based approaches or withaggregation ones, it is possible to use the power ofevolutionary algorithms

Metodi e tecniche di ottimizzazione innovative per applicazioni elettromagnetiche – p. 32/32