Análisis y Complejidad de Algoritmos

8/18/2019 Análisis y Complejidad de Algoritmos

1/26

Arturo Díaz Pérez

Análisis y Complejidad de Algoritmos 1

Análisis y Diseño de Algoritmos Sorting -1

Métodos de Ordenamiento

¬ Tipos de ordenamiento y medidas de eficiencia- Algoritmos básicos® QuickSort

¯ HeapSort° BinSort± RadixSort² Arboles de Decisión

Análisis y Complejidad de Algoritmos

Arturo Díaz Pérez


Tipos de OrdenamientoF O r d e n a m i e n t o i n t e r n o .

ß Se lleva a cabo completamente en memoria principal. Todos losobjetos que se ordenan caben en la memoria principal de lacomputadora

F Ordenam ien to ex te rno .ß No cabe toda la información en memoria principal y es necesario

ocupar memoria secundaria. El ordenamiento ocurretransfiriendo bloques de información a memoria principal endonde se ordena el bloque y este es regresado, ya ordenado, amemoria secundaria


2/26

Arturo Díaz Pérez



Formulación

ß Registros: r 1, r 2, ..., r nß Llaves: k 1, k 2, ..., k nß Obtener la secuencia

ß tal que ,niii

r r r ,...,,21

niii k k k ≤≤≤ ...

21


Criterios de EficienciaF Criterios de eficiencia

ß El número de pasos

ß El número de comparaciones entre llaves para ordenar nregistros.

/ De utilidad cuando la comparación entre llaves es costosa

ß El número de movimientos de registros que se requieren paraordenar n registros.

/De utilidad cuando el movimiento de registros es costoso


3/26

Arturo Díaz Pérez



Métodos Simples de OrdenamientoF Métodos simples

ß Método de Burbujeo

ß Método de Inserción

ß Método de Selección


Método de Burbujeo

void Burbujeo( int A[], int n){

int i,j;for ( i=0; i < n-1; i++ )

for ( j=n-1; j > i; j--)if ( A[j] < A[j-1] )

Intercambia( &A[j], &A[j-1] );}

25

19

3 12 19 2 1 9 6

25 3 12 19 2 6 9

25 3 12 192 6 9

1

253 12 196 9

25 12 196 9

25 12 199

2512 19

25


4/26

Arturo Díaz Pérez



Método de Burbujeovoid Burbujeo( int A[], int n){

int i,j;for ( i=0; i < n-1; i++ )

for ( j=n-1; j > i; j--)if ( A[j] < A[j-1] )

Intercambia( &A[j], &A[j-1] );}

0=min M

Comparaciones:

Movimientos:

222)1(

)(21

1

1

1

nnnniinc

n

i

n

i

−=−==−= ∑ ∑−

=

−

=

222)1(

)(21

1

1

1

nnnniin M

n

i

n

imax −=

−==−= ∑ ∑−

=

−

=


Método de Selección

25 3 12 19 2 1 9 6

121

25312 19

3 1219 625

25 1912 96

25 129

9

252 93 19 6

25 1912

19

2

19

9 6

25

void Selección( int A[], int n ){

int i, j, imin;for ( i=0; i < n-1; i++ ) {

imin = i;for ( j = i+1; j > n; j++ )

if( A[j] < A[imin] )imin = j;

intercambia( &A[i], &A[imin] );

}}


5/26

Arturo Díaz Pérez



Método de Selecciónvoid Selección( int A[], int n ){

int i, j, imin;for ( i=0; i < n-1; i++ ) {

imin = i;for ( j = i+1; j > n; j++ )

if( A[j] < A[imin] )imin = j;

intercambia( &A[i], &A[imin] );}

}

Comparaciones:

Movimientos:

222

)1( 21

1

1

1

nnnniinC

n

i

n

i

−=−==−=

∑ ∑

−

=

−

=

1−=n M


Método de Inserción

void Inserción( int A[], int n ){

int i,j;

for ( i=1; i < n; i++ ) {j:= i;

while ( j > 0 && A[j] < A[j-1] ) {Intercambia( &A[j], &A[j-1] );j--

}

}}

25 3 12 19 2 1 9 6

123 25

253 12 19

3 12 19 225

253 122 119

253 12 1921 9

253 12 1921 9 6

253 12 1921 96


6/26

Arturo Díaz Pérez



Método de Inserciónvoid Inserción( int A[], int n ){

int i,j;

for ( i=1; i < n; i++ ) {j:= i;

while ( j > 0 && A[j] < A[j-1] ) {Intercambia( &A[j], &A[j-1] );j--

}}

}

Comparaciones:

Movimientos:

1−= nC min

222)1(

)(

21

1

1

1

nnnniinC

n

i

n

imax −=

−==−= ∑ ∑

−

=

−

=

0=min M

222)1( 21

1

nnnni M

n

imax −=

−== ∑−

=


1 2 n

jv

< v

1 2 j-1 n

> v

ß selecciona un valor v del arreglo, llamado pivote , y rearregla loselementos del arreglo de manera que todos los elementos menores quev queden colocados antes que v y todos los elementos mayores oiguales que v queden colocados después que v.

QuickSortF Dado un arreglo desordenado de n elementos

A1 2 3 n-1 n


7/26

Arturo Díaz Pérez



QuickSort1 2 n

jv

< v

1 2 j-1 n

> vvoid quicksort( int A[], int i, int j ){

if ( desde A[i] hasta A[j] existen almenos dos llaves distintas ) {

Seleccionar un pivote, v Permutar A[i], ...,A[j], tal que,para algún k entre i+1 y j,

A[i], ..., A[k-1] < v yA[k], . . . , A[j] ≥ v quicksort( A, i, k-1 );quicksort( A, k, j );

}}


QuickSort: Pivote

int pivote( int A[], int i, int j ){

int k, r;

for ( k = i+1; k 0 )return k;}/* No hay llaves diferentes */return -1;

}

i j


8/26

Arturo Díaz Pérez



QuickSort: Particionamientoi j

l r < v > v

A[ p]


9/26

Arturo Díaz Pérez



QuickSort: Ejemplo

25 3 12 6 2 3 9 6Pivote 25

6 3 12 6 2 3 9 25Pivote 6

Pivote 3 Pivote 12

Pivote 9

3 3 2 6 12 9 6

2 3 3 6 6 9 12

96 6


Caso Promedio, Peor y Mejor

F ¿Puede dar una idea de cuales son los casosß Promedioß Peor ß Mejor?


10/26

Arturo Díaz Pérez



QuickSort: Peor Caso• ¿cuántos llamados recursivos se hacen a quicksort?

r n

r n-1

r 1 2r

• Un ejemplo del peor caso se puede mostar en la figura siguiente:

• El tiempo tomado por quicksort para este caso es la suma sobre todos loselementos del número de veces que el elemento forma parte de un subarregloen el cual se hace un llamado a quicksort.


QuickSort: Peor Caso• En el árbol anterior, se representa por la profundidad de cada elemento

del arreglo.• La profundidad de r i es n-i+2, 2 ≤ i ≤ n,• la profundidad de r 1 es n.

• Por lo tanto, en el peor caso quicksort toma un tiempo O(n2)

∑ ∑= =

+=+−+n

i

n

i

ininn2 2

2

12

)1( −++= nnn

12

32

2

−+= nn

r n

r n-1

r 1 2r

1

2

3

n

La suma de profundidad es.


11/26

Arturo Díaz Pérez



QuickSort: Caso PromedioF No existen elementos con llaves iguales; todos los

elementos tienen llaves diferentes.F Cuando se llama a quicksort( A, l, m ) todos los órdenes

(permutaciones) de A[l], ...,A[m] son igualmente probables.F Si el ordenamiento inicial es r 1, r 2, ..., r n por el método de

elección del pivote, éste puede ser ó r 1 ó r 2.F Suponga que existen i elementos más pequeños que el

pivote.F Si el pivote, v , es r 1, uno de los i elementos más pequeños

que el pivote está en la segunda posición.F Similarmente, si el pivote es r 2, uno de los i elementos

más pequeños que el pivote está en la primera posición


QuickSort: Caso PromedioF El pivote debe ser el ( i +1 )-ésimo elemento más

pequeño, del arreglo.ß La probabilidad de que cualquier elemento, tal como el ( i +1 )-

ésimo más pequeño, aparezca en la primera posición es 1/n .ß Dado que ya apareció en la primera posición, la probabilidad de

que el segundo elemento sea uno de los i elementos máspequeños de los n -1 restantes es i /(n -1) .

ß La probabilidad de que el pivote aparezca en la primera posicióny uno de los i elementos más pequeños en la segunda posiciónes i /n (n -1) .

F Similarmente, la probabilidad de que el pivote aparezcaen la segunda posición y uno de los i elementos máspequeños en la primera posición es i /n (n -1)


12/26

Arturo Díaz Pérez



])()([)1(

2)(

1

12 ∑

−

=−+−+≤

n

i

inT iT nn

incnT

QuickSort: Caso PromedioF Por lo tanto, la probabilidad de que haya i elementos

más pequeños que el pivote es 2i /n (n -1)

)]()([ particiónladetiempo)( inT iT P nT i −++≤

void quicksort( int A, int i, int j ){

int ind, k;ind = pivote( A, i, j );if ( ind >= 0 ) {

k = particion(A, i, j, A[ind] );quicksort( A, i, k-1 );quicksort( A, k, j );

}}


QuickSort: Caso Promedio

∑∑ ∑ ∑ −

=

−

=

−

=

−

=−+=⇒−=

1

1

1

1

1

1

1

1

)()(21

)()()(n

i

n

i

n

i

n

i

in f i f i f in f i f

∑−

=+

+−−

−+−+−≤1

12)]()([)1(

)(2)]()([

)1(2

21

)(n

i

nciT inT nn

ininT iT

nni

nT

nciT inT n

ininT iT ni

n

n

i2

1

1

)]()([)]()([1

1 +

+−−+−+−= ∑

−

=

∑−

=+−+−=

1

12))()((1

1 n

i

ncinT iT n

F Se puede demostar que

F Aplicándolo a la recurrencia con T (n), se tiene

, por lo tanto

])()([)1(

2)(

1

12 ∑

−

=−+−+≤

n

i

inT iT nn

incnT f (i)


13/26

Arturo Díaz Pérez




∑−

=+−+−≤

1

12))()((1

1)(

n

i

ncinT iT n

nT

∑−

=+−≤

1

12)(1

2)(

n

i

nciT n

nT

F Por lo tanto,

F Se puede probar probar por inducción queT (n) ≤ c n log 2n

para alguna constante c y para n ≥2.



F Supongamos que T (1) = c1F Para n = 2

ß T (2) ≤ 2c1 + 2c2 = 2( c1+c2 ) log 22,ß Si c ≥ c1+c2ß T (2) ≤ c2log 22

∑−

=+−≤

1

12)(1

2)(

n

i

nciT n

nT


14/26

Arturo Díaz Pérez




∑−

=+−≤

1

12)(1

2)(

n

i

nciT n

nT

∑−

=+−≤

1

12log1

2 n

i

ncicin

nciiiin

cnT

n

ni

n

i2

1

1

1

2

2

loglog1

2)( ++−≤ ∑ ∑=

−

+=

ncnininc

n

ni

n

i2

1

1

1

2

2log)1(log1

2

++−−≤ ∑ ∑=−

+=

ncnn

nnn

nnn

nc

2log1243

124

log1241

2 +

−+

+−

+−≤

F Supongamos que es válida para todo k < n.


ncnn

nnn

nnn

nc

nT 2log1243

124

log1241

2)( +

−+

+−

+−≤

ncnn

nnn

nc

2

22

48log

2212 +

+−

−−≤

ncncncn

ncn 2)1(24log +−−−≤


F Si c ≥4c2, entonces, la suma del segundo y cuartotérmino no es mayor que 0,F Ya que el tercer término es una contribución negativa,

entonces T (n ) ≤ cn log 2n .

ncnn

nnn

nc

2

2

82

log2

)1(1

2 + +−−−≤


15/26

Arturo Díaz Pérez



HeapSortF Estructura de datos abstracta

ß AGREGA, BORRAMIN, VACIA e INICIA

(1) INICIA( S);(2) for ( cada elemento, x, a ordenar )(3) AGREGA( x, S );(4) while ( !VACIA(S) ) {(5) y = BORRA_MIN(S);(6) printf(" ... ", y );(7) }

Si las operaciones VACIA e INICIA toman un tiempo O(1) y

las operaciones AGREGA y BORRA_MIN toman un tiempoO(log n), donde n es el número de elementos a ordenar, esclaro que el método de ordenamiento anterior tomaría untiempo O(nlogn)


Arbol Parcialmente OrdenadoF Un árbol parcialmente ordenado cumple con las

siguientes propiedades:ß El valor de un nodo en el árbol no es mayor que el de sus hijos

F Un árbol parcialmente ordenado se puede representarmediante un arreglo unidimensional, A, en el cual

ß La raíz es A[1], yß Los hijos del nodo A[i] son A[2i] y A[2i+1]

121110987654321829736319459

9

5

9

3 7 9 2 8

1 3 6

4


16/26

Arturo Díaz Pérez



121110987654321829736319459

9

5

9

3 7 9 2 8

1 3 6

4

HeapSort, cont.

F Nota:ß Si n es el número de elementos del arreglo, n/2 son nodos

interiores del árbol binario.F Sólo los nodos interiores se deben considerar para

ordenar el árbol en forma parcial.


HeapSort: Descenso.F Supongamos que los elementos

A[i], . . . ,A[j]

obedecen ya la propiedad de los árboles parcialmenteordenados, excepto posiblemente por A[i].

F La función siguiente desciende a A[i] hasta que se

obtenga la propiedad de los árboles parcialmenteordenados.


17/26

Arturo Díaz Pérez



HeapSort: Descenso.void desciende( int A, int i, int j ){

int r;

r = i; while ( r j ) { /* r tiene sólo un hijo */if ( comp( A[r], A[2*r]) > 0 )

intercambia ( &A[r], &A[2*r] );r = j;

} else { /* r tiene dos hijos */if ( comp( A[r], A[2*r] ) > 0 &&

comp( A[2*r], A[2*r+1] ) 0 &&comp( A[2*r+1], A[2*r] ) A[n-k+2] . . .

A[n-k] A[n-k+1] A[n]

arreglo en orden nocreciente

> A[n]>

void HeapSort( A, n )..

{int i;

for ( i = n/2; i >= 1; i-- )/* Inicialmente, establece la propiedad

del árbol parcialmente ordenado */

desciende ( A, i, n);for ( i = n; i >= 1; i-- ) {/* Quita el menor elemento */intercambia( &A[1], &A[i] );

/* reestablece el árbol parcialmente ordenado */desciende( A, 1, i-1 );

}}


18/26

Arturo Díaz Pérez



Ordenamiento Lineal

F Supongamos que las llaves son enteros en el rango de 1 a n, yque no existen llaves iguales .

ß Si A y B son arreglos de tipo adecuado y los n elementos que van a serordenados están inicialmente en A, se pueden colocar en el arreglo B enel orden de sus llaves mediante

for ( i = 1; i


19/26


20/26

Arturo Díaz Pérez



BinSort: Inserta

.

iniciofin

Operación de Inserción


BinSort: ConcatenaOperación de Concatenación


21/26

Arturo Díaz Pérez



BinSort

F Observaciones:ß Suponga que se desea ordenar una lista de valores enteros en el

rango 0 a n2-1. Se utilizan n cubetas, una para cada uno de losenteros 0,1, . . . , n-1

ß Dos fases:/ Se coloca el entero i al final de la cubeta i mod n/ Se seleccionan los valores en el orden en que están

almacenados en las cubetas desde la 0 hasta la n-1. El entero ise coloca al final de la cubeta i/n


BinSort: EjemploF Ejemplo

ß 0, 1, 81, 64, 4, 25, 36, 16, 9, 49

Cubeta Contenido0 01 1,81234 64,4

5 256 36,16789 9,49

Cubeta Contenido0 0,1,4,91 162 253 364 49

56 6478 819

Primera Fase Segunda Fase


22/26

Arturo Díaz Pérez



BinSort

F Observaciones:ß Si los números i, j están en el rango 0 a n2-1 se puede pensar que

ellos se pueden expresar en base n como números de dos dígitos,esto es,

/ i = an + b y j = cn + d, donde a , b, c, y d están dentro delrango 0, n-1

/ Si i < j, entonces, a ≤ c3 Si a < c, i aparece en una cubeta menor a la de j en la segunda

pasada, así que i precederá a j en el ordenamiento final.3 Si a = c, entonces, b


23/26

Arturo Díaz Pérez



RadixSortF La idea clave detrás del método es ordenar todos los elementos

de acuerdo al campo f k (el dígito menos significativo ) y luegoconcatenar las cubetas.

ß Después aplicar el método para f k -1 y así hasta f 1.

F Se debe asegurar que al agregar un elemento a una cubeta sehaga siempre al final.

F En general, después de aplicar el método sobre los campos, f k , f k -1, ..., f i los elementos aparecerán en el orden lexicográfico sisus llaves consistieran únicamente de los campos f i, ..., f k


RadixSortvoid RadixSort()/* Ordena la lista A de n elementos con llaves que

consisten de los campos f 1 , f 2 , ..., f k de tipost 1 , t 2 , . . . , t k , respectivamente. Utiliza arreglosBi , 1 ≤ i ≤ k, para las cubetas de los valores en elcampo f i */

{

(1) for ( i = k; k >= 1; k-- ) {(2) for ( cada valor v del tipo t i )(3) INICIA( B i [v] );

(4) for ( cada elemento r en la lista A )(5) Colocar r al fina l de la cubeta B i [v], donde v

es el valor para el campo f i de la llave de r.(6) for ( cada valor v del tipo t i , de menor a mayor)(7) Concatenar B i [v] al final de A.

}}


24/26

Arturo Díaz Pérez



RadixSort

∑=

+k

ii n sO

1

)( ∑∑==

++k

ii

k

ii snOú sknO

11

)()(

F Si si es el número de valores diferentes del tipo t i.ß Las líneas (2) y (3) toman un tiempo O( s i )ß Las líneas (4) y (5) toman un tiempo O(n)

ß Las líneas (6) y (7) toman un tiempo O( s i ).F El tiempo total del RadixSort es

⇒

void RadixSort(){(1) for ( i = k; i >= 1; i-- ) {(2) for ( cada valor v del tipo t i )(3) INICIA( B i [v] );

(4) for ( cada elemento r en la lista A )(5) Colocar r al final de la cubeta B i [v], donde v

es el valor para el campo f i de la llave de r.(6) for ( cada valor v del tipo t i , de menor a mayor)(7) Concatenar B i [v] al final de A.

}}


Arboles de DecisiónF Un árbol de decisión para un método de ordenamiento

es un árbol binario en el cual sus nodos representan elestado del método después de hacer algún número decomparaciones.

F El estado de un programa de ordenamiento esesencialmente el conocimiento acerca de losordenamientos iniciales que se han obtenido por elprograma hasta ese momento.


25/26

Arturo Díaz Pérez



Arboles de Decisión

abc, acb, bac,bca, cab, cba

¿A[2] < A[1]?¿b < a?

1

bac, bca, cba abc, acb, cab2 3

¿A[3] < A[2]?¿c < a?

bca, cba bac 4 5

¿A[3] < A[2]?¿c < b?

acb, cab abc 6 7

¿A[2] < A[1]?¿c < b?

bcacba8 9

¿A[2] < A[1]?¿c < a?

acbcab10 11


Arboles de DecisiónF si se ordena una lista de elementos de tamaño n, a 1, a 2, ..., a n existen n ! =

n (n -1 ) (n -2) (2) (1) posibles ordenamientos correctos.

F La longitud del camino más largo de la raíz a una hoja es una cota inferioren el número de pasos ejecutados por el algoritmo en el peor caso.

F Ya que un árbol binario con k hojas debe tener un camino de longitud almenos log k , entonces, un algoritmo de ordenamiento que utiliza sólocomparaciones para ordenar una lista de n elementos debe tomar en el peorcaso un tiempo Ω( log n! ).

2log

22log

2)!log(

nn

nnnn −=≥

2

22...22)1()2(...)1(!

n

nnnnnnn =⋅⋅⋅≥⋅⋅⋅−⋅=n/2 veces


26/26

Arturo Díaz Pérez


Arboles de DecisiónF El ordenamiento por comparaciones requiere un tiempo Ω ( n log n ) en el

peor caso

F Ejercicio: Uno puede preguntarse si existe un algoritmo de ordenamientoque utilice únicamente comparaciones y que toma un tiempo Ω( n log n ) enel peor caso, pero en el caso promedio toma un tiempo O(n) o algo menor aO(n log n).

F ¿Existe tal algoritmo ?

Documents

Análisis y Complejidad de Algoritmos