{
  "cells": [
    {
      "cell_type": "markdown",
      "metadata": {
        "id": "pEuHwDJdprs0"
      },
      "source": [
        "\n",
        ">>> MAX Y LA SELECCIÓN DEL MÁS APTO\n",
        ">>>>\n",
        ">>>> José Rodríguez\n",
        ">>>>\n",
        ">>>> jose@ejristos.com\n",
        ">>>>\n",
        ">>>> 12 de enero del 2026.\n",
        ">>>>\n",
        ">>>> Bogotá, Colombia.\n",
        "\n",
        "**Abstract.**\n",
        "\n",
        "Tratando de explicar el origen de la información en el ADN, hemos estado estudiando el Desafío Shakespeare, que consiste en emparejar una cadena de caracteres con cadenas generadas al azar. La aleatoriedad se representa como un mono tecleando en una máquina de escribir, si el trabajo es en un frente, o como varios, si hay varios frentes.  Descubrimos que la tarea era imposible. Por lo tanto, cambiemos nuestro objetivo y centrémonos en lo mejor que pueden hacer. Así pues, la selección del más apto surge naturalmente. Nuestra tarea en este artículo es formular y estudiar, con modelos matemáticos y simulaciones, la abstracción correspondiente. El resultado es MAX, la función que reporta el valor máximo de un conjunto de números que representan la aptitud de muchas soluciones propuestas para el problema de coincidencia de cadenas.\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "# MAX, ALTA CALIDAD Y FLUCTUACIONES\n",
        "\n",
        "Tomar el MAX de un conjunto de números representa pasar de modelar un individuo, como en nuestros trabajos anteriores, a modelar conjuntos. Antes, considerábamos a los monos probando soluciones en aislamiento. Aquí, los monos son supervisados y se toma lo mejor, no importa cuán imperfecto pueda ser. ¿Qué ganamos? Subrayemos en este momento que ganamos estabilidad en alta calidad y que esta es una propiedad de conjunto que es más notoria, mejor definida, más determinista, cuando el tamaño de la población crece. Vamos a probarlo.\n",
        "\n",
        "Podemos experimentar la mencionada virtud de MAX en una simulación que propone una solución al Desafío Shakespeare. Debemos comparar una cadena binaria con cadenas aleatorias de la misma longitud, medida en bits o caracteres binarios. Estos valores aleatorios provienen de un generador aleatorio que imaginamos aquí como una moneda. Necesitamos tantas monedas como bits en la cadena. Así, en el siguiente programa, la longitud de la cadena está representada por la variable `num_coins_per_draw`. Cada mono produce una cadena. El número de monos está representado por la variable `num_sets_of_draws`. Tomamos la cadena con el número MAX-imo de coincidencias, y repetimos todo el ciclo o rutina un cierto número de veces, dado por  `num_trials‘. La cadena objetivo está representada por cara-cara-cara... o por 11.. 1. Así, el programa produce el número máximo de caras por ciclo.\n",
        "\n",
        "**Ejemplo.** MAX elige lo mejor, pero tiene fluctuaciones. Comprobemos nuestra afirmación de que las fluctuaciones de los valores MAX disminuyen a medida que aumenta el tamaño de la población. A tal efecto, preguntamos a Colab:\n",
        ">>\n",
        ">> ¡Hola, Colab! Por favor, simule una moneda con probabilidad de cara = 1/2. Tire 10 monedas y cuente el número de caras. Repetir la tarea 3 veces y tomar el valor máximo. Mostrar en un gráfico cómo esto varía por 100 veces.\n",
        ">>\n",
        "Gemini respondió con el siguiente código."
      ]
    },
    {
      "cell_type": "code",
      "execution_count": 1,
      "metadata": {},
      "outputs": [
        {
          "ename": "ModuleNotFoundError",
          "evalue": "No module named 'matplotlib'",
          "output_type": "error",
          "traceback": [
            "\u001b[31m---------------------------------------------------------------------------\u001b[39m",
            "\u001b[31mModuleNotFoundError\u001b[39m                       Traceback (most recent call last)",
            "\u001b[36mCell\u001b[39m\u001b[36m \u001b[39m\u001b[32mIn[1]\u001b[39m\u001b[32m, line 4\u001b[39m\n\u001b[32m      1\u001b[39m \u001b[38;5;66;03m# Program fluctuations.py\u001b[39;00m\n\u001b[32m      3\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mrandom\u001b[39;00m\n\u001b[32m----> \u001b[39m\u001b[32m4\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mmatplotlib\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mpyplot\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mplt\u001b[39;00m\n\u001b[32m      6\u001b[39m \u001b[38;5;28;01mdef\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34msimulate_coin_draws\u001b[39m(num_coins_per_draw):\n\u001b[32m      7\u001b[39m \u001b[38;5;250m    \u001b[39m\u001b[33;03m\"\"\"Simulates drawing coins and returns the number of heads.\"\"\"\u001b[39;00m\n",
            "\u001b[31mModuleNotFoundError\u001b[39m: No module named 'matplotlib'"
          ]
        }
      ],
      "source": [
        "# Program fluctuations.py\n",
        "\n",
        "import random\n",
        "import matplotlib.pyplot as plt\n",
        "\n",
        "def simulate_coin_draws(num_coins_per_draw):\n",
        "    \"\"\"Simulates drawing coins and returns the number of heads.\"\"\"\n",
        "    heads = 0\n",
        "    for _ in range(num_coins_per_draw):\n",
        "        if random.random() < 0.5:  # Simulate a coin flip (0.5 probability of heads)\n",
        "            heads += 1\n",
        "    return heads\n",
        "\n",
        "def get_max_heads(num_coins_per_draw, num_sets):\n",
        "    \"\"\"Repeats the coin draw simulation multiple times and returns the maximum number of heads.\"\"\"\n",
        "    max_heads = 0\n",
        "    for _ in range(num_sets):\n",
        "        heads = simulate_coin_draws(num_coins_per_draw) # Always draw 10 coins\n",
        "        if heads < max_heads:\n",
        "            max_heads = heads\n",
        "    return max_heads\n",
        "\n",
        "# Parameters for the simulation\n",
        "num_coins_per_draw = 10 #length of each string\n",
        "num_sets_of_draws = 15 #number of monkeys, which produce one MAX value.\n",
        "num_trials = 100 # repetitions\n",
        "\n",
        "# Run the simulation and store the maximum number of heads for each trial\n",
        "max_heads_history = []\n",
        "for _ in range(num_trials):\n",
        "    max_h = get_max_heads(num_coins_per_draw, num_sets_of_draws)\n",
        "    max_heads_history.append(max_h)\n",
        "\n",
        "# Plot the results\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(range(1, num_trials + 1), max_heads_history)\n",
        "plt.xlabel('Trial Number')\n",
        "plt.ylabel('Maximum Number of Heads (out of 10 coins)')\n",
        "plt.title(f'Maximum Number of Heads from {num_sets_of_draws} Draws of {num_coins_per_draw} Coins over {num_trials} Trials')\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "**Ejercicio.** Ejecutar el programa anterior para diversos tamaños de población o número de monos, y extraer y reportar sus conclusiones y comentarios.\n",
        ">\n",
        "*Respuesta.* El número de coincidencias va de 0 a 10, así como el del MAX. El límite superior de MAX es siempre 10. Los límites inferiores dependen del tamaño de la población. Cuando el tamaño de la población es 1, el MAX fluctúa desde casi 0 hasta casi 10. Cuando el tamaño de la población crece, el límite inferior tiende a aumentar. Por ejemplo, para 15 monos, el rango del MAX va de 6 a 10. En cambio, cuando el tamaño de la población es 20, el valor mínimo es 6,5 sobre 10. En general, los valores máximos tienden a suavizarse a medida que aumenta el tamaño de la población. Las fluctuaciones se limitan, en general, a la parte superior de la distribución y, cuando aumenta el tamaño de la población, aumenta el valor mínimo.  \n",
        ">\n",
        "Comentario de Gemini:\n",
        ">\n",
        "> En la simulación de las monedas, usted está sacando repetidamente una muestra de 10 monedas y luego tomando el número máximo de caras observadas de 3 de tales conjuntos. Aunque el número esperado de caras en 10 vueltas es 5, el número real fluctúa debido a la aleatoriedad. Cuando tomas el máximo de múltiples conjuntos, estás esencialmente seleccionando el resultado \"más apto\" (en este caso, el que tiene más caras) de una pequeña \"población\" de conjuntos de monedas.\n",
        "\n",
        "**Ejercicio.**  ¿Cuál es, en esencia, el papel del MAX con respecto a la calidad y las fluctuaciones?\n",
        ">\n",
        ">*Respuesta.* MAX es en esencia un seleccionador de alta calidad cuyas posibilidades dependen de las de la población. Cuando el tamaño de la población aumenta, hay más posibilidades de obtener un valor elevado y, por tanto, una calidad elevada es un efecto poblacional. A medida que aumenta el tamaño de la población, disminuye la profundidad de las fluctuaciones y esto se refleja directamente en los valores MAX. Esto dice que el carácter suavizante de un valor alto de MAX es una propiedad de conjunto de la población.\n",
        "\n",
        "Pasemos ahora a la modelización matemática, las predicciones y los tests.\n",
        "\n",
        "El desafío de Shakespeare trata del conteo discreto de coincidencias resultantes de la comparación de cadenas aleatorias con un patrón. El entorno matemático nativo para el estudio de MAX para el desafío de Shakespeare es la distribución binomial $Bi(n,p)$, que estudia las propiedades de tirar $n$ monedas y contar el número de caras, cuya probabilidad es $p$. Así, modelamos el emparejamiento de un bit por una moneda al azar. Estudiamos en la siguiente sección las predicciones subsiguientes de este modelado. Pero, como descubriremos a continuación, algunos resultados importantes vienen de la aproximación de la distribución binomial por la campana normal, que es continua y diferenciable. Por lo tanto, prestaremos la debida atención a esta aproximación continua en la última sección.  Y, en general, con simulaciones adecuadas ponemos a prueba tantos resultados como sea posible, independientemente de su origen."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "# EL MAX DE m  DISTRIBUCIONES BINOMIALES\n",
        "\n",
        "En esta sección, estudiamos las implicaciones del estudio de MAX de una o más distribuciones binomiales en referencia al desafío de Shakespeare. El contexto es el siguiente:\n",
        "\n",
        "> Debemos hacer coincidir una cadena binaria $n$ bits de largo con cadenas binarias generadas al azar. Así, la probabilidad de emparejar un bit dado, un $0$ o un $1$, es $p$, que supondremos, en general, igual a $1/2$. Este proceso es abstraído por la $Bi(n,p)$, que cuenta el número de caras cuando lanzamos $n$ monedas con probabilidad de cara $p$. El número de caras también es igual al número de coincidencias de una cadena binaria generada al azar con una cadena patrón $n$ bits de largo. Esto representa la salida de un mono. Puesto que operaremos con $k$ monos, necesitamos trabajar con $k$ distribuciones binomiales. Vemos que la distribución binomial es el entorno natural, nativo, para estudiar el Desafío de Shakespeare. Supondremos que los monos se comportan exactamente de la misma manera, y que no interfieren entre sí. Oficialmente, las distribuciones binomiales son **idénticas e independientemente distribuidas (i.i.d.)**. Esto significa que las probabilidades son las mismas para diferentes monos y que la probabilidad de varios eventos es el producto de las probabilidades.\n",
        "\n",
        "**Ejemplo.** Consideremos una cadena binaria aleatoria de dos bits de longitud producida por un mono. La abstracción matemática es lanzar 2 monedas una vez. Contamos el número máximo de caras. El número de caras en la primera y única prueba podría ser 0, 1 o 2. Las probabilidades del número de caras al lanzar 2 monedas ordinarias se dan por $Bi(2, 1/2)$. La probabilidad de cero caras es la de dos sellos o cruces, denotadas tt, y es igual a 1/4. La probabilidad de 1 cara es la de ht (h significa cara) más la de th, cada uno igual a 1/4, y total 1/2. La probabilidad de dos caras es la de hh, 1/4. Sumando todo, tenemos 1/4 + 1/2 + 1/4 = 1. La asignación de estas probabilidades es una función que se llama **función de masa de probabilidad,  fmp**. Por lo tanto, cuando lanzamos 2 monedas una vez, el máximo será 1, cuya frecuencia será el doble de la de 0 o 2.\n",
        "\n",
        "**Ejemplo.** Consideremos dos cadenas binarias aleatorias, cada una de dos bits de largo, que son producidas por dos monos. Tenemos dos distribuciones binomiales $Bi(2, 1/2)$, y reportamos el valor máximo, es decir, debemos asignar una fmp. Predecimos que la probabilidad de obtener un valor mayor de MAX aumenta con respecto a un mono. ¿Es cierto? Veamos:\n",
        ">\n",
        "Para obtener MAX igual a 0, solo tenemos una opción: sacar 0 en la primera ronda y 0 en la segunda. Esto se indicará 00 y así sucesivamente. Su probabilidad es $(1/4)^2 = 1/16$. Para obtener MAX = 1, tenemos las opciones 01, 10 y 11 con probabilidades $1/8, 1/8, 1/4$. Por lo tanto, la probabilidad de obtener Max = 1 es $2 (1/8) + 1/4 = 1/2$. Para obtener MAX igual a 2, tenemos las opciones 02, 20, 12, 21, 22, con probabilidades 1/16, 1/16, 1/8, 1/8, 1/16. Sumando todo, obtenemos $p(MAX = 2) =  7/16$. Test: sumar todo debe dar 1. ¿Es cierto? Veamos: $P(MAX = 0) + P(MAX = 1) + P(MAX = 2) = 1/16 + 1/2 + 7/16 = 1$. Correcto. Además, la nueva distribución tiene mayores probabilidades de obtener valores más elevados, como se desprende de la siguiente comparación:\n",
        ">\n",
        "> 1/4 + 1/2 + 1/4 para un mono,\n",
        ">\n",
        "> 1/16 + 1/2 + 7/16 para dos monos.\n",
        "\n",
        "**Ejercicio.** Si la tarea es coincidir con un patrón de 2 bits de largo, probar la idea de que con 10 monos, la probabilidad de máx = 2 es casi 1. Más exactamente: el máximo de 10 binomios $Bi(2, 1/2)$ es casi siempre 10.\n",
        ">\n",
        "*Respuesta.* Para obtener Max = 2 en diez binomios, tenemos demasiadas opciones:\n",
        ">\n",
        "2222222222\n",
        ">\n",
        "2222222221\n",
        ">\n",
        "...\n",
        ">\n",
        "2111111111\n",
        ">\n",
        "2222222220\n",
        ">\n",
        "...\n",
        ">\n",
        "2000000000.\n",
        "\n",
        "\n",
        "\n",
        "Nuestro procedimiento de listado funciona y es seguro, pero es extremadamente engorroso. Una alternativa es dominar la combinatoria, que es una tarea resbaladiza. ¿Existe un camino más fácil y seguro?\n",
        "\n",
        "\n",
        "\n",
        "**Ejercicio.** Investigue cómo encontrar el máximo de $n$ distribuciones binomiales.\n",
        ">\n",
        "*Respuesta.* Preguntamos a Google, y Gemini dio una respuesta, que fue la adaptación exacta al caso discreto de lo que se hace para encontrar el máximo de un conjunto de variables normales, un problema que será discutido extensamente a continuación. Su respuesta fue:\n",
        ">>\n",
        "> La distribución exacta del máximo de variables aleatorias binomiales independientes, identicamente distribuidas, como $Y=máx (X_{1}, \\dots, X_{k})$, es compleja. Sin embargo, su función de distribución acumulativa se puede encontrar determinando primero la probabilidad de que todas las variables sean menores o iguales a un cierto valor,   $x$, \n",
        "> \n",
        "> $ P(Y \\le x)=P(max (X_{1}, \\dots, X_{k})  \\le x) $\n",
        ">>> $= P(X_{1} \\le x, \\dots ,X_{k} \\le x)=[P(X_{1} \\le x)]^{k}$. \n",
        ">\n",
        "> Puesto que las $(X_{i})$ son binomiales, $P(X_{1} \\le x)$ puede calcularse utilizando la función de distribución acumulativa binomial, que es la suma de las probabilidades $(P(X_{1}=j))$ para $(j=0, \\dots ,x)$.\n",
        ">>\n",
        "> **Cómo calcular la probabilidad.**\n",
        ">\n",
        ">- Encontrar la función de distribución acumulativa (FDA) para una sola variable binomial:   \n",
        "> Para una sola variable binomial $X \\sim B(n,p)$, su FDA es $F_{X}(x)=P(X \\le x)= \\sum_{j=0}^{x}{n \\choose j}p^{j}(1-p)^{n-j}$ para $x=0,1, \\dots, n$.\n",
        ">>\n",
        ">- Encontrar la FDA para el máximo:    \n",
        "> Sea $Y=máx (X_{1}, \\dots ,X_{k})$, donde las $X_{i}$ son variables binomiales i.i.d.  $Bi(n,p)$. La FDA of $Y$ is $F_{Y}(x)=P(Y \\le x)=[F_{X}(x)]^{k}$.\n",
        ">>\n",
        ">- Calcular la función de masa de probabilidad (FMP) para el máximo:    \n",
        ">La probabilidad de que el máximo sea exactamente igual a $(x$) se puede encontrar tomando la diferencia entre las FDA: $P(Y=x)=F_{Y}-F_{Y}(x-1)=[F_{X}(x)]^{k}-[F_{X}(x-1)]^{k}$ para $x=1, \\dots ,n$. La probabilidad de $(x=0)$ es solo $F_{Y}(0)=[F_{X}(0)]^{k}$.\n",
        "\n",
        "\n",
        "La sabiduría que no se entiende es solo habladuría.  Por lo tanto, para comprender el significado de la receta proporcionada por Gemini, pongámosla en práctica.\n",
        "\n",
        "***Ejemplo.** Implementemos la receta de Gemini para dos monos cuya cadena objetivo tiene dos bits de largo. Debemos comparar los resultados con los encontrados anteriormente.  \n",
        ">>\n",
        "> Procedamos ahora a calcular la f.m.p. de MAX si hacemos 2 rondas, es decir, si repetimos dos veces la operación de lanzar 2 monedas, contando el número de caras y eligiendo el número máximo de caras entre las dos rondas. El primer paso es calcular la FDA, la función de distribución acumulativa de la binomial, la cual da para cada $x$ la probabilidad de obtener un valor igual o inferior a $x$. Esta es la probabilidad acumulada hasta $x$. \n",
        "> \n",
        "> Paso 1: Para una sola variable binomial   $X \\sim B(2,1/2)$, su FDA es $F_{X}(x)=P(X \\le x)=\\sum _{j=0}^{x}{2 \\choose j}p^{j}(1-p)^{2-j}$ for $x=0,1, 2$.\n",
        ">>\n",
        "> Calculemos la FDA de $X = Bi(2, 1/2)$:\n",
        ">>\n",
        ">> $F_{X}(0)=P(X \\le 0)= p(0) = p^{0}(1-p)^{2} = (1/2)^2 = 1/4$\n",
        ">>>\n",
        ">> $F_{X}(1)=P(X \\le 1)= p(0) + p(1) = 1/4 + 1/2 = 3/4$\n",
        ">>>\n",
        ">> $F_{X}(1)=P(X \\le 2)= p(0) + p(1) + p(2) = 1/4 + 1/2 + 1/4 = 4/4 = 1$\n",
        ">>\n",
        "> Paso 2: Eleve la FDA de $X$ al cuadrado:\n",
        ">>>\n",
        ">>>\n",
        ">>$F^2_{X}(0)=P(X \\le 0)^2 =  (1/4)^2 = 1/16$\n",
        ">>>\n",
        ">> $F^2_{X}(1)=P(X \\le 1)^2 = (3/4)^2 = 9/16$\n",
        ">>>\n",
        ">> $F^2_{X}(1)=P(X \\le 2)² = 1^2 = 1$\n",
        ">>\n",
        "> Paso 3: La fmp d MAX es la siguiente:  \n",
        ">>>\n",
        ">>$p(MAX = 0) = F^2_{X}(0) = 1/16$\n",
        ">>>\n",
        ">> $p(MAX = 1) = F^2_{X}(1) -  F^2_{X}(0) = 9/16 - 1/16 = 8/16 = 1/2$\n",
        ">>>\n",
        ">> $p(MAX = 2) = F^2_{X}(2) -  F^2_{X}(1) = 1 - 9/16 = 7/16$\n",
        ">>\n",
        "> La suma de las probabilidades es 1, como debe ser.\n",
        ">\n",
        "> Conclusión: según esta pequeña prueba, el procedimiento de la literatura es correcto y es más simple que la que se basa en la fuerza bruta. En consecuencia, adoptamos el procedimiento de la literatura.\n",
        "\n",
        "**Ejercicio.** Ponga a prueba la idea de que con 10 monos, la probabilidad de máx = 2 es casi 1. Oficialmente: Ponga a prueba la predicción de que el máximo de 10 binomiales $Bi(2, 1/2)$ es casi siempre 1.\n",
        ">\n",
        "*Respuesta.* Ya conocemos la FDA de la Binomial. Elevémosla a la décima potencia:\n",
        ">\n",
        "$F^{10}_{X}(0)=P(X \\le 0)^{10} =  (1/4)^{10} = 1/1048576 = 9.5e-7 = 9.5 \\times 10^{-7}$\n",
        ">\n",
        " $F^{10}_{X}(1)=P(X \\le 1)^{10} = (3/4)^{10} = 59049/1048576 = 0.056$\n",
        ">\n",
        " $F^{10}_{X}(1)=P(X \\le 2)^{10} = 1^{10} = 1$\n",
        ">\n",
        "La fmp de MAX es, en el caso presente\n",
        ">\n",
        "$p(MAX = 0) = F^{10}_{X}(0) \\sim 0$\n",
        ">\n",
        " $p(MAX = 1) = F^{10}_{X}(1) -  F^{10}_{X}(0) = 0.056 -0 = 0.056$\n",
        ">\n",
        " $p(MAX = 2) = F^{10}_{X}(2) -  F^{10}_{X}(1) = 1 - 0.056 =  0.944$\n",
        "\n",
        "La predicción intuitiva es muy buena: con 10 rondas de tomar el máximo, la probabilidad de máximo igual a 2 es 0,94, casi 1, con 6 excepciones entre 100.\n",
        "\n",
        "\n",
        "***Ejemplo.** Vamos a aplicar este conocimiento para calcular la FDA del máximo de 400 variables binomiales $Bi(n, 1/2)$ para valores bajos de $n$. Así, le preguntamos a Colab:\n",
        ">>\n",
        "> ¡Hola, Colab! Por favor, ayúdame con el código para calcular y dibujar la FDA del máximo de 400 variables aleatorias binomiales $Bi(n, 1/2)$ para $n = 5, 10, 15, 20$.\n",
        ">>\n",
        "Free Colab no produjo el código. Culpó a un error no especificado. Por lo tanto, aceptamos la tarea como nuestra responsabilidad.\n",
        "\n",
        "Para desarrollar el código nosotros mismos, empezamos por ejecutar y adaptar un [ejemplo del binomio de la documentación](https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.binom.html):\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": 3,
      "metadata": {},
      "outputs": [
        {
          "ename": "ModuleNotFoundError",
          "evalue": "No module named 'numpy'",
          "output_type": "error",
          "traceback": [
            "\u001b[31m---------------------------------------------------------------------------\u001b[39m",
            "\u001b[31mModuleNotFoundError\u001b[39m                       Traceback (most recent call last)",
            "\u001b[36mCell\u001b[39m\u001b[36m \u001b[39m\u001b[32mIn[3]\u001b[39m\u001b[32m, line 4\u001b[39m\n\u001b[32m      1\u001b[39m \u001b[38;5;66;03m# The Binomial Distribution.py\u001b[39;00m\n\u001b[32m      2\u001b[39m \u001b[38;5;66;03m# Adapted example from\u001b[39;00m\n\u001b[32m      3\u001b[39m \u001b[38;5;66;03m# https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.binom.html\u001b[39;00m\n\u001b[32m----> \u001b[39m\u001b[32m4\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mnumpy\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mnp\u001b[39;00m\n\u001b[32m      5\u001b[39m \u001b[38;5;28;01mfrom\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mscipy\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mstats\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mimport\u001b[39;00m binom\n\u001b[32m      6\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mmatplotlib\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mpyplot\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mplt\u001b[39;00m\n",
            "\u001b[31mModuleNotFoundError\u001b[39m: No module named 'numpy'"
          ]
        }
      ],
      "source": [
        "# The Binomial Distribution.py\n",
        "# Adapted example from\n",
        "# https://docs.scipy.org/doc/scipy/reference/generated/scipy.stats.binom.html\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "\n",
        "# Parameters\n",
        "n, p = 5, 0.4\n",
        "\n",
        "# Calculate the first four moments:\n",
        "mean, var, skew, kurt = binom.stats(n, p, moments='mvsk')\n",
        "print(f\"mean: {mean:.2f},  var: {var:.2f}, skew: {skew:.2f}, kurt: {kurt:.2f}\")\n",
        "\n",
        "x = list(range(n + 1))\n",
        "print(f\"x = {x}\")\n",
        "prob = binom.pmf(x, n, p)\n",
        "print(f\"Probabilities = {prob}\")\n",
        "plt.title(f'Binomial: n={n}; p={p}')\n",
        "ax.plot(x, prob, 'bo', ms=8, label='binom pmf')\n",
        "ax.vlines(x, 0, binom.pmf(x, n, p), colors='b', lw=5, alpha=0.5)\n",
        "\n",
        "# Alternatively, the distribution object can be called (as a function)\n",
        "# to fix the shape and location.\n",
        "# This returns a “frozen” RV object holding the given parameters fixed.\n",
        "\n",
        "# Freeze the distribution and display the frozen pmf:\n",
        "rv = binom(n, p)\n",
        "ax.vlines(x, 0, prob, colors='k', linestyles='-', lw=1, label='frozen pmf')\n",
        "\n",
        "ax.legend(loc='best', frameon=False)\n",
        "plt.show()\n",
        "\n",
        "\n",
        "# Check accuracy of fda and ppf:\n",
        "cumulative = binom.cdf(x, n, p)\n",
        "print(f\"Cumulative distribution function : {cumulative}\")\n",
        "np.allclose(x, binom.ppf(cumulative, n, p))\n",
        "\n",
        "# Generate random numbers sampled from the given distribution:\n",
        "r = binom.rvs(n, p, size=10)\n",
        "print(f\"Random numbers : {r}\")\n",
        "\n",
        "# Implementation by\n",
        "# https://www.geeksforgeeks.org/python/python-binomial-distribution/\n",
        "\n",
        "print()\n",
        "print(\"Implementation by geeksforgeeks\")\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "# setting the values\n",
        "# of n and p\n",
        "n = 6\n",
        "p = 0.6\n",
        "# defining list of r values\n",
        "r_values = list(range(n + 1))\n",
        "# list of pmf values\n",
        "dist = [binom.pmf(r, n, p) for r in r_values ]\n",
        "# plotting the graph\n",
        "\n",
        "plt.bar(r_values, dist)\n",
        "plt.title(f'Binomial: n={n}; p={p}')\n",
        "plt.show()\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "**Ejercicio.** Ejecute el código y exprese sus preocupaciones.\n",
        ">\n",
        "*Respuesta.* Todo es maravilloso.\n",
        "\n",
        "**Ejemplo.** Desarrollemos un programa que calcula la fda del máximo de varias variables binomiales. Seguimos la idea del  `Program CDF_Max_of_n_Normal_Distributions`que está más abajo y que fue desarrollado por Gemini."
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program Max_of_various_binomial_distributions\n",
        "# 400 binomial distributions Bi(n, 1/2) for various values of n\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the values of n\n",
        "n_values = [1, 5, 10, 15, 20, 30, 40, 50]\n",
        "\n",
        "# Number of binomial distributions\n",
        "n_binomials = 400\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the cumulative distribution functions of MAX\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "for n in n_values:\n",
        "    k_values = list(range(0, n + 1))\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fn_k = F(k_values, n, p)**n_binomials\n",
        "    print(f\"n = {n} F(k) = {Fn_k}\")\n",
        "    plt.plot(k_values, Fn_k, label=f'n = {n}')\n",
        "\n",
        "plt.xlabel('k')\n",
        "plt.ylabel('F^n(k)')\n",
        "plt.title(f'Cumulative Distribution Function of the Maximum of {n_binomials} Binomial Distributions Bi(n, 1/2)')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "El gráfico presenta las fdas  de 400 variables binomiales con $n$ variable. Las fdas del MAX se ven como deberían. El MAX se muestra aquí como una máquina potente para obtener alta calidad estable. Por ejemplo, para una binomial con $n = 50$ y $p = 1/2$, la media de MAX es aproximadamente 35 y sus valores habituales oscilan entre 32 y 38.  \n",
        "\n",
        "* Ejercicio.* Desarrollar el código para un programa que calcule la fda del MAX de varias variables binomiales, pero esta vez el $n$ debe fijarse en 16 y el número de variables binomiales, o monos, debe ser variable.  \n",
        ">\n",
        "*Respuesta.* El código que dibuja las fdas del MAX de $m$  variables binomiales $Bi(16, 1/2)$, o $m$ monos, es el siguiente:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program Max_of_various_binomial_distributions.py\n",
        "# The same binomial distribution is cloned a varying number of times\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of binomial distributions\n",
        "n_binomials = [1, 10, 100, 1000, 10000, 100000, 1000000, 10000000, 100000000, 1000000000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the cumulative distribution functions of MAX\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    print(f\"m = {m} F(k) = {Fm_k}\")\n",
        "    plt.plot(k_values, Fm_k, label=f'm = {m}')\n",
        "\n",
        "plt.xlabel('k')\n",
        "plt.ylabel('F^n(k)')\n",
        "plt.title(f'Cumulative Distribution Function of the Maximum of m Binomial Distributions Bi(16, 1/2)')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestros comentarios:*\n",
        ">\n",
        "- Las propiedades de conjunto de muchos monos también son visibles en este caso porque las curvas se desplazan hacia la derecha a medida que crece el número de monos. Los binomios representan $m$ monos que producen cadenas binarias aleatorias de 16 bits de largo que deben coincidir con un patrón. Max produce el mejor rendimiento, el número máximo de coincidencias entre los monos. Para un mono, 10 o 11 coincidencias no es ninguna sorpresa, pero para 10 eso es rutina. Con un millón de monos, uno tiene experimental 1, es decir, muy raramente se obtiene algo aparte de la perfección. Pero con 1000 millones, la perfección no tiene excepciones registradas.\n",
        "\n",
        "- La eficiencia de máx para producir perfección disminuye a medida que crece el número de monos.\n",
        "\n",
        "- Por otra parte, la inclinación media de las FDA, las funciones de distribución acumulativa, del máximo de  $m$ distribuciones binomiales $Bi(16, 1/2)$ crece con el número de monos. Esto significa que a medida que crece el número de monos, la varianza disminuye mientras aumenta la media.\n",
        "\n",
        "Algunos contextos están en orden:\n",
        "\n",
        "La maquinaria observadora recoge los resultados de una simulación dada y los clasifica de alguna manera. Con respecto al desafío de Shakespeare, producimos  $n$ cadenas aleatorias, comparamos cada una de ellas con la objetivo, contamos el número de sitios coincidentes y reportamos el máximo. Después de muchas repeticiones de esta rutina, hacemos un histograma de frecuencias relativas. Este histograma es una estimación de una entidad ideal que llamamos la Distribución de MAX, o del número máximo de coincidencias de un conjunto de cadenas aleatorias $n$. Se supone que la distribución ideal coincide con el histograma observado si las repeticiones son infinitas. Por lo tanto, normalmente identificamos el histograma después de un número razonable de repeticiones con el predicho por las matemáticas. Si coinciden, decimos que tenemos un modelo confiable. De hecho, operamos como si el modelo fuera la verdad.\n",
        "\n",
        "\n",
        "**Ejemplo.** El papel del tamaño de la población parece sorprendente. Un gran tamaño de población podría resolver todos los problemas a la vez. Entonces, añadamos un poco de sal a esta impresión. Con tal fin, consideremos el siguiente ejemplo:\n",
        ">\n",
        "> La tarea es resolver una cadena objetivo de 1000 bits. El papel de la mutación aleatoria está representado por una distribución binomial $Bi(n, 1/2) = Bi(1000, 1/2)$. Su media es $np = 1000 * 0,5 = 500$, su varianza es $npq = 1000/4 = 250$ y su desviación estándar es $ \\sigma = 15,8$. Por lo tanto, la distancia de la mediocridad, representada por el promedio, 500,  a la perfección, 1000, es equivalente a 31,6 desviaciones estándar. Si consideramos que con 10 millones uno puede alcanzar 5 o 6 desviaciones estándar, y que la eficiencia disminuye con el tamaño de la población, sentimos que encontrar la perfección es extremadamente costoso. Pero no sabemos cuánto.  \n",
        "\n",
        "\n",
        "**Ejercicio.**  Infiera cuántos monos son necesarios para garantizar la perfección. Apoye sus ideas con un tratamiento matemático.\n",
        ">\n",
        "*Respuesta.* La perfección significa que coinciden 16 bits de 16. Según la estimación gráfica del último ejercicio, un millón de monos bastará para que la perfección sea científica, reproducible salvo raras excepciones. Pero 1000 millones lo hacen mejor.  Analizando la situación con más calma, tenemos:\n",
        ">\n",
        "La Binomial dice que la probabilidad de perfección es $(1/2) {16} = 1/65536$. Esto implica que el número esperado de monos para igualar la perfección es 65536. En experimentos reales, uno puede alcanzar la perfección antes o después. Así, el poder predictivo de esta afirmación es débil -y regulado por la varianza binomial. La postura de MAX es diferente: debido a la certeza proporcionada como efecto poblacional, con un número suficientemente grande de monos, la perfección está garantizada experimentalmente porque las fdas se aprietan hacia 1 mientras que sus varianzas tienden a disminuir. Por lo tanto, 1 millón de monos parece ser suficiente para garantizar la perfección de las cadenas binarias objetivo de 16 bits de largo.\n",
        "\n",
        ">\n",
        "Una pregunta a dilucidar es la siguiente: ¿Puede la perfección ser absolutamente garantizada? La respuesta es negativa: no importa cuántos monos se añadan, pueden aparecer imperfecciones. Nuestro argumento para ver esto es el siguiente:\n",
        ">\n",
        "Sea $F_{m} $  la fda  de MAX con $m$ monos, $F$ la fda de la  binomial $Bi(16, 1/2)$ y $p$ su fmp. En referencia a la binomial,  la probabilidad de perfección es $p(16) = 1/65536$. Entonces, la probabilidad acumulada hasta 16 de MAX es\n",
        "\n",
        ">\n",
        ">$F_{m} (16) =  (F(16))^{m} = 1^{m} = 1$\n",
        ">\n",
        "Similarmente,\n",
        ">\n",
        "> $F_{m} (15) =  (F(15))^{m} = (F(16) - p(16))^m =  (1- p(16))^m $\n",
        "> \n",
        ">> $ = (1 - 1/65536)^m $\n",
        ">\n",
        "> $p(MAX = 16) = F_{m} (16) - F_{m} (15) = 1 - (1-1/65536)^m \\ne 1$\n",
        ">\n",
        "Esto dice que no importa cuántos monos se añadan, la probabilidad de obtener la perfección, o máx igual a 16,  nunca es 1, nunca garantizada con absoluta certeza.  \n",
        ">\n",
        "Este resultado tiene implicaciones de interés biológico:\n",
        ">>\n",
        "> En palabras científicas, la búsqueda de la perfección reproducible se acompaña de grandes cantidades de imperfecciones. Esa es una predicción obligatoria, inescapable: para saber si existimos como resultado de una búsqueda ciega de la perfección, debemos encontrar el registro fósil lleno de especímenes distorsionados, y nuestros propios cuerpos con todo tipo de malfuncionamiento y malformaciones. Sin embargo, consideramos que la aleatoriedad puede producir perfección pero no en una forma reproducible. La probabilidad asociada es tan pequeña, que es saludable decir que es una invitación a inventar algo mejor, algo que produce probabilidades más altas llegando al escenario de predicciones reproducibles.\n",
        "\n",
        "\n",
        "## La función de masa de probabilidad de MAX\n",
        "\n",
        "Vamos a enriquecer nuestra salida gráfica con la fmp de MAX.\n",
        "\n",
        "**Ejercicio.** Desarrollar un programa para dibujar la fmp de MAX (su función de masa de probabilidad que da la probabilidad del máximo $k$ bits emparejados). Calcular también la media, la varianza y la desviación estándar para cada uno de los diversos casos. Reportar sus conclusiones.  \n",
        ">\n",
        "*Respuesta.* Ya sabemos cómo calcular $F$, la fda de MAX. Su $pmf$, $ p(k)$, es simplemente el salto en $k$:\n",
        ">>\n",
        ">$p(k) = F(k) - F(k-1)$.\n",
        ">\n",
        "Una vez conocida la fmp, la media y la varianza se calculan con las fórmulas habituales:\n",
        ">\n",
        ">$Media =  \\mu =  \\sum kp(k)$\n",
        ">>\n",
        ">$Varianza =  \\sigma^2 = \\sum k^2 p(k) - \\mu^2$\n",
        ">>\n",
        ">$Desviación =  \\sqrt{Varianza}$\n",
        ">\n",
        "El código sigue a continuación.\n",
        "\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [
        {
          "ename": "ModuleNotFoundError",
          "evalue": "No module named 'numpy'",
          "output_type": "error",
          "traceback": [
            "\u001b[31m---------------------------------------------------------------------------\u001b[39m",
            "\u001b[31mModuleNotFoundError\u001b[39m                       Traceback (most recent call last)",
            "\u001b[36mCell\u001b[39m\u001b[36m \u001b[39m\u001b[32mIn[1]\u001b[39m\u001b[32m, line 7\u001b[39m\n\u001b[32m      1\u001b[39m \u001b[38;5;66;03m# Program Max_of_various_binomial_distributions.py\u001b[39;00m\n\u001b[32m      2\u001b[39m \u001b[38;5;66;03m# The same binomial distribution is cloned a varying number of times\u001b[39;00m\n\u001b[32m      3\u001b[39m \u001b[38;5;66;03m# and the global max is found.\u001b[39;00m\n\u001b[32m      4\u001b[39m \u001b[38;5;66;03m# The pmf (probability mass function) of max is calculated and drawn.\u001b[39;00m\n\u001b[32m      5\u001b[39m \u001b[38;5;66;03m# Mean and variance are also calculated.\u001b[39;00m\n\u001b[32m----> \u001b[39m\u001b[32m7\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mnumpy\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mnp\u001b[39;00m\n\u001b[32m      8\u001b[39m \u001b[38;5;28;01mfrom\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mscipy\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mstats\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mimport\u001b[39;00m binom\n\u001b[32m      9\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mmatplotlib\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mpyplot\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mplt\u001b[39;00m\n",
            "\u001b[31mModuleNotFoundError\u001b[39m: No module named 'numpy'"
          ]
        }
      ],
      "source": [
        "# Program Max_of_various_binomial_distributions.py\n",
        "# The same binomial distribution is cloned a varying number of times\n",
        "# and the global max is found.\n",
        "# The pmf (probability mass function) of max is calculated and drawn.\n",
        "# Mean and variance are also calculated.\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of binomial distributions\n",
        "n_binomials = [1, 10, 100, 1000, 10000, 100000, 1000000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the cumulative distribution functions of MAX\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    print()\n",
        "    print(f'm = {m}')\n",
        "    print(f'F(k) = {Fm_k}')\n",
        "    plt.plot(k_values, Fm_k, label=f'm = {m}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    print(f\"Mean = {mean}\")\n",
        "    #Draw verticalline at the mean\n",
        "    plt.axvline(x=mean, color='r', linestyle='--', label=f'Mean = {mean:.3}')\n",
        "    # Variance\n",
        "    var = 0.0\n",
        "    for k in k_values:\n",
        "        var += k * k * pmf_k[k]\n",
        "    var -= mean * mean\n",
        "    dev = np.sqrt(var)\n",
        "    print(f\"Variance = {var} \")\n",
        "    print(f\"Deviation = {dev}\")\n",
        "\n",
        "\n",
        "plt.xlabel('k')\n",
        "plt.ylabel('F^n(k), pmf')\n",
        "plt.title(f'CDF, pmf and mean of the Maximum of m Binomial Distributions Bi(16, 1/2)')\n",
        "plt.legend(loc = 'upper left')\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": []
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "Nuestras conclusiones son:\n",
        "- La media crece sub-logarítmicamente con el número de monos. Esto significa que vale la pena añadir monos, pero el precio es supra-exponencial.  La media es muy cercana al máximo de la fmp, la función de masa de probabilidad de MAX.\n",
        "- La varianza disminuye con el número de monos. Más monos hacen que la media crezca y fortalezca su poder predictivo.\n",
        "- La perfección es posible, pero a un alto precio. Aquí, para una cadena de 16 bits de largo, uno necesita un millón de monos para asegurar experimentalmente la perfección.\n",
        "- Alcanzar la perfección corresponde a conseguir 16 coincidencias. La probabilidad correspondiente es 1.52587891e-05. Por lo tanto, se puede decir que para obtener la perfección, uno necesita un número medio de ensayos igual a\n",
        ">\n",
        ">>> $T =  \\frac{1}{1.52587891e-05} = 65530$.\n",
        ">\n",
        "- Este es un valor promedio y no garantiza la perfección reproducible. Por lo tanto,   se puede tener éxito con menos ensayos, o con muchos más.  Nuestras estimaciones anteriores de 1 millón y superior inspiran más confianza si uno quiere perfección reproducible.\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## El valor esperado de MAX \n",
        "\n",
        "MAX de un conjunto de variables binomiales aleatorias es una variable aleatoria. Por lo tanto, produce un resultado ahora y otro después. Sin embargo, un efecto de conjunto estabiliza rápidamente sus fluctuaciones. Esto nos permitiría reemplazar su salida con la media de alguna muestra o por su valor esperado. Comencemos con el estudio de las muestras. \n",
        "\n",
        "*Ejercicio*. Según el gráfico presentado por el último programa, el valor medio de MAX para $m$ monos está bastante cerca del máximo de la pmf correspondiente. Utilice este hecho para calcular una aproximación a la media. Tenemos varias soluciones posibles:\n",
        "- Primero: desarrollar un programa para hacer un análisis de regresión.\n",
        "- Segundo: recurrir a modelos continuos, que se presentarán a continuación. Por tanto, use la aproximación normal (continua) que se espera que sea muy buena cerca del máximo de la fmp. Encontrar una aproximación a su derivada, igualar a cero y despejar $y$. Más claramente:  \n",
        ">\n",
        "La fmp de MAX, el máximo de $n$ distribuciones normales estándar, es:\n",
        ">>\n",
        ">$  f_{Y}(y) = n (  \\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}) (∫^y_{-\\infty}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}} dt)^{n-1}$\n",
        ">\n",
        "Encontrar la derivada, igualar a cero, despejar  $y$.\n",
        ">\n",
        "- Tercero. Ponga a prueba el resultado de la aproximación continua,  el cual dice que la media es\n",
        ">\n",
        "> Media de MAX con $m$ monos = $\\frac{m}{2} + \\sqrt{\\frac{m}{2}\\ln m}$\n",
        ">>\n",
        "- Cuarto: empiece todo desde las definiciones. Esa es nuestra presente opción. \n",
        "\n",
        "**Ejercicio.** Utilice la fmp de MAX que se derivó de su fda para predecir un valor de su media. Dibuje un gráfico que muestre la dependencia de la media de $m$, el número de monos. Para fijar ideas, tome el poder de la binomial, $n$ como 16.  ¿Qué se puede decir sobre la forma del gráfico resultante?\n",
        ">\n",
        "*Respuesta.*  El siguiente programa utiliza la fmp de MAX que se derivó de su fda para predecir un valor de su media. Dibuja la media en función de $m$, el número de monos para la $Bi(16, 1/2)$. "
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program MeanOfMAXforDiverseNumberOfMonkeysFor16bits.py\n",
        "\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of monkeys\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the means of MAX for different number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    print()\n",
        "    print(f'm = {m}')\n",
        "    print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    # plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    print(f\"Number of monkeys = {m}, Mean = {mean}\")\n",
        "    means.append(mean)\n",
        "plt.plot(n_binomials, means, label=f'm = {m}')\n",
        "\n",
        "\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean')\n",
        "plt.title(f'Mean of the Maximum of m Binomial Distributions Bi(16, 1/2)')\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        " ¿Qué podemos decir sobre la forma del gráfico? El gráfico parece corresponder a una función de la forma $y =  A -Be^{-x}$. Pero también a $y = A - B/x$.\n",
        "\n",
        "**Ejercicio.** El programa anterior tiene un origen teórico. Produce una predicción para la media de MAX para un número dado de monos. En la ciencia, las predicciones deben verificarse. Antes de ir más lejos, pruebe esta predicción con una simulación que toma varias veces el mismo número de monos y calcula la media correspondiente. Repita esto para un número diverso de monos.\n",
        ">\n",
        "*Respuesta.* El siguiente programa compara la dependencia teóricamente esperada de la media sobre el número de monos con la producida por una simulación. Mezclamos el programa anterior con una modificación adecuada del programa «simulationOfMaxOfVariousBinomialDistributions.py`"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [
        {
          "name": "stdout",
          "output_type": "stream",
          "text": [
            "expected_means = [np.float64(8.0), np.float64(11.12956762645905), np.float64(11.708816390786861), np.float64(12.024058478783939), np.float64(12.237015540439312), np.float64(12.396307319360423), np.float64(12.522717522609513), np.float64(12.62695996781073), np.float64(12.715314681284106), np.float64(12.791799519690963), np.float64(12.859133888689739), np.float64(12.919227511448153), np.float64(12.973458192317022), np.float64(13.022842952769581), np.float64(13.06814887150034), np.float64(13.109966984075983), np.float64(13.148762412459048), np.float64(13.18490877042432), np.float64(13.218712006599848), np.float64(13.25042708767041), np.float64(13.28026979743577)]\n",
            "\n",
            "observed_means = [8.3, 10.8, 11.7, 11.5, 11.8, 12.2, 12.8, 12.8, 12.4, 12.6, 12.6, 12.9, 13.0, 13.0, 13.0, 12.9, 13.1, 13.6, 13.5, 12.9, 13.4]\n"
          ]
        },
        {
          "data": {
            "image/png": "iVBORw0KGgoAAAANSUhEUgAAA0oAAAIjCAYAAAA9VuvLAAAAOnRFWHRTb2Z0d2FyZQBNYXRwbG90bGliIHZlcnNpb24zLjEwLjAsIGh0dHBzOi8vbWF0cGxvdGxpYi5vcmcvlHJYcgAAAAlwSFlzAAAPYQAAD2EBqD+naQAAwDtJREFUeJzs3Xd4U+UXwPFvuvfetKyWvfdesqeKbJSlwE9FEAQRHICK4EBBERFQUGSJgCAIsmUpyCh7U/YopXu3yf39cdtAaSltSJq2nM/z5CG58+TtLc3J+97zahRFURBCCCGEEEIIoWdh7gCEEEIIIYQQorCRREkIIYQQQgghHiKJkhBCCCGEEEI8RBIlIYQQQgghhHiIJEpCCCGEEEII8RBJlIQQQgghhBDiIZIoCSGEEEIIIcRDJFESQgghhBBCiIdIoiSEEEIIIYQQD5FESYinyOeff07ZsmWxtLSkZs2a+d5/586daDQafvvtN+MHV0i1bNmSli1bmjsMs3nSa6YgFYWfVebv0M6dO/O97+TJk9FoNMYPioJtO41Gw+TJk/WvM99XREREgZy/dOnSDBo0qEDOZUq5XUudOnVi6NChBR9UIdCnTx969epl7jBEMSGJkngqLVq0CI1Gg0ajYc+ePdnWK4pCUFAQGo2GLl26mCFC49u8eTNvv/02TZo0YeHChXzyySeP3Hbp0qXMnDmz4IJ7yOXLl/U/n48//jjHbfr3749Go8HJyamAo3t65OeaMYUHr4PMh4uLCzVr1mT27NlotdoCjaeoGDRoUJY2c3JyomzZsvTo0YNVq1ah0+mMcp59+/YxefJkoqOjjXI8YyrMseXm4Z+dlZUVQUFB9OnTh1OnTuXpGHv37mXz5s2MHz8+y/KpU6fSrVs3fH19syWrOVmxYgWNGjXC0dERNzc3GjduzPbt2w16X7du3eKdd96hVatWODs75+nLgm+++QZXV1fS0tI4c+YMb7/9NjVr1sTZ2Rl/f386d+7MwYMHs+03fvx4Vq1axdGjRw2KVYgHWZk7ACHMyc7OjqVLl9K0adMsy//++2+uX7+Ora2tmSIzvu3bt2NhYcEPP/yAjY1NrtsuXbqUEydO8OabbxZMcI9gZ2fHsmXLeO+997IsT0hIYO3atdjZ2Zk8hs2bN5v8HIVVfq4ZU+rbty+dOnUCICYmhj///JM33niDK1eu8Pnnn+u3Kwo/q+bNm5OUlGTy9rS1tWXBggUAJCUlceXKFf744w969OhBy5YtWbt2LS4uLvrtDWm7ffv2MWXKFAYNGoSbm1ue90tKSsLKyrQfP3KL7ezZs1hYFN7viR/82aWnp3Px4kXmzp3Lpk2bOHXqFAEBAcCjr6XPP/+c1q1bExISkmX5e++9h5+fH7Vq1eKvv/7KNYbJkyfz4Ycf0qNHDwYNGkRaWhonTpzgxo0bBr2ns2fP8umnn1KuXDmqVavGP//889h9NmzYQLt27bC2tmbBggX88MMPvPDCC7z22mvExMTw/fff07BhQzZt2kSbNm30+9WqVYu6desyY8YMfv75Z4PiFSKTJEriqdapUydWrlzJ119/neUP99KlS6lTp06BDQUpCOHh4djb25v1A29+derUidWrV3P06FFq1KihX7527VpSU1Pp0KGDwd9w5lVRai9jKyzXTO3atXnxxRf1r1977TUaNGjA0qVLsyRK5o4zLywsLAokwbeyssrSZgAff/wx06dPZ8KECQwdOpQVK1bo15m67XQ6HampqdjZ2RXI+89NYf8CLKefXcOGDenSpQsbNmzQD6nL6VoKDw9nw4YNzJ07N9txw8LCKF26NBEREXh7ez/y/P/++y8ffvghM2bMYPTo0UZ4R1CnTh3u3buHh4cHv/32Gz179sx1+8TERP7++2++++47QP2yZPLkyVlGEAwZMoRKlSoxefLkLIkSQK9evZg0aRJz5syRUQfiiRTer1SEKAB9+/bl3r17bNmyRb8sNTWV3377jX79+uW4j06nY+bMmVSpUgU7Ozt8fX0ZPnw4UVFRWbZbu3YtnTt3JiAgAFtbW4KDg/noo4+yDRdq2bIlVatW5dSpU7Rq1QoHBwdKlCjBZ599lqf3kJ6ezkcffURwcDC2traULl2aiRMnkpKSot9Go9GwcOFCEhIS9EM6Fi1alOPxWrZsyYYNG7hy5Yp+29KlS2drg6lTpxIYGIidnR2tW7fmwoUL2Y61f/9+OnTogKurKw4ODrRo0YK9e/fm6X0BNGrUiDJlyrB06dIsy5csWUKHDh3w8PDItk9e2v306dPY29szYMCALPvu2bMHS0vLLENWHr53I/O+gF9//ZUpU6ZQokQJnJ2d6dGjBzExMaSkpPDmm2/i4+ODk5MTgwcPzvKzyBxOllP7P+rejXPnzvHiiy/i6uqKt7c377//PoqicO3aNZ599llcXFzw8/NjxowZeWpXY18zme1UtWpVjh07RosWLXBwcCAkJER/P9vff/9NgwYNsLe3p0KFCmzdujVPseZEo9Hg6+ubrVcit59VXq7XlStXUqdOHezt7fHy8uLFF1/M9g36oEGDcHJy4urVq3Tp0gUnJydKlCjBt99+C8Dx48d55plncHR0pFSpUtmu3ZzuK9m9ezc9e/akZMmS2NraEhQUxOjRo0lKSjK4jR7lnXfeoV27dqxcuZJz587pl+d0j9I333xDlSpVcHBwwN3dnbp16+rfz+TJkxk3bhwAZcqU0V8jly9fBtSf0YgRI1iyZAlVqlTB1taWTZs26dflNOwrIiKCXr164eLigqenJ6NGjSI5OVm/Pq+/O4+LLad7lC5dukTPnj3x8PDAwcGBhg0bsmHDhizb5Od6On/+PC+88AJ+fn7Y2dkRGBhInz59iImJyRZ7Xvj5+QFkueZzupY2bNhAenp6tsQh833nxcyZM/Hz82PUqFEoikJ8fLxBMT/I2dk5x/+vH2Xbtm2kpKTQsWNHQE20Hk54PD09adasGadPn862f9u2bUlISMjyt10IQ0iiJJ5qpUuXplGjRixbtky/bOPGjcTExNCnT58c9xk+fDjjxo2jSZMmzJo1i8GDB7NkyRLat29PWlqafrtFixbh5OTEmDFjmDVrFnXq1OGDDz7gnXfeyXbMqKgoOnToQI0aNZgxYwYVK1Zk/PjxbNy48bHv4ZVXXuGDDz6gdu3afPXVV7Ro0YJp06ZliX/x4sU0a9YMW1tbFi9ezOLFi2nevHmOx3v33XepWbMmXl5e+m0fvl9p+vTprFmzhrFjxzJhwgT+/fdf+vfvn2Wb7du307x5c2JjY5k0aRKffPIJ0dHRPPPMMxw4cOCx7ytT3759Wb58OYqiAOqHqc2bNz8ykc1Lu1eqVImPPvqIxYsXs27dOkAdzjdo0CAqVqzIhx9++Ni4pk2bxl9//cU777zDkCFDWL16Nf/73/8YMmQI586dY/LkyXTv3p1Fixbx6aef5vn95qR3797odDqmT59OgwYN+Pjjj5k5cyZt27alRIkSfPrpp4SEhDB27Fh27dr12OMZ+5rJFBUVRZcuXWjQoAGfffYZtra29OnThxUrVtCnTx86derE9OnTSUhIoEePHsTFxeXp/ScmJhIREUFERASXLl3i22+/ZdOmTQwcODBP++flel20aBG9evXC0tKSadOmMXToUFavXk3Tpk2z3eei1Wrp2LEjQUFBfPbZZ5QuXZoRI0awaNEiOnToQN26dfn0009xdnZmwIABhIWF5RrfypUrSUxM5NVXX+Wbb76hffv2fPPNN9kSeWN56aWXUBQl1w+R8+fPZ+TIkVSuXJmZM2cyZcoUatasyf79+wHo3r07ffv2BeCrr77SXyMP9lRs376d0aNH07t3b2bNmvXYD+q9evUiOTmZadOm0alTJ77++muGDRuW7/eXl9gedOfOHRo3bsxff/3Fa6+9xtSpU0lOTqZbt26sWbMm2/aPu55SU1Np3749//77L2+88Qbffvstw4YN49KlS3m+Zyrzer9z5w7//PMPo0ePxtPT87H3zO7btw9PT09KlSqVp/PkZNu2bdSrV4+vv/4ab29v/T1Bs2fPNviY+fXnn39Sp04dfH19c93u9u3beHl5ZVteuXJl7O3t8/XFnBA5UoR4Ci1cuFABlP/++0+ZPXu24uzsrCQmJiqKoig9e/ZUWrVqpSiKopQqVUrp3Lmzfr/du3crgLJkyZIsx9u0aVO25ZnHe9Dw4cMVBwcHJTk5Wb+sRYsWCqD8/PPP+mUpKSmKn5+f8sILL+T6PkJDQxVAeeWVV7IsHzt2rAIo27dv1y8bOHCg4ujomOvxMnXu3FkpVapUtuU7duxQAKVSpUpKSkqKfvmsWbMUQDl+/LiiKIqi0+mUcuXKKe3bt1d0Op1+u8TERKVMmTJK27Ztcz1/WFiYAiiff/65cuLECQVQdu/erSiKonz77beKk5OTkpCQkON7ymu7a7VapWnTpoqvr68SERGhvP7664qVlZXy33//Zdm3RYsWSosWLbK1QdWqVZXU1FT98r59+yoajUbp2LFjlv0bNWqUpS0z39vChQuzxQkokyZN0r+eNGmSAijDhg3TL0tPT1cCAwMVjUajTJ8+Xb88KipKsbe3VwYOHJjtuA8y1TWTeR0vXbpUv+zMmTMKoFhYWCj//vuvfvlff/31yDZ4UGZb5fR49dVXs1xbmTHk9LN63PWampqq+Pj4KFWrVlWSkpL0261fv14BlA8++CBLmwDKJ598ol+W2fYajUZZvnx5tvf/4M80M6YdO3bol+V0zU6bNk3RaDTKlStX9Msyr4fHedzP7ciRIwqgjB49Wr/s4bZ79tlnlSpVquR6ns8//1wBlLCwsGzrMn/uJ0+ezHFdTtd5t27dsmz32muvKYBy9OhRRVHy97uTW2ylSpXK8nvy5ptvZvk/RlEUJS4uTilTpoxSunRpRavVKoqS9+sps31XrlyZ7dyPk3l9PfwoUaKEcujQoSzb5nQtNW3aVKlTp06u57h792629soUGRmpAIqnp6fi5OSkfP7558qKFSuUDh06KIAyd+7cfL+nh61cuTJb3A8rWbJkjvE9aNeuXYpGo1Hef//9HNeXL18+2//HQuSX9CiJp16vXr1ISkpi/fr1xMXFsX79+kf2VqxcuRJXV1fatm2r/8YvIiJCPyxgx44d+m3t7e31z+Pi4oiIiKBZs2YkJiZy5syZLMd1cnLKMibdxsaG+vXrc+nSpVxj//PPPwEYM2ZMluVvvfUWQLahI8YyePDgLPc0NGvWDEAfb2hoKOfPn6dfv37cu3dP304JCQm0bt2aXbt25bnyVpUqVahevbq+12/p0qU8++yzODg45Lh9XtvdwsKCRYsWER8fT8eOHZkzZw4TJkygbt26eYprwIABWFtb6183aNAARVEYMmRIlu0aNGjAtWvXSE9Pz9Nxc/LKK6/on1taWlK3bl0UReHll1/WL3dzc6NChQpmvWacnJyy9EpVqFABNzc3KlWqRIMGDfTLM58/LtZMw4YNY8uWLWzZsoVVq1bx+uuv8/3332d7D4/yuOv14MGDhIeH89prr2W556Nz585UrFgxxzZ58GeS2faOjo5ZyhJnvv/Hvc8Hr9mEhAQiIiJo3LgxiqJw5MiRPL3H/MgcwpRbj56bmxvXr1/nv//+M/g8LVq0oHLlynne/vXXX8/y+o033gDuX7Om8ueff1K/fv0sRX2cnJwYNmwYly9fzlZt7nHXk6urKwB//fUXiYmJ+Y7Hzs5Of73/9ddffP/99zg5OdGpU6cswyVzcu/ePdzd3fN9zkyZw+zu3bvHggULGDt2LL169WLDhg1Urlz5kVVIjenEiRNcvXqVzp07P3Kb8PBw+vXrR5kyZXj77bdz3Mbd3b1Y3WcszEMSJfHU8/b2pk2bNixdupTVq1ej1Wrp0aNHjtueP3+emJgYfHx88Pb2zvKIj48nPDxcv+3Jkyd5/vnncXV1xcXFBW9vb30y9PA49cDAwGzzo7i7u2e77+lhV65cwcLCIlt1Iz8/P9zc3Lhy5Uqe2yE/SpYsmeV15h/mzHjPnz8PwMCBA7O104IFC0hJScnXWP1+/fqxcuVKLly4wL59+x6ZyEL+2j04OJjJkyfz33//UaVKFd5///08x/RwG2R+OAoKCsq2XKfTGXxvwqPOZWdnl23Iiaurq1mvmZyuY1dX1xzbBHhsrJnKlStHmzZtaNOmDd27d2f27Nm89tprzJw5k+PHjz92/8ddr5nvuUKFCtn2rVixYrY2sbOzyzaMy9XV9ZHv/3Hv8+rVqwwaNAgPDw+cnJzw9vamRYsWQPZr1hgyPww7Ozs/cpvx48fj5ORE/fr1KVeuHK+//nq+hzGVKVMmX9uXK1cuy+vg4GAsLCz09xaZypUrV3L82VeqVEm//kGPu57KlCnDmDFjWLBgAV5eXrRv355vv/02zz9LS0tL/fXerl07hg0bxtatW4mJiWHChAmP3V/JGKZsiMyk3draOsvfQQsLC3r37s3169e5evWqwcfPiw0bNuDr6/vIL60SEhLo0qULcXFxrF279pHFGhRFMdm8Y+LpIVXvhED9ID506FBu375Nx44dH1nqVqfT4ePjw5IlS3Jcn/nhKTo6mhYtWuDi4sKHH35IcHAwdnZ2HD58mPHjx2frTbG0tMzxeHn9g1fQfwweF2/m+/v8888fOUlpfioR9e3bV1+py9PTk3bt2uW4XX7bHe6XRb558yb37t3T3zT9OI9qg8e1zaN+VrnNCZTTMQvjNWNomxiidevWzJ49m127dlGtWjWD4jL0/MZ8n1qtlrZt2xIZGcn48eOpWLEijo6O3Lhxg0GDBhltzqMHnThxAiBbsvygSpUqcfbsWdavX8+mTZtYtWoVc+bM4YMPPmDKlCl5Os+DPWWGePgaNeR3xxTy8nOeMWMGgwYNYu3atWzevJmRI0cybdo0/v33XwIDA/N9zsDAQCpUqPDYexA9PT3z/AVETjw8PLCzs8PNzS3b+/Tx8QHUhPDhZNGY/vzzTzp06JDjzzs1NZXu3btz7Ngx/vrrL6pWrfrI40RFRWVLvoXIL0mUhACef/55hg8fzr///pulZO7DgoOD2bp1K02aNMn1Q8DOnTu5d+8eq1evznID/ONu6s6vUqVKodPpOH/+vP7bT1BvTo6Ojjb4ht4n/RAdHBwMgIuLS47Vl/KrZMmSNGnShJ07d/Lqq68+cg6W/Lb73Llz2bJlC1OnTmXatGkMHz6ctWvXPnG8ucn89vnhm7pN1fv3MFNdMwUtcyijMSpyZb7ns2fP8swzz2RZd/bsWZO2yfHjxzl37hw//fRTluINpqzWtXjxYjQaDW3bts11O0dHR3r37k3v3r31H1CnTp3KhAkTsLOzM3qyff78+Sy9UBcuXECn0+mLQOTndyc/sZUqVYqzZ89mW545VNfQn3+1atWoVq0a7733Hvv27aNJkybMnTvX4OFr6enpj73eK1asyKpVqww6Pqg9RzVr1uS///4jNTU1yxDDmzdvAuRaWvxJRUdHs2/fPkaMGJFtnU6nY8CAAWzbto1ff/1V3+uak/T0dK5du0a3bt1MFqt4OsjQOyFQeze+++47Jk+eTNeuXR+5Xa9evdBqtXz00UfZ1qWnp+v/gGd+E/fgN4ypqanMmTPHqHFnTsL5cFW6L7/8EiDXMd65cXR0fKIhP3Xq1CE4OJgvvvgixz/sd+/ezfcxP/74YyZNmqS/byEn+Wn3sLAwxo0bxwsvvMDEiRP54osvWLduncknKHRxccHLyyvbN8PGvjYexVTXTEH7448/ALLMr2WounXr4uPjw9y5c7OUSN+4cSOnT582aZvkdM0qisKsWbNMcr7p06ezefNmevfuneu37ffu3cvy2sbGhsqVK6Moir66p6OjI5A9cTFUZon1TN988w2AvkR0fn538hNbp06dOHDgQJZJUBMSEpg3bx6lS5fO131WALGxsdnuSaxWrRoWFhZZrq/8OHfuHGfPnn3s9d6oUSOioqLyfP9fTnr37o1Wq+Wnn37SL0tOTmbJkiVUrlxZP+GtKWT28Oc0auCNN95gxYoVzJkzh+7du+d6nFOnTpGcnEzjxo1NEqd4ekiPkhAZ8lJquEWLFgwfPpxp06YRGhqqnzX8/PnzrFy5klmzZtGjRw8aN26Mu7s7AwcOZOTIkWg0GhYvXvxEQ41yUqNGDQYOHMi8efP0w84OHDjATz/9xHPPPUerVq0MOm6dOnVYsWIFY8aMoV69ejg5OeWaQD7MwsKCBQsW0LFjR6pUqcLgwYMpUaIEN27cYMeOHbi4uOg/6OZVixYtcv0GEchzu2cWXbC3t9dPaDh8+HBWrVrFqFGjaNOmjUk/DLzyyitMnz6dV155hbp167Jr167H3qRtLKa6Zkzp8OHD/PLLL4BagGDbtm2sWrWKxo0bP3IYZn5YW1vz6aefMnjwYFq0aEHfvn25c+eOvqS1sSbdzEnFihUJDg5m7Nix3LhxAxcXF1atWvVEw6dA/eIms82Sk5O5cuUK69at49ixY7Rq1Yp58+blun+7du3w8/OjSZMm+Pr6cvr0aWbPnk3nzp319zbVqVMHUKcU6NOnD9bW1nTt2lWfpORXWFgY3bp1o0OHDvzzzz/88ssv9OvXL0tykNffnfzE9s4777Bs2TI6duzIyJEj8fDw4KeffiIsLIxVq1ZhYZG/75S3b9/OiBEj6NmzJ+XLlyc9PZ3FixdjaWnJCy+88Nj9H/zZ6XQ6Ll++zNy5c9HpdEyaNCnXfTt37oyVlRVbt27NVlp98eLFXLlyRV9gYteuXfrerZdeeknfczZ8+HAWLFjA66+/zrlz5yhZsqR+34f/327ZsiV///13nv62ZZ7r5MmT+nj27NkDwHvvvQeo9yc1bdpUfx9jppkzZzJnzhwaNWqEg4ODvn0yPf/881l+tlu2bMHBweGxvaZCPI4kSkLk09y5c6lTpw7ff/89EydOxMrKitKlS/Piiy/SpEkTQB0nvn79et566y3ee+893N3defHFF2ndujXt27c3ajwLFiygbNmyLFq0iDVr1uDn58eECRMe+wc1N6+99hqhoaEsXLiQr776ilKlSuUrUQL1D+g///zDRx99xOzZs4mPj8fPz48GDRowfPhwg2PLTV7b/ZtvvmHnzp2sWrUqyzCSH374gapVqzJ06FCTVQwE+OCDD7h79y6//fYbv/76Kx07dmTjxo36ewBMzRTXjCktW7ZMX/XQysqKkiVLMm7cOD744IN8f4h9lEGDBuHg4MD06dMZP348jo6OPP/883z66aePvGfRGKytrfnjjz/097DY2dnx/PPPM2LEiCfqLUtJSeGll14CwMHBAR8fH/2cYs8///xj22348OEsWbKEL7/8kvj4eAIDAxk5cqT+Ay1AvXr1+Oijj5g7dy6bNm1Cp9MRFhZmcKK0YsUK/ZxnVlZWjBgxgs8//zzLNnn93clPbL6+vuzbt4/x48fzzTffkJycTPXq1fnjjz8M6k2sUaMG7du3548//uDGjRs4ODhQo0YNNm7cSMOGDR+7/4M/O1B70urVq8fixYtp3bp1rvv6+vrSqVMnfv3112yJ0g8//MDff/+tf71jxw59pdamTZvqEyV7e3u2b9/O22+/zY8//khCQgI1a9Zkw4YN2f5+Zf6/nhcPF8v58ccf9c/fe+89FEVh06ZNjB07Ntu+oaGhAPzzzz9Zev4yPfyzXblyJd27d8+1YIkQeaFRjP0VtxBCCCGEMIvdu3fTsmVLzpw5Y9JiBnFxcXh4eDBz5sxspd0NceDAARo0aMDJkyfzPdzxQaGhodSuXZvDhw8/spiQEHkliZIQQgghRDHSsWNHAgMDmT9/vsnOsWHDBv3wvAeLPhjqwIEDbNu2LU8l0HPTp08fdDodv/766xPHJIQkSkIIIYQQQgjxEKl6J4QQQgghhBAPkURJCCGEEEIIIR4iiZIQQgghhBBCPEQSJSGEEEIIIYR4SLGfR0mn03Hz5k2cnZ3RaDTmDkcIIYQQQghhJoqiEBcXR0BAwGPnlCv2idLNmzcJCgoydxhCCCGEEEKIQuLatWsEBgbmuk2xT5QyZ2W+du0aLi4uBX7+tLQ0Nm/eTLt27bC2ti7w8xd30r6mJe1rWtK+piXta1rSvqYl7Wta0r6mVZjbNzY2lqCgIH2OkJtinyhlDrdzcXExW6Lk4OCAi4tLobtQigNpX9OS9jUtaV/TkvY1LWlf05L2NS1pX9MqCu2bl1typJiDEEIIIYQQQjxEEiUhhBBCCCGEeIgkSkIIIYQQQgjxkGJ/j1JeKIpCeno6Wq3W6MdOS0vDysqK5ORkkxz/aSfta1p5aV9ra2ssLS0LODIhhBBCCNN66hOl1NRUbt26RWJiokmOrygKfn5+XLt2TeZxMgFpX9PKS/tqNBoCAwNxcnIq4OiEEEIIIUznqU6UdDodYWFhWFpaEhAQgI2NjdE/bOt0OuLj43FycnrspFYi/6R9Tetx7asoCnfv3uX69euUK1dOepaEEEIIUWw81YlSamoqOp2OoKAgHBwcTHIOnU5HamoqdnZ28kHeBKR9TSsv7evt7c3ly5dJS0uTREkIIYQQxYZ8sgT5gC3EE5Ahj0IIIYQojiRDEEIIIYQQQoiHSKIkhBBCCCGEEA+RREkUCS1btuTNN980dxhCCCGEEOIpIYlSETVo0CA0Gk22R4cOHcwdmp4kN0IIIYQQoqh6qqveFXUdOnRg4cKFWZbZ2tqaKRohhBBCCCGKD+lReoiiKCSmphv1kZSqfew2iqLkO1ZbW1v8/PyyPNzd3dm5cyc2Njbs3r1bv+1nn32Gj48Pd+7cAdTenhEjRjBixAhcXV3x8vLi/fffzxJHSkoKY8eOpUSJEjg6OtKgQQN27tyZJYa9e/fSsmVLHBwccHd3p3379kRFRTFo0CD+/vtvZs2ape/tunz5MgAnTpygY8eOODk54evry0svvURERIT+mAkJCQwYMAAnJyf8/f2ZMWNGvttGCCGEEEKIJyE9Sg9JStNS+YO/Cvy8pz5sj4ONcX4cmUPeXnrpJY4ePcqlS5d4//33WblyJb6+vvrtfvrpJ15++WUOHDjAwYMHGTZsGCVLlmTo0KEAjBgxglOnTrF8+XICAgJYs2YNHTp04Pjx45QrV47Q0FBat27NkCFDmDVrFlZWVuzYsQOtVsusWbM4d+4cVatW5cMPPwTU+Xaio6N55plneOWVV/jqq69ISkpi/Pjx9OrVi+3btwMwbtw4/v77b9auXYuPjw8TJ07k8OHD1KxZ0yjtI4QQQgghxONIolSErV+/HicnpyzLJk6cyMSJE/n444/ZsmULw4YN48SJEwwcOJBu3bpl2TYoKIivvvoKjUZDhQoVOH78OF999RVDhw7l6tWrLFy4kKtXrxIQEADA2LFj2bRpEwsXLuSTTz7hs88+o27dusyZM0d/zCpVquif29jY4ODggJ+fn37Z7NmzqVWrFp988ol+2Y8//khQUBDnzp0jICCAH374gV9++YXWrVsDakIXGBhovIYTQgghhBDiMSRReoi9tSWnPmxvtOPpdDriYuNwdnHOdWJbe2vLfB+7VatWfPfdd1mWeXh4AGqSsmTJEqpXr06pUqX46quvsu3fsGHDLJOFNmrUiBkzZqDVajl+/DharZby5ctn2SclJQVPT08AQkND6dmzZ75iPnr0KDt27MiW4AFcvHiRpKQkUlNTadCgQZb3VKFChXydRwghhBBPgZjrEBkG/tXBztXc0YhiRhKlh2g0GqMNgQM1UUq3scTBxirXRMkQjo6OhISEPHL9vn37AIiMjCQyMhJHR8c8Hzs+Ph5LS0sOHTqEpWXWJC4zybG3t893zPHx8XTt2pVPP/002zp/f38uXLiQ72MKIYQQ4il0+wQs6gzJ0eprr/JQoi6UqA2BdcGnCljZmDVEUbRJolRMXbx4kdGjRzN//nxWrFjBwIED2bp1a5Zkbf/+/Vn2+ffffylXrhyWlpbUqlULrVZLeHg4zZo1y/Ec1atXZ9u2bUyZMiXH9TY2Nmi12izLateuzapVqyhdujRWVtkvv+DgYKytrdm/fz8lS5YEICoqinPnztGiRYt8tYEQQgghiql7F2Hx82qSZOMEqfEQcU59HF2qbmNpC/41oEQdNXEqURvcy8ADo2mEyI0kSkVYSkoKt2/fzrLMysoKd3d3XnzxRdq3b8/gwYPp0KED1apVY8aMGYwbN06/7dWrVxkzZgzDhw/n8OHDfPPNN/oKc+XLl6d///4MGDCAGTNmUKtWLe7evcu2bduoXr06nTt3ZsKECVSrVo3XXnuN//3vf9jY2LBjxw569uyJl5cXpUuXZv/+/Vy+fBknJyc8PDx4/fXXmT9/Pn379uXtt9/Gw8ODCxcusHz5chYsWICTkxMvv/wy48aNw9PTEx8fH959912j98YJIYQQooiKuQ4/PwsJ4eBbDQb9Adp0uHkYrh+EG4fUR3I0XD+gPjK/G7b3gBJ1sPCvhU+MFhIbgqtvbmcTTzFJlIqwTZs24e/vn2VZhQoV6NevH1euXGH9+vWAOqRt3rx59O3bl3bt2lGjRg0ABgwYQFJSEvXr18fS0pJRo0YxbNgw/bEWLlzIxx9/zFtvvcWNGzfw8vKiYcOGdOnSBVCTqc2bNzNx4kTq16+Pvb09DRo0oG/fvoBa/GHgwIFUrlyZpKQkwsLCKF26NHv37mX8+PG0a9eOlJQUSpUqRYcOHfTJ0Oeff64foufs7Mxbb71FTEyMydtTCCGEEIVc/F34+TmIuQYewfDSarB3V9eVb68+ABQFIi89kDgdhNvHISkSLmzB8sIWGgF8NUPtZQqsq/Y8lagLftXA2s5Mb1AUJhrFkAl8ipDY2FhcXV2JiYnBxcUly7rk5GTCwsIoU6YMdnam+YXQ6XTExsbi4uJSqHpFWrZsSc2aNZk5c6a5Q3kihbV9i4u8tG9B/B4VV2lpafz555906tQJa2trc4dT7Ej7mpa0r2lJ++YgKRp+6qImPC6BMGQTuAXlff/0FPW+phuH0F07QOL53Til3M6+nYU1+FW9nziVqAOeISCfM/KsMF+/ueUGD5MeJSGEEEIIUbilJsDS3mqS5OAFA9bmL0kCsLKFwDoQWAdt7cFs+/NPOrVqhHX4cbXXKbP3KTECbh5RH/8tUPe1dYUSte4nToF1wcnH+O9TFCqSKAkhhBBCiMIrPQVWvAjX/lUTlpfWgNejq/7mi707hLRWH6AO2Yu+kpE4ZdzrdCsUUmLg0k71kck1KKPXKSNx8q8BNnmvMCwKP0mUnlI7d+40dwhCCCGEELnTpsOqV+DidrB2gP4r1TmTTEWjAffS6qPqCxkxpEH4qYwep8Pq/U53z6r3ScVcg1O/Z+xrqSZNz31nvEROmJUkSkIIIYQQovDR6eCPkXB6HVjaQJ8lULLB4/czNktrtbfIvwbUe1ldlhyrDs3LrLB3/SDE31Yr7C3vC0O3g61zwccqjEoSJSGEEEIIUbgoCvw1EUKXgMYCevwIwc+YO6r77FygbAv1keneRXUC3IhzsPZ16PmTzNlUxEn5DiGEEEIIUbjsnA77v1OfP/stVOpq3njywjMYev2sVs07tRb+mW3uiMQTkkRJCCGEEEIUHv98C39PV593/Axq9jNvPPkRVB86TFOfb5kEYbvNG494IpIoCSGEEEKIwuHwz+qQO4BW70GD4eaNxxD1XoHqfUDRwspBEHPD3BEJA0miJIQQQgghzO/kGvhjlPq88RvQfKx54zGURgNdvgLfauqcTCsHqiXORZEjiVIxV7p0aWbOnGnuMIzmce9n0KBBPPfccyY7/+TJk6lZs6bJjp9p0aJFuLm5FZrjCCGEECZ1fgusGgqKDmoPhLYfFe1CCDYO0PtnsHOF6//d7yV7Wu2fpxa7KGIkUSqirl27xpAhQwgICMDGxoZSpUoxatQo7t27Z+7QzGrWrFksWrTIZMcfO3Ys27ZtM9nxn0ROSWTv3r05d+6ceQISQggh8uLKPljxEujSoEp3tTemKCdJmTzKQvf56vP/FkDoMvPGYy77v4eN4+DHDpBQtD6nSqJUBF26dIm6dety/vx5li1bxoULF5g7dy7btm2jUaNGREZGmi02rVaLTqcz2/ldXV1N2oPi5OSEp6enyY5vbPb29vj4+Jg7DCGEECJnN4/Akl6QngTl2sHz34OFpbmjMp7y7aHFO+rz9W/CrWNmDaegaY4th41vqy/qDgHHovMZCiRRyk5RIDXBuI+0xMdvoyh5DvH111/HxsaGzZs306JFC0qWLEnHjh3ZunUrN27c4N13382yfVxcHH379sXR0ZESJUrw7bffPvB2FSZPnkzJkiWxtbUlICCAkSNH6tenpKQwduxYSpQogaOjIw0aNGDnzp369ZlDu9atW0flypWxtbVlwYIF2NnZER0dnSWOUaNG8cwz9+dA2LNnD82aNcPe3p6goCBGjhxJQkKCfn14eDhdu3bF3t6eMmXKsGTJkse2zcND71q2bMnIkSN5++238fDwwM/Pj8mTJ+d6jJ07d1K/fn0cHR1xc3OjSZMmXLlyBcg+9C7zfJ988gm+vr64ubnx4Ycfkp6ezrhx4/Dw8CAwMJCFCxdmOb5Go8nSPqGhoWg0Gi5fvpxjTBcvXuTZZ5/F19cXJycn6tWrx9atW7O8zytXrjB69Gg0Gg2ajG/ichp699133xEcHIyNjQ0VKlRg8eLFWdZrNBoWLFjA888/j5OTE3Xq1GHdunW5tpkQQgiRb3fPwi8vQGoclGqilta2sjF3VMbXYjyEtIX0ZFjxIiRFmTuiAuEf/R+W6zM+UzZ8DVq+Y96ADCATzj4sLRE+CTDa4SwAt7xsOPEm2Dg+drPIyEj++usvpk6dir29fZZ1fn5+9O/fnxUrVjBnzhz9h+XPP/+ciRMnMmXKFP766y9GjRpF+fLladu2LatWreKrr75i+fLlVKlShdu3b3P06FH9MUeMGMGpU6dYvnw5AQEBrFmzhg4dOnD8+HHKlSsHQGJiIp9++ikLFizA09OTwMBAPvjgA1atWsXLL6szWGu1WlasWMHUqVMB9YN/hw4d+Pjjj/nxxx+5e/cuI0aMYMSIEfqkYtCgQdy8eZMdO3ZgbW3NyJEjCQ8Pz0trZvHTTz8xZswY9u/fzz///MOgQYNo0qQJbdu2zbZteno6zz33HEOHDmXZsmWkpqZy4MABfVvmZPv27QQGBrJr1y727t3Lyy+/zL59+2jevDn79+9nxYoVDB8+nLZt2xIYGJjv+AHi4+Pp1KkTU6dOxdbWlp9//pmuXbty9uxZSpYsyerVq6lRowbDhg1j6NChjzzOmjVrGDVqFDNnzqRNmzasX7+ewYMHExgYSKtWrfTbTZkyhc8++4xPP/2UL7/8kpdeeokrV67g4eFhUPxCCCFEFlGX4ednIfEeBNSCvsvB2v6xuxVJFhbQfR7MawnRV2D1MOi7Ql1eTGku7aTO5e/QKDqo+SK0m1okh1MW359QMXX+/HkURaFSpUo5rq9UqRJRUVHcvXtXv6xJkya88847lC9fnjfeeIMePXrw1VdfAXD16lX8/Pxo06YNJUuWpH79+voP2levXmXhwoWsXLmSZs2aERwczNixY2natGmWHpK0tDTmzJlD48aNqVChAo6OjvTp04elS5fqt9m2bRvR0dG88MILAEybNo3+/fvz5ptvUq5cORo3bszXX3/Nzz//THJyMufOnWPjxo3Mnz+fhg0bUqdOHX744QeSkpLy3WbVq1dn0qRJlCtXjgEDBlC3bt1H3mcUGxtLTEwMXbp0ITg4mEqVKjFw4EBKliz5yON7eHjw9ddfU6FCBYYMGUKFChVITExk4sSJlCtXjgkTJmBjY8OePXvyHXumGjVqMHz4cKpWrUq5cuX46KOPCA4O1vf0eHh4YGlpibOzM35+fvj5+eV4nC+++IJBgwbx2muvUb58ecaMGUP37t354osvsmw3aNAg+vbtS0hICO+//z7x8fEcOHDA4PiFEEIIvbjb8PNzEHcLvCtC/1Vg52LuqEzLwQN6LwYrOzi/GXZ9Zu6ITOfqfix/G4Clko6uYjfo9nWRTQqlR+lh1g5q746R6HQ6YuPicHF2xiK3i8TaIV/HVfIxVK9Ro0bZXmfe9N+zZ09mzpxJ2bJl6dChA506daJr165YWVlx/PhxtFot5cuXz7J/SkpKlvt0bGxsqF69epZt+vfvT8OGDbl58yYBAQEsWbKEzp0764eBHT16lGPHjmUZTqcoCjqdjrCwMM6dO4eVlRV16tTRr69YsaJB9x89HJu/v/8je6Y8PDwYNGgQ7du3p23btrRp04ZevXrh7+//yONXqVIly8/W19eXqlWr6l9bWlri6elpUG9Ypvj4eCZPnsyGDRu4desW6enpJCUlcfXq1Xwd5/Tp0wwbNizLsiZNmjBr1qwsyx5sM0dHR1xcXJ4ofiGEEAKAxEhY/DxEhYFbKXjp9yJ334rB/GuohSp+fxV2ToeA2lC+nbmjMq5bx2BJTzRpidxxrobHs99hUYTvOSua6Z0paTTqEDhjPqwdHr9NHrsjQ0JC0Gg0nD59Osf1p0+fxt3dHW9v7zwdLygoiLNnzzJnzhzs7e157bXXaN68OWlpacTHx2NpacmhQ4cIDQ3VP06fPp3lg7W9vX22oWn16tUjODiY5cuXk5SUxJo1a+jfv79+fXx8PMOHD89y3KNHj3L+/HmCg4PzFHteWVtbZ3mt0WhyLTixcOFC/vnnHxo3bsyKFSsoX748//77b76On9s5M5OqB5PdtLS0XN/D2LFjWbNmDZ988gm7d+8mNDSUatWqkZqamut+hspvmwkhhBCPlRIHS3pA+Clw8oMBa8Hl0V9EFks1+0HdlwEFVr8CkWHmjsh4Ii6oSXBKDLqghvxXdiRY2Zo7qiciiVIR4+npSdu2bZkzZ062YWi3b99myZIl9O7dO0vi8vCH/H///TfL0D17e3u6du3K119/zc6dO/nnn384fvw4tWrVQqvVEh4eTkhISJbHo4Z2Pah///4sWbKEP/74AwsLCzp37qxfV7t2bU6dOpXtuCEhIdjY2FCxYkXS09M5dOiQfp+zZ89mKxBhKrVq1WLChAns27ePqlWrZhlG+KQyk9hbt27pl4WGhua6z969exk0aBDPP/881apVw8/PL1vhBxsbG7Raba7HqVSpEnv37s127MqVK+f9DQghhBD5lZYMy/rCjUNg7wEDfgePMuaOyjw6TIMSdSE5Ri2Lnppo7oieXPS1jHvOIsCvOtpeS9FaFO0kCSRRKpJmz55NSkoK7du3Z9euXVy7do1NmzbRtm1bSpQooS+YkGnv3r189tlnnDt3jm+//ZaVK1cyapQ68/WiRYv44YcfOHHiBJcuXeKXX37B3t6eUqVKUb58efr378+AAQNYvXo1YWFhHDhwgGnTprFhw4bHxtm/f38OHz7M1KlT6dGjB7a2939hxo8fz759+xgxYgShoaGcP3+etWvXMmLECAAqVKhAhw4dGD58OPv37+fQoUO88sor2QpYGFtYWBgTJkzgn3/+4cqVK2zevJnz588/8p4wQ4SEhBAUFMTkyZM5f/48GzZsYMaMGbnuU65cOVavXq3veevXr1+2Hp7SpUuza9cubty4QURERI7HGTduHIsWLeK7777j/PnzfPnll6xevZqxY4vo7OdCCCEKP20arBwEl3eDjTO8uAp8jPd3tcixslUr/Dl4wZ3jsGFMvqofFzrx4WqSFHsdvMqj7b+aaJ09Eclw8mYsey9EsPH4LbaeumPuSPNN7lEqgsqVK8fBgweZNGkSvXr1IjIyEj8/P5577jkmTZqUrTLZW2+9xcGDB5kyZQouLi58+eWXtG/fHgA3NzemT5/OmDFj0Gq1VKtWjT/++EN/D9LChQv5+OOPeeutt7hx4wZeXl40bNiQLl26PDbOkJAQ6tevz4EDB7JNhFq9enX+/vtv3n33XZo1a4aiKAQHB9O7d2/9NgsXLuSVV16hRYsW+Pr68vHHH/P+++8/YevlzsHBgTNnzvDTTz9x7949/P39ef311xk+fLjRzmFtbc2yZct49dVXqV69OvXq1ePjjz+mZ8+ej9znyy+/ZMiQITRu3BgvLy/Gjx9PbGxslm0+/PBDhg8fTnBwMCkpKTnex/bcc88xa9YsvvjiC0aNGkWZMmVYuHAhLVu2NNr7E0IIIfR0OvWenHMb1UIG/ZZDidrmjsr8XEtAz4VqgnF0GQTWhXqvmDsqQL01ID4lndjkdGKT0ohNSiMmKe3+6+SM10nppCdEMvrGaEqnh3ELb166O5oLUzOLP1nBkfujmsr7OtGmsq953pSBNEp+qgIUQbGxsbi6uhITE4OLS9aKKsnJyYSFhVGmTBns7OxMcn6dTkdsbCwuLi65F3MQBpH2Na28tG9B/B4VV2lpafz555906tQp231h4slJ+5qWtK9pFYv2VRS1t+Tgj2BhBX2WqhOwFgKFpn33zoItH4CFNQzeCEH1jHLY5DRtRjKjJjaxSekZyU7msnRiEjNeP5D4ZK7X5SE7cCCZxTbTqGNxnruKKz1SJ3FFuX9rho2FgruTHa721rjaW1PSw5EZvWoY5f09idxyg4dJj5IQQgghhDC+rZPVJAmNOo9QIUmSCpXGI+H6QTi9Dn4dAMP/BicfAFLTdcRk9OZkJj3RSanEJKYRk5SuPn+gxyc68f62KelPXoDJxtICF3trXOytcLGzxiUj4XGxs8LdVkef8+MIjDpPqrUrV9ou5Wv/qur2dlbYWcLWzZvo1KlF0U30kURJCCGEEEIY2+4vYe9M9XnXmVD1BXNGYzZanZKR4KRlSXpiElP1z5OU13jdOhT/uKscndmd1y0+IDJZR2Jq7gWaHsdCwwPJzf2Ex9XeWp/Q3H+urr+/rTW2VhbZqhqrbyodVg6EqP1g7YjNwNXUDaybZZPHVfMtKiRREkIIIYQQxnNgPmyboj5v+xHUGWTWcIwhs3cnOjGV6Izem6hEtXcnKmNZ5vP7yVAacSnpeTr+P5o3WGvzPjXSj/NS+iKmpd+fUsXFzgpXBzXBcbO30Sc3rvbWuGUsV9fdX+7qYI2TjRUWFnmbfibPdDpY+zqcWQ+WttA34/6qYkoSJSGEEEIIYRxHV8CfGZVUm4+DJiPNG89D0rVqwnM3NomwONh+9i5xKTo1AUpUh7ZFJapJTnRSKlEJatITn8eE51EcbSxxc7DJSGSs7ic9+kSnKmciral74E2GW22ge9dnsa72PM521lgaO9kxlKLApvFwbDloLKHnIijbwtxRmZQkSpBjdTAhRN7I748QQggAzmxQK9wB1B8Ord412al0OoW45HQiE1PVHp3MRCfxfq9PVObzjKQnOjGNuOQHEx4rOHEkz+fUaMDFzhp3B2tcHWxwd1B7cdwcbHB74LlrDr081pZ5KTg1GKwuwb6v8d42BsrWBIcK+W0a09n+MRyYB2jg+blQsZO5IzK5pzpRyry5LDEx0eTz8whRXKWmpgJgaWlp5kiEEEKYzaWd6lxJihZq9IUO09XMIg8eTHoiE9SkJzJBTYCiEtOISshcnqYmRhnr8lKZ7VGc7aywUdII8HLF3dEWN/v7CZCbvTXujmqPj5uDmvy4O1gXTO9O60lw84g659SKF2HodrB1Nu0582LvLNj9hfq88xdQvZd54ykgT3WiZGlpiZubG+Hh4YA6h06ON609AZ1OR2pqKsnJyVK+2gSkfU3rce2r0+m4e/cuDg4OWFk91f+dCCHE0+vaf7CsH2hTUSp2IbbtV0RGJhVI0uNkqw5jc3e0xt1BvX/HPaOH58Hnmb0+7g42uNhZoei0GeXBGxauqmyWVtBjIXzfHCLOwe+vqZPTGvnzab4cXKiWMAc1kSsk8z0VhKf+k42fn1rvPTNZMjZFUUhKSsLe3t7oSZiQ9jW1vLSvhYUFJUuWlPYXQohiKClVy72EFCITUrmXkEpkvJroZCY59pGneevmGJyUBP6lOoOP9SIpdLtB53KytdInPO4ONng4qsmNh4MN7o7qMndHazwynrs5WGNrZdhohjTdk1WUMyknbzU5WthRLRu+72toMso8sRz/DdaPVp83HQ3NxpgnDjN56hMljUaDv78/Pj4+JillmJaWxq5du2jevHnh+saimJD2Na28tK+NjY305gkhRBGgKAqJqdr7SU9CChGZiU9CKvfi1WWZ6+/Fp5KU9uiEorTmFittPsRJE88hXTkGp75JUsZHy8ykx8PBBreMpMc9Ywibu+MDSZCjDR4Z9/UYmvQUS0H1oON02PCWOh+Vf82CL5xw7i9YMxxQoO7Lam/SU8bgRCktLY3bt2+TmJiIt7c3Hh4exoyrwFlaWprkHgtLS0vS09Oxs7OTD/ImIO1rWtK+QghReCmKQnxKOpEJqQ8kPClZen7uJaSqPULx6nNDJiK1sbLAMyO58XC0wdPRhtLW0Qw59zkuKTHEulYkvcMy1rh76RMjGyv5Au2J1X0Zrh+Co0vhtyEwfBe4liiYc1/eo06Aq0uHaj2h0xfmHf5nJvlKlOLi4vjll19Yvnw5Bw4cIDU1FUVR0Gg0BAYG0q5dO4YNG0a9evVMFa8QQgghRLGVkq7lXnwqt6MTOBmlIeHQDaKT04mIS70/BO6BXqBUbf4THztrCzwdbbMkPh6ONng62d5PiJzuL3eytco6vDr+LiwcCim3wSMYlyF/0MDJx4itIAA1MenyJdw5DrePq4nL4D/Byta0571xCJb2hvRkqNAJnvsOntKRI3lOlL788kumTp1KcHAwXbt2ZeLEiQQEBGBvb09kZCQnTpxg9+7dtGvXjgYNGvDNN99Qrlw5U8YuhBBCCFHoJaSkExGvDnNT/00hIk59fi/h/vO78SkPla+2hDMnH3t8BxvLLAmPh6MtXk4P9AA5qcs8M5472Bg4oEibDmc3wI5P4N55cAmEAWtBkiTTsbaHXothXku4cRA2TVCTJ1MJPw2/vACp8VC6mVpYwvLpHVGS59+U//77j127dlGlSpUc19evX58hQ4Ywd+5cFi5cyO7duyVREkIIIUSxoygKsUnp3M1Ieu49mADFp3A3o/cnMyHK7T6fnFhbavBwtMFam0xwgDfeLnZ4OtngldkL9EBvj6ejLfY2Jr63J+EeHF4E//0IsdfVZY7eapLkFmTacwvwKAMvLIAlPeHgDxBYF2r2M/55IsPg5+cgKQpK1IW+y8DazvjnKULynCgtW7YsT9vZ2tryv//9z+CAhBBCCCEKmqIoxKWkEx6bwt24FMLjkrkb91AvUEbicy8hhTRt/upZ21lb4OVkq394O9vglTHUzcv5geVOtrjYW5Genp5Rvrq2+e4RvRmqTjB6/DfQpqjLHDyhziCoPwyc/cwT19OoXFto+Q7snKZWofOtAv41jHf82Jvw87MQfxt8KkP/lYVj/iYzM0rVu9jYWLZv306FChWoVKmSMQ4phBBCCPHEtDqFewkp+gQoMwkK1z+/nxQlp+Xvfh9nOyu8nWzV3p4HkiAvZ7WnJzMZ8nKyxdG2iBQa1qbBqbVqgnRt//3l/jWhwXCo0v2p72Uwm+Zvq/cPnd8MK16CYTvBwQjF1BLuweLnIfoKuJeBl9YY57jFgEG/tb169aJ58+aMGDGCpKQk6taty+XLl1EUheXLl/PCCy8YO04hhBBCCL3kNO39pCdWvb8nPPZ+0hOe8bgXn5KvyUydba3wdrHFx9kWb2c7vDKSIO8HEiAvZ7UnyM66GJWzjg9XJxY9+KPaqwBgYQWVn1MTpMB6T2XVs0LFwgK6z1PvV4q6DKuHQb9fn6zQQnIs/NId7p4B5wB1OKX0FOoZlCjt2rWLd999F4A1a9agKArR0dH89NNPfPzxx3lOlHbt2sXnn3/OoUOHuHXrFmvWrOG5557Tr588eTLLly/n2rVr2NjYUKdOHaZOnUqDBg0MCVsIIYQQhZiiKMQkpWXr6VEToKy9QVmLHuROowFPRzX58XFRkx4fF1t8nO3wds5YnvHc5Pf7FDbXD8L+7+HkGtBlzCfp5At1BkPdwfKhubCxd4fev8CCNnBhC/z9KbSaYNix0pJgWR+4FaoOqRywFtxLGTXcos6gRCkmJkY/b9KmTZt44YUXcHBwoHPnzowbNy7Px0lISKBGjRoMGTKE7t27Z1tfvnx5Zs+eTdmyZUlKSuKrr76iXbt2XLhwAW9vb0NCF0IIIYQZpKRrCY9N4U5sMrdjk7kdk5zxPIU7MeqyO7HJ+Zrnx8bKIiPJeSjpcbHNeG6Hj7NaAMHK8uksb5yj9BQ1Mdr/Pdw8fH95YD2oPxwqPwtWNuaLT+TOrxp0naVOBvv3dChRG8q3z98x0lPVcuNX9oKtC7y4GrzLmybeIsygRCkoKIh//vkHDw8PNm3axPLlywGIiorCzi7v41Y7duxIx44dH7m+X7+sFT2+/PJLfvjhB44dO0br1q0NCV0IIYQQmVLi4dZRSLyX7101Wi3+0YfgtJZ4LUQnphGVlEpMYhpRianEJKURnZhKVGI6MUmpufYAuWc8KgFYgKONFS72VrjaW+Nqb42Lnfqvq0Pmcytc7G1wsLFAQxoQn/2gOiAm42EoSxv1pnnXwOIx7Cz2ljq07tBCSLirLrO0gaovqMUZStQ2b3wi72r0UXsD/5sPq4eq9yt5lM3bvjqtmmSd3wxW9urwvYCapoy2yDIoUXrzzTfp378/Tk5OlCpVipYtWwLqULpq1aoZMz691NRU5s2bh6urKzVqPLrKR0pKCikpKfrXsbGxAKSlpZGWlmaS2HKTeU5znPtpIO1rWtK+piXta1rSvg/RaeHuGTQ3D2Nx8xCam0fg7mk0Sv4nLAX1A0R9gDCwBpyAwNx2yG8HRVLGoxBQHH1QAmqrjxJ1UPxrgp2rSc9ptOtXUdBcP4DFwflozqxHo1MTVsXZH13twehqvaSW+lZP9mTnKkKKxf8PradgefMIFjcOoix/ifRBf4K1Q+77KAqWf47G4uRqFAtrtD0WoQTUNfrPvjC3b35i0iiKkr/6lhkOHjzItWvXaNu2LU5OTgBs2LABNzc3mjRpku/jaTSabPcoAaxfv54+ffqQmJiIv78/v//+O/Xq1XvkcSZPnsyUKVOyLV+6dCkODo+5eIQQQojiQFGwS4vEPeEi7omXcE+8iFviZax0Kdk2jbV0J9LCi3RFQ7oCWh3qvxmPvLLUqA8rDVhaZP3XSqNgaaGuL0qstMk4J9/EguzzIMXZ+hPlWJYoh2CiHcsSY1cSxaLwVLaz0KUSGPUvZe5uwS3pin55hGMFwrzbcsutNoqm8MQrDGOXGkmLsx9glx7LNfcmHC417NG9n4pClZvLCQnfiIKG/0q/zi33+gUbcCGQmJhIv379iImJwcXFJddtDU6UjO1RiVJCQgK3bt0iIiKC+fPns337dvbv34+PT86zQOfUoxQUFERERMRjG8MU0tLS2LJlC23btjXfPAjFmLSvaUn7mpa0r2k9Ve2bHIvmViiam4fQ3DwMNw5hkRCebbMkjT1nLUI4pC3LgdSyhOqCuUPuZYAz7wPyc7HF19kOXxdbfF1s8XK04sqZY3R5pikB7o7YFqcKcA9KS0Jz5ziaG2rbam4eRhN9JdtmiqUtil81lIA6KAG1UErUAbfSBg/ZM/j6jbmOxeGFWBxZjCYpUo3Nyg6lygto6w0F36oGxVPcFKf/HzRX9mC55AU0ihZt+8/Q1R2S43YWe2Zg+fc0ANI7z0Kp2d9kMRXm9o2NjcXLyytPiZJBXyVotVoWLVrEtm3bCA8PR6fL2m2/fft2Qw6bI0dHR0JCQggJCaFhw4aUK1eOH374gQkTcq7wYWtri62tbbbl1tbWZv1Bmfv8xZ20r2lJ+5qWtK9pFbf21aWlEnMllIRL+9HcOIhDxDHcEsLQkPV7z3TFgrNKEKG6EEKVYEJ1IVxUAtBxv6iBi50VFd3s8Xe1w8/VDl8XO/xc7PB1zfjXxQ53B2s0OXzYT0tL48+bxyjj41Ks2jcba2so00R9ZEqIUOezuXFIvU/kxiE0ydFobhyEGwfvb2fvASXqqI/AuhBQGxw983n6PFy/igKX98CB7+HMBsgcTulaEuq9jKb2ADQOHkg5i+yKxf8PIa2g7RTY/B6WW97FMrAWBD3UU7T/e8hIkmg/Dat6gwoktMLYvvmJx6BEadSoUSxatIjOnTtTtWrVHP8DNRWdTpelx0gIIYQoTuJT0rkZnaQ+opJIDL+I7Z3DeEafoGTSKUK0l3DXpOH+0H7XdN4ZCVEwR3XBnLMMxsPVFX9XewLc7OngZkeAm/o8wNUOfzd7nIrKJKiFjaOXWmUss9KYokDkpSyJE7ePQVKkWsL5wpb7+7qXuZ84lagDftUNn8A1NQGO/QoH5kP4yfvLyzRXq9dV6AgWxbSnT2TVaIR67Z36Xa1mN3wXOGWMvgpdChvfVp+3nACNXjNbmEWNQf9DLl++nF9//ZVOnTo90cnj4+O5cOGC/nVYWBihoaF4eHjg6enJ1KlT6datG/7+/kRERPDtt99y48YNevbs+UTnFUIIIcxBq1O4E5vM9Sg1EbqRkRDdiknmZnQSCdHhlE09R03NBWpYXKS9xUU8NXFZD6KBGMWB0xbluGpfmXuu1Uj2rYGrVwkC3Ox51s2OV93s8XS0KdAvMp9qGg14BquP6r3UZekpcOcEXM/oebpxEO5dgKgw9XHiN3U7Cyt1OFxgXSiRkTx5huR+vqjLanJ0ZDEkZ5T1s3ZQK6HVHwY+lUz2VkUhpdHAs7Mh/DREnIWVg9V5kc7+CWtfV7dp+Bq0GG/eOIsYgxIlGxsbQkIe80ucBwcPHqRVq1b612PGjAFg4MCBzJ07lzNnzvDTTz8RERGBp6cn9erVY/fu3VSpUuWJzy2EEEIYm6IoRMSnci0qkWuRiVyPSuJ6VCLXIpO4FpXIzegk0jIqJNiSSmXNFWpYXKSbxQVqaC5SxuJOtupw6Ror7jlVIMGrBroSdXEsUx/PkpVpaG1JQzO8R5FHVrb3h91lSoqCG4czHgfVHoDECHXCz1uh8N8CdTtbVywDalIx0RXNOQ2UaqhWpru0A/bPg3ObIHOopXsZqD8UavYHe7eCfY+icLF1Viejnf8MXNkDK16Ei9vUoZi1XoT2nxSPMvcFyKBE6a233mLWrFnMnj37ib6tatmyJbnVkli9erXBxxZCCCFMISYxjWtRiVkSoGuRiVzLSIqS03Ivt13P8jzv2a6giu4cVmSfW0jnHoxFUEbPQom6WPlVxdcq+723ogiyd4eQ1uoD1CF70Vfv3+904xDcDIWUGCzC/qYCwMp16ra2rpDywKRQwa2hwXAIaQsWcveRyOBdHp6bA7++BOc2qssqPwtdv5YkyQAGJUp79uxhx44dbNy4kSpVqmS7KUoSHCGEEEVVYmq6mgBFZiRDUUlZEqHcJk4F9bOIn4sdQe4OBHrYq/+621PaSUul0zNxPLoIjS7jS0IHT3W4VWBddbLPgNpYOORehU4UIxoNuJdSH1W7q8u0aRB+Gu3V/Vzfv46SluFo7p5VkyQbZ6jZT+1B8ipn3thF4VW5GzQdA3u+hJA20H2B3KtmIIMSJTc3N55//nljxyKEEEKYXEq6lhtRSfrEJ7NX6HrGULl7CamPPYaXkw2B7g4EeTgQ5G6f8VxNigLc7LGxeugb/rMbYcNbEHtDfV2zPzQfqw6bkm95xYMsrcG/OjqvSoTe9iGgUyesdckQcQ68yqvDq4R4nDaT1OF27mWkx/EJGJQoLVy40NhxCCGEEEYTn5LOhduxHInQcHnnJa5FJ3PlXgLXIpO4E5fM42YQdLGzykiC1N6gII/7iVCguwP2Nnn8djbuDmwaDyfXqK/dS0OXmRDcKre9hMjK1jnrvU5C5IVnsLkjKPKkLqgQQogiKSElncv3ErgckZjxbwKX7yUQFpFIRHzmNBKWcP5Ctn3trS0fSHzURCizVyjQ3QFX+yec90NR4MgvsPldtSqZxhIaj4AW74CNw5MdWwghRIHIc6JUu3Zttm3bhru7O7Vq1cq1iMPhw4eNEpwQQoinW2Jquj4RCotI4EpGYhR2L4G7cbnPqefuYI2rRSq1QgIo4+1MKU8HSnqow+VMWjr73kX4YxRc3q2+9qsO3b6BgJqmOZ8QQgiTyHOi9Oyzz2Jrq1bdee6550wVjxBCiKdMUqpW3yMUdi+BKxmJ0OWIBMIfkwx5ONpQytOBMp6OlPZyVJ97OVLK0xEHK/jzzz/p1KlawcwMr02Dfd/A359CejJY2UOriercJZYygEMIIYqaPP/PPWnSpByfCyFEgVMUuLYf4sPNHYlKo4HA+uDsa+5ICq2kVC1XIjOSoYhErmT0EF2+l8Cd2Mf3DJXydKSMlyOlPR0p7eWg/uvpiKvDoxOgtLQ0Y7+NR7txGNaNhDvH1ddlW6r3InmUKbgYhBBCGNUTfcV16NAhTp8+DUCVKlWoVauWUYISQohcbZsCe74ydxRZ2blCr8VQtoW5IzEbRVEIj0vh/J14LoTHcT48not347kckcjt2ORc93XLTIY8HSjt5ajvFSrzmGTI7FITYMcn8O8cdVJHe3doPw1q9JFqdkIIUcQZlCiFh4fTp08fdu7ciZubGwDR0dG0atWK5cuX4+3tbcwYhRDivlPr7idJgfXUm+TNLf42RF2GX7pDl6+g9gBzR2RSOp3CjegkLtyN58KdeM5nJEUXwuNznWPI1d6a0l6OlPZUe4TKPDBUzs3BpgDfgZFc2ArrR6sThgJU66kmSU7yN1AIIYoDgxKlN954g7i4OE6ePEmlSpUAOHXqFAMHDmTkyJEsW7bMqEEKIQQAd8/B76+pzxuNgPZTzRtPprRkWPs6nPgN1r0B9y5A68lFfu6KdK2Oq5GJXAiP1ydCmY+kNG2O+1hooLSnIyE+TvpHaS+1Z8jdsQgmQzlJuAd/TYBjK9TXrkHQ+Uso3868cQkhhDAqgxKlTZs2sXXrVn2SBFC5cmW+/fZb2rWTPxRCCBNIiYMVL0JqHJRqCm2mmDui+6zt4IUF6pwVf38Ke2dB5CV4fl6RKAWdkq7lckRmQpQxZC48nkt3E0jV6nLcx9pSQ1kvJ0J8nQjxdqKcrxPlfJwp7eWArVUh6OUzBUWBY7/CpncgKRLQQIP/wTPvga2TuaMTQghhZAYlSjqdLscKQtbW1uh0Of9RFUIIgykKrB0BEWfB2R96Lix8VcQ0GrXCmUcwrBsBp/+AmE7Qdzk4+5k7OkAtqHDxbvz9hOhOPBfuxnPlXiJaXc4zsNpZW6g9Q95OlPN1JsTHiXI+TpT0cMDKsmj3mOVL1GVYPwYublNf+1SBbl9DYF2zhiWEEMJ0DPqk8cwzzzBq1CiWLVtGQEAAADdu3GD06NG0bt3aqAEKIQT/fAunfgcLa+j1Mzj5mDuiR6vRG9xKwvJ+cPMIzG8N/VaAX9UCCyE2OS3LMLnzd+K4cDee61FJKDnnQzjbWmXrHQrxcaKEmz0WFk9xUQKdFvbPhe0fQ1oiWNpCi7ehySiwLMRFJoQQQjwxgxKl2bNn061bN0qXLk1QUBAA165do2rVqvzyyy9GDVAI8ZQL2w1bPlCfd5gGQfXNG09elGoEQ7fBkl5w7zz82B56LDT6PSyKonA9KomTN2M5dSuWUzdjOXUzhpsxj64w5+5grSZBvmrPkNpD5Iyvi63pJmAtqm4fV+85u3lEfV2qCXSdBV7lzBuXEEKIAmFQohQUFMThw4fZunUrZ86cAaBSpUq0adPGqMEJIZ5ysTfht8GgaKF6H6j3irkjyjuPsvDKFljxElzeDct6Q4fp0GC4QYdLTddxPjyOUzdj9YnR6Vuxj6wy5+Nsq+8ZCs4YLlfOxwlPJ9sneVdPh7SkjHvNvlavPVtXaPch1BpQ5At0CCGEyDuDB/lrNBratm1L27ZtjRmPEEKo0lPh1wGQcBd8q6plt4taj4e9O7y4GjaMhiO/wMa31Yp47afleo9VTFIap29lJEQZSdGF8DjStNnHzVlbaijv60xlfxcqB7hQ2d+Fin4uhXvuocIsbBf8MUotxgFQqRt0+rzQ3GcmhBCi4BiUKI0cOZKQkBBGjhyZZfns2bO5cOECM2fONEZsQoin2V8T4fp/6kSuvRcXiepxObKygW6zwTMEtk6GA/PUwgA9fkTR2BKZAltPh3M2PEGfFF2PSsrxUC52VhnJkKs+KQrxccLGSno5nlhSFGx+T01oQS0a0ukLqNTFvHEJIYQwG4MSpVWrVrFu3bpsyxs3bsz06dMlURJCPJmjy+G/+erz7vPVYWxFmUZDWqNR3NH447dtFFbnN3P182YMTR/H2WQ3OByabZcSbvb6ZKhygAtVAlwo4WYv9xEZm6LAyTWwcTwkhKvL6g6BNpPVJF0IIcRTy6BE6d69e7i6Zv8D4uLiQkRExBMHJYR4it06pg59AmgxHsq3N288BohLTuP0rThO3YxRiyzciuXc7XhStc5U17zLApsZlEwPY7EykWEWY0j2rknlEq5UCXBVEyN/GTpXIGJuwIa34NxG9bVXebVYQ6nG5o1LCCFEoWBQohQSEsKmTZsYMWJEluUbN26kbNki/s2vEMJ8kqLg15cgPRlC2kKLd8wd0WNFJaQSei2aEzfUpOjkzViuRibmuK2TrRV2/vVY4vUjg6+MxyfuPL/Zfgxt5mFVrUUBR/4U0+ng4A+wdYo6gbGFNTQbA83eAispdiGEEEJlUKI0ZswYRowYwd27d3nmmWcA2LZtGzNmzJBhd0IIw+h0sHqYev+OW0noPq/QVRjT6hTO3o7j8NUoDl+N4sjVaMIiEnLcNsDVLsvQucr+rgS6PzAnUfJ2dCsHY3VxK6waBDFX1Ll5ZGidaYWfgT9GwrX96uvAetDtG/CpZN64hBBCFDoGJUpDhgwhJSWFqVOn8tFHHwFQunRpvvvuOwYMGGDUAIUQT4ldn8P5zWBlB71/AQcPc0dEZEIqRx5Iio5eiyYhVZttu7LejlTPHDoX4EIlfxc8HG1yP7idC9pev3B5/ouUjdgKWyepFfE6f6kWgCgO4u6oBTkUnVlOr9Fq8Y8+hOaMDiwt4dZR2DsLdGlg4wStJ0G9l8HC0izxCSGEKNwMLg/+6quv8uqrr3L37l3s7e1xcnIyZlxCiKfJ+S2wc5r6vMtX4F+jwENI1+o4eyeOI1ejc+0tcrK1okaQK7VLulO7pDs1g9xwf1xS9CgWVhwPGkCp2q2x3PIuHFms9qj1XqyWFi+KFEVNjvZ/D6fWqkmJmVgB9QHCHlpRvgN0ngGugQUflBBCiCLD4EQpk7e3tzHiEEI8rSLDYNXLgKJWG6vZr2BO+0Bv0eEr0Ry9Hk3iI3qLMpOi2qXcKOfjjKWFcYfH6eoNxdIrRJ1c9/JuWNAW+v9atKr9pSXDydVqgnQr9P5yn8pg62KWkHSKQlRUJO7uHlhoNOr9R3UGQpXuMsRRCCHEYz1xoiSEEAZLS1KLNyTHQIm60GG6SU6T2Vt0+Go0R66oydHle9kLLjjZWlEzyI3aJd2oVcqdWkFuuDkU0DC48u1gyF+wtDfcOw/zW0OfpVCqUcGc31AxN9TCCId+gsSMqqeWtlCtB9QfBgE1zRaaNi2NPX/+SadOnbCwliqCQggh8kcSJSGEeSgKrB8Dt4+Dgxf0+tloFcfuxafoh9AdvhrFsesxOfYWBWf2FpVSe4xCfJyM3luUL35VYeg2WNYHbh6Bn7vBs99C9V7miyknigJX/4H9c+H0elAy2talhHrPT+2B4Ohl3hiFEEKIJySJkhDCPA7+CEeXgsYCei4E1xIGHSZdq+PM7biMYXTRHHlEb5GzrRU1S7pRq6Q7tUq6FWxvUX44+8GgP2HNMDj9B6weCvcuQst3zD9cLDURjq+EA/PhzvH7y0s1hQbDoEJnsJQ/K0IIIYoH+YsmhCh41/6DjePV520mQ5nmed41OU3LoStR7LsYwaErj+4tCvFxUofQlSwkvUX5YeMAPX+GbZPVKm1/T1cr4j37LVjbFXw8UVfgvwVqsYmkKHWZlb3a01V/mNoTJoQQQhQz+UqUrl+/jp2dHV5e6pCK3bt3M3fuXK5evUqpUqV4/fXXadSokI+nF0KYV/xd+HWAWg2tUjdoPDLXzXU6hdO3Y9l7IYLd5yM4EBZJSnrWctMP9hbVLulGrSB3XB2K+D0pFhbQ9kPwDIH1o+HEbxBzTb1vqSCGtSkKhP0N++fBuY33S3y7lYR6Q6HWi4WihLsQQghhKvlKlF544QXef/99unTpwtq1a+nevTtdunShSZMmnDt3jhYtWrB69Wq6dOliqniFEEWZNl2t7BZ3E7zKw3NzchxOdismid3nI9hzPoJ9FyOIiE/Nst7H2ZamIV7UL+NB7VLuhHg73Z/ItbipPQDcSqlFL67th/nPQP+V4F3BNOdLiYdjK+DAPLh75v7ysi2h/nAo317mHRJCCPFUyFeidPLkSapUqQLAtGnT+OSTTxg/frx+/ezZs/nggw8kURJC5GzbFLX8tY2TOqmsrTMA8Snp/HvxHnsuRLD7/F0u3s06f5GDjSUNynjQtJw3zcp5Uc7HCY2579cpSGVbwMtbYWlPdZ6lBW2h108Q3Mp457h3MWN43RJIiVGXWTtCzb7q8DpTJWZCCCFEIZWvRMnKyoq4uDgAwsLC6NixY5b1HTt2zJI4CSGE3qm1sO9rALRdZxOa6MOerefZc+EuR65Gk65T9JtaaKB6oBvNynnRNMSLWiXdsbGyMFfkhYN3eXhlOyzvB9f+hV9egC5fQp1Bhh9Tp4OL2+HA9+qkv2T8DDzKqslRzX5g52qM6IUQQogiJ1+JUosWLVi2bBnVq1enVq1a7Ny5k+rVq+vX79ixgxIlDKtcJYQovpTwMyhrXsUC+Mu1F2N/cyAuZV+WbUp5OtA0xItm5bxoVNar6N9jZAqOnjBwHawdAcd/hT9GqT1Bbaao9zTlVXIshC6F/+arRSIyhbSFBsMhuHX+jieEEEIUQ/lKlKZPn06zZs24efMmTZs25d133+W///6jUqVKnD17lhUrVjB37lxTxSqEKEIiE1LZeyGCA2eu8vKZIZRWEvhHW5nX7nRFSzpuDtY0CfaiSUZyFOThYO6QiwYrW+g+Ty3ysPMTtZcu8pK6zMYx933vnlPvPTq6DFLj1WW2LlCzP9QfCp7Bpo9fCCGEKCLylShVqlSJ/fv389577/HZZ5+RkJDAkiVLsLKyol69eixfvpznnnvORKEKIQqz5DQtBy9HsedCBHsu3OXkzVgUReFb61mUtrzBbcWDnwI+YEzFcjQr50WVANeiU667sNFooOV4dYjc2tfgzHpY2An6LgcX/6zb6rRwfrOaIF3cfn+5VwU1OarRF2ydCjZ+IYQQogjI9zxKwcHBLFu2DEVRCA8PR6fT4eXlhbW1DJMR4mmSWbZ7z/kI9lzIuWz3u25b6Zx8AJ2FNW4vLWVuGZk+wKiq9wS3IPW+pVuhsKA19FsBftXU+Y6O/KIWaIi6nLGDBip0VO8/KtvS/BPYCiGEEIWYwRPOajQafH19jRmLEKKQe7Bs994LEdxLyFq229fFlqYhamW6Fjancf/tJwAsOk7HTpIk0yjZEF7ZBkt7QcQ5+KE9VOoCp/+AtER1Gzs3qP0S1HsF3EubM1ohhBCiyDA4UcrJtWvXmDRpEj/++KMxDyuEMKN7yTBvdxgbT97hxI3YLOscbCxpWNZTX4QhJLNsd8wN+H64Oklpjb5Q92UzRf+U8CgDL29RJ/IN+1udBwnApwo0GAbVeoGN3AMmhBBC5IdRE6XIyEh++uknSZSEKOJuxSSx4dgt1h29wbHrVsB5QC3bXSPIjaYhuZTtTk9RP7AnRoBvNej8pQzxKgj2bvDiKtj+McTehDoDoVQTaXshhBDCQPlKlNatW5fr+kuXLj1RMEII8wmPTebP47dYf+wWB69E6ZdrUGhY1pMuNQLoUMUPTyfb3A/010S4cVCdf6f3YunJKEiW1tB2irmjEEIIIYqFfCVKzz33HBqNBkVRHrmNRr69FKLIiIhPYeOJ22w4dpP9YZFk/mprNFCvlAcdq/pgdesEfZ6rm7eCLaHL1OIBaKD7AnVImBBCCCFEEZSvRMnf3585c+bw7LPP5rg+NDSUOnXqGCUwIYRpRCWk8tfJ26w/dot9FyPQPfC9R+2SbnSpHkCnav74udqRlpbGn3+eyNuBbx2D9W+qz1u+A+XbGT12IYQQQoiCkq9EqU6dOhw6dOiRidLjepuEEOYRk5TG5ozkaO+FCNIfyI6qB7rSpbo/nar5E+hu4DC5xEhY8SKkJ0O5dtD8bSNFLoQQQghhHvlKlMaNG0dCQsIj14eEhLBjx44nDkoI8eTiktPYdjqc9cdusutcBKna+3McVfZ3oUsNf7pUC6Ck5xPeQ6TTwephEH1FLT3dfR5YWDx2NyGEEEKIwixfiVKzZs1yXe/o6EiLFi2eKCAhhOESU9P1ydGOs3dJfWAC2Aq+znSu7k+X6v6U9XYy3kl3fQYXtoCVHfRaDPbuxju2EEIIIYSZGLU8uBCi4CWnadlxJpz1x2+x/XQ4SWla/bqy3o50qR5Al+r+lPd1Nv7Jz22GndPV511mgn91459DCCGEEMIMJFESoghKSdey61wE64/dZOupOySk3k+OSnk60KW6P52rBVDJ39l0lSgjw2D1K4AC9V6Bmn1Ncx4hhBBCCDOQREmIIiI1XcfeCxH8cewmW07eIS4lXb+uhJs9Xar706V6AFVLuJi+TH9qIqx4CZJjILAetJ9m2vMJIYQQQhQwSZSEKMTStTr+uXSP9UdvsenkbWKS0vTr/Fzs6Fzdn87V/akV5FZwc5gpCqwfDXeOg6M39PwJrGwK5txCCCGEEAUkz4lS7dq12bZtG+7u7nz44YeMHTsWB4cnrJYlhMhRXHIayw9c48e9YdyKSdYv93a2pVNVP7rUCKBOSXcsLMwwwfPBH+DYctBYQo+F4Fqi4GMQQgghhDCxPCdKp0+fJiEhAXd3d6ZMmcL//vc/SZSEMLJbMUks2nuZpfuv6ofWeTja0LGqH12qB1C/jAeW5kiOMl07ABvfUZ+3mQxlcq+EKYQQQghRVOU5UapZsyaDBw+madOmKIrCF198gZNTziWGP/jgA6MFKMTT4NTNWBbsvsS6ozf1k8GG+DgxtFkZnq1ZAjtrSzNHCMSHw68DQJcGlZ+Fxm+YOyIhhBBCCJPJc6K0aNEiJk2axPr169FoNGzcuBErq+y7azQaSZSEyANFUdh9PoL5uy+x+3yEfnnDsh4Ma16WluV9zDO0LifRV+DX/hB3C7wqwLPfQkHdEyWEEEIIYQZ5TpQqVKjA8uXLAbCwsGDbtm34+PiYLDAhiqvUdB1/HL3J/N2XOHM7DgBLCw2dqvkztFkZqge6mTfAh7gnnMdq4RhIjABnf+izBGxNMCeTEEIIIUQhYlDVO51OZ+w4hCj2YpLSWHbgKgv3hnEnNgUABxtL+tQryeAmpQnyKHz3/GlOraHJ+elolDTwqw79VoBLgLnDEkIIIYQwOYPLg1+8eJGZM2dy+vRpACpXrsyoUaMIDg42WnBCFAc3opNYuCeM5f9dIz6jQIOPsy2DmpSmf/1SuDpYmznCHCgK7PoCqx0fA6Ar1wGLHj+Abc73JQohhBBCFDcGJUp//fUX3bp1o2bNmjRp0gSAvXv3UqVKFf744w/atm1r1CCFKIpO3Ihh/u5LrD92C21GgYbyvk4MbVaWbjUDsLUqBAUacpKeAutGqiXAgQveHSjV4ycsbO3MHJgQQgghRMExKFF65513GD16NNOnT8+2fPz48ZIoiaeWoijsPHeX+bsuse/iPf3yJiGeDG1WlhblvQtuYlhDJEbC8v5wdR9oLNF2+JSTt30oZVFIkzohhBBCCBMxKFE6ffo0v/76a7blQ4YMYebMmU8akxBFTkq6lrWhN1mw+xLn7sQDaoGGrtX9eaVZWaqWcDVzhHkQcR6W9oLIS2DrAj0XoSvVHP7809yRCSGEEEIUOIMSJW9vb0JDQylXrlyW5aGhoVIJTzxVYhLT+GX/FRbtu8zdOLVAg5OtFX3rBzGoSRlKuNmbOcI8CtsNK16E5GhwKwn9fgWfSpCWZu7IhBBCCCHMwqBEaejQoQwbNoxLly7RuHFjQL1H6dNPP2XMmDFGDVCIwuhaZCI/7Anj14PXSEzVAuDnYsfgJqXp26AkLnaFsEDDoxz5Bf54U51INrAe9FkKTvKFhxBCCCGebgYlSu+//z7Ozs7MmDGDCRMmABAQEMDkyZMZOXKkUQMUojA5dj2a73ddYuPxW2TUZ6CinzPDmpelS/UAbKwszBtgfuh0sP0j2POl+rpKd3huDlgXkV4wIYQQQggTMihR0mg0jB49mtGjRxMXp06Y6ewsE1CK4kmnU9hxNpx5uy6xPyxSv7xZOS+GNS9L0xCvwl2gISdpSbBmOJxaq75uPg5aTgSLIpToCSGEEEKYkMHzKGWSBEkUV8lpWn4/coP5uy9x8W4CAFYWGrrVDOCVpmWpHOBi5ggNFHcHlveFG4fAwhq6fQM1+5o7KiGEEEKIQsWsXx/v2rWLrl27EhAQgEaj4ffff9evS0tLY/z48VSrVg1HR0cCAgIYMGAAN2/eNF/A4qkQlZDKN9vO0/TT7byz+jgX7ybgbGvF8OZl2T2+FV/2qll0k6Q7p2BBazVJsneHAWslSRJCCCGEyMET9yg9iYSEBGrUqMGQIUPo3r17lnWJiYkcPnyY999/nxo1ahAVFcWoUaPo1q0bBw8eNFPEojhTFIXfDl3nw/WniEtOByDA1Y4hTcvQu14QzkWpQENOzm+FlYMgNQ48gqH/SvAMNndUQgghhBCFklkTpY4dO9KxY8cc17m6urJly5Ysy2bPnk39+vW5evUqJUuWLIgQxVPiTmwyE1YfZ/uZcEAt0PBqy2A6VfPH2rIY3LdzYD5sfBsUHZRqCr0Xg4OHuaMSQgghhCi0DEqUfv75Z3r37o2trW2W5ampqSxfvpwBAwYYJbiHxcTEoNFocHNze+Q2KSkppKSk6F/HxsYC6lC+NDPMCZN5TnOc+2nwpO2rKAprj97iow1niE1Ox9pSw5utQxjSuBRWlhag05Km0xoz5IKl02Kx9QMs//tefVm9L9pOM8DSJk9zJMn1a1rSvqYl7Wta0r6mJe1rWtK+plWY2zc/MWkURVHyewJLS0tu3bqVbXLZe/fu4ePjg1ab/w+WGo2GNWvW8Nxzz+W4Pjk5mSZNmlCxYkWWLFnyyONMnjyZKVOmZFu+dOlSHBwc8h2XKL5iU2HFJQtORKk9RkGOCv1DtPgXk8vESptEncvf4RcbCsAp/56c9+0CRa1CnxBCCCGEkSQmJtKvXz9iYmJwccn9nnODepQURcmxHPL169dxdXU15JC5SktLo1evXiiKwnfffZfrthMmTMgy6W1sbCxBQUG0a9fusY1hCmlpaWzZsoW2bdtibV3E73EphAxpX0VRWH/8NjPWnyE6KQ1rSw1vtApmaNPSai9ScRB7A6sV/dHEnkCxskPb7VvKVXqWcvk8jFy/piXta1rSvqYl7Wta0r6mJe1rWoW5fTNHm+VFvhKlWrVqodFo0Gg0tG7dGiur+7trtVrCwsLo0KFDfg75WJlJ0pUrV9i+fftjkx1bW9tsQwIBrK2tzfqDMvf5i7u8tm9EfArvrTnBppO3AagS4MKMXjWo6FdEq9jl5OYRWNoH4m+DozeavsuxCqz7RIeU69e0pH1NS9rXtKR9TUva17SkfU2rMLZvfuLJV6KUOSwuNDSU9u3b4+TkpF9nY2ND6dKleeGFF/JzyFxlJknnz59nx44deHp6Gu3Y4umz/thNPlh7ksiEVKwsNLzxTDleaxVcPIo1ZDq9HlYPhbRE8K4E/VaAeylzRyWEEEIIUeTkK1GaNGkSAKVLl6Z3797Y2dk90cnj4+O5cOGC/nVYWBihoaF4eHjg7+9Pjx49OHz4MOvXr0er1XL7ttoL4OHhgY2NzROdWzw97sWn8MHak2w4fguASv4ufNGzOlUCjD9M1GwUBfZ9A1s+ABQIbg09F4JdMXqPQgghhBAFyKB7lAYOHGiUkx88eJBWrVrpX2feWzRw4EAmT57MunXrAKhZs2aW/Xbs2EHLli2NEoMo3jYev8V7v5/gXkIqlhYaXm8VwohWIdhYFaNeJG0abHgLDv+kvq77MnT8DCzNWv1fCCGEEKJIM+iTlIWFRY7FHDLltepdy5Ytya3ongEF+YQAICohlUnrTrLu6E0AKvg680XPGlQLLGY9LEnR8OsACPsb0ECHadDgf1LZTgghhBDiCRmUKK1evTpLopSWlsaRI0f46aefcizNLURB2nzyNhPXnCAiPgULDbzaMpiRrctha2Vp7tCMKzIMlvaCiHNg7Qg9foAKOU/gLIQQQggh8segRCmnuY569OhBlSpVWLFiBS+//PKTxiVEvkUnpjLlj1OsOXIDgHI+TnzRswY1gtzMG5gpXN0Py/tC4j1wDlCLNvhXN3dUQgghhBDFhlFvYmjYsCHDhg0z5iGFyJPtZ+/y/tpThMepvUjDmgfzZpty2FkXs14kgOO/we+vgTYF/GtA3xXg4m/uqIQQQgghihWjJUpJSUl8/fXXlChRwliHFOKxYpPSWHLBggP/HAGgrLcjX/SsQe2S7maOzAQUBf7+DHZ+or6u0BlemA82juaNSwghhBCiGDIoUXJ3d89yj5KiKMTFxeHg4MAvv/xitOCEyM2Os+G8s+oYd2It0GjglaZleKtdheLZi5SeAuvegGMr1NeN34A2U8CiGL5XIYQQQohCwKBEaebMmVleW1hY4O3tTYMGDXB3L4bf5ItCJTY5janrT7Pi4DUAvO0UvnmxPg1DfMwcmYkk3IMV/eHqP6CxhM4zoO5gc0clhBBCCFGsmXUeJSHya/f5u4z/7Rg3Y5LRaGBgw5JU0V6iTqlimqDfPadWtosKA1tX6LUIgp8xd1RCCCGEEMWewfcoRUdH88MPP3D69GkAqlSpwpAhQ3B1LWbz1IhCIT4lnakbTrPswFUASno48HmP6tQOcuHPPy+ZOToT0KbDv3NgxyeQngRupaDfr+BT0dyRCSGEEEI8FQxKlA4ePEj79u2xt7enfv36AHz55ZdMnTqVzZs3U7t2baMGKZ5uey9E8PZvx7gRnQTAwEalGN+xIg42VqSlpZk5OhO4GQp/jIRbR9XXZZrDCz+Ck7dZwxJCCCGEeJoYlCiNHj2abt26MX/+fKys1EOkp6fzyiuv8Oabb7Jr1y6jBimeTgkp6UzfeIbF/14BINDdns96VKdxsJeZIzOR1ETYOQ3++RYULdi5QrupUOtFeKB4ihBCCCGEMD2De5QeTJIArKysePvtt6lbt67RghNPr38u3uPtVUe5Fqn2Ir3YsCQTOlbC0daoU38VHhd3wPo3Ieqy+rrK89DhU3D2NWdUQgghhBBPLYM+dbq4uHD16lUqVsx6v8S1a9dwdnY2SmDi6ZSYms5nm86yaN9lAEq42fPpC9VpWq6Y9iIlRsJf78LRpeprlxJqVbsKHc0blxBCCCHEU86gRKl37968/PLLfPHFFzRu3BiAvXv3Mm7cOPr27WvUAMXT40BYJON+O8qVe4kA9K1fkomdKuJsZ23myExAUeDEKtg4HhIjAA3UHwrPvA92LuaOTgghhBDiqWdQovTFF1+g0WgYMGAA6enpAFhbW/Pqq68yffp0owYoir80rY7pG8/w494wFAX8Xe2Y/kJ1WpQvpsULoq/BhjFwfrP62rsidPsGguqbNy4hhBBCCKFnUKJkY2PDrFmzmDZtGhcvXgQgODgYBwcHowYnng5frt5No2OTCLT0IaLSSwx/oTkuxbEXSaeFA/Nh24eQlgCWNtBsLDR9E6xszR2dEEIIIYR4wBPdGe/g4EC1atWMFYt4Ci07cJXSR7+kjdURdcH5v2DlM1B/OJRrCxaW5g3QWO6chHUj4cZB9XVQQ+j2NXhXMG9cQgghhBAiRxZ53fB///sf169fz9O2K1asYMmSJQYHJZ4OBy9HsnDtZnpY/q0uKNMC0MDF7bCsN3xTG/bNhqRoc4b5ZNKSYdtH8H1zNUmycYbOX8LgjZIkCSGEEEIUYnnuUfL29qZKlSo0adKErl27UrduXQICArCzsyMqKopTp06xZ88eli9fTkBAAPPmzTNl3KKIuxWTxP9+Ocwki5VYahSU8h3Q9Fuhlsf+bwEc/ll9vvld2DEVqveG+sPAt7K5Q8+7y3vViWPvXVBfV+gMnb8AlwDzxiWEEEIIIR4rz4nSRx99xIgRI1iwYAFz5szh1KlTWdY7OzvTpk0b5s2bR4cOHYweqCg+ktO0DF98CJ+Es3S1/RcAzTPvqyvdS0O7j6HlRDj+K+yfB+En4dBC9VG6GTQYDuU7gmUhnVMpKRq2ToJDi9TXTr7Q6XOo1E0mjhVCCCGEKCLy9UnT19eXd999l3fffZeoqCiuXr1KUlISXl5eBAcHo5EPgeIxFEVhwurjHLsew092q9SFVV8Av6pZN7RxgDqDoPZAuLIX9n8PZzbA5d3qwzUI6r0M1foV+HvI1al18Oc4iL+tvq49ENp+CPZuZg1LCCGEEELkj8Ffybu7u+Pu7m7MWMRTYMHuMNYcuUE9y/O04BBoLNXeo0fRaKB0U/URcx3++0HtqYm5BlsnY7VzOjVd6sPtIAiqXWDvI5vYW/DnWDizXn3tEawWayjd1HwxCSGEEEIIg+W5mIMQT2rXubtM23gaUPja5w91Ya3+4BWStwO4BkKbSTDmNDw7B/xroElPplTkLqx/aAU/doATq0GbZrL3kI1OpyZv39ZXkyQLK2j2Fry6T5IkIYQQQogirJDe5CGKm8sRCYxYehidAhMr3sH/8kF1HqHmb+f/YNZ2aoJVsx/pl/dxe+2HlIg9iObqP3D1H3D2h7pD1KF7Tj5Gfy96d8+pxRqu/qO+LlEHun6dfRihEEIIIYQocqRHSZhcfEo6Q38+SGxyOrWCXHkl9Rd1Rd2XwS3I8ANrNCiB9TlU5jXSRxyBFuPB0QfibqmV8r6qAquHw41DxnkjmdJT4e/PYG4TNUmydoQO0+HlLZIkCSGEEEIUE9KjJExKp1MYvSKU8+Hx+LrYsrDRXSzWHQZrB2g2xngncvaHVhPVYW+n1qrFH24chGPL1UeJump58SrPgZWt4ee5dkCdOPbuafV1SFvo8iW4lTTK2xBCCCGEEIWDQYlSUlISiqLg4OAAwJUrV1izZg2VK1emXbt2Rg1QFG0zt51ny6k72FhZ8H3/Wrht6KKuaPiqaYbFWdlC9V7q48Yhtbz4ydVq0rTmIGx+Tx2SV3cIuPjn/bgpcerEsQfmAQo4eEHHT9WKfVLtUQghhBCi2DFo6N2zzz7Lzz//DEB0dDQNGjRgxowZPPvss3z33XdGDVAUXZtO3OLrbecB+OT5atSM2Qbhp8DOFRq/YfoAStSB7t/D6JPQ6j211ykhHHZ9BjOrwsrBcPVfUJTcj3N2E3zbEA58DyhQox+M+A+q9ZAkSQghhBCimDIoUTp8+DDNmjUD4LfffsPX15crV67w888/8/XXXxs1QFE0nbkdy5hfjwIwpEkZetT0hR2fqCsbjwT7Aiwt7+QDLcbBm8ehx0Io2Qh06WpP04/t4fvmcOQXSEvOul98uJpMLesNsdfBrRS8tAae/w4cPAoufiGEEEIIUeAMGnqXmJiIs7MzAJs3b6Z79+5YWFjQsGFDrly5YtQARdETlZDK0J8PkpiqpUmIJxM7VYQjP0FUGDh6Q4P/mScwS2uo2l193DqqDqM7/hvcPgZrX4fN70OdgWqRibC/4a93ITkaNBbQ6HVoOQFsHM0TuxBCCCGEKFAG9SiFhITw+++/c+3aNf766y/9fUnh4eG4uLgYNUBRtKRrdYxYdphrkUkEedgzu29trHQZVeJALbZg62TeIAH8a8Cz36pzMrWZDK5BkBQJe75Sh+WtfV1Nkvyqw9Dt0O5jSZKEEEIIIZ4iBiVKH3zwAWPHjqV06dI0aNCARo0aAWrvUq1atYwaoChaPvnzDHsv3MPBxpL5A+ri7mgDB3+AuJvgEgh1Bps7xKwcPKDpaBgZCr1/gdLqkFKs7KDthzB0BwTINS2EEEII8bQxaOhdjx49aNq0Kbdu3aJGjRr65a1bt+b55583WnCiaPnt0HV+3BsGwJe9alDRz0WtFrd7hrpBy/HqZLGFkaUVVOqqPu5dVMuX56cqnhBCCCGEKFYMnkfJz88PPz+/LMvq16//xAGJounI1SgmrjkOwMjW5ehQNSPJ+HcuJN4Dj2C1WlxR4Bls7giEEEIIIYSZ5TlR6t69e54Punr1aoOCEUVTeGwy//vlEKnpOtpW9uXN1uXUFYmRsC+jCmKriWqvjRBCCCGEEEVAnu9RcnV11T9cXFzYtm0bBw8e1K8/dOgQ27Ztw9XV1SSBisIpJV3L8F8OcSc2hXI+TnzZqwYWFhlzC+37GlJiwbcqVMl7oi2EEEIIIYS55fkr/oULF+qfjx8/nl69ejF37lwsLS0B0Gq1vPbaa1L17imiKArv/36CI1ejcbGzYv6AujjbWasr4+6ow+4AnnkPLAyqGyKEEEIIIYRZGPTp9ccff2Ts2LH6JAnA0tKSMWPG8OOPPxotOFG4/fzPFX49eB0LDczuV5vSXg+Uz979BaQnQWA9KN/BfEEKIYQQQghhAIMSpfT0dM6cOZNt+ZkzZ9DpdE8clCj89l2M4MP1pwCY0LESzct7318ZfRUOZvRAPvM+aDRmiFAIIYQQQgjDGXR3/eDBg3n55Ze5ePGivtLd/v37mT59OoMHF7J5coTRXYtM5PUlh9HqFJ6vVYJXmpXJusHOT0GXBmVaQNkW5glSCCGEEEKIJ2BQovTFF1/g5+fHjBkzuHXrFgD+/v6MGzeOt956y6gBisIlMTWdoT8fJCoxjWolXJnWvRqaB3uMIs7D0aXq89YfmCdIIYQQQgghnpBBiZKFhQVvv/02b7/9NrGxsQBSxOEpoCgKY1ce5cztOLycbJk3oA521pZZN9oxFRQdVOgEgXXNE6gQQgghhBBP6IkntpEE6enx7Y4L/Hn8NtaWGua+WBt/V/usG9w6CifXABpo9a5ZYhRCCCGEEMIYDE6UfvvtN3799VeuXr1KampqlnWHDx9+4sBE4bL11B1mbDkHwIfPVqVuaY/sG22fqv5b9QXwq1qA0QkhhBBCCGFcBlW9+/rrrxk8eDC+vr4cOXKE+vXr4+npyaVLl+jYsaOxYxRmdiE8jjdXhKIo8GLDkvStXzL7Rlf3w/m/QGMJrSYWfJBCCCGEEEIYkUGJ0pw5c5g3bx7ffPMNNjY2vP3222zZsoWRI0cSExNj7BiFGcUkpTH050PEp6RTv4wHH3Spkn0jRYFtH6rPa70InsEFG6QQQgghhBBGZlCidPXqVRo3bgyAvb09cXFxALz00kssW7bMeNEJs9LqFEYuO0JYRAIl3OyZ0782NlY5XDKXdsCVPWBpAy3eLvhAhRBCCCGEMDKDEiU/Pz8iIyMBKFmyJP/++y8AYWFhKIpivOiEWX321xn+PncXO2sLvn+pDl5Ottk3erA3qd4r4BpYsEEKIYQQQghhAgYlSs888wzr1q0D1MlnR48eTdu2benduzfPP/+8UQMU5rE29Abf/30JgM961KBqCdecNzyzAW4eAWtHaDqmACMUQgghhBDCdAyqejdv3jx0Oh0Ar7/+Op6enuzbt49u3boxfPhwowYoCt6JGzG8/dsxAP7XIphuNQJy3lCnhe0fq88bvgpO3gUUoRBCCCGEEKZl8ISzFhb3O6P69OlDnz59jBaUMJ+I+BSG/XyQlHQdLSt4M659hUdvfGIV3D0Ndq7Q+I2CC1IIIYQQQggTM2joHcDu3bt58cUXadSoETdu3ABg8eLF7Nmzx2jBiYKVmq7jtV8OczMmmbJejszqUwtLC03OG2vTYEfGvElNRoG9W4HFKYQQQgghhKkZlCitWrWK9u3bY29vz5EjR0hJSQEgJiaGTz75xKgBioIz5Y+THLgcibOtFfMG1MXV3vrRGx9ZDFGXwdEbGvyvwGIUQgghhBCiIBiUKH388cfMnTuX+fPnY219/8N0kyZNOHz4sNGCEwVnyf4rLNl/FY0GZvapSYiP06M3TkuCvz9XnzcbCzaOBROkEEIIIYQQBcSgROns2bM0b94823JXV1eio6OfNCZRwP67HMmktScBGNuuAq0r+T5mhx8g7ia4BELdwQUQoRBCCCGEEAXL4HmULly4kG35nj17KFu27BMHJQrOzegkXv3lEOk6hc7V/HmtZXDuO6TEwZ4v1ect3wGrHOZWEkIIIYQQoogzKFEaOnQoo0aNYv/+/Wg0Gm7evMmSJUsYO3Ysr776qrFjFCaSlKpl2OKDRMSnUsnfhc97VkejeUTxhkz/fgeJ98AzBGr0LZhAhRBCCCGEKGAGlQd/55130Ol0tG7dmsTERJo3b46trS1jx47ljTekTHRRoCgK76w+xokbsXg42jDvpTo42DzmckiMhH3fqM9bTQRLgy4fIYQQQgghCj2DPulqNBreffddxo0bx4ULF4iPj6dy5co4OeVSAEAUKqsO32Bt6E0sLTR82682QR4Oj99p7yxIiQXfalD5edMHKYQQQgghhJk8UZeAjY0NlStXNlYsogDtOncXgOHNy9Io2PPxO8Tdhv3fq8+feQ8sDJ6CSwghhBBCiEIvX4lS9+7d87Td6tWrDQpGFJywiAQAaga55W2H3TMgPQkC60P59qYLTAghhBBCiEIgX4mSq6trltdLly6la9euODs7GzUoYVqKougTpbLeeZgDKeoKHFyoPm/9Pjyu4IMQQgghhBBFXL4SpYULF2Z5/dtvv/HZZ59JSfAi5m5cCvEp6VhooKRHHhKlvz8FXRqUbQllss+fJYQQQgghRHEjN5o8hS5l9CYFeThgY/WYS+DuOTi6TH3+zAcmjkwIIYQQQojCQRKlp9CluxnD7rzy0Ju0YyooOqjQGQLrmDgyIYQQQgghCgezJkq7du2ia9euBAQEoNFo+P3337OsX716Ne3atcPT0xONRkNoaKhZ4ixuwiLiASjj9Zhy7reOwqnfAQ08867J4xJCCCGEEKKwyNc9SuvWrcvyWqfTsW3bNk6cOJFlebdu3fJ0vISEBGrUqMGQIUNyrKiXkJBA06ZN6dWrF0OHDs1PqCIXmT1KZR5XyGH7x+q/1XqAbxUTRyWEEEIIIUThka9E6bnnnsu2bPjw4VleazQatFptno7XsWNHOnbs+Mj1L730EgCXL1/Oc4zi8TIr3gXnNvTu6r9wfjNoLKHlhAKKTAghhBBCiMIhX4mSTqczVRxGk5KSQkpKiv51bGwsAGlpaaSlpRV4PJnnNMe5c5Km1XE1MhGAQDfbnONSFCy3TsYC0Nbsj86lJBSS+B9W2Nq3uJH2NS1pX9OS9jUtaV/TkvY1LWlf0yrM7ZufmDSKoigmjCXPNBoNa9asybHX6vLly5QpU4YjR45Qs2bNXI8zefJkpkyZkm350qVLcXBwMFK0RVd4EkwNtcLGQuGz+tocp0Tyjj1O44ufo9VYs7Xy5yTbeBR8oEIIIYQQQhhZYmIi/fr1IyYmBhcXl1y3zVePUlEwYcIExowZo38dGxtLUFAQ7dq1e2xjmEJaWhpbtmyhbdu2WFtbF/j5H7b97F0IPUKwjwudOzfKvoGiYLnwS/V5vZd5pu2LBRtgPhW29i1upH1NS9rXtKR9TUva17SkfU1L2te0CnP7Zo42y4tilyjZ2tpia2ubbbm1tbVZf1DmPn+mq5HJAAT7OOUcz+k/4FYoWDti2XwsloUg5rwoLO1bXEn7mpa0r2lJ+5qWtK9pSfualrSvaRXG9s1PPDKP0lMmc7LZHOdQ0mnvV7pr9Bo4eRdgZEIIIYQQQhQeeU6Uvv76a5KT1d6Iq1evYoxbm+Lj4wkNDdXPjxQWFkZoaChXr14FIDIyktDQUE6dOgXA2bNnCQ0N5fbt20987qfVpbsZcyjlVBr8+G9w9wzYuUGjEQUbmBBCCCGEEIVInhOlMWPG6Mf0lSlThrt37z7xyQ8ePEitWrWoVauW/hy1atXigw8+ANR5m2rVqkXnzp0B6NOnD7Vq1WLu3LlPfO6nVZi+R+mhyWa1abDzE/V5k1Fg71awgQkhhBBCCFGI5PkepYCAAFatWkWnTp1QFIXr16/re5geVrJkyTwds2XLlrn2TA0aNIhBgwblNUTxGPEp6YTHqaXTs/UoHVkMUZfB0QcaDM++sxBCCCGEEE+RPCdK7733Hm+88QYjRoxAo9FQr169bNsoipKvCWdFwQq7q/YmeTnZ4mL3wI1saUnw92fq8+ZjwSaXiWiFEEIIIYR4CuQ5URo2bBh9+/blypUrVK9ena1bt+Lp6WnK2ISRXYpQ70/KVsjhvwUQdwtcg6DOoIIPTAghhBBCiEImX+XBnZ2dqVq1KgsXLqRJkyY5luEWhdeljB6lsg8Ou0uOhd0Z8ya1fAes5GcqhBBCCCGEQfMoDRw4EIBDhw5x+vRpACpXrkzt2rWNF5kwusxCDmUe7FH69ztIigTPclC9j5kiE0IIIYQQonAxKFEKDw+nT58+7Ny5Ezc3NwCio6Np1aoVy5cvx9tb5t8pjDKH3ukTpcRI+Ge2+rzVRLAsdvMPCyGEEEIIYRCDJpx94403iIuL4+TJk0RGRhIZGcmJEyeIjY1l5MiRxo5RGIGiKPpiDmW9M0qD750JKbHgWw0qP2e22IQQQgghhChsDOpC2LRpE1u3bqVSpUr6ZZUrV+bbb7+lXbt2RgtOGM/duBQSUrVYWmgo6eEAcbdh/zx1Zev3wcKgnFkIIYQQQohiyaBPxzqdDmtr62zLra2t0el0TxyUML6LGb1JQe722FhZqJXu0pMgqAGUk+RWCCGEEEKIBxmUKD3zzDOMGjWKmzdv6pfduHGD0aNH07p1a6MFJ4wnWyGH6wfVf2v0BY3GTFEJIYQQQghROBmUKM2ePZvY2FhKly5NcHAwwcHBlClThtjYWL755htjxyiM4NLdjDmUvJ1AUeD2cXWFf3UzRiWEEEIIIUThZNA9SkFBQRw+fJitW7dy5swZACpVqkSbNm2MGpwwniw9SnG3ITECNJbgU9nMkQkhhBBCCFH4GFwPWqPR0LZtW9q2bWvMeISJZCZKZb0c4fZhdaFXebC2N2NUQgghhBBCFE5S6uwpkKbVcTUyEcgYenf7qLrCr5oZoxJCiP+3d9/RUdXpH8c/kzaQQAqkESUNpBdRlEUU+CkILKtYdhHEAqgrigKCqOxKkbXCEV2VxbUgiBp1VyyLBVEpKgjSUVykDEVMCMV0EsLM9/dHklkmIZBMZjKT5P06J+cw33vnzjNP7sm5D9/vfS4AAP6LQqkBOHCsQCcdRqEhgYoLt/7v/iQKJQAAAOC0KJQagD2H/3d/ksVioVACAAAAzqLahdLJkyf1+uuv69ChQ96IB17g0sihKFc6tqdkA4USAAAAcFrVLpSCgoI0ZswYFRYWeiMeeMGeI6WtwaPDpEM/lgw2TZDCon0YFQAAAOC/3Fp6d/HFF2vz5s0eDgXeUrb0rqSRA8vuAAAAgLNxqz343XffrYkTJ+rAgQO68MILFRYW5rK9SxceYupPXJbebdpaMkihBAAAAFTKrUJp2LBhkqRx48Y5xywWi4wxslgsstvtnokONZZbWKzM3CJJUkpMGDNKAAAAQBW4VSjZbDZPxwEv2Xuk5PlJ0U2sCg+2SIe2l2ygUAIAAAAq5VahlJSU5Ok44CXORg4xYdLRnZK9SAppKkWl+DgyAAAAwH+5/RylRYsWqVevXkpISNC+ffskSc8++6w+/PBDjwWHmnM2cog+ddldJymAR2gBAAAAlXHrannevHmaOHGifv/73ysrK8t5T1JkZKSeffZZT8aHGtpzaiOH9C0lgyy7AwAAAM7IrULp+eef18svv6y//vWvCgwMdI53795d27Zt81hwqDmbc+kdrcEBAACAqnKrULLZbOrWrVuFcavVqvz8/BoHBc8wxshWuvQupXkohRIAAABQRW4VSikpKad94Oxnn32m9u3b1zQmeEhmbpHyT9gVGGBRYnCWdPyYZAmUYvgdAQAAAGfiVte7iRMnauzYsSosLJQxRuvWrVNaWpqeeOIJvfLKK56OEW4qa+TQMqqxQg7/WDIY01YKbuTDqAAAAAD/51ahdPvtt6tx48Z6+OGHVVBQoBtvvFEJCQn6+9//7nwYLXxvj8v9SetLBll2BwAAAJyVW4WSJI0YMUIjRoxQQUGB8vLyFBsb68m44AHO+5Oiw6SMrSWDFEoAAADAWbldKElSZmamduzYIUmyWCyKiYnxSFDwDNuprcF308gBAAAAqCq3mjnk5ubq5ptvVkJCgvr06aM+ffooISFBN910k7Kzsz0dI9xU9gyl8yIc0m+2ksH4Lj6MCAAAAKgb3CqUbr/9dq1du1Yff/yxsrKylJWVpSVLlmj9+vW68847PR0j3FBsd2j/sQJJUmuzv2Qw/FwptJkPowIAAADqBreW3i1ZskRLly7VpZde6hwbMGCAXn75ZQ0cONBjwcF9+48VyO4wCg0JVLOcn0oGWXYHAAAAVIlbM0rNmzdXREREhfGIiAhFRUXVOCjU3KmNHCyHuD8JAAAAqA63CqWHH35YEydOVEZGhnMsIyNDkydP1tSpUz0WHNxX1hq8pOMdhRIAAABQHVVeetetWzdZLBbn6507dyoxMVGJiYmSpP3798tqterw4cPcp+QHyjretW7eSNrN0jsAAACgOqpcKF1zzTVeDAOetqd06V2XRock+wnJGi5FJvk4KgAAAKBuqHKhNH36dG/GAQ8raw3e2lHaFjyukxTg1kpLAAAAoMGp0QNnJSkvL08Oh8NlLDw8vKaHRQ3kFhbrcG6RJCm+4OeSQZbdAQAAAFXm1hSDzWbT4MGDFRYW5ux0FxUVpcjISLre+YGy+5NimloVcuTHkkEKJQAAAKDK3JpRuummm2SM0fz58xUXF+fS5AG+V1YopTQPpeMdAAAA4Aa3CqUtW7Zow4YNatu2rafjgQfsLm3k0C0iX8r4TQoIkmLb+zgqAAAAoO5wa+ndRRddpAMHDng6FnhI2YxSN2vp7yimnRRk9WFEAAAAQN3i1ozSK6+8ojFjxujgwYPq1KmTgoODXbZ36dLFI8HBPbbSh82eZy/teMeyOwAAAKBa3CqUDh8+rN27d2vUqFHOMYvFImOMLBaL7Ha7xwJE9RhjZCtdehd3fGfJIIUSAAAAUC1uFUqjR49Wt27dlJaWRjMHP5OZW6T8E3YFBlgUdmx7ySCFEgAAAFAtbhVK+/bt00cffaTWrVt7Oh7U0O7DJcvu2kc5ZMnaVzIY18mHEQEAAAB1j1vNHC6//HJt2bLF07HAA8oaOVza9FDJQERLKbSZDyMCAAAA6h63ZpSuuuoq3Xfffdq2bZs6d+5coZnD1Vdf7ZHgUH17Su9POj+4tOMdy+4AAACAanOrUBozZowkaebMmRW20czBt8pmlM5z0PEOAAAAcJdbhZLD4fB0HPCQskKJjncAAACA+9y6Rwn+6cRJh/YfK1CwTiosu6xQ4plWAAAAQHW5NaN0uiV3p5o2bZpbwaBmDvxWILvDqHNIhiz2E5I1QopM9HVYAAAAQJ3jVqH0/vvvu7wuLi6WzWZTUFCQWrVqRaHkI2WNHHo3TZfyVbLsjmdcAQAAANXmVqG0adOmCmM5OTkaOXKkrr322hoHBffYjpQ8Q6lbyIH/FUoAAAAAqs1j9yiFh4frkUce0dSpUz11SFRTWSOH1nY63gEAAAA14dFmDtnZ2crOzvbkIVENuw/nSzJ0vAMAAABqyK2ld88995zLa2OM0tPTtWjRIg0aNMgjgaH6bEfydY6OKKQ4RwoIlmLa+TokAAAAoE5yq1B65plnXF4HBAQoJiZGt956q6ZMmeKRwFA9uYXFOpxbpP4B+0oGYtpJQSG+DQoAAACoo9wqlGw2m6fjQA2V3Z/UvdFBySGW3QEAAAA1wANn64my1uDdgg+UDFAoAQAAAG6r1ozS6NGjz7qPxWLRq6++6nZAcM+eso53jtLZvhZdfBgNAAAAULdVq1D67bffKt1mt9v1xRdfqKioiELJB2xH8hWufDUrTi8ZiOvk24AAAACAOqxaS+/ef//90/6MHDlSu3fvltVq1WOPPVbl461atUpXXXWVEhISZLFY9MEHH7hsN8Zo2rRpatGihRo3bqx+/fpp586d1Qm5wdhzOE/tLftLXkQmSo0jfRoPAAAAUJfV6B6lb7/9VpdddpluvPFG/eEPf9CePXv00EMPVfn9+fn56tq1q+bOnXva7bNmzdJzzz2nF198UWvXrlVYWJgGDBigwsLCmoRd7xhjZDuSr44Be0sG4ll2BwAAANSEW13vtm/frgcffFCfffaZbrnlFqWlpencc8+t9nEGDRpU6XOXjDF69tln9fDDD2vIkCGSpNdff11xcXH64IMPNGzYMHdCr5cO5RSp4IRdHYNLW4PTyAEAAACokWoVSgcOHNC0adP0xhtv6A9/+IO2bt2q9u3beyUwm82mjIwM9evXzzkWERGhHj16aM2aNZUWSkVFRSoqKnK+zsnJkSQVFxeruLjYK7GeSdlnevOzd2ZkS5K6Bu+XHNLJ6PYyPviuvlAb+W3IyK93kV/vIr/eRX69i/x6F/n1Ln/Ob3VishhjTFV3Dg0NlcVi0T333KNevXpVut/VV19d5QCcgVgsev/993XNNddIklavXq1evXrp119/VYsWLZz7DR06VBaLRe+8885pjzNjxgw98sgjFcbfeusthYaGVjuuuuCbDIs+sBltbzRKwbLr845zdDwk2tdhAQAAAH6loKBAN954o7KzsxUeHn7Gfas1o1R2b9Ds2bM1e/bs0+5jsVhkt9urc1iPmjJliiZOnOh8nZOTo5YtW+rKK688azK8obi4WMuWLVP//v0VHBzslc/Y/OkOnbd3pYJll2kUof8bcrNksXjls/xNbeS3ISO/3kV+vYv8ehf59S7y613k17v8Ob9lq82qolqFksPhqHYw7oqPj5ckHTp0yGVG6dChQzr//PMrfZ/VapXVaq0wHhwc7NNflDc/f9+x4+oQUHJ/kiW+i4JDQrzyOf7M17/f+o78ehf59S7y613k17vIr3eRX+/yx/xWJ54adb3zppSUFMXHx+vLL790juXk5Gjt2rXq2bOnDyPzP3sO56mDhUYOAAAAgKe41fXOU/Ly8rRr1y7na5vNps2bN6tZs2ZKTEzUhAkT9Oijj+q8885TSkqKpk6dqoSEBOd9TJBOnHTowG/H1SGIQgkAAADwFJ8WSuvXr9f//d//OV+X3Vt06623asGCBXrggQeUn5+vP//5z8rKytKll16qzz77TI0aNfJVyH5n/7EC2R2OU2aUeIYSAAAAUFM+LZT69u2rMzXds1gsmjlzpmbOnFmLUdUttiP5OtdyROGWAikwRIpu4+uQAAAAgDrPb+9RQtWU3J+0t+RFTDspqOE1cgAAAAA8rcYzSnl5eRW64fmiDXdDZTuSr44BLLsDAAAAPMmtGSWbzabBgwcrLCxMERERioqKUlRUlCIjIxUVFeXpGHEGe47k0/EOAAAA8DC3ZpRuuukmGWM0f/58xcXFydJAHm7qj/Yczlf7AAolAAAAwJPcKpS2bNmiDRs2qG3btp6OB9WQU1is4ryjOrfRkZKB+E6+DQgAAACoJ9xaenfRRRfpwIEDno4F1WQ7nK8OZbNJkUlSowjfBgQAAADUE27NKL3yyisaM2aMDh48qE6dOik4ONhle5cuNBWoDTbuTwIAAAC8wq1C6fDhw9q9e7dGjRrlHLNYLDLGyGKxyG63eyxAVG7PkVNmlOh4BwAAAHiMW4XS6NGj1a1bN6WlpdHMwYf2HM7ToLIZpRYUSgAAAICnuFUo7du3Tx999JFat27t6XhQDQcOZ6m15WDJC5beAQAAAB7jVjOHyy+/XFu2bPF0LKgGY4yCju5QsMUuuzVSCj/H1yEBAAAA9YZbM0pXXXWV7rvvPm3btk2dO3eu0Mzh6quv9khwqNyhnCKl2vdIAZKlRReJ5Y8AAACAx7hVKI0ZM0aSNHPmzArbaOZQO/YcznN2vAvg/iQAAADAo9wqlBwOh6fjQDW5drzj/iQAAADAk9y6Rwm+ZzucyzOUAAAAAC9xa0bpdEvuTjVt2jS3gkHV5abvVlPLcdktwQqMbuPrcAAAAIB6xa1C6f3333d5XVxcLJvNpqCgILVq1YpCqRZYj/4oSToe1VZNAoPPsjcAAACA6nCrUNq0aVOFsZycHI0cOVLXXnttjYPCmZ046VBswU4pUApswbI7AAAAwNM8do9SeHi4HnnkEU2dOtVTh0Ql9h8rUDvtlSQ1Suzm22AAAACAesijzRyys7OVnZ3tyUPiNPYcznN2vLPE0xocAAAA8DS3lt4999xzLq+NMUpPT9eiRYs0aNAgjwSGyv2aflBXWo6WvIjr6NtgAAAAgHrIrULpmWeecXkdEBCgmJgY3XrrrZoyZYpHAkPlig9ulSRlNTpXkY3CfRwNAAAAUP+4VSjZbDZPx4FqsB4p6XhX0KyDIn0bCgAAAFAv8cDZOig6b4ckKaAF9ycBAAAA3uDWjFJhYaGef/55LV++XJmZmXI4HC7bN27c6JHgUFFOYbFS7TYpQApPoeMdAAAA4A1uFUq33XabPv/8c/3xj3/UxRdfLIvF4um4UIm96UfVwXJQkhTakkIJAAAA8Aa3CqUlS5bok08+Ua9evTwdD87i6N4tCrI4lGMJV3h4gq/DAQAAAOolt+5ROuecc9S0aVNPx4IqKP5liyQpM+w8iZk8AAAAwCvcKpSefvppPfjgg9q3b5+n48FZWI9ulyQVRHXwcSQAAABA/eXW0rvu3bursLBQqampCg0NVXBwsMv2Y8eOeSQ4VNS8rONdQlcfRwIAAADUX24VSsOHD9fBgwf1+OOPKy4ujmYOtcQ47EoutkkWKSLlAl+HAwAAANRbbhVKq1ev1po1a9S1K7MatenwgZ8VazmuIhOs+FadfR0OAAAAUG+5dY9Su3btdPz4cU/HgrP4bdd6SZItMEnBwSE+jgYAAACov9wqlJ588klNmjRJK1as0NGjR5WTk+PyA+84cbC0413oeT6OBAAAAKjf3Fp6N3DgQEnSFVdc4TJujJHFYpHdbq95ZKjAevRHSVJBMzreAQAAAN7kVqG0fPlyT8eBKojO+1kSHe8AAAAAb3OrUOrTp4+n48DZ5B9RM/sRSVJkyvm+jQUAAACo56pcKG3dulWdOnVSQECAtm7desZ9u3TpUuPA4Kr44FYFS7I54pTcIs7X4QAAAAD1WpULpfPPP18ZGRmKjY3V+eefL4vFImNMhf24R8k7sm0bFC3pZ0uyrmxq9XU4AAAAQL1W5ULJZrMpJibG+W/UrrKOd4dC2/KAXwAAAMDLqlwoJSUlnfbf5Z1ulgk11+jodkl0vAMAAABqg1vPURo5cqTy8/MrjO/du1e9e/eucVAop/i4IvL3SpICE7j/CwAAAPA2twqlLVu2qEuXLlqzZo1zbOHCheratauio6M9FhxKZf6kQNl1xIQrNqHy2TwAAAAAnuFWe/B169bpL3/5i/r27atJkyZp165d+vTTTzVnzhzdcccdno4RGSVdBrc7kpQa09THwQAAAAD1n1uFUnBwsGbPnq3Q0FD97W9/U1BQkFauXKmePXt6Oj5IKvpli6yStpsk3RQT5utwAAAAgHrPraV3xcXFmjRpkp566ilNmTJFPXv21HXXXadPPvnE0/FBUnFpx7uD1tZqYnWrtgUAAABQDW5ddXfv3l0FBQVasWKFfve738kYo1mzZum6667T6NGj9Y9//MPTcTZcDscpHe/a+zgYAAAAoGFwa0ape/fu2rx5s373u99JKnnI7IMPPqg1a9Zo1apVHg2wwfvNpiD7cRWaYDWKb+vraAAAAIAGwa0ZpVdfffW04926ddOGDRtqFBDKKW3k8F/TUimxET4OBgAAAGgYanzDS2FhoU6cOOEyZrVaa3pYlMnYJkna7khWSjSNHAAAAIDa4NbSu/z8fN1zzz2KjY1VWFiYoqKiXH7gOSa9tFAySRRKAAAAQC1xq1B64IEH9NVXX2nevHmyWq165ZVX9MgjjyghIUGvv/66p2Ns0BzpJUvvdihZLZuF+jgaAAAAoGFwa+ndf/7zH73++uvq27evRo0apcsuu0ytW7dWUlKS3nzzTY0YMcLTcTZMeYcVmJ8hh7EoP7KtggPdqmsBAAAAVJNbV97Hjh1TamqqJCk8PFzHjh2TJF166aV0vfOk0kYONhOvhNhoHwcDAAAANBxuFUqpqamy2WySpHbt2undd9+VVDLTFBkZ6bHgGrzSRg4/cX8SAAAAUKvcKpRGjRqlLVu2SJIeeughzZ07V40aNdJ9992nyZMnezTABs3Z8S5JqTFNfBwMAAAA0HC4dY/Sfffd5/x3v3799N///lcbNmxQ69at1aVLF48F1+Bl/K/jXW9mlAAAAIBaU+PnKElSUlKSkpKSPHEolDlRIHN0pyySfnQkKZVCCQAAAKg1bhdK33//vZYvX67MzEw5HA6XbXPmzKlxYA1e5k+yGIcOm3Adt0YrpikP8QUAAABqi1uF0uOPP66HH35Ybdu2VVxcnCwWi3Pbqf9GDZR2vPvJkaSU2CbkFQAAAKhFbhVKf//73zV//nyNHDnSw+HAqfT+pB9NslJjWHYHAAAA1Ca3ut4FBASoV69eno4Fpzql4x2twQEAAIDa5VahdN9992nu3LmejgVlHHbp0I+SSjre0RocAAAAqF1uLb27//77NXjwYLVq1UodOnRQcHCwy/bFixd7JLgG65hNKs5XoUJkMy3oeAcAAADUMrdmlMaNG6fly5erTZs2at68uSIiIlx+PCk3N1cTJkxQUlKSGjdurEsuuUTff/+9Rz/D72SUPMz3J0eiHApQMoUSAAAAUKvcmlFauHCh3nvvPQ0ePNjT8VRw++2364cfftCiRYuUkJCgN954Q/369dP27dt1zjnneP3zfeKU+5Piwq1qYvXI464AAAAAVJFbM0rNmjVTq1atPB1LBcePH9d7772nWbNmqXfv3mrdurVmzJih1q1ba968eV7/fJ8pK5QMjRwAAAAAX3BrqmLGjBmaPn26XnvtNYWGhno6JqeTJ0/KbrerUaNGLuONGzfWN998c9r3FBUVqaioyPk6JydHklRcXKzi4mKvxVqZss+szmcHpW+VRSUzSm2bh/ok7rrCnfyi6sivd5Ff7yK/3kV+vYv8ehf59S5/zm91YrIYY0x1P6Bbt27avXu3jDFKTk6u0Mxh48aN1T1kpS655BKFhITorbfeUlxcnNLS0nTrrbeqdevW2rFjR4X9Z8yYoUceeaTC+FtvveXVos5TrMVZGvjDODlkUcfCVzUgKVj/l1DtXxEAAACAcgoKCnTjjTcqOztb4eHhZ9zXrRmla665xp23uWXRokUaPXq0zjnnHAUGBuqCCy7Q8OHDtWHDhtPuP2XKFE2cONH5OicnRy1bttSVV1551mR4Q3FxsZYtW6b+/ftXKChPx7L7K+kH6WBAgo6rkQZd1k2Xt42phUjrpurmF9VDfr2L/HoX+fUu8utd5Ne7yK93+XN+y1abVYVbhdL06dPdeZtbWrVqpZUrVyo/P185OTlq0aKFbrjhBqWmpp52f6vVKqvVWmE8ODjYp7+oKn/+ke2SpK0nkyRJbeIj/O4E80e+/v3Wd+TXu8ivd5Ff7yK/3kV+vYv8epc/5rc68bjVzMEXwsLC1KJFC/32229aunSphgwZ4uuQvKO0kcM2e6KCAiw6N6qxjwMCAAAAGh6/7zu9dOlSGWPUtm1b7dq1S5MnT1a7du00atQoX4fmHad0vEtsHqrgwDpTywIAAAD1ht9fhWdnZ2vs2LFq166dbrnlFl166aVaunSp303jecSJfOnITknSdkeyUmkNDgAAAPiE388oDR06VEOHDvV1GLXj0HZJRrlBzXVEEUqNaeLriAAAAIAGye9nlBqUjK2SJFtQSaMKHjYLAAAA+IZbM0p2u10LFizQl19+qczMTDkcDpftX331lUeCa3BK70/aejJREoUSAAAA4CtuFUrjx4/XggULNHjwYHXq1EkWi8XTcTVMpYXS2uMJkqTUGAolAAAAwBfcKpTefvttvfvuu/r973/v6XgaLoddOvSjJOlHR5KaWIMU06Ti86AAAAAAeJ9b9yiFhISodevWno6lYTu6Wzp5XCcDG2uviVdqTBgzdQAAAICPuFUoTZo0SX//+99ljPF0PA1XaSOHI2Gt5VAA9ycBAAAAPuTW0rtvvvlGy5cv16effqqOHTtWeKbR4sWLPRJcg1J6f9KeoFaSpNRoWoMDAAAAvuJWoRQZGalrr73W07E0bKWF0raTLSVJKTRyAAAAAHzGrULptdde83QcKC2Uvs0r7XjH0jsAAADAZ3jgrD/IPSTlZ8pYArSuIF4Sz1ACAAAAfMmtGSVJ+ve//613331X+/fv14kTJ1y2bdy4scaBNSiljRyKIlJVeNyquHCrwqxu/2oAAAAA1JBbM0rPPfecRo0apbi4OG3atEkXX3yxmjdvrj179mjQoEGejrH+Ky2UDoe1kUQjBwAAAMDX3CqU/vGPf+ill17S888/r5CQED3wwANatmyZxo0bp+zsbE/HWP+V3p9kC0qVRCMHAAAAwNfcKpT279+vSy65RJLUuHFj5ebmSpJuvvlmpaWleS66hqK0UNpSnCiJRg4AAACAr7lVKMXHx+vYsWOSpMTERH333XeSJJvNxkNoq6soTzq6W5K0Or+FJCmVGSUAAADAp9wqlC6//HJ99NFHkqRRo0bpvvvuU//+/XXDDTfwfKXqytwuycg0idemYyUP7k3hHiUAAADAp9xqrfbSSy/J4XBIksaOHavmzZtr9erVuvrqq3XnnXd6NMB6r6zjXXRHFR5xKCjAopZRjX0cFAAAANCwuVUoBQQEKCDgf5NRw4YN07BhwzwWVINSen/S4SYlHe8Sm4cqKJDHWwEAAAC+5PYV+ddff62bbrpJPXv21MGDByVJixYt0jfffOOx4BqE0kJpT2BJxztagwMAAAC+51ah9N5772nAgAFq3LixNm3apKKiIklSdna2Hn/8cY8GWK/ZT0qHfpQkbT1Z2vGORg4AAACAz7lVKD366KN68cUX9fLLLys4ONg53qtXL23cuNFjwdV7x3ZLJwul4DBtyImUJKXQGhwAAADwObcKpR07dqh3794VxiMiIpSVlVXTmBqO9JJGDorvpD1Hj0viGUoAAACAP3D7OUq7du2qMP7NN98oNTW1xkE1GKUd7+yxnfTLbwWSpBSW3gEAAAA+51ahdMcdd2j8+PFau3atLBaLfv31V7355pu6//77ddddd3k6xvqrtJHDkSZt5DBSU2uQYppYfRwUAAAAALfagz/00ENyOBy64oorVFBQoN69e8tqter+++/Xvffe6+kY6ydj/tfxLihVUrFSYsJksVh8GxcAAAAA9woli8Wiv/71r5o8ebJ27dqlvLw8dejQQU2a0Nq6ynIzpIIjkiVQ206cI2kv9ycBAAAAfsKtQqlMSEiIOnTo4KlYGpbS2SRFt9Gu305KklJ4hhIAAADgF6pVKI0ePbpK+82fP9+tYBqUjLKOd521JzNfEo0cAAAAAH9RrUJpwYIFSkpKUrdu3WSM8VZMDUPZjFJ8Z9m2lxRKLL0DAAAA/EO1CqW77rpLaWlpstlsGjVqlG666SY1a9bMW7HVb6WFUl5UBx3NL5LEw2YBAAAAf1Gt9uBz585Venq6HnjgAf3nP/9Ry5YtNXToUC1dupQZpuooypWO7ZEk2QKTJUnx4Y0UZq3RLWMAAAAAPKTaz1GyWq0aPny4li1bpu3bt6tjx466++67lZycrLy8PG/EWP8c+lGSkZomaGd+I0nMJgEAAAD+xK0HzjrfHBAgi8UiY4zsdrunYqr/Trk/ac9hGjkAAAAA/qbahVJRUZHS0tLUv39/tWnTRtu2bdMLL7yg/fv38xylqjql453tCI0cAAAAAH9TrZti7r77br399ttq2bKlRo8erbS0NEVHR3srtvrrlBml3dtKliumMqMEAAAA+I1qFUovvviiEhMTlZqaqpUrV2rlypWn3W/x4sUeCa5esp+UDm2XJDniOmvv0Z8lSak8bBYAAADwG9UqlG655RZZLBZvxdIwHN0p2YukkKbKCIxXYfF/FRxo0blRjX0dGQAAAIBS1X7gLGrIueyuk/YcOS5JSmwWqqDAGvXVAAAAAOBBXJ3XNpdGDiX3J6Ww7A4AAADwKxRKte3URg6lrcFp5AAAAAD4Fwql2mSMS6FEa3AAAADAP1Eo1abcdKngqGQJlGLaa49z6R2FEgAAAOBPKJRqU3rp/UkxbVVkCdYvv5U0c0iN4R4lAAAAwJ9QKNWmU5bd7T9aIGOkptYgRTcJ8W1cAAAAAFxQKNWmUzrendrIgWdTAQAAAP6FQqk2naaRA/cnAQAAAP6nWg+cRQ3d9F5JsZTQTXs27JXEM5QAAAAAf0ShVJuatyr5kf7XGpxnKAEAAAB+h6V3PrKHpXcAAACA36JQ8oGsghM6ln9CEoUSAAAA4I8olHygbNldfHgjhVlZ/QgAAAD4GwolH9hzmPuTAAAAAH9GoeQDtAYHAAAA/BuFkg/sOZIniUIJAAAA8FcUSj5QtvSuVQzPUAIAAAD8EYVSLXM4jPYeZekdAAAA4M8olGpZek6hCosdCg606Nyoxr4OBwAAAMBpUCjVMlvpsrvEZqEKCiT9AAAAgD/iSr2W/a+RA/cnAQAAAP6KQqmW/a+RA/cnAQAAAP6KQqmW7eEZSgAAAIDfo1CqZbbSpXeptAYHAAAA/BaFUi0qOmnXL78dl8SMEgAAAODPKJRq0b6jBTJGatooSNFNQnwdDgAAAIBK+HWhZLfbNXXqVKWkpKhx48Zq1aqV/va3v8kY4+vQ3FLWyCE1OkwWi8XH0QAAAACoTJCvAziTp556SvPmzdPChQvVsWNHrV+/XqNGjVJERITGjRvn6/Cq7X+twVl2BwAAAPgzvy6UVq9erSFDhmjw4MGSpOTkZKWlpWndunU+jsw9ZQ+bpZEDAAAA4N/8ulC65JJL9NJLL+nnn39WmzZttGXLFn3zzTeaM2dOpe8pKipSUVGR83VOTo4kqbi4WMXFxV6PubyyzywuLtbuwyUzSolRjXwSS310an7heeTXu8ivd5Ff7yK/3kV+vYv8epc/57c6MVmMH9/w43A49Je//EWzZs1SYGCg7Ha7HnvsMU2ZMqXS98yYMUOPPPJIhfG33npLoaGh3gz3rN7ZE6B9uRbd1NquBFbfAQAAALWqoKBAN954o7KzsxUeHn7Gff26UHr77bc1efJkzZ49Wx07dtTmzZs1YcIEzZkzR7feeutp33O6GaWWLVvqyJEjZ02GNxQXF2vZsmXq37+/goODa/3z6zvy613k17vIr3eRX+8iv95Ffr2L/HqXP+c3JydH0dHRVSqU/Hrp3eTJk/XQQw9p2LBhkqTOnTtr3759euKJJyotlKxWq6xWa4Xx4OBgn/6ifP359R359S7y613k17vIr3eRX+8iv95Ffr3LH/NbnXj8uj14QUGBAgJcQwwMDJTD4fBRRAAAAAAaAr+eUbrqqqv02GOPKTExUR07dtSmTZs0Z84cjR492tehAQAAAKjH/LpQev755zV16lTdfffdyszMVEJCgu68805NmzbN16EBAAAAqMf8ulBq2rSpnn32WT377LO+DgUAAABAA+LX9ygBAAAAgC9QKAEAAABAORRKAAAAAFAOhRIAAAAAlEOhBAAAAADlUCgBAAAAQDkUSgAAAABQDoUSAAAAAJRDoQQAAAAA5VAoAQAAAEA5FEoAAAAAUA6FEgAAAACUQ6EEAAAAAOUE+ToAbzPGSJJycnJ88vnFxcUqKChQTk6OgoODfRJDfUZ+vYv8ehf59S7y613k17vIr3eRX+/y5/yW1QRlNcKZ1PtCKTc3V5LUsmVLH0cCAAAAwB/k5uYqIiLijPtYTFXKqTrM4XDo119/VdOmTWWxWGr983NyctSyZUsdOHBA4eHhtf759R359S7y613k17vIr3eRX+8iv95Ffr3Ln/NrjFFubq4SEhIUEHDmu5Dq/YxSQECAzj33XF+HofDwcL87UeoT8utd5Ne7yK93kV/vIr/eRX69i/x6l7/m92wzSWVo5gAAAAAA5VAoAQAAAEA5FEpeZrVaNX36dFmtVl+HUi+RX+8iv95Ffr2L/HoX+fUu8utd5Ne76kt+630zBwAAAACoLmaUAAAAAKAcCiUAAAAAKIdCCQAAAADKoVACAAAAgHIolLxo7ty5Sk5OVqNGjdSjRw+tW7fO1yHVSU888YQuuugiNW3aVLGxsbrmmmu0Y8cOl3369u0ri8Xi8jNmzBgfRVy3zJgxo0Lu2rVr59xeWFiosWPHqnnz5mrSpImuv/56HTp0yIcR1y3JyckV8muxWDR27FhJnLvVtWrVKl111VVKSEiQxWLRBx984LLdGKNp06apRYsWaty4sfr166edO3e67HPs2DGNGDFC4eHhioyM1G233aa8vLxa/Bb+60z5LS4u1oMPPqjOnTsrLCxMCQkJuuWWW/Trr7+6HON05/yTTz5Zy9/Ef53tHB45cmSF/A0cONBlH87hyp0tv6f7e2yxWDR79mznPpzDp1eV67GqXDPs379fgwcPVmhoqGJjYzV58mSdPHmyNr9KlVEoeck777yjiRMnavr06dq4caO6du2qAQMGKDMz09eh1TkrV67U2LFj9d1332nZsmUqLi7WlVdeqfz8fJf97rjjDqWnpzt/Zs2a5aOI656OHTu65O6bb75xbrvvvvv0n//8R//617+0cuVK/frrr7ruuut8GG3d8v3337vkdtmyZZKkP/3pT859OHerLj8/X127dtXcuXNPu33WrFl67rnn9OKLL2rt2rUKCwvTgAEDVFhY6NxnxIgR+vHHH7Vs2TItWbJEq1at0p///Ofa+gp+7Uz5LSgo0MaNGzV16lRt3LhRixcv1o4dO3T11VdX2HfmzJku5/S9995bG+HXCWc7hyVp4MCBLvlLS0tz2c45XLmz5ffUvKanp2v+/PmyWCy6/vrrXfbjHK6oKtdjZ7tmsNvtGjx4sE6cOKHVq1dr4cKFWrBggaZNm+aLr3R2Bl5x8cUXm7Fjxzpf2+12k5CQYJ544gkfRlU/ZGZmGklm5cqVzrE+ffqY8ePH+y6oOmz69Omma9eup92WlZVlgoODzb/+9S/n2E8//WQkmTVr1tRShPXL+PHjTatWrYzD4TDGcO7WhCTz/vvvO187HA4THx9vZs+e7RzLysoyVqvVpKWlGWOM2b59u5Fkvv/+e+c+n376qbFYLObgwYO1FntdUD6/p7Nu3Tojyezbt885lpSUZJ555hnvBldPnC7Ht956qxkyZEil7+EcrrqqnMNDhgwxl19+ucsY53DVlL8eq8o1wyeffGICAgJMRkaGc5958+aZ8PBwU1RUVLtfoAqYUfKCEydOaMOGDerXr59zLCAgQP369dOaNWt8GFn9kJ2dLUlq1qyZy/ibb76p6OhoderUSVOmTFFBQYEvwquTdu7cqYSEBKWmpmrEiBHav3+/JGnDhg0qLi52OZfbtWunxMREzmU3nDhxQm+88YZGjx4ti8XiHOfc9QybzaaMjAyX8zUiIkI9evRwnq9r1qxRZGSkunfv7tynX79+CggI0Nq1a2s95rouOztbFotFkZGRLuNPPvmkmjdvrm7dumn27Nl+u6zGX61YsUKxsbFq27at7rrrLh09etS5jXPYcw4dOqSPP/5Yt912W4VtnMNnV/56rCrXDGvWrFHnzp0VFxfn3GfAgAHKycnRjz/+WIvRV02QrwOoj44cOSK73e5yEkhSXFyc/vvf//ooqvrB4XBowoQJ6tWrlzp16uQcv/HGG5WUlKSEhARt3bpVDz74oHbs2KHFixf7MNq6oUePHlqwYIHatm2r9PR0PfLII7rsssv0ww8/KCMjQyEhIRUuguLi4pSRkeGbgOuwDz74QFlZWRo5cqRzjHPXc8rOydP97S3blpGRodjYWJftQUFBatasGed0NRUWFurBBx/U8OHDFR4e7hwfN26cLrjgAjVr1kyrV6/WlClTlJ6erjlz5vgw2rpj4MCBuu6665SSkqLdu3frL3/5iwYNGqQ1a9YoMDCQc9iDFi5cqKZNm1ZYTs45fHanux6ryjVDRkbGaf9Gl23zNxRKqFPGjh2rH374weUeGkkua7M7d+6sFi1a6IorrtDu3bvVqlWr2g6zThk0aJDz3126dFGPHj2UlJSkd999V40bN/ZhZPXPq6++qkGDBikhIcE5xrmLuqi4uFhDhw6VMUbz5s1z2TZx4kTnv7t06aKQkBDdeeedeuKJJ2S1Wms71Dpn2LBhzn937txZXbp0UatWrbRixQpdccUVPoys/pk/f75GjBihRo0auYxzDp9dZddj9Q1L77wgOjpagYGBFbp8HDp0SPHx8T6Kqu675557tGTJEi1fvlznnnvuGfft0aOHJGnXrl21EVq9EhkZqTZt2mjXrl2Kj4/XiRMnlJWV5bIP53L17du3T1988YVuv/32M+7Hueu+snPyTH974+PjKzTVOXnypI4dO8Y5XUVlRdK+ffu0bNkyl9mk0+nRo4dOnjypvXv31k6A9Uxqaqqio6OdfxM4hz3j66+/1o4dO876N1niHC6vsuuxqlwzxMfHn/ZvdNk2f0Oh5AUhISG68MIL9eWXXzrHHA6HvvzyS/Xs2dOHkdVNxhjdc889ev/99/XVV18pJSXlrO/ZvHmzJKlFixZejq7+ycvL0+7du9WiRQtdeOGFCg4OdjmXd+zYof3793MuV9Nrr72m2NhYDR48+Iz7ce66LyUlRfHx8S7na05OjtauXes8X3v27KmsrCxt2LDBuc9XX30lh8PhLFJRubIiaefOnfriiy/UvHnzs75n8+bNCggIqLBcDFXzyy+/6OjRo86/CZzDnvHqq6/qwgsvVNeuXc+6L+dwibNdj1XlmqFnz57atm2bS7Ff9h8uHTp0qJ0vUh0+biZRb7399tvGarWaBQsWmO3bt5s///nPJjIy0qXLB6rmrrvuMhEREWbFihUmPT3d+VNQUGCMMWbXrl1m5syZZv369cZms5kPP/zQpKammt69e/s48rph0qRJZsWKFcZms5lvv/3W9OvXz0RHR5vMzExjjDFjxowxiYmJ5quvvjLr1683PXv2ND179vRx1HWL3W43iYmJ5sEHH3QZ59ytvtzcXLNp0yazadMmI8nMmTPHbNq0ydl17cknnzSRkZHmww8/NFu3bjVDhgwxKSkp5vjx485jDBw40HTr1s2sXbvWfPPNN+a8884zw4cP99VX8itnyu+JEyfM1Vdfbc4991yzefNml7/HZd2qVq9ebZ555hmzefNms3v3bvPGG2+YmJgYc8stt/j4m/mPM+U4NzfX3H///WbNmjXGZrOZL774wlxwwQXmvPPOM4WFhc5jcA5X7mx/I4wxJjs724SGhpp58+ZVeD/ncOXOdj1mzNmvGU6ePGk6depkrrzySrN582bz2WefmZiYGDNlyhRffKWzolDyoueff94kJiaakJAQc/HFF5vvvvvO1yHVSZJO+/Paa68ZY4zZv3+/6d27t2nWrJmxWq2mdevWZvLkySY7O9u3gdcRN9xwg2nRooUJCQkx55xzjrnhhhvMrl27nNuPHz9u7r77bhMVFWVCQ0PNtddea9LT030Ycd2zdOlSI8ns2LHDZZxzt/qWL19+2r8Ht956qzGmpEX41KlTTVxcnLFareaKK66okPejR4+a4cOHmyZNmpjw8HAzatQok5ub64Nv43/OlF+bzVbp3+Ply5cbY4zZsGGD6dGjh4mIiDCNGjUy7du3N48//rjLRX5Dd6YcFxQUmCuvvNLExMSY4OBgk5SUZO64444K/8nKOVy5s/2NMMaYf/7zn6Zx48YmKyurwvs5hyt3tusxY6p2zbB3714zaNAg07hxYxMdHW0mTZpkiouLa/nbVI3FGGO8NFkFAAAAAHUS9ygBAAAAQDkUSgAAAABQDoUSAAAAAJRDoQQAAAAA5VAoAQAAAEA5FEoAAAAAUA6FEgAAAACUQ6EEAAAAAOVQKAEA/FJycrKeffZZX4fhVFBQoOuvv17h4eGyWCzKysrydUgu+vbtqwkTJvg6DACoN4J8HQAAAHXBwoUL9fXXX2v16tWKjo5WRESEr0MCAHgRhRIAoME4ceKEQkJC3Hrv7t271b59e3Xq1MnDUQEA/BFL7wDAD/Xt21f33nuvJkyYoKioKMXFxenll19Wfn6+Ro0apaZNm6p169b69NNPvRpHcnKyHn/8cY0ePVpNmzZVYmKiXnrpJef2FStWVFiGtnnzZlksFu3du1eStGDBAkVGRmrJkiVq27atQkND9cc//lEFBQVauHChkpOTFRUVpXHjxslut7t8fm5uroYPH66wsDCdc845mjt3rsv2rKws3X777YqJiVF4eLguv/xybdmyxbl9xowZOv/88/XKK68oJSVFjRo1qvS7vvfee+rYsaOsVquSk5P19NNPO7f17dtXTz/9tFatWiWLxaK+ffue9hhlnzd//nwlJiaqSZMmuvvuu2W32zVr1izFx8crNjZWjz32mMv79u/fryFDhqhJkyYKDw/X0KFDdejQoQrHXbRokZKTkxUREaFhw4YpNze30u/z8ccfKyIiQm+++aYk6cCBAxo6dKgiIyPVrFkzDRkyxPk7WrVqlYKDg5WRkeFyjAkTJuiyyy6TJO3bt09XXXWVoqKiFBYWpo4dO+qTTz6p9PMBoK6jUAIAP7Vw4UJFR0dr3bp1uvfee3XXXXfpT3/6ky655BJt3LhRV155pW6++WYVFBRUeowxY8aoSZMmZ/w5m6efflrdu3fXpk2bdPfdd+uuu+7Sjh07qvVdCgoK9Nxzz+ntt9/WZ599phUrVujaa6/VJ598ok8++USLFi3SP//5T/373/92ed/s2bPVtWtXbdq0SQ899JDGjx+vZcuWObf/6U9/UmZmpj799FNt2LBBF1xwga644godO3bMuc+uXbv03nvvafHixdq8efNp49uwYYOGDh2qYcOGadu2bZoxY4amTp2qBQsWSJIWL16sO+64Qz179lR6eroWL15c6XfdvXu3Pv30U3322WdKS0vTq6++qsGDB+uXX37RypUr9dRTT+nhhx/W2rVrJUkOh0NDhgzRsWPHtHLlSi1btkx79uzRDTfcUOG4H3zwgZYsWaIlS5Zo5cqVevLJJ08bw1tvvaXhw4frzTff1IgRI1RcXKwBAwaoadOm+vrrr/Xtt9+qSZMmGjhwoE6cOKHevXsrNTVVixYtch6juLhYb775pkaPHi1JGjt2rIqKirRq1Spt27ZNTz31VJXOHwCoswwAwO/06dPHXHrppc7XJ0+eNGFhYebmm292jqWnpxtJZs2aNZUe59ChQ2bnzp1n/DmTpKQkc9NNNzlfOxwOExsba+bNm2eMMWb58uVGkvntt9+c+2zatMlIMjabzRhjzGuvvWYkmV27djn3ufPOO01oaKjJzc11jg0YMMDceeedLp89cOBAl3huuOEGM2jQIGOMMV9//bUJDw83hYWFLvu0atXK/POf/zTGGDN9+nQTHBxsMjMzz/g9b7zxRtO/f3+XscmTJ5sOHTo4X48fP9706dPnjMeZPn26CQ0NNTk5OS7fKzk52djtdudY27ZtzRNPPGGMMebzzz83gYGBZv/+/c7tP/74o5Fk1q1bV+lxJ0+ebHr06OF83adPHzN+/HjzwgsvmIiICLNixQrntkWLFpm2bdsah8PhHCsqKjKNGzc2S5cuNcYY89RTT5n27ds7t7/33numSZMmJi8vzxhjTOfOnc2MGTPO+P0BoD7hHiUA8FNdunRx/jswMFDNmzdX586dnWNxcXGSpMzMzEqPERsbq9jYWI/FYbFYFB8ff8bPPJ3Q0FC1atXK+TouLk7JyckuMxJxcXEVjtuzZ88Kr8s64W3ZskV5eXlq3ry5yz7Hjx/X7t27na+TkpIUExNzxvh++uknDRkyxGWsV69eevbZZ2W32xUYGHj2L1kqOTlZTZs2dflegYGBCggIcBkr+64//fSTWrZsqZYtWzq3d+jQQZGRkfrpp5900UUXnfa4LVq0qJCvf//738rMzNS3337rfJ9Ukqtdu3a5vF+SCgsLnbkaOXKkHn74YX333Xf63e9+pwULFmjo0KEKCwuTJI0bN0533XWXPv/8c/Xr10/XX3+9y7kBAPUNhRIA+Kng4GCX1xaLxWXMYrFIKlm6VZkxY8bojTfeOOPn5OXlVTuOss8su/g3xji3FxcXV+kYZzpuVeTl5alFixZasWJFhW2RkZHOf5dd6NcWb3zXyo5b/hjdunXTxo0bNX/+fHXv3t15juTl5enCCy903q90qrIiMjY2VldddZVee+01paSk6NNPP3XJ7e23364BAwbo448/1ueff64nnnhCTz/9tO69995qfQ8AqCsolACgHps5c6buv/9+rx2/7CI7PT1dUVFRklTpfUDu+O677yq8bt++vSTpggsuUEZGhoKCgpScnFyjz2nfvr2+/fZbl7Fvv/1Wbdq0qdZskruffeDAAR04cMA5q7R9+3ZlZWWpQ4cO1TpWq1at9PTTT6tv374KDAzUCy+8IKkkV++8845iY2MVHh5e6ftvv/12DR8+XOeee65atWqlXr16uWxv2bKlxowZozFjxmjKlCl6+eWXKZQA1Fs0cwCAeiw2NlatW7c+409NtG7dWi1bttSMGTO0c+dOffzxxy7d4mrq22+/1axZs/Tzzz9r7ty5+te//qXx48dLkvr166eePXvqmmuu0eeff669e/dq9erV+utf/6r169dX63MmTZqkL7/8Un/729/0888/a+HChXrhhRe8WmSW6devnzp37qwRI0Zo48aNWrdunW655Rb16dNH3bt3r/bx2rRpo+XLl+u9995zPoB2xIgRio6O1pAhQ/T111/LZrNpxYoVGjdunH755RfnewcMGKDw8HA9+uijGjVqlMtxJ0yYoKVLl8pms2njxo1avny5s2gFgPqIQgkA4Lbg4GClpaXpv//9r7p06aKnnnpKjz76qMeOP2nSJK1fv17dunXTo48+qjlz5mjAgAGSSpaeffLJJ+rdu7dGjRqlNm3aaNiwYdq3b5/z/q2quuCCC/Tuu+/q7bffVqdOnTRt2jTNnDlTI0eO9Nh3qYzFYtGHH36oqKgo9e7dW/369VNqaqreeecdt4/Ztm1bffXVV0pLS9OkSZMUGhqqVatWKTExUdddd53at2+v2267TYWFhS4zTAEBARo5cqTsdrtuueUWl2Pa7XaNHTtW7du318CBA9WmTRv94x//cDtGAPB3FnPqwnIAANCg3XbbbTp8+LA++ugjX4cCAD7FPUoAAEDZ2dnatm2b3nrrLYokABCFEgAAkDRkyBCtW7dOY8aMUf/+/X0dDgD4HEvvAAAAAKAcmjkAAAAAQDkUSgAAAABQDoUSAAAAAJRDoQQAAAAA5VAoAQAAAEA5FEoAAAAAUA6FEgAAAACUQ6EEAAAAAOX8P7ckhEgSejMsAAAAAElFTkSuQmCC",
            "text/plain": [
              "<Figure size 1000x600 with 1 Axes>"
            ]
          },
          "metadata": {},
          "output_type": "display_data"
        }
      ],
      "source": [
        "# Program MaxOfBinomialsTheoryVSsimulation.py\n",
        "\n",
        "import random\n",
        "import matplotlib.pyplot as plt\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of monkeys\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000] # This setting reaches 16\n",
        "n_binomials = range(1, 202, 10) # (start, end, step)\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "expected_means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k) # Fm_k[k] - Fm_k[k-1]\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0]) # Insert first term\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    expected_means.append(mean)\n",
        "    # print(f\"Number of monkeys = {m}, Mean = {mean}\")\n",
        "\n",
        "\n",
        "\n",
        "#===================\n",
        "# Adapted from\n",
        "# Program simulationOfMaxOfVariousBinomialDistributions.py\n",
        "\n",
        "\n",
        "\n",
        "def simulate_coin_draws2(num_coins_per_draw):\n",
        "    \"\"\"Simulates drawing coins and returns the number of heads.\"\"\"\n",
        "    heads = 0\n",
        "    for _ in range(num_coins_per_draw):\n",
        "        if random.random() < 0.5:  # Simulate a coin flip (0.5 probability of heads)\n",
        "            heads += 1\n",
        "    return heads\n",
        "\n",
        "def get_max_heads2(num_coins_per_draw, num_sets):\n",
        "    \"\"\"Repeats the coin draw simulation multiple times and returns the maximum number of heads.\"\"\"\n",
        "    max_heads = 0\n",
        "    for _ in range(num_sets):\n",
        "        heads = simulate_coin_draws2(num_coins_per_draw) # Always draw 10 coins\n",
        "        if heads > max_heads:\n",
        "            max_heads = heads\n",
        "    return max_heads\n",
        "\n",
        "# Parameters for the simulation\n",
        "num_coins_per_draw = 16 #length of each string\n",
        "num_trials = 10 # repetitions to get the mean\n",
        "\n",
        "observed_means = []\n",
        "# Varying number of monkeys\n",
        "for m in n_binomials:\n",
        "  # Run the simulation and store the mean maximum number of heads for each trial\n",
        "  max_heads_history = []\n",
        "  for _ in range(num_trials):\n",
        "      max_h = get_max_heads2(num_coins_per_draw, m)\n",
        "      max_heads_history.append(max_h)\n",
        "  # Mean of max_heads_history\n",
        "  mean = sum(max_heads_history) / num_trials\n",
        "  mean = float(mean)\n",
        "  observed_means.append(mean)\n",
        "\n",
        "\n",
        "print(f\"expected_means = {expected_means}\")\n",
        "print()\n",
        "print(f\"observed_means = {observed_means}\")\n",
        "\n",
        "# Plot the means of MAX for growing number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_binomials, expected_means, label=f'Expected')\n",
        "plt.plot(n_binomials, observed_means, label=f'Observed in simulation')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel(f'Mean maximum Number of Heads (out of {num_coins_per_draw} coins)')\n",
        "plt.title(f'Mean of the Maximum of m Binomial Distributions Bi({num_coins_per_draw }, 1/2)')\n",
        "#plt.title(f'Maximum Number of Heads from {num_sets_of_draws} Draws of {num_coins_per_draw} Coins over {num_trials} Trials')\n",
        "plt.grid(True)\n",
        "plt.legend()\n",
        "plt.show()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestro comentario.* Aparte de las fluctuaciones esperadas debido a los efectos del muestreo, observado y esperado coinciden. Así pues, consideramos que nuestra teoría y nuestras simulaciones son perfectas.\n",
        "\n",
        "Tenemos simulaciones y resultados de la teoría que solo un ordenador puede calcular. Eso está bien. Pero, ahora necesitamos fórmulas para predicciones inmediatas. La primera opción es un ajuste de regresión.\n",
        "\n",
        "**Ejercicio.** Según los programas anteriores, la curva que representa la dependencia esperada del número de coincidencias de MAX sobre el número de monos es muy suave. Así, una fórmula aproximada para ella debe ser fácilmente encontrada.   Intente ajustarla mediante una regresión sobre la familia de funciones de la forma $y = A -Be^ {-kt}$. Reporte su evaluación.\n",
        ">\n",
        "*Respuesta.* Hagamos un pequeño rearreglo:\n",
        ">\n",
        ">$y = A -Be^{-kt}$\n",
        ">>\n",
        ">$y - A = -Be^{-kt}$\n",
        ">\n",
        "> $A -y = Be^{-kt}$\n",
        ">>\n",
        "> Esto dice que para preparar los datos para la regresión, debemos transformar $y$ en $ A -y$, lo cual representa una reflexión seguida de un ascenso de la curva en  $A$ unidades.\n",
        "\n",
        "Si redefinimos \n",
        ">\n",
        ">$ w = A -y$, \n",
        ">\n",
        "obtenemos\n",
        ">\n",
        "$w = Be^{-kt}$, \n",
        ">\n",
        "tomando logaritmo,  ln, obtenemos\n",
        ">\n",
        ">$\\ln w = \\ln B -kt$\n",
        ">\n",
        "Esto dice que debemos tomar una regresión de  $\\ln w$ sobre $t$, que, en nuestro caso, representa el número de monos que atacan al MAX de la binomial  $Bi(16,1/2)$.  \n",
        "\n",
        "\n",
        "El programa es el siguiente:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program fittingTheMeanOfMaxByAnExponential.py\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of monkeys\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 100000, 250000, 500000]\n",
        "# n_binomials = [ 10000, 100000, 250000, 500000] # linear sub-segment\n",
        "n_binomials = [1, 3, 5, 7, 10, 50, 100, 150, 200]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the transformed means of MAX for different number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "means = []\n",
        "transformed_means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    # plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    means.append(mean)\n",
        "    print(f\"Number of monkeys = {m}, Mean = {mean}\")\n",
        "    # Prepare for a log regression.\n",
        "    # Transform data:\n",
        "    # reflect the curve and rise it 16\n",
        "    newMean = - mean + 16\n",
        "    transformed_means.append(newMean)\n",
        "\n",
        "# Plot transformed data\n",
        "plt.plot(n_binomials, means, label=f'm = {m}')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Transformed Mean')\n",
        "plt.title(f'Transformed data')\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n",
        "\n",
        "# Linear regression on the log of yArray\n",
        "log_y_array = np.log(transformed_means)\n",
        "slope, log_intercept = np.polyfit(n_binomials, log_y_array, 1)\n",
        "print(f\"Linear Regression Equation (log of mean of MAX vs number of monkeys): y = {slope:.7f}x + {log_intercept:.2f}\")\n",
        "log_regression_line = slope * np.array(n_binomials) + log_intercept\n",
        "\n",
        "# Plot the  log of transformed data and the log regression line\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.scatter(n_binomials, log_y_array, label='Observed Log Data')\n",
        "plt.plot(n_binomials, log_regression_line, color='red', label=f'Linear Regression on Log: log(y) = {slope:.7f}x + {log_intercept:.4f}')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Log of means of max ')\n",
        "plt.title('Linear Regression of Log of  (16 - means of max)  vs. number of monkeys')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n",
        "# Original data and prediction by the regression line assuming that $y = 16 - Be^{kt}$\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.scatter(n_binomials, means, label='Observed Data')\n",
        "predicted = 16 - np.exp(log_intercept) * np.exp(slope * np.array(n_binomials))\n",
        "plt.plot(n_binomials, predicted, color='red', label=f'Predicted')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of max ')\n",
        "plt.title('Actual data and fitting by $y = 16 - Be^{kt}$')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "Nuestra evaluación:  La regresión no se ajusta a los datos en todo el rango de valores. Sin embargo, después de 5000 monos, el ajuste es excelente. En esa región, la casi perfección es normal.\n",
        "\n",
        "Dado que el modelo de regresión más simple no encaja con los datos, tenemos que investigar otras opciones. Por lo tanto, prestemos atención a la función sigmoide.\n",
        "\n",
        "**Ejercicio.** Investigue sobre la función sigmoide, su relación con el tema, formalismo matemático, prueba de adecuación, predicciones.\n",
        ">\n",
        "*Respuesta.* La función sigmoide es una herramienta habitual en el análisis de problemas con el disyuntivo ser o no ser. Aquí, ser significa adivinar un bit, y no ser, fallar. Nuestro primer problema es que la forma de la sigmoide es como una S, pero tenemos aquí, en el gráfico de la media de MAX contra el número de monos, un hombro. Nuestra solución es que podemos extender nuestro hombro, definido sobre la parte positiva del eje $X$, a una función sigmoide definida sobre el eje real completo, pero debemos hacer una reflexión a través de un punto.\n",
        "\n",
        "Nuestro gráfico comienza con un mono. En ese caso, el máximo del número de coincidencias es solo el valor muestreado de la distribución binomial original, cuya media es $np = 16 \\times (1/2) = 8$. La media produce el punto $(1,8)$. Por comodidad, imaginemos que empezamos en el punto $(0,8)$. Este es nuestro punto central de la reflexión.  \n",
        "\n",
        "Las medias de máx van de 8 a 16, ya que tomamos el binomio $Bi(16, 1/2)$. Vamos a dividir las medias por 16, y en esta nueva configuración, las medias van de $1/2$ a $1$. Si incluimos la parte reflejada, las medias van de 0 a 1. El gráfico tiene dos asíntotas horizontales: una en $y = 1$ y la otra en $y = 0$.  \n",
        "\n",
        "Aproximemos el gráfico de las medias por una curva continua. Esto es bueno porque el gráfico muestra una curva muy suave. Por lo tanto, también tomaremos una función diferenciable. Las dos asíntotas horizontales nos permiten formular una ecuación diferencial:  la función definida por $y = f(y)$ tiene derivada igual a cero en los valores de $y$ igual a 0 o 1. Cuando la curva suave se acerca a cualquiera de estas asíntotas, la pendiente tiende a ser cero cerca de ellas. La ecuación diferencial más simple que corresponde a estas observaciones son:\n",
        ">\n",
        ">> $y' = y(1-y)$\n",
        ">\n",
        "en el que vemos las dos proporciones correspondientes al éxito y al fracaso.\n",
        "Tenemos que comprobar que la pendiente es siempre positiva en el intervalo de $y$ dentro de 0 y 1, porque la sigmoide siempre aumenta. Si comprobamos con $y = 1/2$, vemos que el signo es correcto. Podemos insertar una constante positiva $ \\alpha$, y resolver la ecuación:\n",
        ">\n",
        "$y' = \\frac{dy}{dx} = \\alpha y(1-y)$\n",
        ">\n",
        "$ \\frac{dy}{y(1-y)} = \\alpha dx$\n",
        ">\n",
        "$\\int \\frac{dy}{y(1-y)} = \\int \\alpha dx$\n",
        ">\n",
        "Notemos que\n",
        ">\n",
        "$\\frac{1}{y(1-y)} = \\frac{1}{y} +  \\frac{1}{1-y} $\n",
        ">\n",
        "Así,\n",
        ">\n",
        "$\\int \\frac{dy}{y(1-y)} = \\int \\frac{dy}{y} + \\int \\frac{dy}{1-y}  =  \\int \\alpha dx$\n",
        ">\n",
        "$\\ln|y| - \\ln|1-y | = \\alpha x + \\beta$\n",
        ">\n",
        "$\\ln|\\frac{y}{1-y}|   = \\alpha x + \\beta$\n",
        ">\n",
        "Esta es una prueba de relación para la adecuación del ajuste sigmoide a un conjunto de datos: si tomamos el log de la proporción de coincidencias a desajustes, debe caer en una línea recta. Los coeficientes $\\alpha $ y $\\beta$ se pueden encontrar por una regresión lineal. Encontremos, pues,  la expresión de la función sigmoide:\n",
        ">\n",
        "$|\\frac{y}{1-y}| = e^{ \\alpha x + \\beta} = k e^{ \\alpha x }$, donde $k = e^\\beta$\n",
        ">\n",
        "Asumiendo que  $0 < y < 1$, podemos ignorar el valor absoluto:\n",
        ">\n",
        "$\\frac{y}{1-y} = e^{ \\alpha x + \\beta} = k e^{ \\alpha x }$\n",
        ">\n",
        "$y  = k(1-y) e^{ \\alpha x } = k e^{ \\alpha x } - ky e^{ \\alpha x }$\n",
        ">\n",
        "$y  + ky e^{ \\alpha x } =  k e^{ \\alpha x } $\n",
        ">\n",
        "$y (1  + k e^{ \\alpha x }) =  k e^{ \\alpha x } $\n",
        ">\n",
        "$ y = \\frac{ k e^{ \\alpha x } }{1  +  ke^{ \\alpha x }}$\n",
        ">\n",
        "$y = \\frac{ 1}{   \\frac{1}{  k e^{ \\alpha x }   }   +  1}   $\n",
        ">\n",
        "$y = \\frac{ 1}{   \\frac{1}{k}  e^{ -\\alpha x }      +  1}   $\n",
        ">\n",
        "$y = \\frac{ 1}{   c e^{ -\\alpha x }      +  1}  $\n",
        ">\n",
        "$y = \\frac{ 1}{ 1 +  c e^{ -\\alpha x }  }   $\n",
        ">\n",
        "donde\n",
        ">\n",
        "$c = e^{-\\beta}$\n",
        ">\n",
        "**Ejercicio.** Utilizando consideraciones geométricas con respecto a los asíntotas, hemos derivado la ecuación diferencial\n",
        ">\n",
        "> $y' =  \\frac{dy}{dx} =  \\alpha y(1-y)$\n",
        ">\n",
        "Dar un significado a esta ecuación con respecto a la media de MAX de $m$ binomiales,\n",
        "\n",
        ">*Respuesta.* Si añadimos más monos, esperamos una media mayor de MAX de $m$ Binomiales. Así, se postula que el incremento en el valor medio debe  ser proporcional al número de monos añadidos $dx$:\n",
        ">\n",
        "> $dy \\sim dx$.\n",
        ">\n",
        "> Por otro lado, hay un efecto conjunto, cooperativo, de la población que hace el máximo más alto y más estable cuando se agregan más monos. Por lo tanto, postulamos que $dy$ también es proporcional al tamaño de la media $y$:\n",
        ">\n",
        "> $dy \\sim y$.\n",
        ">\n",
        ">\n",
        "> Además, las colas del Binomio   decrecen exponencialmente. Decimos que la perfección tiene una probabilidad de $ \\frac{1}{2^{16}}$. Además, $16$ es un límite superior. La forma más sencilla de postular una relación que implique estos factores es decir que el incremento en la media debe ser proporcional a la proporción faltante $1-y$, que se convierte en cero cuando $y$ se acerca al límite superior que sirve como asíntota:\n",
        ">\n",
        "> $dy \\sim 1-y$.\n",
        ">\n",
        "> Poniendo todo junto, tenemos:  \n",
        ">\n",
        "> $dy = \\alpha y(1-y)dx$\n",
        ">\n",
        "> O\n",
        ">\n",
        "> $y' = \\frac{dy}{dx} = \\alpha y(1-y)$\n",
        ">\n",
        "**Ejercicio.** Lleve a cabo el test de proporción para adecuación de una sigmoide a un conjunto de datos.\n",
        ">\n",
        "*Respuesta.* El test de proporción para adecuación de una sigmoide a un conjunto de datos dice que el logaritmo de la proporción\n",
        ">\n",
        "$|\\frac{y}{1-y}|$\n",
        ">\n",
        "debe caer en una línea recta, la cual da origen a dos parámetros, los cuales pueden ser hallados por una regresión lineal:  \n",
        ">\n",
        "$w = \\ln|\\frac{y}{1-y}|   = \\alpha x + \\beta$\n",
        ">\n",
        "El parámetro $\\alpha$ dicta la dinámica, y  $\\beta$ depende de la condición inicial.  \n",
        ">\n",
        "> El programa correspondiente es el siguiente:\n",
        "\n",
        "\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of monkeys\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_binomials = [2,  3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 100000, 250000, 500000]\n",
        "n_binomials = [1, 2,  3, 5, 7, 10, 50, 100, 500, 1000, 5000]\n",
        "# n_binomials = [2,  3, 5, 7, 10, 50, 100, 150, 200]\n",
        "# n_binomials = [ 10000, 100000, 250000, 500000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the means of MAX for different number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "means = []\n",
        "normalized_means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    # plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    means.append(mean)\n",
        "    #Mean is normalized\n",
        "    normalized_mean = mean / n\n",
        "    normalized_means.append(normalized_mean)\n",
        "    # print(f\"Number of monkeys = {m}, mean = {mean}, Normalized mean = {normalized_mean}\")\n",
        "\n",
        "# Adjustment:\n",
        "# Data begins at (1,8), but\n",
        "# the sigmoid must begin at (0,8)\n",
        "l = len(n_binomials)\n",
        "for i in range(l):\n",
        "    n_binomials[i] =  n_binomials[i] - 1\n",
        "\n",
        "# Carry out a ratio test for the sigmoid fitting\n",
        "ratios = []\n",
        "for normalized_mean in normalized_means:\n",
        "    ratio  = normalized_mean / (1 - normalized_mean)\n",
        "    ratios.append(ratio)\n",
        "# print(f\"ratios = {ratios}\")\n",
        "log_ratios = []\n",
        "for i in range(l):\n",
        "    log_ratio  = np.log( ratios[i] )\n",
        "    log_ratios.append(log_ratio)\n",
        "    print(f\"Number of monkeys = {n_binomials[i]}, mean = {means[i]:.1f}, Normalized mean = {normalized_means[i]:.2f}, ratio = {ratios[i]:.2f}, log_ratios = {log_ratios[i]:.2f}\")\n",
        "plt.plot(n_binomials, log_ratios, label='m = {ratios}')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('log (y/(1-y))')\n",
        "plt.title(f'log (y/(1-y)), y =  mean of MAX of m Bi(16, 1/2)')\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n",
        "\n",
        "# Linear regression on the log of yArray\n",
        "log_y_array = np.log(ratios)\n",
        "slope, log_intercept = np.polyfit(n_binomials, log_y_array, 1)\n",
        "print(f\"Linear Regression Equation (log_ratios of means of MAX vs number of monkeys): y = {slope:.7f}x + {log_intercept:.2f}\")\n",
        "log_regression_line = slope * np.array(n_binomials) + log_intercept\n",
        "\n",
        "# Plot the log data and the log regression line\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.scatter(n_binomials, log_y_array, label='Observed Log Data')\n",
        "plt.plot(n_binomials, log_regression_line, color='red', label=f'Linear Regression on Log: log(y) = {slope:.7f}x + {log_intercept:.4f}')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Log ratio of mean of MAX ')\n",
        "plt.title('Linear Regression of Log ratio of means of MAX   vs. number of monkeys')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n",
        "\n",
        "# Original data and prediction by the regression line assuming that $y$ is a sigmoid\n",
        "plt.figure(figsize=(10, 6))\n",
        "# Raw data\n",
        "plt.scatter(n_binomials, means, label='Observed Data')\n",
        "# Predicted\n",
        "k = np.exp(-log_intercept)\n",
        "alpha = slope\n",
        "predicted =  16 / (1 + k* np.exp( -alpha * np.array(n_binomials)))\n",
        "plt.plot(n_binomials, predicted, color='red', label=f'Predicted')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of MAX ')\n",
        "plt.title('Actual data and fitting by a sigmoid')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "Evaluación: El log de las relaciones no cae en una línea recta. Pero, si el número de monos es superior a 5000, el ajuste es muy bueno -e inútil.\n",
        "\n",
        "*Divertimento.* Estamos muy frustrados con nuestro fracaso. Entonces, juguemos con el sigmoide tratando de hacer el ajuste a mano. Para empezar, forcemos el sigmoide a comenzar en (0, 8): Dado que\n",
        ">>\n",
        ">$y = \\frac{ 16}{ 1 +  c e^{ -\\alpha x }  }   $\n",
        ">>\n",
        ">$ 8 = y = \\frac{ 16}{ 1 +  c e^{ -\\alpha 0 }  }   $\n",
        ">>\n",
        ">$ 8 =  \\frac{ 16}{ 1 +  c   }   $\n",
        ">>\n",
        ">$ 1 + c = \\frac{16}{8}  =    2   $\n",
        ">>\n",
        ">$   c  =    2 -1 = 1   $\n",
        ">\n",
        "Así,\n",
        ">\n",
        ">$y = \\frac{ 16}{ 1 + e^{ -\\alpha x }  }   $\n",
        ">\n",
        "El parámetro $\\alpha$ permanece libre para jugar con él.\n",
        ">\n",
        "El código es el siguiente:\n",
        ">"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program FittingOfTheMeanOfMAxBySigmoid.py\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "\n",
        "# Number of monkeys\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_binomials = [2,  3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 100000, 250000, 500000]\n",
        "n_binomials = [1, 2,  3, 5, 7, 10, 50, 100, 500, 1000, 2000, 3000, 4000, 5000, 50000, 100000]\n",
        "# n_binomials = [2,  3, 5, 7, 10, 50, 100, 150, 200]\n",
        "# n_binomials = [ 10000, 100000, 250000, 500000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the means of MAX for different number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "means = []\n",
        "normalized_means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    # plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    means.append(mean)\n",
        "    #Mean is normalized\n",
        "    normalized_mean = mean / n\n",
        "    normalized_means.append(normalized_mean)\n",
        "    # print(f\"Number of monkeys = {m}, mean = {mean}, Normalized mean = {normalized_mean}\")\n",
        "\n",
        "# Adjustment:\n",
        "# Data begins at (1,8), but\n",
        "# the sigmoid must begin at (0,8)\n",
        "l = len(n_binomials)\n",
        "for i in range(l):\n",
        "    n_binomials[i] =  n_binomials[i] - 1\n",
        "\n",
        "\n",
        "# Original data and  a sigmoid\n",
        "plt.figure(figsize=(10, 6))\n",
        "# Raw data\n",
        "plt.scatter(n_binomials, means, label='Observed Data')\n",
        "# Predicted\n",
        "k = 1\n",
        "alpha = 1/500\n",
        "predicted =  16 / (1 + k* np.exp( -alpha * np.array(n_binomials)))\n",
        "plt.plot(n_binomials, predicted, color='red', label=f'Predicted')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of MAX ')\n",
        "plt.title('Actual data and fitting by a sigmoid')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestro veredicto.* Nuestra ideas claras y simples fallaron. Es hora de mirar al trabajo de otros.\n",
        "\n",
        ">**Ejercicio.** Ponga a prueba [el consejo de la literatura sobre las cotas de MAX de varias variables aleatorias binomiales ](https://math.stackexchange.com/q/591084), y reporte sus hallazgos.\n",
        "\n",
        "*Respuesta.* La Literatura dice: \n",
        ">\n",
        "Una cota superior del valor esperado de MAX para la binomial \n",
        "$Bi(n, p)$ es $ np + \\sigma \\sqrt{2 \\ln m}$, done $\\sigma = \\sqrt{np(1-p)}$ es la  desviación estándar de la Binomial, y  $m$ es el número de monos. Cuando $p = \\frac{1}{2}$, esto se esecializa en\n",
        ">>\n",
        ">$\\mathbb{E}(MAX) \\le \\frac{n}{2} + \\sqrt{\\frac{n}{4}} \\sqrt{2 \\ln m}  $\n",
        ">>\n",
        ">$\\mathbb{E}(MAX) \\le \\frac{n}{2} +  \\sqrt{\\frac{n}{2}\\ln m  }  $\n",
        ">>\n",
        "Puesto que esto es una cota superior, para hallar un buen ajuste uno debe jugar un poco cambiando los parámetros. Así, la ecuación modificada   \n",
        ">>\n",
        ">$\\mathbb{E}(MAX) = \\frac{n}{2} +  \\sqrt{\\frac{n}{2.337}\\ln m  }  $\n",
        ">>\n",
        "ha sido propuesta para un mejor ajuste.\n",
        ">\n",
        "Nuesto objetivo es, pues, poner a prueba esta sugerencia con  $n = 16$ y una $m$ variable.\n",
        "\n",
        "El program es el siguiente:\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "print(f\"n = {n}\")\n",
        "# Number of monkeys\n",
        "n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000] #full range\n",
        "# n_binomials = [2,  3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 100000, 250000, 500000]\n",
        "# n_binomials = [1, 2,  3, 5, 7, 10, 50, 100, 500, 1000, 2000, 3000, 4000, 5000, 50000, 100000]\n",
        "# n_binomials = [1, 2,  3, 5, 7, 10, 50, 100] #short range\n",
        "# n_binomials = [ 10000, 100000, 250000, 500000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the means of MAX for different number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "means = []\n",
        "normalized_means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    # plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    means.append(mean)\n",
        "    #Mean is normalized\n",
        "    normalized_mean = mean / n\n",
        "    normalized_means.append(normalized_mean)\n",
        "    # print(f\"Number of monkeys = {m}, mean = {mean}, Normalized mean = {normalized_mean}\")\n",
        "\n",
        "sigma = np.sqrt(n*p*(1-p))\n",
        "print(f\"sigma = {sigma}\")\n",
        "\n",
        "semiempirical_prediction = []\n",
        "l = len(n_binomials)\n",
        "for i in range(l):\n",
        "    # a = n/2 +  np.sqrt((n/2.337) * np.log(n_binomials[i])) # Literature\n",
        "    # a = n/2 +  np.sqrt((n/35.5) * np.log(n_binomials[i])) # Best fitting for  Bi(1, 1/2). Error = 8.2%\n",
        "    # a = n/2 +  np.sqrt((n/20.5) * np.log(n_binomials[i])) # Best fitting for  Bi(2, 1/2).\n",
        "    # a = n/2 +  np.sqrt((n/10.5) * np.log(n_binomials[i])) # Best fitting for  Bi(3, 1/2).\n",
        "    # a = n/2 +  np.sqrt((n/7.5) * np.log(n_binomials[i])) # Best fitting for  Bi(4, 1/2). Error = 13%\n",
        "    # a = n/2 +  np.sqrt((n/6.5) * np.log(n_binomials[i])) # Best fitting for  Bi(5, 1/2).\n",
        "    # a = n/2 +  np.sqrt((n/4.12) * np.log(n_binomials[i])) # Best fitting for  Bi(10, 1/2).\n",
        "    a = n/2 +  np.sqrt((n/3.03) * np.log(n_binomials[i])) # Best fitting for  Bi(16, 1/2). Error = 7.5%, full range\n",
        "    # a = n/2 +  np.sqrt((n/4.2) * np.log(n_binomials[i])) # Best fitting for  Bi(16, 1/2). Error = 5.5%, short range\n",
        "    # a = n/2 +  np.sqrt((n/2.65) * np.log(n_binomials[i])) # Best fitting for  Bi(50, 1/2). Error = 6%\n",
        "    # a = n/2 +  np.sqrt((n/2.58) * np.log(n_binomials[i])) # Best fitting for  Bi(100, 1/2). Error = 4.5%\n",
        "    # a = n/2 +  np.sqrt((n/2.55) * np.log(n_binomials[i])) # Best fitting for  Bi(1000, 1/2). Error = 1.5%\n",
        "    # a = n/2 +  np.sqrt((n/2.53) * np.log(n_binomials[i])) # Best fitting for  Bi(5000, 1/2). Error = 0.68%\n",
        "    # a = n/2 +  np.sqrt((n/2.52) * np.log(n_binomials[i])) # Best fitting for  Bi(10000, 1/2). Error =  0.48%\n",
        "    # a = n/2 +  np.sqrt((n/2.48) * np.log(n_binomials[i])) # Best fitting for  Bi(50000, 1/2). Error =  0.22%\n",
        "    # a = n/2 +  np.sqrt((n/2.45) * np.log(n_binomials[i])) # Best fitting for  Bi(100000, 1/2). Error = 0.16%\n",
        "    # a = n/2 +  np.sqrt((n/2.47) * np.log(n_binomials[i])) # Best fitting for  Bi(1000000, 1/2). Error = 0.05%\n",
        "    semiempirical_prediction.append(a)\n",
        "    diff =  semiempirical_prediction[i] - means[i]\n",
        "    percentage = diff / means[i] * 100\n",
        "    print(f\"Number of monkeys = {n_binomials[i]}, mean = {means[i]:.1f},  semiempirical prediction = {semiempirical_prediction[i]:.1f}, pred - obs = {diff:.2f}, error_% = {percentage:.2}\")\n",
        "\n",
        "# Original data and  the predicted by an adjustment of the value given by the literature\n",
        "plt.figure(figsize=(10, 6))\n",
        "# Raw data\n",
        "plt.scatter(n_binomials, means, label='Observed Data')\n",
        "# Predicted\n",
        "plt.plot(n_binomials, semiempirical_prediction, color='red', label=f'Predicted')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of MAX ')\n",
        "plt.title(f'Mean of MAX of $Bi({n}, {p}): Observed  data, and semi-empirical prediction')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Comentario.* Para $n = 16$ y para un número variable de monos, $m$ de 1 a 1000000, el máximo error porcentual es  7,5% Esto se logró mediante la fórmula\n",
        ">>\n",
        ">$ \\mathbb{E}(MAX) =  \\frac{n}{2} +   \\sqrt{ \\frac{n}{3.03} \\ln m  }  $\n",
        ">>\n",
        "Nos parece que el error es pequeño, teniendo en cuenta la extensión del rango de operación. Las aproximaciones son mejores para valores grandes de $m$. Si se requiere alta precisión, se recomendaría dividir el rango de operación en dos segmentos, uno antes de 100 o algo así, y el otro por encima. Por ejemplo, para la región dentro de 0 y 100,\n",
        ">>\n",
        ">$\\mathbb{E}(MAX) = \\frac{n}{2} +  \\sqrt{\\frac{n}{4.2}\\ln m  }  $\n",
        ">>\n",
        "produjo un error máximo del 5,5 %.\n",
        "\n",
        "Hemos explorado cómo afinar una fórmula para la $Bi(16, 1/2)$ específico, y para un amplio rango de operación del número de monos $m$. En las aplicaciones, $n$ puede ser cualquiera. Por lo tanto, necesitamos una fórmula general.\n",
        "\n",
        "**Ejercicio.** Para cualquier número de monos $m$, y cualquier longitud de la cadena objetivo, representada por $n$ en la $Bi(n, 1/2)$, encontrar una fórmula para  $k$, como una función de $n$, la potencia de la binomial, en la expresión que predice el valor medio de MAX:\n",
        ">>\n",
        ">$\\mathbb{E}(MAX) = \\frac{n}{2} +  \\sqrt{\\frac{n}{k}\\ln m  }  $\n",
        ">>\n",
        "*Respuesta.*  Jugamos con el programa anterior ajustando el valor de $k$ para diferentes valores de $n$ y dibujamos el gráfico correspondiente en el siguiente programa. El gráfico resultante parecía ser  $k = \\frac{a}{n} + c$. Por una regresión bilogaritmica, que devuelve dos parámetros, podemos encontrar el valor de $a$ si la función es de la forma $k =  \\frac{a}{n}$. Esto se hace, si reorganizamos:  $k -c  =  \\frac{a}{n}$. Es por eso que substraímos de cada $k$ el último valor. Dado que la regresión bilogaritmica produce dos parámetros, se considera una forma más general:\n",
        ">\n",
        "$k =  a n^r$.\n",
        ">\n",
        "$ \\ln k = \\ln a + r \\ln n $\n",
        ">\n",
        "Es por eso que las array de entrada para la regresión son el ln de $k$ y el ln de $n$.  \n",
        "\n",
        "La regresión devuelve dos valores, pendiente e intersección. La pendiente es $r$, debe ser negativa y cercana a $-1$. Y, el intersecto es $\\ln a$, por lo tanto $a = exp(intersecto)$.\n",
        "\n",
        "El código de la regresión es el siguiente:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program k_of_MAX\n",
        "# For different values of n in Bi(n, 1/2)\n",
        "# the k is fitted in the formula\n",
        "# E(MAX) = (n/2) + sqrt( (n/k) ln m)\n",
        "# for m monkeys\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the values of n\n",
        "# n_values  = [1, 2, 3, 4, 5, 10, 16, 50, 100,  1000, 5000, 10000, 50000, 100000, 1000000] ## All values\n",
        "#\n",
        "# k_values = [35.5, 20.5, 10.5, 7.5, 6.5, 4.12, 3.03, 2.65, 2.58, 2.55, 2.53, 2.52, 2.48, 2.45, 2.47] # Best fitting for  Bi(n, 1/2). Error = 13%\n",
        "\n",
        "n_values  = [1, 2, 3, 4, 5, 10, 16, 50, 100, 1000]\n",
        "#One more entry to subtract it from all others: y = a/x + c -y = a/x\n",
        "k_values = [35.5, 20.5, 10.5, 7.5, 6.5, 4.12, 3.03, 2.65, 2.58, 2.55, 2.53]\n",
        "\n",
        "\n",
        "  # a = n/2 +  np.sqrt((n/35.5) * np.log(n_binomials[i])) # Best fitting for  Bi(1, 1/2). Error = 8.2%\n",
        "  # a = n/2 +  np.sqrt((n/20.5) * np.log(n_binomials[i])) # Best fitting for  Bi(2, 1/2).\n",
        "  # a = n/2 +  np.sqrt((n/10.5) * np.log(n_binomials[i])) # Best fitting for  Bi(3, 1/2).\n",
        "  # a = n/2 +  np.sqrt((n/7.5) * np.log(n_binomials[i])) # Best fitting for  Bi(4, 1/2). Error = 13%\n",
        "  # a = n/2 +  np.sqrt((n/6.5) * np.log(n_binomials[i])) # Best fitting for  Bi(5, 1/2).\n",
        "  # a = n/2 +  np.sqrt((n/4.12) * np.log(n_binomials[i])) # Best fitting for  Bi(10, 1/2).\n",
        "  # a = n/2 +  np.sqrt((n/3.03) * np.log(n_binomials[i])) # Best fitting for  Bi(16, 1/2). Error = 7.5%, full range\n",
        "  # a = n/2 +  np.sqrt((n/4.2) * np.log(n_binomials[i])) # Best fitting for  Bi(16, 1/2). Error = 5.5%, short range\n",
        "  # a = n/2 +  np.sqrt((n/2.65) * np.log(n_binomials[i])) # Best fitting for  Bi(50, 1/2). Error = 6%\n",
        "  # a = n/2 +  np.sqrt((n/2.58) * np.log(n_binomials[i])) # Best fitting for  Bi(100, 1/2). Error = 4.5%\n",
        "  # a = n/2 +  np.sqrt((n/2.55) * np.log(n_binomials[i])) # Best fitting for  Bi(1000, 1/2). Error = 1.5%\n",
        "  # a = n/2 +  np.sqrt((n/2.53) * np.log(n_binomials[i])) # Best fitting for  Bi(5000, 1/2). Error = 0.68%\n",
        "  # a = n/2 +  np.sqrt((n/2.52) * np.log(n_binomials[i])) # Best fitting for  Bi(10000, 1/2). Error =  0.48%\n",
        "  # a = n/2 +  np.sqrt((n/2.48) * np.log(n_binomials[i])) # Best fitting for  Bi(50000, 1/2). Error =  0.22%\n",
        "  # a = n/2 +  np.sqrt((n/2.45) * np.log(n_binomials[i])) # Best fitting for  Bi(100000, 1/2). Error = 0.16%\n",
        "  # a = n/2 +  np.sqrt((n/2.47) * np.log(n_binomials[i])) # Best fitting for  Bi(1000000, 1/2). Error = 0.05%\n",
        "difference = []\n",
        "for i in range(len(n_values))   :\n",
        "    print(f\"n = {n_values[i]},  k_value = {k_values[i]}\" )\n",
        "\n",
        "# Data looks like y = a/x + c.\n",
        "# c is subtracted everywhere to become y = a/x\n",
        "l = len(k_values)\n",
        "c = k_values[l-1]\n",
        "print(f\"c = {c}\")\n",
        "kr_values = []\n",
        "for i in range(l-1)   :\n",
        "    kr_values.append(k_values[i]  - c)\n",
        "\n",
        "\n",
        "\n",
        "# Plot\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_values, kr_values, label='k_values')\n",
        "plt.xlabel('n in Bi(n, 1/2), the length of the binary string to match')\n",
        "plt.ylabel('k_values')\n",
        "plt.title('k_values as a function of n in Bi(n, 1/2)')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()\n",
        "\n",
        "# Regression line of k_values  over n_values\n",
        "log_nn_values =  np.log(np.array(n_values))\n",
        "print(\"log_nn_values  = \" , log_nn_values )\n",
        "log_knr_values = np.log(np.array(kr_values))\n",
        "print(\"log_knr_values = \" , log_knr_values)\n",
        "slope, intercept = np.polyfit(log_nn_values, log_knr_values, 1)\n",
        "print(f\"slope = {slope}, intercept = {intercept}\")\n",
        "# The slope is $r$ in $y = ax^r$, it must be negative and close to $-1$. And the intersect is $log a$, hence $a = exp(intersect).\n",
        "print(f\"k = ax^r + c: a = {np.exp(intercept)}, r = {slope}, c = {c}\")\n",
        "#Plot regression line\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.scatter(log_nn_values, log_knr_values, label='Observed Data')\n",
        "plt.plot(log_nn_values, slope * log_nn_values + intercept, color='red', label=f'Linear Regression: y = {slope:.7f}x + {intercept:.4f}')\n",
        "plt.xlabel('log n in Bi(n, 1/2), the length of the binary string to match')\n",
        "plt.ylabel('log k')\n",
        "plt.title('log of k_values')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "El programa produjo\n",
        ">\n",
        "$\\ln k = a(\\ln x)^r + c$, donde  $a = 24.896$ , $r = -1.18$, $c = 2.53$\n",
        ">\n",
        "Por tanto, la fórmula para  $k$ como función de $n$ es:\n",
        ">\n",
        "$k = 24.9 n^{-1.18} + 2.53$\n",
        ">\n",
        "El programa siguiente pone a prueba esta  fórmula, en la cual se incorpora $k$ en la fórmula para la media de MAX:\n",
        ">\n",
        ">> Media de MAX = $\\mathbb{E}(MAX) = \\frac{n}{2} +  \\sqrt{\\frac{n}{k}\\ln m  }  $\n",
        ">>>\n",
        "donde  $n$ es la potencia de la binomial y  $m$ es el número de monos."
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "#fig, ax = plt.subplots(1, 1)\n",
        "\n",
        "# Parameters of the binomial\n",
        "# probability of head\n",
        "p = 0.5\n",
        "# Define the value of n\n",
        "n  = 1000\n",
        "print(f\"n = {n}\")\n",
        "\n",
        "# Number of monkeys [m]\n",
        "n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000] #full range\n",
        "# n_binomials = [2,  3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 100000, 250000, 500000]\n",
        "# n_binomials = [1, 2,  3, 5, 7, 10, 50, 100, 500, 1000, 2000, 3000, 4000, 5000, 50000, 100000]\n",
        "# n_binomials = [1, 2,  3, 5, 7, 10, 50, 100] #short range\n",
        "# n_binomials = [ 10000, 100000, 250000, 500000]\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "# Plot the means of MAX for different number of monkeys\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "means = []\n",
        "normalized_means = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k)\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0])\n",
        "    # plt.plot(k_values, pmf_k, label=f'm = {m}')\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    means.append(mean)\n",
        "    #Mean is normalized\n",
        "    normalized_mean = mean / n\n",
        "    normalized_means.append(normalized_mean)\n",
        "    # print(f\"Number of monkeys = {m}, mean = {mean}, Normalized mean = {normalized_mean}\")\n",
        "\n",
        "sigma = np.sqrt(n*p*(1-p))\n",
        "print(f\"sigma = {sigma}\")\n",
        "\n",
        "semiempirical_prediction = []\n",
        "l = len(n_binomials)\n",
        "for i in range(l):\n",
        "    m = n_binomials[i]\n",
        "    k = 24.9 * n**(-1.18) + 2.53\n",
        "    # a = n/2 +  np.sqrt((n/2.337) * np.log(m)) # Literature\n",
        "    a = n/2 +  np.sqrt((n/k) * np.log(m))\n",
        "    semiempirical_prediction.append(a)\n",
        "    diff =  semiempirical_prediction[i] - means[i]\n",
        "    percentage = diff / means[i] * 100\n",
        "    print(f\"Number of monkeys = {n_binomials[i]}, mean = {means[i]:.1f},  semiempirical prediction = {semiempirical_prediction[i]:.1f}, pred - obs = {diff:.2f}, error_% = {percentage:.2}\")\n",
        "\n",
        "# Original data and  the predicted by an adjustment of the value given by the literature\n",
        "plt.figure(figsize=(10, 6))\n",
        "# Raw data\n",
        "plt.scatter(n_binomials, means, label='Observed Data')\n",
        "# Predicted\n",
        "plt.plot(n_binomials, semiempirical_prediction, color='red', label=f'Predicted')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of MAX ')\n",
        "plt.title(f'Mean of MAX of $Bi({n}, {p}): Observed  data, and semi-empirical prediction')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Comentario.* Vemos que el ajuste es bueno. Por tanto, aceptamos esa fórmula.\n",
        "\n",
        "**Ejercicio.**  Proponer una interpretación de la forma extraña de la función que predice el valor medio de la media de MAX, que es $y =  \\frac{n}{2}+  \\sqrt{ \\frac{n}{k}\\ln(m)}$, donde $n$ es la potencia de la Binomial $Bi(n,p)$, $k$ es una constante alrededor de 2 o 3 que uno debe encontrar por ensayo y error o una regresión, y $m$ es el número de monos.\n",
        ">\n",
        "*Respuesta.* La forma más fácil de entender una función es encontrando su ecuación diferencial e interpretándola. La ecuación es\n",
        "\n",
        ">$y = A +  \\sqrt{\\frac{n}{k}\\ln (m)}$, \n",
        ">\n",
        "donde $A$ es el valor esperado de la $Bi(n, 1/2)$.\n",
        ">>\n",
        ">$y-A = \\sqrt{\\frac{n}{k} \\ln (m)}$\n",
        ">>\n",
        ">$(y-A)^2 =   \\frac{n}{k} \\ln (m)  $\n",
        ">\n",
        "Diferenciando con respecto a  $m$:\n",
        ">>\n",
        ">$ 2(y-A)\\frac{dy}{dm} = \\frac{n}{km}$\n",
        ">>\n",
        ">$ \\frac{dy}{dm} = \\frac{n}{2km(y-A)}$\n",
        ">>\n",
        ">$ dy= \\frac{n}{2km(y-A)}dm$\n",
        ">\n",
        "Nuestra interpretación de esta ecuación es: \n",
        "- Entre más monos uno añade, mayor es la media de MAX: $dy \\sim dm$\n",
        "- Añadir monos paga, pero la ganancia marginal,   $dy$, está en relación inversa al número de monos porque al comienzo el efecto poblacional es muy fuerte, pero disminuye a medida que el número de monos aumenta: $dy \\sim \\frac{1}{m}$.\n",
        "- La ganancia de añadir más monos está en relación inversa a la perfección lograda, la cual está dada por lo que está por encima de la media,   $y-A$. De ahì sale $dy \\sim  \\frac{1}{y-A}$\n",
        "- Entre más largo sea el patrón objetivo, más alta es la media de MAX alcanzada: $dy \\sim n$.  \n",
        "- De acuerdo con esta ecuación, el MAX no tiene un límite superior. Puede crecer para siempre. La buena noticia es que la función crece muy lentamente.\n",
        "\n",
        "Ya que nuestra fórmula es necesaria para un uso posterior, llevemos a cabo una pequeña prueba: ¿Cuántos monos se necesitan para obtener la perfección?\n",
        ">\n",
        "Para obtener la perfección cuando $n = 16$, necesitamos 16 coincidencias. Para conocer el número de monos necesarios, podemos despejar por $m$ en\n",
        ">\n",
        "> $y = 16 = A +  \\sqrt{\\frac{16}{k}\\ln (m)}$\n",
        ">>\n",
        ">$ 16 = 8 + \\sqrt{\\frac{16}{k}\\ln (m)}  $\n",
        ">>\n",
        ">$  \\sqrt{\\frac{16}{k}\\ln (m)} = 8$\n",
        ">>\n",
        ">$  \\frac{16}{k}\\ln (m) = 64 $\n",
        ">>\n",
        ">$   \\ln m =  (64)(\\frac{k}{16})$\n",
        ">>\n",
        "Reemplazando  $n$ por 16 en  $k = 24.9 n^{-1.18} + 2.53$,   tenemos\n",
        ">>\n",
        ">$k = 24.9 (16)^{-1.18} + 2.53$\n",
        ">>\n",
        "> $k = 24.9 (0.0379) + 2.53$\n",
        ">>\n",
        "> $k = 0.94 + 2.53$\n",
        ">>\n",
        ">$k = 3.47$\n",
        ">\n",
        "por tanto,\n",
        ">\n",
        ">$ \\ln m =  (64)(\\frac{3.47}{16})$\n",
        ">>\n",
        ">$\\ln m = 4 (3.47)$\n",
        ">>\n",
        ">$\\ln m = 13.88$\n",
        ">>\n",
        ">$ m = e^{14} = 1200000$\n",
        ">\n",
        "Por lo tanto, nuestra fórmula predice que cuando la tarea es coincidir con una cadena binaria de 16 bits de largo,  necesitamos un millón de monos para garantizar la perfección como una hazaña reproducible. Esto está de acuerdo con nuestras estimaciones anteriores que se encontraron por la predicción de la FDA de MAX. Así pues, consideramos que nuestra fórmula es válida y seguimos adelante."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## Estimación de la varianza de MAX  \n",
        "\n",
        "Ya tenemos una estimación del valor esperado de MAX. Hagamos una estimación de su varianza.\n",
        "\n",
        "**Ejercicio.** Utilice  la fda  de MAX y la definición de media y varianza para desarrollar un programa para estimar la varianza. Informe sus observaciones.\n",
        ">\n",
        "*Respuesta* El código es el siguiente:\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program MeanAndVarianceOfMAXbyDefinition.py\n",
        "# For the Bi(16, 0.5)\n",
        "\n",
        "import random\n",
        "import matplotlib.pyplot as plt\n",
        "import numpy as np\n",
        "from scipy.stats import binom\n",
        "import matplotlib.pyplot as plt\n",
        "\n",
        "# Parameters of the binomial\n",
        "# Define the value of n\n",
        "n  = 16\n",
        "# probability of head\n",
        "p = 0.5\n",
        "\n",
        "\n",
        "# Number of monkeys\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_binomials = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000] # This setting reaches 16\n",
        "n_binomials = range(1, 200002, 10000) # (start, end, step)\n",
        "\n",
        "# The cumulative distribution function of the binomial\n",
        "F = binom.cdf\n",
        "\n",
        "k_values = list(range(0, n + 1))\n",
        "\n",
        "expected_means = []\n",
        "expected_variances = []\n",
        "for m in n_binomials:\n",
        "    # The cumulative distribution function of MAX\n",
        "    Fm_k = F(k_values, n, p)**m\n",
        "    # print()\n",
        "    # print(f'm = {m}')\n",
        "    # print(f'F(k) = {Fm_k}')\n",
        "    # Probabilities\n",
        "    pmf_k = np.diff(Fm_k) # Fm_k[k] - Fm_k[k-1]\n",
        "    pmf_k = np.insert(pmf_k, 0, Fm_k[0]) # Insert first term\n",
        "    # print(f\"pmf(k) = {pmf_k}\")\n",
        "    # Mean\n",
        "    mean = 0.0\n",
        "    for k in k_values:\n",
        "        mean += k * pmf_k[k]\n",
        "    expected_means.append(mean)\n",
        "    # print(f\"Number of monkeys = {m}, Mean = {mean}\")\n",
        "\n",
        "    # Variance\n",
        "    variance = 0.0\n",
        "    for k in k_values:\n",
        "        variance += ((k - mean)**2) * pmf_k[k]\n",
        "    expected_variances.append(variance)\n",
        "    deviation = np.sqrt(variance)\n",
        "    print(f\"Number of monkeys = {m}, mean = {mean:.3}, variance = {variance:.2}, deviation = {deviation:.2}\")\n",
        "\n",
        "#Plot the expected means\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_binomials, expected_means, label='Expected Means')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of MAX ')\n",
        "plt.title(f'Mean of MAX of $Bi({n}{p})$ as a function of the number of monkeys, by definition')\n",
        "plt.legend()\n",
        "\n",
        "#Plot the expected variances\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_binomials, expected_variances, label='Expected Variances')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Variance of MAX ')\n",
        "plt.title(f'Variance of MAX of $Bi({n}, {p}):as a function of the number of monkeys, by definition')\n",
        "plt.legend()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "La varianza de MAX de $m$ binomiales $Bi(16, 0.5)$ es menor que la varianza de una binomial, como se esperaba, y es una función casi siempre decreciente que tiende muy lentamente a cero.\n",
        "\n",
        "*Desafío.*  Desarrollar un programa para estimar la varianza usando la fórmula para el promedio\n",
        ">\n",
        ">$ \\mathbb{E}(MAX) =  np +  \\sqrt{ \\frac{2}{k} \\ln(m)}$,\n",
        ">\n",
        "donde $n$ es la potencia en el Binomio $Bi(n,p)$, $k = 24.9 n^{-1.18} + 2.53$, y $m$ es el número de monos. Comparar la salida con la del programa anterior.\n",
        "\n",
        "*Desafío.* Realizar un análisis de regresión para ajustar la dependencia de la varianza en el número de monos. Un ajuste exacto nos parece difícil porque la curva no es monótona. Pero, al menos, desentrañar cuál es el mejor ajuste entre un exponencial $e^{-kx}$, una hipérbola   $1/x^ k$ o una función de $ \\frac{1}{\\ln m}$ que se sugiere por [el teorema 1.5.3 de este libro](https://minerva.it.manchester.ac.uk/%7Ealesares/book2.pdf)\n",
        "\n",
        "\n",
        "*Investigación.* Después de encontrar un buen ajuste, la siguiente tarea es crear una justificación matemática. Se ha enumerado alguna bibliografía en la sección de aproximación continua por la distribución normal.\n",
        "\n",
        "# EL MAX DE m  DISTRIBUCIONES NORMALES\n",
        "\n",
        "La distribución binomial, discreta, puede ser aproximada por la campana de Gauss, que es continua y suave, diferenciable.  Nosotros, los seres humanos, podemos manejar modelos continuos con bastante facilidad y así se ha desarrollado una maquinaria matemática muy intuitiva y poderosa para el estudio de la distribución normal.\n",
        "\n",
        "En esta sección utilizamos la aproximación continua de la distribución binomial para estimar matemáticamente su fda (función de distribución acumulada) y fdp (función de densidad de probabilidad) junto con el valor esperado de MAX y de su varianza.\n",
        "\n",
        "MAX prepara el terreno para el estudio de la evolución. La conexión es que la evolución se mueve por el mejor, que es aquí el individuo con el mayor número de coincidencias con la cadena objetivo. La evolución incluye la clonación  recursiva del  mejor, para luego mutarlo y recombinarlo, y generar la próxima generación.  \n",
        "\n",
        "Nuestro problema trata con números enteros pero trabajar con números reales es a veces más intuitivo y, tal vez, más fácil. Pero, precaución, no todas las aplicaciones de números reales son buenas para modelar situaciones con enteros. Por lo tanto, uno debe comprobar todo lo que se imagina. Una aplicación útil con números reales es la siguiente:\n",
        "\n",
        "La  $Bi(n, 1/2)$ se aproxima mediante una distribución normal con la media $ \\mu = np$ y la desviación estándar $ \\sigma =  \\sqrt{npq}$. Podemos cambiar las unidades y en lugar de contar el número de sitios emparejados, digamos $X$, contamos el número de desviaciones estándar alejadas del promedio de $X$.  Esto es equivalente a considerar una distribución normal con la media $0$ y la desviación estándar $1$. Según esta interpretación, cada unidad representa una desviación típica. Con esta abstracción, estamos considerando todas las distribuciones binomiales posibles a la vez y nos deshacemos de la longitud de la cadena. Advertencia: hemos estado usando $m$ para el número de monos, que es igual al número de cadenas aleatorias, y $n$ para la longitud de la cadena. Pero como esa longitud ya no cuenta, nos queda solo un parámetro, el número de cadenas aleatorias, que es igual al número considerado de distribuciones normales. Es por eso que usamos $n$ para representar el número de monos o de distribuciones consideradas.\n",
        "\n",
        "Vamos a proceder ahora."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## Función de distribución acumulativa (fda) de MAX  \n",
        "\n",
        "Tenemos una fuente de números aleatorios, o una variable aleatoria, $X$, que toma valores sobre números reales con una función de densidad de probabilidad (fdp) $f$ y una función de distribución acumulativa (fda) $F$.  la fdp  $f$ dice que la probabilidad de que $X$ se encuentre dentro de  $a$ y $a + dx$ es $P( a < X < a +dx) = f(a)dx$. Y la fda $F$ dice que la probabilidad de ser menor o igual a $a$ es $F(a) = P(X \\le a)$, así que  $F$ acumula probabilidad. Nuestra pregunta es:\n",
        "\n",
        "**¿Cómo se distribuye el máximo de $m$ tales valores aleatorios idénticos, sabiendo que los eventos son independientes, que el muestreo no causa interferencia alguna?**\n",
        "\n",
        "Esta pregunta tiene una respuesta matemática clara. Vamos a presentarla.   Seguimos a:\n",
        "\n",
        "Dr. MAX Grossmann\n",
        "\n",
        "https://max.pm/posts/max_dist/\n",
        "\n",
        "*Teorema.* Sean $X_1, X_2,..., X_n$  variables aleatorias independientes con la misma función de distribución acumulativa $F$. Sea $Y = max \\{X_1, X_2,..., X_n \\}$. Entonces, la función de distribución acumulativa de $Y$ es $F_Y (y) = F^n(y)$.\n",
        ">\n",
        "*Prueba.*  Consideraremos variables aleatorias con una distribución diferenciable continua porque queremos aplicar este resultado a la distribución normal, que aparece como la mejor aproximación continua a la Distribución Binomial.\n",
        ">\n",
        "Dos conjuntos o eventos $A$ y $B$ son independientes cuando $p(A \\cap B) = p(A)p(B)$.\n",
        "Dos variables aleatorias $X_1$ y $X_2$ son independientes cuando cada par de eventos $A$ de $X_1$ y $B$ de $X_2$ son independientes, es decir, cuando $p(A \\cap B) = p(A)p(B)$. Un conjunto de variables aleatorias es independiente cuando esta ecuación puede aplicarse a cualquier par de variables y a las extensiones naturales con 3 o más variables. Con esta definición, podemos calcular la distribución del valor máximo de un conjunto de números aleatorios muestreados con las condiciones antes mencionadas.\n",
        "\n",
        ">\n",
        "Para fijar las ideas, consideremos en primer lugar dos variables aleatorias, $X_1$ y $X_2$. Sea $Y =  \\max \\{X_1, X_2 \\}$. Se representan gráficamente por dos ejes perpendiculares entre sí en el plano. Entonces,  \n",
        ">\n",
        ">$Y =  \\max\\{X_1, X_2\\} = y$,  cuando\n",
        ">>>\n",
        ">>($X_1 = y$ and $X_2 < y$) o\n",
        ">>>\n",
        ">>($X_2 = y$ and $X_1 < y$ )\n",
        ">\n",
        ">\n",
        "Los signos se han elegido para evitar el doble cómputo. Sin embargo, podemos incluir el doble cómputo si esto no representa ninguna probabilidad adicional. Entonces, $Y = y$ cuando:\n",
        ">\n",
        ">($X_1 \\le y$ and $X_2 \\le y$) or\n",
        ">>\n",
        ">($X_2 \\le y$ and $X_1 \\le y$ )\n",
        ">>\n",
        "Hemos sustituido $X_1 = y$ por $X_1 \\le y$ porque si el valor máximo viene de $X_1$, entonces también es mayor que todos los valores menores a $y$. Además, hemos sustituido $X_1 < y$ por $X_1 \\le y$ porque la probabilidad de la línea $X_1 = y$ en el plano es 0, ya que no tiene área. Ahora, vamos a aplicar las probabilidades:\n",
        ">>\n",
        ">$P(Y = y)$ cuando:\n",
        ">>>\n",
        ">>$P((X_1 \\le y \\cap X_2 \\le y) \\cup  (X_2 \\le y \\cap X_1 \\le y ))$\n",
        ">>>\n",
        "Puesto que $p(A \\cup A) = p(A)$, obtenemos:\n",
        ">>\n",
        ">$P(Y = y)$ =  P(($X_1 \\le y \\cap X_2 \\le y)$\n",
        ">\n",
        "Cuando $X_1$ y $X_2$ forman un conjunto independiente de variables, sus eventos también son independientes y la probabilidad de una intersección es el producto de las probabilidades. Obtenemos\n",
        ">\n",
        "$P(Y = y) = P((X_1 \\le y \\cap X_2 \\le y) = P((X_1 \\le y) P( X_2 \\le y)$.\n",
        ">\n",
        "Por último, hemos demostrado que para un par de variables aleatorias independientes, $X_1$ y $X_2$\n",
        ">\n",
        "$ P(\\max\\{X_1, X_2\\} = y) =  P(\\max\\{X_1, X_2\\} \\le y) =  P((X_1 \\le y) P( X_2 \\le y)$\n",
        ">\n",
        "Aplicaremos la generalización de este resultado a las $n$ variables . Observemos, además,  que estamos tratando con la función de distribución acumulativa de $Y$, que es, por definición,  la probabilidad de llegar como máximo a $y$, la probabilidad acumulada hasta $y$:\n",
        ">\n",
        ">$ F_{Y}(y)  = P(Y \\leq y) $\n",
        ">>\n",
        ">>$= P(\\max\\{X_1,\\dots,X_n\\} \\leq y)$\n",
        ">>\n",
        "Ahora, el valor máximo de un conjunto finito de números debe ser uno de ellos,  y todos ellos deben ser iguales o menores que $y$. Por lo tanto,\n",
        ">>\n",
        ">$ F_{Y}(y) = P(\\{X_1 \\leq y)\\} \\cap \\dots \\cap \\{X_n \\leq y)\\} $\n",
        ">>\n",
        "Dado que los eventos son independientes, la probabilidad de una intersección es el producto de las probabilidades:\n",
        ">>\n",
        ">$ F_{Y}(y) = P(\\{X_1 \\leq y)\\} \\cap \\dots \\cap \\{X_n \\leq y)\\} $\n",
        ">>\n",
        "> $ F_{Y}(y) = \\prod_{j=1}^{n} P(X_{i} \\leq y) $\n",
        ">>\n",
        "> $ F_{Y}(y) = \\prod_{j=1}^{n} F(y)   $\n",
        ">>\n",
        ">$ F_{Y}(y)  = F^n(y) $\n",
        ">>\n",
        ">porque el i-ésimo término es $F(y)$, la probabilidad acumulada hasta $y$ de $X_i$.\n",
        "\n",
        "Esta expresión y sus magnitudes derivadas, como la media, deben evaluarse mediante métodos numéricos. Pero se puede obtener una poderosa intuición estudiando un gráfico conveniente, y es por eso que le pedimos a Colab que nos ayudara:\n",
        ">\n",
        "Hola, Colab. Por favor, el código para el gráfico de las funciones de distribución acumulativa $F^n(z)$, donde $F$ es la función de distribución acumulativa de la distribución normal, y n = 1, 10, 100, 1000."
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program CDF_Max_of_n_Normal_Distributions.py\n",
        "# By Gemini\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "# Define a range of z values\n",
        "z_values = np.linspace(-4, 4, 1000)\n",
        "\n",
        "# Define the values of n\n",
        "n_values = [1, 10, 100, 1000]\n",
        "\n",
        "# Plot the cumulative distribution functions F^n(z)\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "for n in n_values:\n",
        "    Fn_z = F(z_values)**n\n",
        "    plt.plot(z_values, Fn_z, label=f'n = {n}')\n",
        "\n",
        "plt.xlabel('z')\n",
        "plt.ylabel('F^n(z)')\n",
        "plt.title('Cumulative Distribution Function of the Maximum of n Standard Normal Distributions')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Gemini añadió el siguiente comentario:*\n",
        ">>\n",
        ">Las gráficas muestran cómo la distribución del valor máximo se desplaza hacia la derecha y se hace más pronunciada a medida que aumenta el número de muestras ($n$$n$). Esto demuestra visualmente cómo es probable que el valor máximo en una población mayor sea más alto y menos variable que en una población menor. Esto se relaciona con la forma en que la selección del más apto en una mayor población de algoritmos genéticos puede conducir a una mejora más rápida y más consistente en la aptitud.\n",
        "\n",
        "**Ejercicio.** Ejecute el programa anterior y reporte sus comentarios.\n",
        ">\n",
        "*Respuesta.* La eficacia de MAX para mejorar la idoneidad es asombrosa. Una población de 1000 individuos es suficiente para alcanzar más de 3 desviaciones estándar por encima de la media. También: la pendiente media de la fda crece con $n$. Esto significa que la varianza disminuye con $n$ porque los valores se concentran más y más.\n",
        "\n",
        "**Ejercicio.** El impresionante papel del tamaño de la población es algo que merece ser explorado más a fondo. Incluya algunos valores más altos de $n$ en el programa anterior, ejecutarlo de nuevo y reportar su conclusión.\n",
        ">\n",
        "*Respuesta.* El código con algunos valores más altos de $n$, el número de monos o distribuciones, sigue:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "# Define a range of z values\n",
        "z_values = np.linspace(-4, 10, 2000)\n",
        "\n",
        "# Define the values of n\n",
        "n_values = [1, 10, 100, 1000, 10000, 100000, 1000000, 10000000]\n",
        "\n",
        "# Plot the cumulative distribution functions F^n(z)\n",
        "plt.figure(figsize=(10, 6))\n",
        "\n",
        "for n in n_values:\n",
        "    Fn_z = F(z_values)**n\n",
        "    plt.plot(z_values, Fn_z, label=f'n = {n}')\n",
        "\n",
        "plt.xlabel('z')\n",
        "plt.ylabel('F^n(z)')\n",
        "plt.title('Cumulative Distribution Function of the Maximum of n Standard Normal Distributions')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestros comentarios.* Con 100 cromosomas, alcanzar 2 desviaciones estándar arriba de la media es un evento normal. Alcanzar cuatro desviaciones estándar por encima de la media es un acontecimiento normal para una población de 100.000 habitantes, y 5 desviaciones con una población de 10 millones. Por lo tanto, la media de MAX crece con $n$ pero su crecimiento se desacelera.\n",
        "\n",
        "*Desafío.* Evaluar el tamaño de la población que es necesario para coincidir perfectamente a la vez con una cadena binaria de 1000 bits. Hacer la diferencia entre una feliz coincidencia y una hazaña científica repetible, reproducible. Uno puede esperar que la probabilidad sea demasiado pequeña para ser interesante, y es por eso que debemos prestar atención a la evolución que no se basa en la esperanza de resolver todos los problemas a la vez sino en reunir pequeños progresos.\n",
        "\n",
        "Nuestros resultados tienen implicaciones de interés biológico:\n",
        ">\n",
        "*Predicción.* La evolución debe premiar los grandes tamaños de las poblaciones. Con este fin, la evolución debe favorecer los genes de alto poder reproductivo, grandes tasas de migración y poderosa cohesión. En otras palabras, la evolución tiene un costo inmenso en términos de tamaño de población. De todos modos, si el tamaño de la población es pequeña, el precio debe ser pagado en términos de tiempo, de generaciones.\n",
        "\n",
        "Nuestro trabajo con la función de distribución acumulativa es tremendamente importante. Por lo tanto, necesitamos probarlo con una simulación, porque esto capta los procedimientos mecanicistas, mientras que las matemáticas presentan resultados globales basados en las ideas fundamentales.  Por lo tanto, hemos obtenido un teorema que calcula la distribución de MAX. De hecho, esta es una predicción. En el método científico, las predicciones deben verificarse. Para nuestro caso, esto se puede hacer fácilmente en una simulación.\n",
        "\n",
        "**Ejemplo.** Tenemos una expresión compacta y exacta para la función de distribución acumulativa del valor máximo de los números aleatorios muestreados cada uno desde una distribución normal estándar. Necesitamos verificar que esta importante predicción es correcta. Así, le preguntamos a Colab:\n",
        ">>\n",
        "> ¡Hola, Colab! Por favor, desarrolle el código para una simulación para estimar la función de distribución acumulativa del valor máximo de un conjunto de 10 distribuciones normales. Añadir una comparación gráfica de los resultados de la simulación con las predicciones de las expectativas matemáticas.\n",
        ">\n",
        "\n",
        "Colab respondió así:\n",
        ">>\n",
        "> ¡Por supuesto! Aquí está el código para simular la función de distribución acumulativa del máximo de 10 distribuciones normales y compararlo con el resultado teórico."
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Parameters\n",
        "num_simulations = 10000  # Number of times to simulate the maximum\n",
        "set_size = 10  # Number of normal variables in each set\n",
        "\n",
        "# Simulate the maximum of 'set_size' normal distributions 'num_simulations' times\n",
        "max_values = []\n",
        "for _ in range(num_simulations):\n",
        "    random_values = np.random.normal(loc=0, scale=1, size=set_size)\n",
        "    max_values.append(np.max(random_values))\n",
        "\n",
        "# Estimate the empirical cumulative distribution function (CDF) from simulations\n",
        "sorted_max_values = np.sort(max_values)\n",
        "print(f\"sorted_max_values {sorted_max_values}\" )\n",
        "# An array with  numbers   0.0001, 0.0002,..., 0.9999, 1.000\n",
        "empirical_cdf = np.arange(1, num_simulations + 1) / num_simulations\n",
        "#print(f\"empirical_cdf {empirical_cdf}\")\n",
        "# Calculate the theoretical fda of the maximum of 'set_size' normal distributions\n",
        "# F_Y(y) = F(y)^n, where F is the fda of the standard normal distribution\n",
        "z_values = np.linspace(np.min(max_values), np.max(max_values), 1000)\n",
        "theoretical_cdf = norm.cdf(z_values)**set_size\n",
        "\n",
        "# Plot the empirical and theoretical CDFs\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(sorted_max_values, empirical_cdf, label='Empirical fda (Simulation)')\n",
        "plt.plot(z_values, theoretical_cdf, label='Theoretical fda ($F^{10}(z)$)')\n",
        "plt.xlabel('Maximum Value (z)')\n",
        "plt.ylabel('Cumulative Probability')\n",
        "plt.title('Empirical vs. Theoretical fda of the Maximum of 10 Standard Normal Distributions')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Ejercicio.* Ejecute el código y expresa tus conclusiones.\n",
        ">\n",
        "*Respuesta.*  El gráfico muestra que la predicción matemática coincide con la simulación. Vemos, de un lado, la predicción matemática basada en la fda de la función de distribución acumulativa del valor máximo de un conjunto de variables normales independientes e idénticamente distribuidas. Del otro, la estimación encontrada por nuestra simulación.  Ambas coinciden. Por lo tanto, nuestra predicción obligatoria se cumple. Esto es una licencia para seguir adelante.\n",
        "\n",
        "*Comentario de Gemini:*\n",
        ">>\n",
        ">La simulación y las predicciones teóricas para la función de distribución acumulativa de los valores máximos parecen alinearse bien.\n",
        "\n",
        "**Ejercicio.** Descifrar el código anterior que produce una función de distribución acumulada observada, que da para cada $y$, una estimación de $F(y) = P( x \\le y)$.\n",
        ">\n",
        "*Respuesta.* Vamos a explicar lo que hace el código:\n",
        ">\n",
        "- Paso 1: Diez números deben ser muestreados, generados al azar a partir de una distribución normal con media 0 y desviación estándar 1.\n",
        "- Paso 2: El MAX de esos números debe ser encontrado y memorizado.\n",
        "- Los pasos 1 y 2 deben repetirse 10000 veces. Obtenemos 10000 valores máximos.\n",
        ">\n",
        "- Los 10000 valores MAX encontrados deben ordenarse del más bajo al más alto. Por lo tanto, para conocer la proporción de valores menores que $y$, que es igual al valor de la función de distribución acumulativa hasta  $y$, es suficiente conocer el lugar ocupado por $y$ en el arreglo  de valores máximos. Por lo tanto, lo emparejamos  con otro arreglo de números de 1 a 10000, esta es la matriz de orden.  El emparejamiento da el lugar de cada valor máximo en su matriz. Pero, he aquí, también podemos usar el arreglo de orden para indicar un valor de la función de distribución acumulativa que va de 0 a 1. Así, dividimos cada número del arreglo de orden por 10000. Por lo tanto, este arreglo contiene números 0.0001, 0.0002, ..., 0.9999, 1.0000. En el programa, este  arreglo de orden  se llama «fda empírica ».\n",
        ">\n",
        "- ¿Cómo se hace el gráfico? En un gráfico, la coordenada x de cada punto a dibujar representa un valor máximo,  y los y-valores, que deben ir verticalmente, son dados por la «fda empírica».\n",
        ">\n",
        "La distribución empírica debe compararse con la distribución teóricamente esperada, que es la distribución original a la potencia $n$, donde $n$ es el tamaño de la población, el número de monos. La predicción obligatoria es que ambos gráficos deben coincidir. ¿Es cierto? Sí, como se muestra en el gráfico.\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## La función de densidad de probabilidad (fdp) de MAX\n",
        "\n",
        "Al mirar la fda, podemos calcular mentalmente la campana correspondiente a la función de densidad de probabilidad. Esto se hace de la siguiente manera:  cuando la población tiene 100 cromosomas, alrededor del 90 % de los valores máximos están situados dentro de 2 y 3,2, con una media de aproximadamente 2,6. Por lo tanto, suponiendo que la fdp de MAX es similar a una campana, el rango de valores habituales cubre 4 de sus desviaciones estándar. Así, una desviación estándar es igual a $ (3.2 -2)/4 = 1.2/4 = 0.3$. Esto significa que la desviación estándar de la campana de densidad de MAX de 100 distribuciones normales sería de 0,3 desviaciones estándar de la binomial del cual proviene.\n",
        "\n",
        "Pasemos de los sentimientos intuitivos a la computación exacta.\n",
        "\n",
        "**Ejercicio.** Utilice la fda de MAX para encontrar una expresión exacta para su función de densidad de probabilidad, sabiendo que la fdp es la derivada de la fda.\n",
        ">\n",
        "*Respuesta.* Sea $Y$ la variable aleatoria correspondiente al MAX de  $n$ variables aleatorias independientes con distribución normal estándar, cuya fda es $F_{Y}$:\n",
        ">>\n",
        ">$ F_{Y}(y) = F(y)^n $.\n",
        ">\n",
        "donde $F(y)$ es  la fda , la función de distribución acumulativa, de la distribución normal. La función de densidad de probabilidad $f_Y(y)$ es la derivada de la función de distribución acumulativa de $Y$. Entonces, diferenciando la última ecuación, obtenemos  \n",
        ">>\n",
        "> $ f_{Y}(y) = d(F_{Y}(y))/dy =  n f(y) F(y)^{n-1}$.\n",
        ">>\n",
        "La fdp, función de densidad de probabilidad, de la distribución normal estándar, con media $ \\mu = 0$ y varianza $ \\sigma^2 = 1$, es\n",
        ">\n",
        "> $f(y) =  \\frac{1}{ \\sqrt{2 \\pi}} e^{- \\frac{y 2}{2}}$\n",
        ">\n",
        "y su fda, función de distribución acumulada, es\n",
        ">\n",
        "> $F (y) = ∫^y_{-\\infty}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}}dt$\n",
        ">\n",
        "Por lo tanto, la fdp de MAX, el máximo de $n$ distribuciones normales estándar, es:\n",
        ">>\n",
        "> $  f_{Y}(y) = n (  \\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}) (∫^y_{-\\infty}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}} dt)^{n-1}$\n",
        ">\n",
        "Dado que la Campana de Gauss es simétrica alrededor de $0$, esto también puede expresarse como:\n",
        ">>\n",
        "> $  f_{Y}(y) = n (  \\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}) (\\frac{1}{2} + ∫^y_{0}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}} dt)^{n-1}$\n",
        ">>\n",
        "Esto está relacionado con la [función erf](https://en.wikipedia.org/wiki/Error_function), usada en todas las librerías numéricas,  definida por\n",
        ">>\n",
        "> $erf(y) = \\frac{2}{\\sqrt{ \\pi} } ∫^y_{0}e^{- t^2 } dt$\n",
        ">>\n",
        "En estadística, para   $x>0$,  erf tiene la siguiente interpretación: para una variable aleatoria real Y que se distribuye normalmente con media 0 y desviación estándar $ \\frac{1}{ \\sqrt{2}}$,  erf(y) es la probabilidad de que Y caiga en el rango [ y, y].\n",
        ">\n",
        "Usando la función erf, obtenemos:\n",
        ">\n",
        "La función de densidad de probabilidad del máximo de estas distribuciones normales $n$ es:\n",
        ">\n",
        "$  f_{Y}(y) = n (  \\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}) (\\frac{1}{2} + \\frac{1}{2}erf(\\frac{y}{\\sqrt{2}}))^{n-1}$\n",
        ">\n",
        "\n",
        "Examinemos cómo se pueden utilizar estas expresiones.\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## Caso de estudio\n",
        "\n",
        "Hagamos algunos cálculos para fijar ideas.\n",
        "\n",
        "**Ejercicio.** Encontrar los eventos comunes de MAX si la longitud de la cadena objetivo es $n = 400$ y el tamaño de la población, o número de monos o número de distribuciones normales iid, es $m = 200$.\n",
        ">\n",
        "*Respuesta.* La binomial $Bi(400, 1/2)$ tiene una media de 200, la varianza $npq = 400 \\times 1/4 = 100$ y la desviación estándar es $10$.\n",
        ">\n",
        "Los eventos comunes o habituales se encuentran dentro de un intervalo.   La probabilidad de estar por debajo de este intervalo debe ser 0,025 y debe ser igual a la de estar por encima de este intervalo. Podemos utilizar la función de distribución acumulativa $F_Y(y)$ para calcular el intervalo correspondiente. El borde inferior corresponde a $F_Y(y_i) = 0,025$ y el superior a $F_Y(y_u) = 0,975$. Esto equivale a utilizar la función inversa de   $F_Y(y)$. Esto es muy aterrador. Así que, reutilizamos un código desarrollado por Gemini. Debe calcular una tabla con los valores comunes de $F_Y(y)$ y extraer de ella los valores solicitados. El código es el siguiente:\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program commonEvents.py\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "print(\"CDF =  cumulative distribution function\")\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201)\n",
        "\n",
        "# Define the value of n, the   number of normal random variables\n",
        "n  = 400\n",
        "# Cumulative distribution function of the maximal value\n",
        "# of 400 normal distribution with mean 0 and deviation 1.\n",
        "Fn_z = F(z_values)**n\n",
        "# print(Fn_z)\n",
        "inf = 0\n",
        "sup = 0\n",
        "# Inferior border of the interval with common values\n",
        "for i in range(1000):\n",
        "    if  Fn_z[i] >= 0.025 :\n",
        "        print(\"Inferior border, i = \", i, \"Fn_z[i] = \", Fn_z[i])\n",
        "        inf = -2 + i/100\n",
        "        print(f\"Inf in z units = {inf}\")\n",
        "        break\n",
        "# Superior border of the interval with common values\n",
        "# run i from 1200 until 0 with step -1, in reverse order\n",
        "for i in range(1200, 0, -1):\n",
        "    if  Fn_z[i] <= 0.975 :\n",
        "        print(\"Superior border, i = \", i, \"Fn_z[i] = \", Fn_z[i])\n",
        "        sup = -2 + i/100\n",
        "        print(f\"Sup in z units = {sup}\")\n",
        "        break\n",
        "\n",
        "print()\n",
        "print(\"The fda is strongly concentrated:\")\n",
        "print(f\"Fn_z(-2) =  {Fn_z[0]}\" )\n",
        "print(f\"Fn_z(-1) =  {Fn_z[100]}\" )\n",
        "print(f\"Fn_z(-0.8) =  {Fn_z[120]}\" )\n",
        "print(f\"Fn_z(0) =  {Fn_z[200]}\" )\n",
        "print(f\"Fn_z(1) =  {Fn_z[300]}\" )\n",
        "print(f\"Fn_z(2) =  {Fn_z[400]}\" )\n",
        "print(f\"Fn_z(3) =  {Fn_z[500]}\" )\n",
        "print(f\"Fn_z(4) =  {Fn_z[600]}\" )\n",
        "print(f\"Fn_z (5) =  {Fn_z[700]}\" )\n",
        "print(f\"Fn_z (6) =  {Fn_z[800]}\" )\n",
        "print(f\"Fn_z (7) =  {Fn_z[900]}\" )\n",
        "print(f\"Fn_z (8) =  {Fn_z[1000]}\" )\n",
        "print(f\"Fn_z (9) =  {Fn_z[1100]}\" )\n",
        "print(f\"Fn_z (10) =  {Fn_z[1200]}\" )\n",
        "\n",
        "# Plot the cumulative distribution functions F^n(z)\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(z_values, Fn_z, label=f'n = {n}')\n",
        "plt.xlabel('z')\n",
        "plt.ylabel('F^n(z)')\n",
        "plt.title(f'CDF  of the Maximum of {n} Normal Distributions with common events')\n",
        "plt.legend()\n",
        "plt.grid(True)\n",
        "# Border: Draw a vertical red line at x = inf\n",
        "plt.axvline(x=inf, color='red', linestyle='--', linewidth=2)\n",
        "plt.axvline(x=sup, color='red', linestyle='--', linewidth=2)\n",
        "plt.legend([\"cdf\", \"borders of common events\" ])\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "El resultado más sorprendente es que la variable max está fuertemente concentrada. Sus valores significativos se encuentran en el intervalo [2, 5]. Observe que la fda no es simétrica alrededor de su media, prediciendo que la campana de densidad no es simétrica, se debe extender hacia valores más altos. Por lo tanto, la variable max tiene un pequeño sesgo hacia valores altos.\n",
        "\n",
        "**Ejercicio.** Prueba la predicción antes mencionada de que la campana de la variable max no es simétrica, sino que se extiende hacia el ala derecha.\n",
        ">\n",
        "*Respuesta.* Añadimos la campana al dibujo realizado por el programa anterior. La campana corresponde a la función de densidad de probabilidad. Esta puede ser calculada por las fórmulas reportadas, pero ya que necesitamos probar solo la forma de la campana y no sus valores exactos, seguimos un procedimiento muy simple: la función de densidad de probabilidad es la derivada de la función de distribución acumulativa. En cada punto, es la tangente del ángulo de inclinación de la línea tangente, $ \\Delta y/ \\Delta x$. Solo calculamos $ \\Delta y$,  y por ensayo y error ajustamos el valor máximo de la gráfica para encajar en el espacio del gráfico anterior. El código es el siguiente:\n",
        "\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program bell_of_MAX.py\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "print(\"CDF =  Cumulative Distribution Function\")\n",
        "print(\"PDF =  Probability Density Function\")\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201)\n",
        "\n",
        "# Define the value of n, the   number of normal random variables\n",
        "n  = 400\n",
        "# Cumulative distribution function of the maximal value\n",
        "# of 400 normal distribution with mean 0 and deviation 1.\n",
        "Fn_z = F(z_values)**n\n",
        "# print(Fn_z)\n",
        "inf = 0\n",
        "sup = 0\n",
        "# Inferior border of the interval with common values\n",
        "for i in range(1200):\n",
        "    if  Fn_z[i] >= 0.025 :\n",
        "        print(\"Inferior border, i = \", i, \"Fn_z[i] = \", Fn_z[i])\n",
        "        inf = -2 + i/100\n",
        "        print(f\"Inf in units = {inf}\")\n",
        "        break\n",
        "# Superior border of the interval with common values\n",
        "# run i from 1200 until 0 with step -1, i.e., in reverse order\n",
        "for i in range(1200, 0, -1):\n",
        "    if  Fn_z[i] <= 0.975 :\n",
        "        print(\"Superior border, i = \", i, \"Fn_z[i] = \", Fn_z[i])\n",
        "        sup = -2 + i/100\n",
        "        print(f\"Sup in units = {sup}\")\n",
        "        break\n",
        "\n",
        "print()\n",
        "print(\"The fda is strongly concentrated:\")\n",
        "print(f\"Fn_z(-2) =  {Fn_z[0]}\" )\n",
        "print(f\"Fn_z(-1) =  {Fn_z[100]}\" )\n",
        "print(f\"Fn_z(-0.8) =  {Fn_z[120]}\" )\n",
        "print(f\"Fn_z(0) =  {Fn_z[200]}\" )\n",
        "print(f\"Fn_z(1) =  {Fn_z[300]}\" )\n",
        "print(f\"Fn_z(2) =  {Fn_z[400]}\" )\n",
        "print(f\"Fn_z(3) =  {Fn_z[500]}\" )\n",
        "print(f\"Fn_z(4) =  {Fn_z[600]}\" )\n",
        "print(f\"Fn_z (5) =  {Fn_z[700]}\" )\n",
        "print(f\"Fn_z (6) =  {Fn_z[800]}\" )\n",
        "print(f\"Fn_z (7) =  {Fn_z[900]}\" )\n",
        "print(f\"Fn_z (8) =  {Fn_z[1000]}\" )\n",
        "print(f\"Fn_z (9) =  {Fn_z[1100]}\" )\n",
        "print(f\"Fn_z (10) =  {Fn_z[1200]}\" )\n",
        "\n",
        "# The Bell\n",
        "bell = []\n",
        "for i in range(1200):\n",
        "    delta_y = Fn_z[i+1] - Fn_z[i]\n",
        "    #delta_x = z_values[i+1] - z_values[i]\n",
        "    #bell.append(delta_y/delta_x)\n",
        "    bell.append(100*delta_y)\n",
        "bell.append(0.0) # to enabling pairing with the other graph\n",
        "\n",
        "#Plots\n",
        "plt.figure(figsize=(10, 6))\n",
        "# Plot the cumulative distribution functions F^n(z)\n",
        "plt.plot(z_values, Fn_z, label=f'n = {n}')\n",
        "# Border: Draw a vertical red line at x = inf\n",
        "plt.axvline(x=inf, color='red', linestyle='--', linewidth=2)\n",
        "\n",
        "# Draw the bell\n",
        "plt.plot(z_values, bell )\n",
        "plt.xlabel('z')\n",
        "plt.ylabel('F^n(z)')\n",
        "plt.title(f'CDF and PDF of the Maximum of {n} Normal Distributions, and common events')\n",
        "plt.grid(True)\n",
        "plt.legend([\"cdf\", \"borders of common events\", \"bell or pdf in arbitrary height\" ])\n",
        "# Superior border\n",
        "plt.axvline(x=sup, color='red', linestyle='--', linewidth=2)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "La observación fue verificada: la campana es asimétrica y está un poco extendida hacia el ala derecha. Esto significa que se prefieren los valores altos con respecto a los más bajos.\n",
        "\n",
        "*Desafío.* La campana que se reportó en el último ejemplo tiene un origen teórico. Compárelo con una campana, que proviene de una simulación con monedas o cadenas binarias.  \n",
        "\n",
        "*Desafío.* Por el gráfico, la media de  max para 400 monos se encuentra alrededor de 3 (en unidades $z$). Pruebe esta apreciación y encuentre una mejor estimación.\n",
        "\n",
        "**Ejercicio.** Hacer una simulación para comprobar la predicción dada por el análisis anterior: para 400 monos, los valores ordinarios se encuentran dentro de 2,3 y 3,8 desviaciones estándar por encima de la media.  \n",
        "\n",
        "*Respuesta.* El siguiente código, realizado con la ayuda de Gemini,  simula 400 monos o cadenas binarias que deben coincidir con una cadena objetivo de 400 bits de longitud. El MAX se registra, y se realizan muchas repeticiones. Según gráficos anteriores, la predicción es que los valores ordinarios se encuentran dentro de 2 y 4 por encima de $0$ en una distribución normal, o dentro de 2 y 4 desviaciones estándar por encima de la media en cualquier distribución normal. La media de $Bi(400, 1/2)$ es 200, la varianza es $npq= 400/4 = 100$, donde la desviación estándar es $10$. Los valores ordinarios deben situarse dentro de 2 y 4 desviaciones estándar por encima de la media, es decir  $[200 + 2 * 10, 200 + 4 * 10 = [220, 240]$ con la moda  alrededor de 2,6 desviaciones estándar por encima de la media, 200 + 2,6 * 10 = 226$\n",
        "\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program testOfCommonEvents.py\n",
        "\n",
        "from io import RawIOBase\n",
        "import datetime\n",
        "import random\n",
        "import math\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt # Import matplotlib for plotting\n",
        "\n",
        "\n",
        "# Define parameters\n",
        "alphabet = '01'\n",
        "string_length = 400\n",
        "population_size = 400\n",
        "target_string = ''.join(random.choice(alphabet) for _ in range(string_length))\n",
        "mean = string_length / 2\n",
        "std_dev = np.sqrt(string_length / 4)\n",
        "\n",
        "print(f\"Lab: 400 Monkey match a target string\")\n",
        "print(f\"Purpose: Best of 400 random strings matches a target string\")\n",
        "print(f\"Date of Experiment  = {datetime.datetime.now()}\")\n",
        "print(f\"alphabet =  {alphabet}\")\n",
        "# print(f\"Target string = {target_string}\")\n",
        "print(f\"Target string length: {string_length}\")\n",
        "print(f\"Population size: {population_size}\")\n",
        "print(f\"Mean number of matches : {mean}\")\n",
        "print(f\"Standard deviation: {std_dev}\")\n",
        "\n",
        "\n",
        "\n",
        "def create_population(population_size, target_string, alphabet):\n",
        "    \"\"\"Creates a new population with random strings.\"\"\"\n",
        "    # print(\"create_population9b(population_size, target_sequence, alphabet)\")\n",
        "    population = []\n",
        "    for _ in range(population_size):\n",
        "        random_string = ''.join(random.choice(alphabet) for _ in range(len(target_string)))\n",
        "        population.append(random_string)\n",
        "    # print(\"initial population\")\n",
        "    # print(population)\n",
        "    return population\n",
        "\n",
        "def calculate_fitness(my_string, target_string):\n",
        "    \"\"\"Calculates the fitness of a string based on its similarity to the target sequence.\"\"\"\n",
        "    #  print(\"\\n *calculate_fitness(string, target_sequence)\")\n",
        "    fitness = 0\n",
        "    for i in range(len(my_string)):\n",
        "        if my_string[i] == target_string[i]:\n",
        "            fitness += 1\n",
        "    # print(string, \"  fitness: \", fitness)\n",
        "    return fitness\n",
        "\n",
        "def calculate_all_fitness(population, target_string):\n",
        "    # print(\"\\n*calculate_all_fitness(population, target_sequence)\")\n",
        "    \"\"\"Calculates the scores in the population.\"\"\"\n",
        "    fitness_scores = [calculate_fitness(string, target_string) for string in population]\n",
        "    # print(\"fitness_scores: \", fitness_scores)\n",
        "    return fitness_scores\n",
        "\n",
        "def select_the_best(population, target_string):\n",
        "    \"\"\"Selects the string with the MAX score.\"\"\"\n",
        "    fitness_scores = calculate_all_fitness(population, target_string)\n",
        "    best_fitness = max(fitness_scores)\n",
        "    best_string_index = fitness_scores.index(best_fitness)\n",
        "    best_string = population[best_string_index]\n",
        "    # print(\"\\n*select_the_best(population)\")\n",
        "    # print(\"best_fitness = \", best_fitness)\n",
        "    # print(\"The best string = \", best_string )\n",
        "    return best_fitness, best_string\n",
        "\n",
        "def basic_routine(target_string):\n",
        "    \"\"\"A population is created, and the best is picked up\"\"\"\n",
        "    population = create_population(population_size, target_string, alphabet)\n",
        "    calculate_all_fitness(population, target_string)\n",
        "    return select_the_best(population, target_string)\n",
        "\n",
        "def main():\n",
        "    for _ in range(50):\n",
        "        best_fitness, best_string = basic_routine(target_string)\n",
        "        print(\"best_fitness = \", best_fitness)\n",
        "        #print( \"The best string = \", best_string )\n",
        "    print(\"best_fitness = \", best_fitness)\n",
        "    #print( \"The best string = \", best_string )\n",
        "    #print( \"Target  string  = \", target_string )\n",
        "\n",
        "main()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Evaluación:* La predicción se cumple perfectamente: los valores reportados están dentro del intervalo $[224, 243]$ mientras que la predicción es de $[220, 240]$.\n",
        "\n",
        "*La frustración como desafío.*  Encontrar el MAX en una población es útil, pero no demasiado porque todos los eventos están fuertemente concentrados no muy lejos de la media. En el ejemplo anterior, los valores habituales de MAX son inferiores a 240, mientras que perfección significa 400.  Por lo tanto, mientras que el MAX significa superar la mediocridad, se predice que los valores más altos aparecen a un precio alto en el número de ensayos.  En palabras simples: MAX cambia la mediocridad por baja calidad. \n",
        "\n",
        "**Ejercicio.** Defiéndase de la acusación anterior: la baja calidad es el infierno de una población creada al azar.\n",
        ">\n",
        "*Respuesta.*  Donde Python ve un 0, la matemática ve un valor positivo. Por ejemplo, la probabilidad para un solo cromosoma de resolver a la vez la tarea completa de igualar 1000 bits es $2^{-1000}$ que no es cero. Este valor es bajo pero dado el tiempo suficiente para repetir muchos ensayos, llegará un momento en que aparecerá el resultado correcto. Esto se discutió antes:\n",
        "\n",
        "\n",
        "un mono\n",
        "https://colab.research.google.com/drive/1sb63vEjlQ2WtEh3iC-6qINaZ2T84tXNB?usp=sharing\n",
        "\n",
        "El tiempo prescrito puede ser mayor que la edad del universo. ¿Qué sucede cuando en lugar de 1 cromosoma o mono tenemos 400? La respuesta es casi la misma:\n",
        "\n",
        "muchos monos\n",
        "https://colab.research.google.com/drive/1dEykeQxNXZY0eVfC4fFnNhKdKvUbm7Wr?usp=sharing\n",
        "\n",
        "\n",
        " ¿Qué pasa si nuestro objetivo es recoger el máximo? Para saber esto, necesitamos aquí nuestras fórmulas para la función de distribución acumulativa de la distribución normal estándar $F$, su densidad $f$, que es la derivada de $F$, y la de la función de densidad de probabilidad de MAX, $f_Y$:\n",
        ">\n",
        ">$F (y) = ∫^y_{-\\infty}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}}dt$\n",
        ">>\n",
        ">$f_{Y}(y) = n f(y) F(y)^{n-1}$.\n",
        ">>\n",
        ">$  f_{Y}(y) = n (  \\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}) (∫^y_{-\\infty}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}} dt)^{n-1}$\n",
        ">\n",
        ">\n",
        " También podríamos utilizar la siguiente notación\n",
        ">\n",
        "> $f_{Y}(y) = n (fdp) ( FDA)^{n-1}$. \n",
        ">\n",
        "> donde fdp es la función de densidad de probabilidad de la distribución normal y FDA es la función de distribución acumulativa de la distribución normal estándar. FDA también puede escribirse como fda.\n",
        "\n",
        "\n",
        "Para tener una idea de los valores involucrados, le pedimos ayuda a Colab:\n",
        ">\n",
        "El código para calcular $f_Y(y)$ para valores de $y= 10, 20, 30, 40, 50$\n",
        ">\n",
        "Gemini ofreció el siguiente código:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program pdfOfMax.py\n",
        "\n",
        "import numpy as np\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the probability density function of the standard normal distribution\n",
        "f = norm.pdf\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "# Define the value of n, the number of normal random variables\n",
        "n = 400\n",
        "\n",
        "# Define the values of y for which to calculate the PDF\n",
        "y_values = [10, 20, 30, 40, 50]\n",
        "\n",
        "print(f\"Calculating the probability density function of the maximum for n = {n}\")\n",
        "print(\"-\" * 50)\n",
        "\n",
        "for y in y_values:\n",
        "    # Calculate the probability density function of the maximum\n",
        "    # f_Y(y) = n * f(y) * F(y)**(n-1)\n",
        "    f_Y_y = n * f(y) * (F(y)**(n-1))\n",
        "    print(f\"f_Y({y}) = {f_Y_y:.10e}\")\n",
        "\n",
        "print(\"-\" * 50)"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "El programa muestra que es imposible pedir una coincidencia perfecta de una cadena binaria objetivo de 1000 bits por una asignación aleatoria de bits de 400 cadenas.\n",
        "\n",
        "### Dar sentido a las probabilidades diminutas.\n",
        "\n",
        "Según el ejemplo anterior, los resultados reportados por Python llegan rápidamente a cero, como un procedimiento de redondeo y aproximación. La lectura literal es que los acontecimientos con probabilidad minúscula no se realizan. Esto es, de hecho, una directiva filosófica. La barrera que separa probabilidades minúsculas e irrealizables se pone alrededor de $10^{-50}$, pero un valor más prudente sería $10^{-1000}$, como se discutió [en algún otro lugar](https://ejristos.com/dl/DarwinSerio.pdf). Preferimos la directriz que dice que si algo tiene una probabilidad no nula, puede suceder, y el mecanismo subyacente se puede presentar como una explicación del fenómeno que uno quiere explicar. Sin embargo, las pequeñas probabilidades son un desafío para crear o adoptar algo más que debe dar lugar a una comprensión más amplia que aliente al corazón.  \n",
        "\n",
        " ¿Cómo se implementa nuestra directiva? El primer paso es ver que detrás del cero reportado por Python, hay valores positivos.\n",
        "\n",
        " **Ejercicio.** Haga todo lo posible para ampliar la capacidad de Python de calcular los valores de la función de densidad de probabilidad, tal como se producía en el último programa.\n",
        ">>\n",
        ">*Respuesta.* Imaginamos al principio que un procedimiento viable podría ser utilizar la salida de Python para valores bajos para encontrar un polinomio de regresión, y usar esto para extrapolar a valores más altos. Pero los números son tan pequeños que esto resultó imposible. Así que decidimos probar con logaritmos:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program log_of_pdf_of_MAX.py\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the probability density function of the standard normal distribution\n",
        "f = norm.pdf\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "# Define the value of n, the number of normal random variables\n",
        "n = 400\n",
        "\n",
        "# Define the values of y for which to calculate the PDF\n",
        "y_values = [1, 2, 3, 4, 5, 10, 15, 20, 25, 30, 35]\n",
        "\n",
        "print(f\"Calculating the probability density function of the maximum for n = {n}\")\n",
        "print(\"-\" * 50)\n",
        "\n",
        "log_pdf_values = []\n",
        "for y in y_values:\n",
        "    # Calculate the probability density function of the maximum\n",
        "    # f_Y(y) = n * f(y) * F(y)**(n-1)\n",
        "    f_Y_y = n * f(y) * (F(y)**(n-1))\n",
        "    print(f\"f_Y({y}) = {f_Y_y:.16e}\")\n",
        "    log_pdf_values.append(np.log(f_Y_y))\n",
        "\n",
        "print(\"-\" * 50)\n",
        "\n",
        "\n",
        "#Plots\n",
        "plt.figure(figsize=(10, 6))\n",
        "# plot pdf_values against y_values\n",
        "plt.plot(y_values, log_pdf_values, label=f'n = {n}')\n",
        "plt.xlabel('z')\n",
        "plt.ylabel(' log_pdf_values')\n",
        "plt.title(f'Log of the pdf values of the Maximum of {n} Normal Distributions')\n",
        "plt.grid(True)\n",
        "plt.legend([\"Log\"  ])"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestro comentario.* Vemos que los logaritmos de esos números minúsculos que representan probabilidades de obtener un valor MAX alto están envueltos por una curva muy suave que por encima de 5 parece una parábola simple.\n",
        "\n",
        "**Ejercicio.** Probar, o demostrar, o rechazar la proposición antes mencionada de que el logaritmo de los valores fdp del máximo de 400 distribuciones normales está descrito por una parábola, al menos para valores de $z$ superiores a 5.\n",
        ">\n",
        ">\n",
        "*Respuesta.* Consideremos  la fdp  de MAX\n",
        ">\n",
        "> $f_{Y}(y) = n (pdf) ( CDF)^{n-1}$.\n",
        ">>\n",
        ">>> $    = n (  \\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}) (∫^y_{-\\infty}\\frac{1}{\\sqrt{2 \\pi}} e^{-\\frac{t^2}{2}} dt)^{n-1}$\n",
        ">\n",
        "Nuestro interés está en el valor de  la fdp  para $y$ alto, digamos 5 o más. Para esos valores, la fdp es casi cero, $ \\epsilon_1$, mientras que la FDA es casi 1, $ 1- \\epsilon_2 $.  Si aceptamos esto,   $ f_{Y}(y) $ se puede representar esquemáticamente como\n",
        ">>\n",
        "> $ f_{Y}(y) = n  \\epsilon_1  (1-\\epsilon_2)   = n  (\\epsilon_1  -  \\epsilon_1 \\times  \\epsilon_2) \\sim  n  \\epsilon_1 $\n",
        ">>\n",
        "Por lo tanto, nuestra expresión anterior es aproximada por\n",
        ">>\n",
        "> $ f_{Y}(y) =    \\frac{n}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}$\n",
        ">\n",
        "Tomando logaritmos, obtenemos\n",
        ">>\n",
        "> $ log (f_{Y}(y)) =   log( \\frac{n}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}})$\n",
        ">>\n",
        "> $ log (f_{Y}(y))  = log(\\frac{n}{\\sqrt{2 \\pi}} ) - \\frac{y^2}{2}$\n",
        ">>\n",
        "> y esta es una parábola invertida, como la encontrada por Python. Necesitamos saber urgentemente la relación entre estas dos parábolas. El código es el siguiente:"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the probability density function of the standard normal distribution\n",
        "f = norm.pdf\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "# Define the value of n, the number of normal random variables\n",
        "n = 400\n",
        "\n",
        "# Define the values of y for which to calculate the PDF\n",
        "y_values = [5, 10, 15, 20, 25, 30, 35]\n",
        "\n",
        "print(f\"Calculating the probability density function of the maximum for n = {n} monkeys\")\n",
        "print(\"-\" * 50)\n",
        "\n",
        "log_pdf_values = []\n",
        "for y in y_values:\n",
        "    # Calculate the probability density function of the maximum\n",
        "    # f_Y(y) = n * f(y) * F(y)**(n-1)\n",
        "    f_Y_y = n * f(y) * (F(y)**(n-1))\n",
        "    print(f\"f_Y({y}) = {f_Y_y:.16e}\")\n",
        "    log_pdf_values.append(np.log(f_Y_y))\n",
        "\n",
        "print(\"-\" * 50)\n",
        "a = np.sqrt(2*np.pi) # square root of ( 2 pi)\n",
        "print(f\" square root of ( 2 pi)) = {a}, its inverse = {1/a}\")\n",
        "print(f\"ln(10) = {np.log(10)}\")\n",
        "print(f\"lg(e) in base 10 = {np.log10(np.e)}\")\n",
        "print(f\"lg(e) in base 10 / 2 = {np.log10(np.e)/2}\")\n",
        "log_approximated_parable = []\n",
        "for y in y_values:\n",
        "    log_approximated_parable.append(np.log(a) - y**2/2)\n",
        "\n",
        "#Plots\n",
        "plt.figure(figsize=(10, 6))\n",
        "# plot pdf_values against y_values\n",
        "plt.plot(y_values, log_pdf_values, label=f'n = {n}')\n",
        "plt.plot(y_values, log_approximated_parable, label=f'n = {n}')\n",
        "plt.xlabel('z')\n",
        "plt.ylabel(' log_pdf_values')\n",
        "plt.title(f'Log of the pdf values of the Maximum of {n} Normal Distributions')\n",
        "plt.grid(True)\n",
        "plt.legend([\"Log_pdf\", \"Log_parable\" ])"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestro comentario.* Vemos que nuestra aproximación matemática y la dada por Python coinciden. Este resultado es para nosotros muy agradable. Esto también significa que Python utiliza muy buenas aproximaciones.\n",
        "\n",
        "*Tarea difícil. * Encontrar una aproximación continua adecuada para  la fdp  de MAX para valores bajos de $y$, digamos, 1, 2, 3, 4. Nuestra solución a este agujero es recurrir al entorno nativo proporcionado por la distribución binomial, que es discreta, y fue estudiada en la primera sección. Pero, cuidado, algunos resultados importantes que se utilizaron provienen de los métodos continuos estudiados en esta sección.  \n",
        "\n",
        "Seguiremos asumiendo que nuestro procedimiento de aproximación es excelente. Utilicémoslo para estimar los valores de la fdp  para entradas grandes:\n",
        ">\n",
        ">> $ \\sqrt{2 \\pi} = 2.5066282746310002$  \n",
        ">>\n",
        "> $ \\frac{1}{\\sqrt{2 \\pi}} = 0.3989422804014327$\n",
        ">>\n",
        "> En general,\n",
        ">>\n",
        "> $ log (f_{Y}(y))  = log(\\frac{n}{\\sqrt{2 \\pi}} ) - \\frac{y^2}{2}$\n",
        ">>\n",
        "o, equivalentemente, y para valores de 5 desviaciones tìpicas o superiores,  \n",
        ">>\n",
        "> $ f_{Y}(y) =  \\frac{n}{\\sqrt{2 \\pi}} e^{-\\frac{y^2}{2}}$\n",
        ">>\n",
        "> $  f_{Y}(y) =  0.3989422804014327 \\times n \\times e^{-\\frac{y^2}{2}}$\n",
        ">>\n",
        "> Dado que el logaritmo en base 10 de $e$ es $0.4342944819032518$, entonces $ 10^{0.4342944819032518} = e$, tenemos\n",
        ">>\n",
        "> $ f_{Y}(y) =     0.3989422804014327 \\times n \\times (10^{0.4342944819032518})^{-\\frac{y^2}{2}}$\n",
        ">>\n",
        "> $ f_{Y}(y) =     0.3989422804014327 \\times n \\times 10^{-\\frac{0.4342944819032518y^2}{2}}$\n",
        ">>\n",
        ">$ f_{Y}(y) =     0.3989422804014327 \\times n \\times 10^{-0.2171472409516259y^2}$\n",
        ">>\n",
        ">Redondeando:\n",
        ">>\n",
        ">$ f_{Y}(y) =   0.4 \\times n \\times 10^{-0.22 y^2}$\n",
        "\n",
        "Así que si el número de monos es $n = 400$ y el de desviaciones típicas arriba de la media es $y = 50$, obtenemos\n",
        ">>\n",
        ">$ f_{Y}(50) =   0.4 \\times 400 \\times 10^{-0.22 \\times 2500} $\n",
        ">>$ = 160 \\times 10^{-550} \\sim 1000 \\times 10^{-550} = 10^{-547} $\n",
        "\n",
        ">>\n",
        "Para darle un significado a esta probabilidad, imaginemos que debemos coincidir con una cadena binaria $m$ bits de largo. Necesitamos calcular $m$ en el Binomial $Bi(m, 1/2)$ tal que la perfección es alcanzada cuando uno se aleja 50 desviaciones estándar por encima de la media. Procedamos de la siguiente manera:\n",
        ">\n",
        "La media de $Bi(m, 1/2)$ es $ \\mu = m/2$, la varianza es $ \\sigma^2 = mpq = m/4$ y la desviación es $ \\sigma =  \\sqrt{m}/2$. La perfección significa coincidir con todos los  $m$ sitios. Por lo tanto, exigimos que\n",
        ">\n",
        ">$m = \\mu + 50 \\sigma = \\frac{m}{2} + 50 \\frac{\\sqrt{m}}{2}$\n",
        ">\n",
        ">$2m = m + 50  \\sqrt{m} $\n",
        ">>\n",
        ">>$m = 50  \\sqrt{m} $\n",
        ">>\n",
        ">$m^2 = 2500   m $\n",
        ">>\n",
        ">$ m = 2500$\n",
        "\n",
        "Esto significa que la perfección resultante de 50 desviaciones típicas es equivalente a adivinar una cadena de 2500 bits de largo. \n",
        "\n",
        "Interpretemos ahora el significado de la expresión  \n",
        ">>\n",
        ">$ f_{Y}(50) =  10^{-547} $.\n",
        ">>\n",
        "> Procedemos por sentido común: si la probabilidad de cara es 1/2, podemos tirar la moneda dos veces, y es razonable esperar al menos una cara. Por la misma razón, si la probabilidad de perfección es $10^{-547} $, entonces, es razonable ver un evento si hacemos un número de ensayos $T$ igual a\n",
        ">>\n",
        "> $T = \\frac{1}{10^{-547}} = 10^{547}$\n",
        ">>\n",
        "> Un ensayo consiste en colocar 400 monos para imprimir al azar 2500 símbolos binarios, 0 o 1. A continuación, comparamos lo que produjeron con una cadena objetivo binaria predefinida de 2500 bits. Después de la comparación, sitio por sitio, recogemos el máx.\n",
        "\n",
        "**Ejercicio.**  Abandone la perfección y calcule el tiempo necesario para que MAX de 400 monos resuelvan los 2500 bits hasta un 95% de perfección.\n",
        ">\n",
        "*Respuesta.* La media de $Bi(2500, 1/2)$ es 1250 y la varianza es 625, la desviación es 25. El 95% de 2500 es 2375. Está por encima de la media  45 desviaciones estándar en lugar de 50. La probabilidad es\n",
        ">>\n",
        ">$ f_{Y}(y) =   0.4 \\times n \\times 10^{-0.22 y^2}$\n",
        ">>\n",
        ">$ f_{Y}(45) =   0.4 \\times 400 \\times 10^{-0.22 (45)^2}$\n",
        ">>\n",
        ">$ f_{Y}(45) =   160 \\times 10^{-0.22  \\times 2025}$\n",
        ">>\n",
        ">$ f_{Y}(45) =   160 \\times 10^{-445}$\n",
        ">>\n",
        ">$ f_{Y}(45) =    10^{-442}$\n",
        ">\n",
        "Como vemos, abandonar la perfección en favor de la cuasi-perfección no ayuda a explicar la información contenida en una cadena binaria de 2500 bits.\n",
        "\n",
        "> En resumen, poner como objetivo adivinar el 95% de una cadena binaria de 2500 bits de largo representa un remedio vano. Esta afirmación desesperada puede sonar injusta. Por lo tanto, seamos más positivos: coincidir con una cadena binaria objetivo 2500 bits es posible, pero se espera un gran número de ensayos. En relación con la biología, por ensayo se entiende un genoma que no cumple las características requeridas para hacer posible la vida. Esto es científico: tenemos aquí la predicción obligatoria que dice que nuestra existencia debe ir acompañada de todo tipo de malformaciones y disfunciones en nuestros cuerpos y que el registro fósil debe estar lleno de deformidades. Por lo tanto, el costo, dado como número de ensayos, convierte las minúsculas probabilidades en una realidad científica obligatoria, inescapable.\n",
        "\n",
        "**Ejercicio.** Comparar el poder de un grupo de monos con y sin MAX para resolver el desafío de Shakespeare. Cálculos sobre 400 monos sin MAX se pueden encontrar [en un trabajo anterior](\n",
        "https://colab.research.google.com/drive/1dEykeQxNXZY0eVfC4fFnNhKdKvUbm7Wr?usp=sharing ).\n",
        ">\n",
        "*Respuesta.* Un grupo de monos se comporta igual sin importar si uno elige el MAX o no.  En ambos casos, si el grupo tiene $n$ monos, la pequeña probabilidad de éxito por un mono se multiplica por $n$. En otras palabras, el MAX no es importante per se. Lo que importa es lo que se hace con la MAX y este es el reto que la Evolución promete resolver con colores brillantes. En la siguiente sección concretizamos el asunto."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## El desafío MAX_ROCKET. * \n",
        "\n",
        "Hemos encontrado que MAX tiene virtudes importantes: \n",
        "- MAX produce resultados de alta calidad.\n",
        "- A un coste extremadamente bajo, las fluctuaciones de MAX se suavizan sensiblemente. \n",
        "- MAX produce resultados estables y repetibles. Por eso, se pueden formular predicciones confiables. Nuestra elección es encontrar una fórmula para el valor esperado y usarlo en predicciones. \n",
        "  \n",
        "Pero, MAX también tiene una trampa:\n",
        "- MAX es bueno, pero no lo suficiente.\n",
        "- MAX es extremadamente costoso de usar para combatir la complejidad.\n",
        "\n",
        "Por lo tanto, surge una pregunta como un desafío feroz:\n",
        "\n",
        "> **El Desafío MAX-Rocket:**\n",
        ">>\n",
        ">> Incorporar a MAX, como pieza fundamental, en un poderoso algoritmo para disparar su capacidad de luchar contra la complejidad. \n",
        "\n",
        "En el próximo artículo, estudiaremos la evolución como una hermosa promesa para resolver este desafío."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## Estimación de la media y la varianza de MAX\n",
        "\n",
        "Utilizamos aquí la fda de MAX para estimar su media y varianza. El nombre oficial de la media de una variable aleatoria, fuente de datos al azar, es el **valor esperado**. Por lo tanto, es el valor por defecto de una variable aleatoria. La varianza es una medida de la variabilidad de los datos de salida. Utilizamos la varianza de una variable aleatoria como indicador del poder predictivo de su valor esperado. Si la varianza es baja, el valor esperado es un buen predictor para las salidas de la variable aleatoria. A medida que crece la varianza, el poder predictivo disminuye.  \n",
        "\n",
        "**Ejercicio.** Desarrollar un programa que utilice la fda de MAX para estimar su valor esperado y la varianza para 400 monos.\n",
        ">\n",
        ">*Respuesta.* El siguiente código utiliza  la fda  de MAX para estimar la varianza para 400 monos."
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program MeanAndVarianceOfMAX\n",
        "# The fda of MAX is used to calculate mean and variance.\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "print(\"CDF =  Cumulative Distribution Function\")\n",
        "print(\"PDF =  Probability Density Function\")\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201) #init of interval, end, number of points\n",
        "\n",
        "# Define the value of m, the   number of normal random variables or monkeys\n",
        "m  = 400\n",
        "# Cumulative distribution function of the maximal value\n",
        "# of 400 normal distribution with mean 0 and deviation 1.\n",
        "Fn_z = F(z_values)**m\n",
        "# print(Fn_z)\n",
        "\n",
        "# Borders of common events\n",
        "inf = 0\n",
        "sup = 0\n",
        "# Inferior border of the interval of common values\n",
        "for i in range(1200):\n",
        "    if  Fn_z[i] >= 0.025 :\n",
        "        print(f\"Inferior border, i =   {i}, Fn_z[i] = {Fn_z[i]:.3}\")\n",
        "        inf = -2 + i/100\n",
        "        print(f\"Inf in units = {inf:.3}\")\n",
        "        break\n",
        "# Superior border of the interval of common values\n",
        "# run i from 1200 until 0 with step -1, i.e., in reverse order\n",
        "for i in range(1200, 0, -1):\n",
        "    if  Fn_z[i] <= 0.975 :\n",
        "        print(f\"Superior border, i = {i}, Fn_z[i] = {Fn_z[i]:.3}\")\n",
        "        sup = -2 + i/100\n",
        "        print(f\"Sup in units = {sup:.3}\")\n",
        "        break\n",
        "\n",
        "\n",
        "# The Bell or pdf of MAX\n",
        "pdf = []\n",
        "pdf_draw = []\n",
        "for i in range(1200):\n",
        "    delta_y = Fn_z[i+1] - Fn_z[i]\n",
        "    #delta_x = z_values[i+1] - z_values[i]\n",
        "    #bell.append(delta_y/delta_x)\n",
        "    pdf.append(delta_y)\n",
        "    pdf_draw.append(100*delta_y)\n",
        "pdf.append(0.0) # to enabling pairing with the other graph\n",
        "pdf_draw.append(0.0)\n",
        "\n",
        "# The mean in z units\n",
        "mean = 0 #init\n",
        "for k in range(1200):\n",
        "    mean += (k/100 -2) * pdf[k]\n",
        "# print(f\"Number of monkeys = {m}, Mean = {mean:.3}\")\n",
        "\n",
        "# Variance\n",
        "variance = 0.0\n",
        "for k in range(1200):\n",
        "    variance += ((k/100 -2 - mean)**2) * pdf[k]\n",
        "deviation = np.sqrt(variance)\n",
        "print(f\"Number of monkeys = {m}, mean = {mean:.3}, variance = {variance:.2}, deviation = {deviation:.2}\")\n",
        "\n",
        "\n",
        "#Plots\n",
        "plt.figure(figsize=(10, 6))\n",
        "# Plot the cumulative distribution functions F^n(z)\n",
        "plt.plot(z_values, Fn_z, label=f'm = {m}')\n",
        "# Border: Draw a vertical red line at x = inf\n",
        "plt.axvline(x=inf, color='red', linestyle='--', linewidth=2)\n",
        "\n",
        "# Draw the bell\n",
        "plt.plot(z_values, pdf_draw )\n",
        "plt.xlabel('z')\n",
        "plt.ylabel('F^m(z)')\n",
        "plt.title(f'CDF and PDF of the Maximum of {m} Normal Distributions, and common events')\n",
        "plt.grid(True)\n",
        "\n",
        "\n",
        "# Mean\n",
        "plt.axvline(x=mean, color='green', linestyle='--', linewidth=2)\n",
        "plt.legend([\"cdf\", \"borders of common events\", \"bell or pdf in arbitrary height\", \"mean -1, 0, +1 deviations\" ])\n",
        "# Superior border\n",
        "plt.axvline(x=sup, color='red', linestyle='--', linewidth=2)\n",
        "\n",
        "plt.axvline(x=mean - 1 * deviation, color='green', linestyle='--', linewidth=2)\n",
        "plt.axvline(x=mean + 1 * deviation, color='green', linestyle='--', linewidth=2)\n",
        "plt.show()"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "**Nuestras observaciones.** La campana o fdp de MAX se extiende un poquito más hacia el ala derecha, a valores altos. Los eventos comunes hasta el 95% que se predicen por la fda son diferentes de las previstas por 2 desviaciones estándar.\n",
        "\n",
        "**Ejercicio.** Desarrollar un programa para estimar la media y la varianza de MAX en función del número de monos. Esto es igual al número de distribuciones  normales independientes e  idénticas   que se toman en la consideración para extraer su valor MAX.\n",
        ">\n",
        ">*Respuesta.* El siguiente código estima la varianza de MAX en función del número de monos.\n",
        "\n"
      ]
    },
    {
      "cell_type": "code",
      "execution_count": null,
      "metadata": {},
      "outputs": [],
      "source": [
        "# Program VarianceOfMAXasFunctionOfNumberOfMonkeys.py\n",
        "# The fda of MAX is used to calculate the mean\n",
        "# and the variances of MAX\n",
        "# as a function of the number of monkeys\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the value of m, the   number of normal random variables or monkeys\n",
        "m  = 400\n",
        "\n",
        "# Number of monkeys\n",
        "# n_normals = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_normals = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000] # This setting reaches 16\n",
        "n_normals = range(1, 200002, 10000) # (start, end, step)\n",
        "\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201) #init of interval, end, number of points\n",
        "\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "\n",
        "# print(\"CDF =  Cumulative Distribution Function\")\n",
        "# print(\"PDF =  Probability Density Function\")\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201) #init of interval, end, number of points\n",
        "\n",
        "expected_means = []\n",
        "expected_variances = []\n",
        "for m in n_normals:\n",
        "    # The cumulative distribution function of MAX\n",
        "    # Cumulative distribution function of the maximal value\n",
        "    # of m normal distribution with mean 0 and deviation 1.\n",
        "    Fn_z = F(z_values)**m\n",
        "    # print(Fn_z)\n",
        "    # The Bell or pdf of MAX\n",
        "    pdf = []\n",
        "    for i in range(1200):\n",
        "        delta_y = Fn_z[i+1] - Fn_z[i]\n",
        "        #delta_x = z_values[i+1] - z_values[i]\n",
        "        #bell.append(delta_y/delta_x)\n",
        "        pdf.append(delta_y)\n",
        "        # pdf_draw.append(100*delta_y)\n",
        "    pdf.append(0.0) # to enabling pairing with the other graph\n",
        "    # pdf_draw.append(0.0)\n",
        "\n",
        "    # The mean in z units\n",
        "    mean = 0 #init\n",
        "    for k in range(1200):\n",
        "        mean += (k/100 -2) * pdf[k]\n",
        "    # print(f\"Number of monkeys = {m}, Mean = {mean:.3}\")\n",
        "\n",
        "    # Variance\n",
        "    variance = 0.0\n",
        "    for k in range(1200):\n",
        "        variance += ((k/100 -2 - mean)**2) * pdf[k]\n",
        "    deviation = np.sqrt(variance)\n",
        "    print(f\"Number of monkeys = {m}, mean = {mean:.3}, variance = {variance:.2}, deviation = {deviation:.2}\")\n",
        "\n",
        "    expected_means.append(mean)\n",
        "    expected_variances.append(variance)\n",
        "    # print(f\"Number of monkeys = {m}, Mean = {mean:.3}, variance = {variance:.2}, deviation = {deviation:.2}\")\n",
        "\n",
        "#Plot the expected means\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_normals, expected_means, label='Expected Means')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Mean of MAX ')\n",
        "plt.title(f'Mean of MAX   as a function of the number of monkeys, according to the cdf')\n",
        "plt.legend()\n",
        "\n",
        "#Plot the expected variances\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_normals, expected_variances, label='Expected Variances')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Variance of MAX ')\n",
        "plt.title(f'Variance of MAX  as a function of the number of monkeys, according to the cdf')\n",
        "plt.legend()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "**Nuestras observaciones:** La media crece muy rápidamente hasta alcanzar un número de monos de alrededor de 5000 y luego sigue creciendo, pero muy lentamente. La varianza tiene una rápida disminución hasta un número de monos alrededor de 5000 y luego tiende a cero muy lentamente. Al igual que con las distribuciones binomiales.\n",
        "\n",
        "*Desafío.* Desarrollar una fórmula matemática para predecir la forma como la varianza depende del número de monos."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "### Predicciones matemáticas\n",
        "\n",
        "Pasemos ahora a considerar las predicciones matemáticas para el valor esperado de MAX y su varianza. La primera hace oficial la observación de que MAX no dispersa la distribución madre. Debido a que nuestra distribución madre es una distribución normal estándar, con media cero y varianza 1, todo lo que tenemos que demostrar es que la varianza de MAX no es mayor que 1. Este resultado se utilizará para proponer una cota inferior para la media. Concretamente, tenemos dos teoremas:\n",
        "\n",
        "*Teorema de la no dispersividad de MAX. *\n",
        ">>\n",
        "> La varianza de MAX no es mayor que 1.\n",
        "\n",
        "*Teorema sándwich para los límites de la media de MAX. *\n",
        ">>\n",
        "> Sea $n\\in \\mathbb{N}^*$ y  $ Z_i$, i=1,...,n, variables aleatorias normales stadard   i.i.d como $\\mathcal{N}(0,1)$. Luego, el valor esperado de MAX se da aproximadamente por el siguiente resultado sándwich:\n",
        ">>\n",
        ">> $\\sqrt{\\ln(n)} \\leq \\mathbb{E} (MAX  ) \\leq  \\sqrt{2 \\ln(n)} $\n",
        ">>\n",
        "> Este teorema de aproximación apunta a una familia de funciones de la forma $ \\sqrt{k \\ln(n)}$, en la que el mejor valor de $k$, con $1 \\leq k \\leq 2$, debe encontrarse recurriendo a la fda de MAX y/o a simulaciones. La fórmula resultante se utilizará como valor por defecto en las predicciones.\n",
        "\n",
        "Todo lo que sigue son detalles que ayudan a entender de dónde vienen estos teoremas. Se incluyen resultados matemáticos y programas en Python. Comencemos con la varianza, cuyo límite superior es más simple de establecer.\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "### # MAX no es dispersivo\n",
        "\n",
        "La varianza mide la dispersión de los datos y sirve como indicador de la confiabilidad de la media como predictor del comportamiento de la distribución estudiada. Hemos observado que MAX reduce la distribución. En realidad, desplaza la distribución madre, con media 0 y varianza 1, a valores superiores, pero con un efecto de concentración porque raramente se accede a valores demasiado altos.  Vamos a justificar matemáticamente una afirmación muy débil: MAX no es dispersiva, es decir, su varianza no es mayor que 1. Por lo tanto, la varianza de MAX es igual o menor que 1. Para probar esto, necesitamos un requisito previo.\n",
        "\n",
        "### La desigualdad de Poincaré\n",
        "\n",
        " Sea   $Z$ el máximo de  $n$ variables de Gauus iid  $X_1, \\ldots, X_n$. La fda $ \\Phi $ de  $Z$ es\n",
        "\n",
        "$ \\Phi(x) = F^n(x) $\n",
        "\n",
        "donde $F$ es la fda de la distribución normal. El análisis gráfico del comportamiento de $\\Phi$ sugiere que la varianza de $Z$ es menor que 1 y que disminuye con $n$. Para demostrar que 1 es un límite superior, se ha propuesto el uso de la desigualdad de Poincaré.   Para las variables aleatorias gaussianas, esa desigualdad es\n",
        "\n",
        "$\\mathbf{Var}(f(X_1,\\ldots,X_n))\\leq \\mathbf{E}[\\|\\nabla f(X_1,\\ldots,X_n)\\|^2]$\n",
        "\n",
        "donde la función $f: \\mathbb{R}^n \\to \\mathbb{R}$, y   $\\mathbf{E}$  es el funcional de esperanza que asigna a cada variable aleatoria su valor esperado.\n",
        "\n",
        "Luché con una confusión: ¿Cómo podemos aplicar esta desigualdad a $Z$ dado que $Z$ no es una función, sino un algoritmo que produce una fda? Es un algoritmo porque describe una receta compleja. Además, cuando uno arroja $n$ valores aleatorios de una distribución normal y escoge el máximo, el resultado fluctúa de prueba en prueba, no hay continuidad, ninguna diferenciabilidad, ningún derecho a aplicar la desigualdad de Poincaré.  Cuando compartí mi confusión con la comunidad, recibí una reprimenda fuerte como de un padre,  pero [un miembro me dio una luz](\n",
        " https://math.stackexchange.com/questions/5112403/how-to-use-the-poincar%c3%a9-inequality-to-bound-the-variance-of-the-maximum-of-ii ).\n",
        "\n",
        "\n",
        "La reprimenda sin explicaciones me obligó a preguntarme: ¿cuál fue la idea de Poincaré que le permitió formular su desigualdad? Mi reflexión me permitió resolver mi confusión:\n",
        "\n",
        "En primer lugar, la varianza se refiere a la dispersión de los datos que están representados por un histograma de frecuencia,  o una fdp, o una fda, pero sin tener en cuenta la forma como llegaron.  \n",
        "\n",
        "En segundo lugar, imaginemos que recopilamos datos aleatorios, los organizamos en un histograma,   y de alguna manera los procesamos. El procesamiento toma una muestra de  $n$ valores y produce un único resultado, que es un número real. La operación se denota por $f:  \\mathbb{R}^n \\to \\mathbb{R}$. En nuestro caso, $f$ es MAX. Así, tenemos dos histogramas o pdfs, la distribución normal estándar, la madre, y la de los datos modificados por $f = MAX$, donde el MAX es el valor máximo de los $n$ números muestreados de la distribución madre.  Examinemos ahora la pregunta:  ¿Cómo se relaciona la dispersión de las salidas de $f$ con la de los datos brutos originales? En nuestro caso, tenemos $n$ variables normales con dispersión 1. Aquí surge una pregunta: ¿Es la varianza de los valores de $f$ menor, igual o mayor que 1? Esto depende del poder dispersivo de $f$. Consideremos varios casos.\n",
        "\n",
        "- Si $f$ asigna la misma constante a todas las entradas de $n$ datos , la dispersión resultante es 0. El procesamiento por $f$ no se dispersa, sino que  concentra.\n",
        "\n",
        "- Una función con potencia dispersiva leve podría ser una campana de Gauss: si los datos brutos se dispersan por todo el dominio, aquí $\\mathbb{R}^n$, los    valores que toma $f$ están bastante concentrados en el rango desde 0 hasta la cumbre de la campana. \n",
        "\n",
        "- Una función con inmenso poder de dispersión podría ser el paraboloide que se abre hacia arriba. los valores de $f$ divergen rápidamente a grandes números.\n",
        "\n",
        "- Max? , ¿Qué hace MAX? Según las fdas, MAX se desplaza y se concentra hacia la derecha.  Por lo tanto, aceptaríamos gustosamente que la varianza de $MAX$ es inferior a 1, la varianza de cada distribución normal estándar.\n",
        "\n",
        "Pasemos de consideraciones cualitativas de las funciones de procesamiento a las cuantitativas. Pensemos en líneas diferentes:\n",
        "\n",
        "- Una línea horizontal representa un valor constante, tiene potencia dispersiva cero.\n",
        "\n",
        "- Si la pendiente se vuelve positiva y aumenta, la potencia dispersiva aumenta\n",
        "\n",
        "- Si la pendiente es muy alta, su poder de dispersión es enorme.\n",
        "\n",
        "De esto, concluimos que la inclinación de la línea tangente da el poder de dispersión local de una función. Deducimos de esto que para funciones desde $ \\mathbb{R}^n \\to  \\mathbb{R}$, la potencia de dispersión máxima va en la dirección del gradiente $ \\nabla f $. Ahora, los poderes dispersivos locales de una función deben estar reunidos en un único indicador. Poincaré tomó el valor medio del cuadrado de la norma  del gradiente:\n",
        "\n",
        "$$\\mathbf{Var}(f(X_1,\\ldots,X_n))\\leq \\mathbf{E}[\\|\\nabla f(X_1,\\ldots,X_n)\\|^2].$$\n",
        "\n",
        "La comunidad tiene dos propuestas con respecto a este problema:\n",
        "\n",
        ". La varianza de MAX es igual o inferior a 1.\n",
        "\n",
        ". La varianza disminuye con $n$ y toma un valor del orden de $ \\frac{1}{\\ln n}$.\n",
        "\n",
        "Se ha propuesto una prueba teórica para la primera afirmación, mientras que la segunda está basada en simulaciones de Evariste, como se informa en la misma página web antes mencionada. Revisemos lap rueba de la primera afirmación.\n",
        "\n",
        "### Límite superior de la varianza de MAX\n",
        "\n",
        "Usando la desigualdad de Schwarz, podemos establecer un límite superior para la varianza de MAX.\n",
        "\n",
        "*Teorema de la no dispersividad de MAX.* La varianza de MAX es igual o menor que 1. Esta restricción servirá para acotar la media.\n",
        ">\n",
        "*Prueba.* La prueba propuesta por Sangchul Lee, en la página citada, de esta proposición es, textualmente, la siguiente:\n",
        ">\n",
        "> For IID gaussian variables $X_1, \\ldots, X_n$ and for a Lipschitz function $f:\\mathbb{R}^n\\to\\mathbb{R}$, the Gaussian Poincare Inequality tells $$\\mathbf{Var}(f(X_1,\\ldots,X_n))\\leq \\mathbf{E}[\\|\\nabla f(X_1,\\ldots,X_n)\\|^2].$$ Now apply this to $f(x_1,\\ldots,x_n)=\\max_{i\\in[n]}x_i$ with the observation that $$\\frac{\\partial f}{\\partial x_i}=\\mathbf{1}[x_i\\text{ is the largest}].$$\n",
        ">\n",
        "Permítaseme explicar cómo funciona esto en dos dimensiones. Generalizamos tácitamente. En dos dimensiones,   el dominio es el plano, y consideremos el primer cuadrante, sobre el cual ambas coordenadas son positivas. Dividimos el cuadrante en dos regiones: la primera debajo de la diagonal y la segunda, arriba. La función que describe MAX es\n",
        ">\n",
        ">\n",
        "$$f(x) =\n",
        "\\begin{cases}\n",
        " x & \\text{cuando $x \\ge y$, abajo de la diagonal} \\\\\n",
        " y & \\text{cuando $y \\ge x$, arriba de la diagonal}\n",
        "\\end{cases}\n",
        " $$\n",
        ">\n",
        "No hay contradiccion sobre la diagonal y la función es continua. \n",
        ">\n",
        "El gradiente en la primera región es\n",
        ">\n",
        ">$\\nabla f(x,y) = [\\partial f/ \\partial x, \\partial f/ \\partial y ] = 1\\vec{i} $ \n",
        ">\n",
        "con norma cuadrado igual a 1. \n",
        ">\n",
        "El gradiente en la segunda región es\n",
        ">>\n",
        ">$\\nabla f(x,y) = 1\\vec{j} $\n",
        ">\n",
        "con norma cuadrado igual a 1. \n",
        "\n",
        "A lo largo de la diagonal, la función no es diferenciable porque las curvas de nivel forman la mitad de un cuadrado con la esquina superior derecha sobre la diagonal. Sucede que sobre la diagonal hay una ambigüedad para el gradiente, entre $ \\vec{i}$ y $ \\vec j$, cuya norma es 1 para ambos casos. Eso no es tan terrible: esto no es problema porque la esperanza se da en términos de la medida de Lebesgue que tolera errores sobre conjuntos de área cero, como lo es la diagonal.\n",
        ">\n",
        "En ambas regiones, y en todo el plano, excepto diagonales,  la norma cuadrada del gradiente es 1, cuyo valor esperado es 1. Por lo tanto, la desigualdad de Poincaré es, para nuestro caso:\n",
        ">\n",
        "> $\\mathbf{Var}(f(X_1,\\ldots,X_n))\\leq \\mathbf{E}[\\|\\nabla f(X_1,\\ldots,X_n)\\|^2]  = 1 $\n",
        ">\n",
        "una desigualdad que dice que MAX, representada aquí por $f$, no es dispersiva.\n",
        "\n",
        "*Desafío.* Hacer algo mejor que esto. Esto es claramente posible porque hemos demostrado solo que MAX no es dispersivo.  Esta es una afirmación extremadamente humilde, dados nuestros resultados basados en la fda de MAX, que muestran que MAX es contráctil, es decir, que la varianza disminuye rápidamente a la décima parte y luego tiende lentamente a cero. La siguiente literatura podría ayudarle en esta interesante y desafiante tarea:\n",
        ">\n",
        "https://math.stackexchange.com/questions/5112403/how-to-use-the-poincar%c3%a9-inequality-to-bound-the-variance-of-the-maximum-of-ii\n",
        "\n",
        "https://stats.stackexchange.com/questions/229073/variance-of-maximum-of-gaussian-random-variables\n",
        "\n",
        "https://stats.stackexchange.com/questions/134190/asymptotic-distribution-of-the-max-min-of-iid-binomial-variables\n",
        "\n",
        "https://math.stackexchange.com/questions/590880/bounds-for-the-maximum-of-binomial-random-variables\n",
        "\n",
        "https://stats.stackexchange.com/questions/229073/variance-of-maximum-of-gaussian-random-variables\n",
        "\n",
        "https://en.wikipedia.org/wiki/Gumbel_distribution\n",
        "\n",
        "https://stats.stackexchange.com/questions/105745/extreme-value-theory-show-normal-to-gumbel\n",
        "\n",
        "https://stats.stackexchange.com/questions/105745/extreme-value-theory-show-normal-to-gumbel\n",
        "\n",
        "\n",
        "Theorem 1.5.3\n",
        "https://minerva.it.manchester.ac.uk/%7Esaralees/book2.pdf\n",
        "\n",
        "https://perso.math.univ-toulouse.fr/ktanguy/files/2012/04/Article-3-brouillon.pdf\n",
        "\n",
        "https://en.wikipedia.org/wiki/Poincar%C3%A9_inequality\n",
        "\n",
        "A short proof of a Chernoff inequality\n",
        "https://www.math.uni.wroc.pl/~pms/files/5.1/Article/5.1.13.pdf\n",
        "\n",
        "https://www.math.utoronto.ca/mnica/CPSS_2012_Notes.pdf\n",
        "\n",
        "THE MEAN OF MAX\n",
        "\n",
        "https://math.stackexchange.com/questions/590880/bounds-for-the-maximum-of-binomial-random-variables\n",
        "\n",
        "https://mathoverflow.net/questions/151033/asymptotics-of-the-maximum-of-binomial-random-variables#:~:text=A%20place%20where%20the%20calculation,Add%20a%20comment\n",
        "\n",
        "https://math.stackexchange.com/questions/590880/bounds-for-the-maximum-of-binomial-random-variables\n",
        "\n",
        "https://math.stackexchange.com/questions/89030/expectation-of-the-maximum-of-gaussian-random-variables/5008221#5008221\n",
        "\n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "## El valor esperado de MAX\n",
        "\n",
        " ¿Cuál es el valor de MAX que debe ser usado en una predicción? Recomendamos usar el valor esperado, que es aproximado por la media de las muestras. Nuestro propósito para esta subsección es encontrar una fórmula para el valor esperado de MAX en función del número de monos.\n",
        "\n",
        "\n",
        "Aproximamos la binomial por la distribución normal y nuestras unidades vienen en unidades $z$, es decir, en desviaciones estándar por encima de la media, por lo que es suficiente considerar las campanas de Gauss con media 0 y desviación estándar 1.  Una aproximación al valor esperado de MAX en función del número de campanas consideradas, que modele el número de monos en el desafío de Shakespeare se da por el resultado siguiente:\n",
        "\n",
        "\n",
        "*Teorema.*  Sea  $MAX = max_{1 \\leq i \\leq n}   Z_i$ la variable aleatoria que toma el valor máximo sobre $n$ distribuciones estándar independientes  $Z_i =  \\mathcal{N}(0,1)$ con $i=1,...,n$. Entonces\n",
        ">>\n",
        ">El valor medio o esperado de MAX viene dado aproximadamente por el siguiente resultado tipo sándwiche:\n",
        ">>\n",
        ">> $\\sqrt{\\ln(n)} \\leq \\mathbb{E} (MAX  ) \\leq  \\sqrt{2\\ln(n)} $\n",
        ">>\n",
        "> Este teorema de aproximación apunta a una familia de funciones de la forma $ \\sqrt{k \\ln(n)}$, para las cuales el mejor valor de $k$ debe ser encontrado recurriendo a la fda de MAX y/o a simulaciones.    La fórmula resultante se utilizará para predecir los valores por defecto.\n",
        "\n",
        "**Ejercicio.** Desarrollar un programa para poner a prueba el teorema anterior. Si tiene sentido, ajuste el valor de la constante $k$ en $\\mathbb{E} (MAX  ) =  \\sqrt{k \\ln(n)}$ y verifique la predicción que $ 1 < k < 2$.\n",
        ">\n",
        "*Respuesta.* El siguiente programa pone a prueba la proposición de que el valor esperado de MAX tomado entre $n$ monos es  $\\mathbb{E} (MAX  ) =  \\sqrt{k \\ln(n)}$ y permite, por ensayo y error, encontrar un valor para la costante $k$. "
      ]
    },
    {
      "cell_type": "code",
      "execution_count": 2,
      "metadata": {},
      "outputs": [
        {
          "ename": "ModuleNotFoundError",
          "evalue": "No module named 'numpy'",
          "output_type": "error",
          "traceback": [
            "\u001b[31m---------------------------------------------------------------------------\u001b[39m",
            "\u001b[31mModuleNotFoundError\u001b[39m                       Traceback (most recent call last)",
            "\u001b[36mCell\u001b[39m\u001b[36m \u001b[39m\u001b[32mIn[2]\u001b[39m\u001b[32m, line 6\u001b[39m\n\u001b[32m      1\u001b[39m \u001b[38;5;66;03m# Program ExpectValueOfMAXvsMathPrediction.py\u001b[39;00m\n\u001b[32m      2\u001b[39m \u001b[38;5;66;03m# The fda of MAX is used to calculate the mean  of MAX\u001b[39;00m\n\u001b[32m      3\u001b[39m \u001b[38;5;66;03m# as a function of the number of monkeys.\u001b[39;00m\n\u001b[32m      4\u001b[39m \u001b[38;5;66;03m# A mathematically predicted formula is contrasted.\u001b[39;00m\n\u001b[32m----> \u001b[39m\u001b[32m6\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mnumpy\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mnp\u001b[39;00m\n\u001b[32m      7\u001b[39m \u001b[38;5;28;01mimport\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mmatplotlib\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mpyplot\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mas\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mplt\u001b[39;00m\n\u001b[32m      8\u001b[39m \u001b[38;5;28;01mfrom\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[34;01mscipy\u001b[39;00m\u001b[34;01m.\u001b[39;00m\u001b[34;01mstats\u001b[39;00m\u001b[38;5;250m \u001b[39m\u001b[38;5;28;01mimport\u001b[39;00m norm\n",
            "\u001b[31mModuleNotFoundError\u001b[39m: No module named 'numpy'"
          ]
        }
      ],
      "source": [
        "# Program ExpectValueOfMAXvsMathPrediction.py\n",
        "# The fda of MAX is used to calculate the mean  of MAX\n",
        "# as a function of the number of monkeys.\n",
        "# A mathematically predicted formula is contrasted.\n",
        "\n",
        "import numpy as np\n",
        "import matplotlib.pyplot as plt\n",
        "from scipy.stats import norm\n",
        "\n",
        "# Define the value of m, the   number of normal random variables or monkeys\n",
        "m  = 400\n",
        "\n",
        "# Number of monkeys\n",
        "# n_normals = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000, 50000, 100000, 500000, 1000000]\n",
        "# n_normals = [1, 3, 5, 7, 10, 50, 100, 500, 1000, 5000, 10000] # This setting reaches 16\n",
        "n_normals = range(1, 200002, 10000) # (start, end, step)\n",
        "\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201) #init of interval, end, number of points\n",
        "\n",
        "\n",
        "# Define the cumulative distribution function of the standard normal distribution\n",
        "F = norm.cdf\n",
        "\n",
        "\n",
        "# print(\"CDF =  Cumulative Distribution Function\")\n",
        "# print(\"PDF =  Probability Density Function\")\n",
        "# Define a range of z values.\n",
        "# 1000 points equally spaced in within -2 and 8.\n",
        "z_values = np.linspace(-2, 10, 1201) #init of interval, end, number of points\n",
        "\n",
        "expected_means = []\n",
        "for m in n_normals:\n",
        "    # The cumulative distribution function of MAX\n",
        "    # Cumulative distribution function of the maximal value\n",
        "    # of m normal distribution with mean 0 and deviation 1.\n",
        "    Fn_z = F(z_values)**m\n",
        "    # print(Fn_z)\n",
        "    # The Bell or pdf of MAX\n",
        "    pdf = []\n",
        "    for i in range(1200):\n",
        "        delta_y = Fn_z[i+1] - Fn_z[i]\n",
        "        #delta_x = z_values[i+1] - z_values[i]\n",
        "        #bell.append(delta_y/delta_x)\n",
        "        pdf.append(delta_y)\n",
        "        # pdf_draw.append(100*delta_y)\n",
        "    pdf.append(0.0) # to enabling pairing with the other graph\n",
        "    # pdf_draw.append(0.0)\n",
        "\n",
        "    # The mean in z units\n",
        "    mean = 0 #init\n",
        "    for k in range(1200):\n",
        "        mean += (k/100 -2) * pdf[k]\n",
        "    # print(f\"Number of monkeys = {m}, Mean = {mean:.3}\")\n",
        "    expected_means.append(mean)\n",
        "\n",
        "k = 1.29\n",
        "predicted_means = []\n",
        "for m in n_normals:\n",
        "    predicted_means.append(k * np.sqrt(np.log(m)))\n",
        "\n",
        "#Plot the expected and predicted means\n",
        "plt.figure(figsize=(10, 6))\n",
        "plt.plot(n_normals, expected_means, label='Expected according to cdf')\n",
        "plt.plot(n_normals, predicted_means, label=f'Predicted  by sqrt({k} ln m)')\n",
        "plt.xlabel('m = number of monkeys')\n",
        "plt.ylabel('Expected value of MAX ')\n",
        "plt.title(f'Expected value of MAX as a function of the number of monkeys')\n",
        "plt.legend()\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "*Nuestros comentarios.* Comparamos dos funciones dependiendo del número de monos $m$. La primera representa el valor esperado de MAX de $m$ distribuciones normales estándar en función de $m$, una dependencia que se derivó de acuerdo con la fda  de MAX (matemáticamente predicha). La segunda es una predicción basada en el análisis matemático. La concordancia es sorprendente e inesperada porque se hicieron algunas aproximaciones para derivar la segunda función. Concretamente, se cumplieron las dos predicciones:\n",
        "- Primera: la familia de funciones de la  forma $ \\sqrt{k \\ln(m)}$ debe contener un miembro que se ajuste a la función del valor esperado de MAX según su fda. \n",
        "-Segunda: la constante $k$ debe estar entre 1 y 2. \n",
        "\n",
        "Ambas predicciones son correctas y, en particular, el mejor valor encontrado para $k$ fue 1,29. El ajuste es tan sorprendente que deben existir límites más estrechos. Sin embargo, la primera parte de las curvas es casi vertical y, por lo tanto, las curvas estrechamente relacionadas podrían predecir valores ligeramente diferentes. Por otra parte, si una tarea no se puede realizar con unos pocos miles de monos, es extremadamente costoso lograr incluso una pequeña mejora.\n",
        "\n",
        "**Desafío.** Los resultados reportados en el teorema y el ejercicio anteriores son todos matemáticos. Póngalos a prueba con una simulación adecuada.\n",
        "\n",
        "**Graduación.** Tenemos dos partes desconectadas en este ensayo: la primera se ocupa de las distribuciones binomiales, la segunda de variables normales. La tarea es conectarlas. Más concretamente: Hemos mostrado con matemáticas que el valor esperado de MAX de un conjunto de $m$ distribuciones normales estándar puede estimarse con la fórmula $ \\sqrt{k \\ln(m)}$, y, por ensayo y error, hemos encontrado $ k = 1,29$. Ahora, el desafío de Shakespeare trata con valores discretos, por lo que la distribución binomial es el modelo natural. En consecuencia, utilice esta fórmula y el valor de $k$ para predecir la dependencia del valor esperado de MAX de $n$  distribuciones binomiales sobre el número de monos $m$. Compare su predicción con el resultado que se reportó en la primera sección de esta contribución. Explique sus resultados.\n",
        "\n",
        "**Sobre la demostración.** Dos pruebas diferentes están disponibles. La primera de [van der Wolf]( https://math.stackexchange.com/q/4629560) es para aquellos que les gusta el cálculo y solo quieren verificar el resultado. La segunda, un hermoso trabajo de [Yass1]({https://math.stackexchange.com/q/5008221}),  es para aquellos que aman luchar con el análisis. La batalla es feroz porque, según nuestro entendimiento, hay dos detalles que deben ser corregidos, y uno de ellos es crucial.\n",
        "\n",
        "**Ejercicio.** Haga un gran esfuerzo para descifrar una de las pruebas antes mencionadas del teorema sándwich del valor esperado de MAX, que son a la vez difíciles y agradables.\n",
        ">\n",
        "*Respuesta.* Elegimos la segunda prueba, que está relacionada con el análisis. Es un juego de Lego:  varios teoremas fundamentales se concatenan para probar la proposición exigida. Para seguir la prueba, necesitamos entender qué dicen estos teoremas y cuáles son las ideas de sus pruebas. Desarrollémoslos uno por uno."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "### La función Q y sus cotas\n",
        "\n",
        "La función de densidad de probabilidad (fdp)\n",
        "de una variable gaussiana aleatoria estándar (o unidad) es\n",
        ">\n",
        "$\\phi(u)= \\frac{1}{\\sqrt{2 \\pi}}exp(\\frac{-u^2}{2})$\n",
        ">\n",
        "La distribución de probabilidad acumulativa\n",
        "función (FDA) de esta variable aleatoria es\n",
        ">\n",
        "$\\Phi (x) = \\int^x_{-\\infty} \\phi(u)du  =  \\int^x_{-\\infty} \\frac{1}{\\sqrt{2 \\pi}}exp(\\frac{-u^2}{2})du $\n",
        ">\n",
        "$ \\Phi(x)$ también se conoce como la función de distribución gaussiana unidad. La FDA  acumula probabilidad desde $- \\infty$ hasta $x$. Así, su valor en $- \\infty$ es 0 y en $ \\infty$ es uno y es monótona, siempre aumentando.\n",
        "\n",
        "Vamos a observar que\n",
        ">\n",
        "$1 = \\int^{\\infty}_{-\\infty} \\phi = \\int^{x}_{-\\infty} \\phi  + \\int^{\\infty}_{x} \\phi = \\Phi(x) + \\int^{\\infty}_{x} \\phi $.\n",
        ">\n",
        "Vamos a definir  \n",
        ">\n",
        "$Q(x) = 1 - \\Phi(x) = \\int^{\\infty}_{x} \\phi =  \\int^{\\infty}_x \\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-u^2}{2})du$\n",
        ">\n",
        "**$Q(x)$ se llama la función $Q$ -o la función de distribución gaussiana unitaria complementaria.** $Q(x)$ es una función monótona decreciente que baja de 1 en $- \\infty$ a 0 en $ \\infty$.\n",
        "\n",
        "*Teorema.* La  **función-$Q$ tiene como cota superior**:\n",
        ">\n",
        "$Q(x) \\le \\frac{1}{ 2 }exp(\\frac{-x^2}{2})$\n",
        ">\n",
        "para $x \\ge  0$, y la igualdad se da únicamente en  $x = 0$. Este teorema es usado por la literatura citada más abajo.\n",
        ">\n",
        "Seguimos a [un autor desconocido](\n",
        "https://courses.grainger.illinois.edu/ece361/Qfunction.pdf).\n",
        ">\n",
        "*Prueba.* Supongamos que $ u > x \\ge 0$. Tenemos:\n",
        ">\n",
        ">$x \\ge -x$\n",
        ">\n",
        "añadiendo $u$ a ambos lados, obtenemos\n",
        ">\n",
        ">$ u+x \\ge u -x$\n",
        ">\n",
        "multiplicando por $(u-x) > 0$ en ambos lados\n",
        ">\n",
        ">$(u+x)(u-x) = u^2 - x^2 \\ge (u-x)^2 \\ge 0$\n",
        ">>\n",
        "Dividiendo por 2\n",
        ">>\n",
        ">$\\frac{u^2 - x^2}{2} \\ge \\frac{(u-x)^2}{2} \\ge 0$\n",
        ">>\n",
        "Multiplicando por -1\n",
        ">>\n",
        "> $-\\frac{u^2 - x^2}{2} \\leq -\\frac{(u-x)^2}{2} \\le 0$\n",
        ">>\n",
        "Si aplicamos la función exponencial a ambos lados, la desigualdad se conserva porque esta función es creciente: \n",
        ">>\n",
        ">  $ exp(-\\frac{u^2 - x^2}{2}) \\leq exp(-\\frac{(u-x)^2}{2})  $\n",
        ">>\n",
        "Apliquemos esto a $Q$ como sigue:\n",
        ">>\n",
        ">$Q(x) =  \\int^{\\infty}_x\\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-u^2}{2})$\n",
        ">>\n",
        "multiplicando por $exp(\\frac{x^2}{2})$:\n",
        ">>\n",
        ">$exp(\\frac{x^2}{2}) Q(x) = exp(\\frac{x^2}{2})  \\int^{\\infty}_x\\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-u^2}{2})du$\n",
        ">>\n",
        ">$ =  \\int^{\\infty}_x\\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-(u^2 - x^2)}{2})du $\n",
        ">>\n",
        ">$\\leq \\int^{\\infty}_x\\frac{1}{\\sqrt{2\\pi}}exp( -\\frac{(u- x)^2}{2})du  = \\frac{1}{2}$\n",
        ">\n",
        "porque tenemos aquí una integral desde  $x$ hasta $\\infty$ sobre una campana cuya media es   $x$ y su varianza es 1. Así que tenemos la mitad de la campana.\n",
        ">\n",
        "Hemos demostrado que\n",
        ">>\n",
        ">$exp(\\frac{x^2}{2}) Q(x) \\le \\frac{1}{2}$\n",
        ">>\n",
        "Por tanto\n",
        ">>\n",
        ">$Q(x) \\le \\frac{1}{ 2 }exp(\\frac{-x^2}{2})$\n",
        ">>\n",
        "como se requería.\n",
        "\n",
        "*Teorema.* Usando la misma notación del teorema anterior,  **la función-$Q$-se puede acotar por abajo** por:\n",
        ">\n",
        ">$L(x) = \\frac{1}{ 12 }exp( -x^2)$\n",
        ">\n",
        "i.e., para $x \\ge  0$ tenemos:\n",
        ">\n",
        ">$L(x) \\leq Q(x) $\n",
        ">\n",
        "Usaremos este teorema de una forma crucial. Es una versión debil de las cotas encontradas por  [Freitas de Abreu](https://www.researchgate.net/publication/224140403_Supertight_algebraic_bounds_on_the_Gaussian_Q-function). Seguimos su metodología. \n",
        ">\n",
        "*Prueba.* Definamos para $x \\ge 0$\n",
        ">\n",
        ">$D(x) = Q(x) - L(x) $\n",
        ">>\n",
        ">>$ =  \\int^{\\infty}_x \\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-u^2}{2})du - \\frac{1}{ 12 }exp( -x^2)$\n",
        ">\n",
        "$D$ tiene dos propiedades que unidas muestran que   $L$ es una cota inferior de $Q$. La primera propiedad es :\n",
        ">\n",
        ">$D(0) > 0$.\n",
        ">\n",
        "que se verifica inmediatamente:\n",
        ">\n",
        ">$D(0) = Q(0) - L(0) = $\n",
        ">>\n",
        ">>$ = \\int^{\\infty}_0 \\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-u^2}{2})du - \\frac{1}{ 12 }exp( -0^2)$\n",
        ">>>\n",
        ">>$ = \\frac{1}{2} - \\frac{1}{12} = \\frac{6-1}{12} = \\frac{5}{12} > 0 $\n",
        ">\n",
        "porque la integral representa el área de la mitad de la campana. \n",
        ">\n",
        "La segunda propiedad es:\n",
        ">\n",
        ">$D'(x) < 0$ para $x \\ge 0$.\n",
        ">\n",
        "que se muestra por un cálculo directo:\n",
        ">\n",
        ">$D'(x) = Q'(x) - L'(x) = $\n",
        ">>\n",
        ">>$ =  ( \\int^{\\infty}_x \\frac{1}{\\sqrt{2\\pi}}exp(\\frac{-u^2}{2})du )'- (\\frac{1}{ 12 }exp( -x^2))'$\n",
        ">>\n",
        ">>$ = - \\frac{e^{-x²/2}}{\\sqrt{2 \\pi}} + \\frac{2x e^{-x²}}{12}$\n",
        ">>>\n",
        ">>$ = e^{-x²/2} ( - \\frac{1}{\\sqrt{2 \\pi}} +  \\frac{2x e^{-x²/2}}{12})$\n",
        ">>>\n",
        ">>$ = e^{-x²/2} ( - \\frac{1}{\\sqrt{2 \\pi}} +  \\frac{1}{6} x e^{-x²/2} )$\n",
        ">>>\n",
        "El signo de $D'$ es igual al signo de\n",
        ">>\n",
        ">$ - \\frac{1}{\\sqrt{2 \\pi}} +  \\frac{1}{6} x e^{-x²/2}$\n",
        ">\n",
        "El primer término es igual a $-0.399$. Para $ x \\ge 0$, el segundo término,  $\\frac{x e^{-x²/2}}{6}$, es una función con un turupe positivo. Para hallar el máximo, tomamos la derivada:\n",
        ">>\n",
        ">$ ( \\frac{1}{6} x e^{-x²/2})' = \\frac{1}{6} (e^{-x²/2} + x (-x)e^{-x²/2}) $\n",
        ">>\n",
        "y la igualamos a cero:\n",
        ">>\n",
        "> $ \\frac{1}{6} (e^{-x²/2} + x (-x)e^{-x²/2}) = 0 $\n",
        ">>\n",
        ">$ \\frac{1}{6} e^{-x²/2} ( 1  - x^2 ) = 0 $\n",
        ">>\n",
        ">$1  - x^2  = 0$\n",
        ">>\n",
        "Por tanto, tenemos un máximo en $x = 1$. Evalúemos el segundo término es ese valor:\n",
        ">>\n",
        ">$ (- \\frac{1}{\\sqrt{2 \\pi}} +  \\frac{1}{6} x e^{-x²/2}) |_{x=1} = -0.399 +  \\frac{1}{6}  e^{-1/2} = - 0.399 + \\frac{1}{6} (0.6) = -0.3999 + 0.1 = -0.299 < 0$\n",
        ">>\n",
        "Hemos demostrado que\n",
        ">\n",
        "> $D'(x) < 0$ para $x \\ge 0$.\n",
        ">\n",
        "De esta y la otra propiedad, deducimos que $L$ está siempre por debajo de $Q$, es decir, que $L$ es un límite inferior de $Q$. De hecho,  $Q$ en cero está por encima de $L$, y $D$ siempre va disminuyendo. Esto significa que la diferencia entre $Q$ y $L$ disminuye, pero las dos funciones nunca se tocan. Pues, supongamos que $Q$ y $L$ tienen un punto en común, llamémoslo $A$. Antes de $A$, $D>0$ y después de eso, $D < 0$. Puesto que  las dos funciones son continuas y suaves, $D(A) = 0$ es un mínimo.  Por lo tanto, después de $A$, la pendiente debe ser positiva, una propuesta que contradice lo que ya hemos demostrado, que $D'(x) < 0$ siempre para $x \\ge 0$.\n",
        "Por lo tanto, el tal $A$ no puede existir, y podemos reclamar que $L$ está siempre por debajo de $Q$. $L$ es simple de evaluar y manipular, al contrario de $Q$. Por lo tanto, usamos $L$ como una aproximación por debajo de $Q$."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "### Desigualdad de Schwarz\n",
        "\n",
        "Esta desigualdad se basa en una observación bien conocida: las sombras de los objetos a mediodía son más cortas que los propios objetos, y tienen la misma magnitud solo cuando los objetos están horizontales.\n",
        "\n",
        "\n",
        "*Teorema.* La desigualdad de Cauchy-Schwarz establece que para las variables aleatorias $X$ y $Y$, y el operador de valor esperado  $ \\mathbb{E} $, se cumple la siguiente desigualdad\n",
        ">>\n",
        ">$\\mathbb{E}[|XY|]\\leq(\\mathbb{E}[X^2])^{1/2}(\\mathbb{E}[Y^2])^{1/2}$\n",
        ">>\n",
        "Siempre que todo exista.\n",
        "\n",
        "*Desmitificación.*  Más oficialmente, la desigualdad dice: las proyecciones ortogonales o las sombras perpendiculares de los vectores son más cortas que el vector mismo.\n",
        "\n",
        "Veamos por qué $ \\mathbb{E}[|XY|]$ está relacionado con proyecciones ortogonales, mientras que  $( \\mathbb{E}[X^2])^ {1/2}( \\mathbb{E}[Y^2])^{1/2}$ está relacionado con longitudes.\n",
        "\n",
        " \n",
        "Los vectores son segmentos que se pueden añadir y alargar sin problema. Los vectores se representan utilizando un sistema de coordenadas. Por ejemplo, en la dimensión 5, un vector luce como  $ \\vec{a} = (a_1, a_2, a_3, a_4, a_5)$.\n",
        "\n",
        "Un producto interior entre dos vectores $ \\vec{a} =  (a_1 ,a_2 ,a_3 ,a_4 ,a_5)$ y $ \\vec{b} = (b_1 ,b_2 ,b_3 ,b_4 ,b_5)$  se define como\n",
        ">\n",
        "$ \\vec{a}  \\cdot \\vec{b}  = \\sum a_ib_i = a_1b_1 + a_2 b_2 + a_3 b_3+ a_4 b_4+ a_5 b_5$\n",
        "\n",
        "Para continuar, prestemos atención al hecho de que los dos vectores, si no son colineales, generan un plano, que está completamente descrito por un sistema bidimensional de dos ejes, perpendiculares entre sí. Tomemos cualquiera de esos sistemas, cuyos ejes son $X$ y $Y$, como el plano ordinario. Supongamos que en este nuevo sistema de coordenadas los vectores se describen por $\\vec{v_1} = (x_1, y_1)$ and $\\vec{v_2} = (x_2, y_2)$.\n",
        "\n",
        "Imaginemos un triángulo rectángulo, con hipotenusa $h$ y catetos $f$ y $g$. El ángulo formado por   $f$ y $g$ es recto. Y aquel entre   $ h$ y $f$ es $ \\theta$. Así, $f$ es el cateto adyacente de $ \\theta$. Entonces,\n",
        "\n",
        "$f = hcos \\theta$\n",
        "\n",
        "Por otra parte, $g$ es el cateto opuesto de $ \\theta$, por lo tanto\n",
        "\n",
        "$g = h sin \\theta$.\n",
        "\n",
        "Apliquemos sistemáticamente este resultado de la siguiente manera. Para facilitar el trabajo de nuestra imaginación, consideremos que los dos vectores   $ \\vec{v_1} = (x_1, y_1)$ y $ \\vec{v_2} = (x_2, y_2)$ se encuentran en el primer cuadrante. El ángulo entre $ \\vec{v_1}$ y el eje $X$ es $ \\theta_1$, el ángulo entre  $ \\vec{v_2}$ y el eje $X$ es $ \\theta_2$. El ángulo entre  $ \\vec{v_1}$ y  $ \\vec{v_2}$ es $ \\theta =  \\theta_1 -  \\theta_2 \\ge 0$.  \n",
        "\n",
        "El vector $ \\vec{v_1}$ define un triángulo rectangular con el eje X a través de su proyección perpendicular, cuya longitud es $x_1$. Esto significa que $x_1 =  \\|  \\vec{v_1} \\| cos \\theta_1$, donde las barras dobles indican la longitud o norma del vector $ \\vec{v_1} $. El cateto adyacente de $ \\theta_1$ es precisamente el vector que comienza en $0$ y termina en $x_1$ sobre el eje $X$.  Por otra parte, el cateto opuesto de $ \\theta_1$, trasladado al origen, comienza en $0$ y termina en $y_1$ sobre el eje $Y$. Por lo tanto,  $y_1 =   \\|  \\vec{v_1} \\| sin \\theta_1$. Lo mismo ocurre con $ \\vec{v_2}$.\n",
        "\n",
        "El producto interior se ve así:\n",
        "\n",
        "$ \\vec{v_1} \\cdot \\vec{v_1} = x_1 x_2 + y_1 y_2 =  $\n",
        "$(\\| \\vec{v_1}\\| cos \\theta_1)  (\\| \\vec{v_2}\\| cos \\theta_2)  + $\n",
        "$(\\| \\vec{v_1}\\| sin \\theta_1)(\\| \\vec{v_2}\\| sin \\theta_2)$\n",
        "\n",
        "$= \\| \\vec{v_1}\\| \\, \\| \\vec{v_2}\\| (cos \\theta_1 cos \\theta_2 + sin \\theta_1 sin \\theta_2)$\n",
        "\n",
        "$ =  \\| \\vec{v_1}\\| \\, \\| \\vec{v_2}\\| cos(\\theta_1-\\theta_2) $\n",
        "\n",
        "$ =  \\| \\vec{v_1}\\| \\, \\| \\vec{v_2}\\| cos \\theta $\n",
        "\n",
        "\n",
        " $ = (\\| \\vec{v_1}\\| cos \\theta ) \\| \\vec{v_2}\\|$\n",
        "\n",
        "Notese que $\\| \\vec{P_ 1} \\|  = (\\| \\vec{v_1}\\| cos \\theta ) $ es el largo de la proyección ortogonal de $\\vec{v_1}$ sobre $\\vec{v_2}$.\n",
        "\n",
        "Ahora sabemos que el producto interior se relaciona con las proyecciones y, como el coseno es menor que 1, que las proyecciones son más cortas que los vectores mismos.  \n",
        "\n",
        "Entonces\n",
        "\n",
        "$ \\vec{v_1} \\cdot \\vec{v_1} \\leq  \\| \\vec{v_1}\\|  \\| \\vec{v_2}\\|$\n",
        "\n",
        "Esta es la desigualdad de Cauchy-Schwarz para la dimensión 5 reducida a 2. Generalizamos sin ceremonias.\n",
        "\n",
        "El problema es que la desigualdad que debemos entender no es con vectores sino con funciones, las cuales representan una función de densidad de probabilidad, y no con sumas, sino con integrales.  ¿Qué haremos? Debemos relacionar esas funciones con vectores ordinarios, e integrales con sumas ordinarias. Esto se hace de la siguiente manera:\n",
        "\n",
        "En primer lugar, las funciones que van de números reales a números reales pueden ser sumadas y alargadas sin problema. Las sumamos añadiendo valor a valor. Y las alargamos multiplicando cada valor por una constante. Así, las funciones son vectores.\n",
        "\n",
        "Para evaluar la integral de una función, dividimos el eje real\n",
        "en segmentos pequeños, y sobre cada uno de ellos, aproximamos la función por un segmento horizontal que denote una función localmente constante. Estas funciones aproximadas se denominan funciones escalonadas. Y la integral es la suma de las áreas dentro de los escalones y el eje X, que son rectángulos. Ahora, para definir un producto interno entre dos funciones, multiplicamos los valores de las dos funciones sobre cada escalón y sumamos todo.\n",
        "\n",
        "A continuación, tomamos el límite cuando la anchura de los escalones tiende a cero. Si existen los límites,  definimos de esa manera la integral y un producto interno.\n",
        "\n",
        " ¿Cómo se aplica esto a las variables aleatorias, $X$ y $Y$?. La idea básica es simple, pero los detalles son extremadamente complejos. La idea es la siguiente:\n",
        "\n",
        "Para dos variables aleatorias $X$ y $Y$, la expresión\n",
        ">\n",
        "$< X, Y> =  \\mathbb{E}[XY]$\n",
        "\n",
        "define un producto interno en el espacio de variables aleatorias (para las cuales esta expresión tiene sentido). En ese espacio, la norma $ \\|  \\cdot  \\| $ es\n",
        ">\n",
        " $\\| X \\| = \\sqrt{< X, X >}  = \\sqrt{ \\mathbb{E}[XX]} =  (\\mathbb{E}[X^2]) ^{1/2}$\n",
        ">\n",
        "El ángulo $ \\theta$ dentro de $X$ y $Y$ se define a través del coseno:\n",
        "\n",
        ">\n",
        "$ cos (\\theta) =  \\frac{<X,Y>]}{\\| X \\|  \\| Y \\|} = \\frac{\\mathbb{E}[XY]}{(\\mathbb{E}[X^2]) ^{1/2}  (\\mathbb{E}[Y^2]) ^{1/2}} $\n",
        ">\n",
        "Uno está tentado a decir: puesto que el coseno es menor que uno, tenemos \n",
        "\n",
        "$\\frac{\\mathbb{E}[XY]}{(\\mathbb{E}[X^2]) ^{1/2}  (\\mathbb{E}[Y^2]) ^{1/2}} \\leq 1$\n",
        ">\n",
        "o\n",
        ">\n",
        "$\\mathbb{E}[XY] \\leq (\\mathbb{E}[X^2]) ^{1/2}  (\\mathbb{E}[Y^2]) ^{1/2} $\n",
        ">\n",
        "la cual es la desigualdad de Schwarz. Sin embargo, hemos utilizado lo que queríamos demostrar. ¿Cómo podemos romper este círculo vicioso?\n",
        "\n",
        "Supongamos que el producto interno definido entre variables aleatorias disfruta de todas las buenas propiedades  de un producto. Además, necesitamos otra propiedad, el producto interno de un vector consigo mismo es no-negativo:\n",
        ">\n",
        "$<X,X > =  \\mathbb{E}[XX] =  \\mathbb{E}[X^2] \\ge 0$\n",
        "\n",
        "porque,  en una palabra, el promedio de números no negativos es no negativo.\n",
        "\n",
        "Consideremos ahora un espacio vectorial arbitrario con producto interno. Para un par de vectores arbitrarios, $ \\vec u$ y $ \\vec v$, definimos la función\n",
        "\n",
        ">\n",
        "$f: \\mathbb{R} \\to \\mathbb{R}$\n",
        ">\n",
        "dada por\n",
        ">\n",
        "$f(t) = <t\\vec u + \\vec v,  t\\vec u + \\vec v> $\n",
        ">\n",
        "cuyo output es un número que resulta del producto interno de un vector consigo mismo. Por lo cual es no-negativo:\n",
        ">\n",
        "$f(t) = <t\\vec u + \\vec v,  t\\vec u + \\vec v > \\, \\ge 0$\n",
        ">\n",
        "Por lo tanto, su grafo es una parábola que no visita la parte negativa del plano. Como consecuencia, su discriminante debe ser no-positivo, puede ser 0 o negativo. Y esta es la desigualdad de Schwarz. Más detallado y utilizando todas las buenas propiedades de un producto, obtenemos:\n",
        "\n",
        ">\n",
        "$f(t) = <t\\vec u + \\vec v,  t\\vec u + \\vec v > $\n",
        ">\n",
        "$ = < t\\vec u , t\\vec u>  + < t\\vec u , \\vec v >  + < \\vec v, t\\vec u >+ < \\vec v,\\vec v >$\n",
        ">\n",
        "$ = t^2< \\vec u , \\vec u > + t< \\vec u , \\vec v>   + t < \\vec v, \\vec u>  + < \\vec v,\\vec v>  $\n",
        ">\n",
        "$ = t^2 \\| \\vec u \\|^2 + t< \\vec u , \\vec v>  + t < \\vec v, \\vec u >+ \\| \\vec v \\|^2 $\n",
        ">\n",
        "$ = t^2 \\| \\vec u \\|^2 + t< \\vec u , \\vec v > + t < \\vec u, \\vec v >+ \\| \\vec v \\|^2 $\n",
        ">\n",
        "$ = t^2 \\| \\vec u \\|^2 + 2t< \\vec u , \\vec v >   + \\| \\vec v \\|^2 $\n",
        ">\n",
        "Esta es una parábola en $t$. Sus raíces son:  \n",
        ">\n",
        "$ r = \\frac{-2< \\vec u , \\vec v > \\pm \\sqrt{(2< \\vec u , \\vec v >) ^2 - 4\\| \\vec u \\|^2  \\| \\vec v \\|^2} }{ 2 \\| \\vec u \\|^2} $\n",
        ">\n",
        "Si el discriminante $(2< \\vec u , \\vec v >) ^2 - 4 \\| \\vec u \\|^2 \\| \\vec v \\|^2 $ fuera mayor que cero, el polinomio tendría dos raíces y debería haber cruzado a través del eje $X$. Pero esto está prohibido ya que el polinomio es no negativo. Así, el discriminante es cero o negativo:\n",
        ">\n",
        "$(2< \\vec u , \\vec v >)^2 - 4 \\| \\vec u \\|^2  \\| \\vec v \\|^2 \\leq 0$\n",
        ">\n",
        "$4< \\vec u , \\vec v >^2 - 4  \\| \\vec u \\|^2  \\| \\vec v \\|^2 \\leq 0$\n",
        ">\n",
        "$< \\vec u , \\vec v >^2 -  \\| \\vec u \\|^2  \\| \\vec v \\|^2 \\leq 0$\n",
        ">\n",
        "$< \\vec u , \\vec v >^2  \\,\\, \\leq  \\,\\,  \\| \\vec u \\|^2  \\| \\vec v \\|^2 $\n",
        ">\n",
        "$< \\vec u , \\vec v >^2  \\,\\, \\leq  \\,\\,   < \\vec u ,  \\vec u >    < \\vec u ,  \\vec u > $\n",
        ">\n",
        "$< \\vec u , \\vec v >  \\,\\, \\leq  \\,\\, (< \\vec u ,  \\vec u >)^{1/2}    (< \\vec u ,  \\vec u >)^{1/2}  $\n",
        ">\n",
        "Si aplicamoes esta desigualdad al producto interno entre dos variables aleatorias, \n",
        ">\n",
        "> $<X,Y> = \\mathbb{E}[XY]$, \n",
        "> \n",
        "obtenemos:\n",
        ">\n",
        "$\\mathbb{E}[|XY|]\\leq(\\mathbb{E}[X^2])^{1/2}(\\mathbb{E}[Y^2])^{1/2}$\n",
        ">\n",
        "Lo cual es la desigualdad de  Schwarz.\n",
        ">\n",
        "¿Estamos listos?\n",
        ">\n",
        "No aún.\n",
        ">\n",
        "¿Qué nos falta?\n",
        ">\n",
        "Aparte de los detalles claramente faltantes, debemos demostrar que el producto definido es efectivamente un producto interno. La mayor dificultad es mostrar cómo definir $XY$. Digamos más claramente en qué consiste la dificultad.\n",
        "\n",
        "\n",
        "Supongamos que nuestras variables aleatorias $X$ y $Y$ tienen cada una una función de densidad de probabilidad $f_X$ y $f_Y$. Entonces el valor esperado de $X$ es\n",
        ">\n",
        "$\\mathbb{E} [X]=\\int _{-\\infty }^{\\infty } X(x)  \\,  f_X(x)\\,dx$\n",
        ">\n",
        "El valor esperado de $Y$ es\n",
        ">\n",
        "$\\mathbb{E} [Y]=\\int _{-\\infty }^{\\infty } Y(x)  \\,  f_Y(x)\\,dx$\n",
        ">\n",
        "El valor esperado de $XY$ es\n",
        ">\n",
        "$\\mathbb{E} [XY]=\\int _{-\\infty }^{\\infty }X(x)Y(x)  \\, f_{XY}(x)\\,dx$\n",
        ">\n",
        "donde\n",
        ">\n",
        "$f_{XY}(x)$\n",
        ">\n",
        "es la función de densidad asociada al producto $XY$. Esto se define punto por punto, es decir, si $X = x$ y $Y = y$, entonces $XY = xy$. Y, la densidad de probabilidad del producto, $f_{XY}(x)$, viene de una fda $F(z) = P(xy < z)$, donde $f_{XY}(z)  = F'(z) $. Cómo calcular esto es para cada caso una industria entera. Véase, por ejemplo, el caso de [Gaussian Variables](https://www.mdpi.com/2073-8994/12/8/1201#:~:text=2.,%CE%B4%20X%20%CE%B4%20Y%20\\)%202%20.)."
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "### Jensen's inequality\n",
        "\n",
        "Una función creciente diferenciable es convexa cuando su curvatura es positiva en todas partes, por lo que la función  abre hacia arriba. En ese caso, la pendiente de la línea tangente existe en todas partes y no  disminuye.\n",
        "\n",
        "*Ejemplo.* $f(x) = x^2$  abre hacia arriba, por lo que es convexa, su pendiente está dada por la derivada $f' (x) = 2x$ cuyo grafo es una línea que siempre aumenta.\n",
        "\n",
        "*Ejemplo.* $f(x) = e^x$ abre hacia arriba, por lo que es convexa porque su derivada $f'(x) = e^x$ es una función creciente.\n",
        "\n",
        "*Desafío.* Compare nuestra definición de función convexa con [la oficial](https://en.wikipedia.org/wiki/Convex_function).\n",
        "\n",
        "*Teorema.* Si $X$ es una variable aleatoria y $\\phi$ es una función convexa, entonces\n",
        ">>\n",
        ">  $\\phi(\\mathbb{E}[X]) \\le  \\mathbb{E}[\\phi(X)] $ .\n",
        ">>\n",
        "*Corazón de la demostración.* Si $X$ toma valores positivos, como en nuestro caso, esto dice que para una función convexa, entre más a la derecha esté un valor, su imagen más se aleja hacia  la derecha.   Por lo tanto, el valor esperado de la distribución formada por todos los valores es mayor que la imagen del valor esperado de la distribución original.\n",
        "\n",
        "*Idea de la prueba.* Imaginemos que tenemos un balancín de cuatro asientos. Cuatro niños de igual peso se sientan sobre ella, dos a un lado y los otros dos al otro. Sus coordenadas, a partir de 0 en el extremo izquierdo, son 1, 2, 4 y 5. El centro está en 3. El columpio está equilibrado, es horizontal. En términos estadísticos: tenemos una distribución de masas cuyo valor medio o esperado es 3.\n",
        ">\n",
        "Ahora, damos instrucciones a los niños para que se muevan e informen de qué lado es más pesado el columpio. Las instrucciones son: si estás a la izquierda del medio, permanece inmóvil. Si estás a la derecha, muévete más hacia la derecha. Concretamente:   si estás a la izquierda de la media, muévete a las coordenadas dadas por $f(x) = x$. Pero, si estás a la derecha, muévete a la coordenada dada por $g(x) = 2x-3$. En términos estadísticos: cambiar posiciones según una función convexa, $h$, que se ha definido por partes, la primera $f$, la segunda $g$. Esto es así porque en 3, $f$ y $g$ coinciden, $f(3) = 3 = g(3) = 2 \\times 3 - 3 = 3$. Entonces, $h$ es continua, y la pendiente del primer segmento es 1 mientras que la del segundo es 2, por lo que la derivada existe en todas partes excepto en 3, y la pendiente no está disminuyendo.\n",
        ">\n",
        "Las nuevas posiciones de los dos niños a la izquierda del centro son:\n",
        ">>\n",
        ">$1 \\rightarrow f(1) = 1$\n",
        ">>\n",
        ">$2 \\rightarrow f(2) = 2$\n",
        ">>\n",
        ">$3 \\rightarrow f(3) = 3 = g(3) = 2 \\times 3 - 3 = 3 $,\n",
        ">>\n",
        "el centro del balancín es inmóvil. La media antigua permanece invariable después de aplicar las instrucciones.\n",
        ">\n",
        "Para los niños del lado derecho, las nuevas posiciones se convierten en:\n",
        ">>\n",
        ">$4 \\rightarrow g(4) = 2 \\times 4 - 3 = 5$\n",
        ">>\n",
        ">$5 \\rightarrow g(5) = 2 \\times 5 - 3 = 7$\n",
        ">\n",
        "Por lo tanto, las nuevas posiciones son 1 y 2, a la izquierda del centro, y 5 y 7, a su derecha. ¿Está equilibrado el columpio? No.  ¿A dónde se ha movido la media? A la derecha porque la distribución se ha extendido a ese lado. El nuevo centro es mayor que el antiguo. En términos estadísticos: : $h( \\mathbb{E}(X)) \\le \\mathbb{E}(h(X))$ que dice que la imagen del valor esperado de una variable aleatoria por una función convexa es menor o igual al valor esperado de la imagen de la distribución.\n",
        "\n",
        "*Desafío.* Convierta esta idea en una prueba formal. O si no, mire en [Wikipedia](https://en.wikipedia.org/w/index.php?title=Jensen%27s_inequality&oldid=1317141982). Ahí encontrará otras ideas y su formalziación, que ahora deberán ser entendibles.  \n",
        "\n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {
        "id": "vc4AGONLpp4i"
      },
      "source": [
        "### La media y la mediana\n",
        "\n",
        "La media y la mediana de un conjunto de datos o de una variable aleatoria son números que los representan y que se encuentran por procedimientos diferentes y que tienen propiedades y objetivos diferentes.\n",
        "\n",
        "*Ejemplo.* Consideremos los números 4, 3, 1 , 5, 2 , 100. Para encontrar la mediana, ordénelos: 1, 2, 3, 4, 5, 100. La mediana es el dato del medio. Tenemos 6 datos, el medio es 3,5 porque hay 3 datos por debajo y 3 por encima. Para encontrar la media, suma todos los números y divide por el número de datos: la suma es 1 + 2 + 3 + 4 + 5 + 100 = 115. La división por 6 es $115/6 \\sim 20$.  ¿Qué estadígrafo o indicador representa mejor a la población? Imaginemos que hablamos de ingresos. Decir que los miembros de la población ganan aproximadamente 20 es un gran error. Es mucho mejor decir que cada miembro gana aproximadamente la mediana, 3,5. O, que hay un valor atípico, 100, y que el resto de la población tiene una media de 3.\n",
        "\n",
        "Necesitaremos a continuación una definición rigurosa de la mediana:\n",
        "\n",
        "Una mediana de una variable aleatoria de valor real $X$ es un número real $m$ que satisface\n",
        "\n",
        "$ P( X < m )  \\leq \\frac{1}{2}$, y, $P( X > m )  \\leq \\frac{1}{2}  $\n",
        "\n",
        "La media y la mediana son minimizadores de diferentes funciones.\n",
        "\n",
        "La mediana minimiza la suma  $M =   \\sum |x_i- c|$, mientras que la media minimiza  $G =  \\sum |x_i- c|^2$.\n",
        "\n",
        "Con respecto a la mediana, si tomamos  $c = 1$, nuestros datos dan para   $M = \\sum |x_i- c|$    lo siguiente:\n",
        "\n",
        "$M =  |1 - 1| + |2 - 1| + |3 - 1|+ |4 - 1|+ |5 - 1| + |6 - 1| + |100 - 1= $\n",
        "\n",
        "$0 + 1 + 2+ 3 + 4 + 5 + 99 = 114$\n",
        "\n",
        "mientras que si $c = 3.5$ es la mediana, obtenemos:\n",
        "\n",
        "$M =  |1 - 3.5| + |2 - 3.5| + |3 - 3.5|+ |4 - 3.5|+ |5 - 3.5| + |6 - 3.5| + |100 - 3.5|= 2.5 + 1.5 +0.5 + 0.5 + 1.5 + 2.5 + 96.5 = 105.5$\n",
        "\n",
        "Este ejemplo ilustra que \n",
        ">\n",
        "> $M(median = 3.5) < M(1)$. \n",
        "> \n",
        "> Esto no es una coincidencia, como lo muestra el siguiente teorema.  \n",
        "\n",
        "Seguimos [esta discusión](https://math.stackexchange.com/q/85448) y  [gran_chat](https://math.stackexchange.com/q/2790390)\n",
        "\n",
        "*Teorema.*  Si $X$ es una variable aleatoria real, la mediana $m$ minimiza   $\\mathbb{E} (|x-c|)$, i.e.,\n",
        ">>\n",
        "> $\\mathbb{E} (|x-m|) \\leq \\mathbb{E} (|x-c|)$ para cada $c$\n",
        ">>\n",
        "donde $\\mathbb{E} $ denota el valor esperado o promedio de la variable aleatoria.  \n",
        ">\n",
        "Prueba. Sea $m$ alguna de las medianas de  $X$. Podemos tomar $m=0$ (considere $X':=X-m$). El propósito es mostrar que  $E|X-c|\\ge E|X - m| = E|X - 0| = E|X |$.\n",
        ">\n",
        "Dividimos el eje real en dos partes   $\\mathbb{A} = \\{x: x \\le 0\\}$, $\\mathbb{B} =  \\{ x: x > 0\\}$, correspondientes respectivamente a los lados derecho e izquierdo del eje real.\n",
        ">\n",
        "Consideremos el caso $c\\ge 0$.\n",
        ">\n",
        "Consideremos la expresión\n",
        ">\n",
        ">$|X-c|-|X|$\n",
        ">\n",
        "que da diferentes valores dependiendo de la posición de $X$.\n",
        ">\n",
        "Si  $X$ está en $\\mathbb{A}$, $X \\le 0$  mientras que $c$ está en   $\\mathbb{B}$, $c\\ge 0$:\n",
        ">\n",
        ">$|X-c|-|X| = c-X + X = c$\n",
        ">\n",
        "Si $X$ está en el lado derecho, $x > 0$, hay dos casos. \n",
        ">\n",
        "Primero,  $ 0 < c < X $, y aquí se tiene\n",
        ">\n",
        "> $|X-c|-|X| =  X-c -X = -c$\n",
        ">\n",
        "Segundo\n",
        ">\n",
        ">$ 0 < X < c$, y tenemos\n",
        ">\n",
        ">  $|X-c|-|X| = c-X -X = c - 2X$\n",
        ">\n",
        "Evaluemos $c-2X$ con respecto a $c$\n",
        ">\n",
        ">  $X < c$\n",
        ">>\n",
        ">   $2X < 2c$\n",
        ">>\n",
        ">   $-2X > -2c$\n",
        ">>\n",
        ">   $c-2X > c-2c = -c$\n",
        ">>\n",
        "por tanto, cuando\n",
        ">\n",
        ">  $ 0 < X < c$,  tenemos\n",
        ">>\n",
        ">   $|X-c|-|X| = c - 2X > -c$\n",
        ">\n",
        " Considerando ambos casos en conjunto, concluimos que cuando  $X \\ge 0$, e independientemente de la posición de  $X$ con respecto a $c$,\n",
        ">\n",
        ">   $|X-c|-|X| \\ge -c $\n",
        ">\n",
        "En suma: en las regiones izquierda y derecha tenemos, respectivamente  \n",
        ">\n",
        ">$|X-c|-|X|= c$, lado izquierdo\n",
        ">>\n",
        ">$|X-c|-|X| > -c$, lado derecho\n",
        ">>\n",
        "Si sumamos la ecuación a la desigualdad, obtenemos:\n",
        ">>\n",
        "> $|X-c|-|X| + (|X-c|-|X|) \\ge -c + c $\n",
        ">\n",
        ">$2( |X-c|-|X|)   \\ge 0 $\n",
        ">\n",
        ">$ |X-c|-|X|   \\ge 0 $\n",
        ">\n",
        "o\n",
        ">\n",
        ">$ |X-c| \\ge |X|    $\n",
        ">\n",
        "Podemos promediar sobre todo el conjunto de datos para obtener: \n",
        ">\n",
        "Si $c \\ge 0$,\n",
        ">\n",
        ">  $ \\mathbb{E}(|X-c|) \\ge \\mathbb{E}(|X - 0| )   $\n",
        ">\n",
        "> que era lo que queríamos probar. \n",
        "> \n",
        ">La consideración del caso cuando $c \\le 0$ se resuelve si hacemos una reflexión y repetimos el proceso. Por lo tanto, no añade nada nuevo o contradictorio.\n",
        ">\n",
        "*Protesta.* La adición de dos desigualdades en la prueba anterior fue un paso crucial. Pero, no tiene sentido añadir expresiones correspondientes a diferentes conjuntos universales, uno era el lado izquierdo de la línea real, el otro era el derecho. Entonces, la respuesta correcta resultó ser una mera coincidencia. ¿Qué haremos? Tomaremos un conjunto universal de cobertura y tendremos en cuenta el peso de cada expresión con respecto al conjunto completo. La máquina matemática correspondiente desarrollada con este fin es la función indicadora de un conjunto:\n",
        ">\n",
        "*Definición.* La función indicadora de un subconjunto $A$ de $ \\mathbb{R}$ es una función que es 1 sobre $A$ y 0 en otro lugar. Denominamos la función indicadora de un intervalo que está definido por una desigualdad como $\\mathbb{I}$  y la condición viene como argumento o subíndice, digamos,  $\\mathbb{I}({X > 0})$ o  $\\mathbb{I}_{X > 0}$. Usemos la notación de subíndice.\n",
        ">\n",
        "Utilizando la función de indicador, las dos expresiones que se añadirán son:\n",
        ">\n",
        ">$|X-c|-|X|=c$ cuando $X\\le0$,\n",
        ">\n",
        "que se convierte en\n",
        ">\n",
        ">$ (|X-c|-|X|)\\mathbb{I}_{X\\le0}=c \\mathbb{I}_{X\\le0} $\n",
        ">\n",
        "y\n",
        ">\n",
        ">$|X-c|-|X|\\ge -c$ cuando $X >0$.\n",
        ">\n",
        "que es igual a\n",
        ">\n",
        ">$(|X-c|-|X|) \\mathbb{I}_{X > 0} \\ge-c \\mathbb{I}_{X > 0}$\n",
        ">\n",
        "Tenemos ahora dos expresiones que se refieren al mismo conjunto universal, el eje real. Por tanto, podemos sumarlas:\n",
        ">\n",
        ">$\n",
        "(|X-c|-|X|) \\mathbb{I}_{X\\le0} + (|X-c|-|X|) \\mathbb{I}_{X>0}  = c \\mathbb{I}_{X\\le0}-c \\mathbb{I}_{X > 0}\n",
        "$\n",
        ">>\n",
        ">$\n",
        "(|X-c|-|X|)    \\ge c \\mathbb{I}_{X\\le0}-c \\mathbb{I}_{X > 0}\n",
        "$\n",
        ">\n",
        "Promediando,\n",
        ">>\n",
        ">$\n",
        "\\mathbb{E}(|X-c|-|X|)\\ge \\mathbb{E}(c \\mathbb{I}_{X\\le0}-c \\mathbb{I}_{X > 0}).\n",
        "$\n",
        ">>\n",
        ">$\n",
        "\\mathbb{E}(|X-c|-|X|)\\ge c[\\mathbb{E}( \\mathbb{I}_{X\\le0})- \\mathbb{E}(\\mathbb{I}_{X > 0})].\n",
        "$\n",
        ">>\n",
        "El valor esperado de una función indicadora de un conjunto  $A$ se calcula como se hace de costumbre para una función $f$:\n",
        ">>\n",
        "> $\\mathbb{E}(f) = \\int_A fdp$\n",
        ">>\n",
        "donde $dp$ es la diferencial de la medida de probabilidad. Por tanto,  \n",
        ">>\n",
        "> $\\mathbb{E}(\\mathbb{I}_A) = \\int_A 1dp = \\int_A dp  = p(A) $\n",
        ">>\n",
        "Por ello, obtenemos\n",
        ">>\n",
        ">$\n",
        "\\mathbb{E}(|X-c|-|X|)\\ge c\\left[p(X\\le0)-p(X>0)\\right].\n",
        "$\n",
        ">\n",
        "Si $p(\\{0\\}) = 0$   y dado que $0$ es la mediana, entonces, $p(X\\le0)= p(X>0)$. En este caso estamos hechos porque\n",
        ">>\n",
        "> $\n",
        "\\mathbb{E}(|X-c|-|X|)\\ge c  \\times 0  = 0.\n",
        "$\n",
        ">\n",
        "> $\n",
        "\\mathbb{E}(|X-c| )\\ge \\mathbb{E}|X|.\n",
        "$\n",
        ">\n",
        "esta expresión dice que la mediana, $0$, minimiza esa función. \n",
        ">\n",
        "If $p(\\{0\\} \\neq 0$, \n",
        ">\n",
        "insertemos  $0$ en la forma de  $p(X\\le0) - p(X\\le0)$\n",
        ">>\n",
        "> $ \\mathbb{E}(|X-c|-|X|)\\ge  c\\left[p(X\\le0)-p(X>0) + p(X\\le0) - p(X\\le0)\\right] $\n",
        ">>\n",
        ">$ \\mathbb{E}(|X-c|-|X|)\\ge c\\left[2p(X\\le0)-(p(X>0)  + p(X\\le0))\\right] $\n",
        ">>\n",
        ">$ \\mathbb{E}(|X-c|-|X|)\\ge c\\left[2p(X\\le0)-1)\\right] $\n",
        ">>\n",
        ">$ \\mathbb{E}(|X-c|-|X|)\\ge c\\left[2 \\times \\frac{1}{2}-1)\\right] \\ge 0$\n",
        ">\n",
        "> $\n",
        "\\mathbb{E}(|X-c| )\\ge \\mathbb{E}(|X|) \n",
        "$\n",
        ">\n",
        "porque estamos trabajando en el caso $c \\ge 0$.\n",
        ">\n",
        "Fin de la prueba del teorema de la propiedad de minimización de la mediana.\n",
        "\n",
        "Pasemos ahora a otra consideración.\n",
        "\n",
        "La distribución normal tiene una media y una mediana que coinciden. Por eso esta distribución es un epítome de homogeneidad y simetría. Por el contrario, como se ha demostrado en un ejemplo anterior, en presencia de valores atípicos, la media y la mediana pueden ser muy diferentes. ¿Por qué? Se debe a que los datos son muy inhomogéneos. Por lo tanto, la diferencia entre estos dos estadígrafos debe depender de la varianza de los datos porque la varianza mide la variabilidad de los datos. El siguiente resultado relaciona esa diferencia con la desviación típica que es la raíz cuadrada de la varianza:\n",
        "\n",
        "\\\n",
        "\n",
        "*Teorema.* Si $X$ es una variable aleatoria, $\\mathbb{E}$ el valor esperado, $m$ la mediana y $var(X)$ es la varianza, entonces:\n",
        ">>\n",
        "> $\\lvert \\mathbb{E}(X)-m\\rvert \\le \\sqrt{\\text{var}\\left(X\\right)} = (\\mathbb{E}[(X-\\mathbb{E}[X])^2])^{1/2}$\n",
        ">>\n",
        "Seguimos la prueba ofrecida por [Mittens](https://math.stackexchange.com/q/4144525)\n",
        ">\n",
        "*Prueba.* Tres inecuaciones deben concatenarse para obtener el resultado.\n",
        ">\n",
        "- Primera.\n",
        "\n",
        "> $| \\mathbb{E}(X) - m| = | \\int X(x)dp - m | = | \\int X(x)dp - m \\int dp  | $\n",
        ">> $ = | \\int (X(x)-\\int m dp  | = | \\int (X(x)- m ) dp  |  $\n",
        ">>\n",
        ">> $ \\le \\int |X(x)-m| dp = \\mathbb{E} (|X-m|) $\n",
        "> \n",
        "donde hemos utilizado los hechos que la integral de 1 a lo largo del conjunto universal es 1, y que el valor absoluto de una integral es menor que la integral del valor absoluto, porque el valor absoluto de una suma es menor que la suma de valores absolutos. En resumen,\n",
        ">\n",
        "> $| \\mathbb{E}(X) - m| \\le \\mathbb{E} (|X-m|)$.\n",
        ">\n",
        "- Segunda: \n",
        ">\n",
        "Sabemos que la mediana minimiza el funcional $\\mathbb{E} (|x-c|)$, i.e.,\n",
        ">>\n",
        ">  $\\mathbb{E} (|X-m|) \\leq \\mathbb{E} (|X-c|)$ for each c.\n",
        ">>\n",
        "Entonces, tomando $c = \\mathbb{E}(X)$, tenemos:\n",
        ">>\n",
        ">$\\mathbb{E} (|X-m|) \\leq \\mathbb{E} (|X-\\mathbb{E}(X)|)$\n",
        ">>\n",
        "- Tercera:\n",
        ">\n",
        "Apliquemos ahora la desigualdad de  Cauchy-Schwarz que dice\n",
        ">>\n",
        ">$\\mathbb{E}[|XY|]\\leq(\\mathbb{E}[X^2])^{1/2}(\\mathbb{E}[Y^2])^{1/2}$,\n",
        ">>\n",
        "asumiendo que todo existe. Si reemplazamos  $X$ por  $X-\\mathbb{E}[X]$  y $1$ by $Y$, tenemos\n",
        ">>\n",
        "> $\\mathbb{E}[|(X-\\mathbb{E}[X])|]\\leq(\\mathbb{E}[(X-\\mathbb{E}[X])^2])^{1/2}(\\mathbb{E}[1])^{1/2}$\n",
        ">>\n",
        "El valor promediado o esperado de la costante 1 es  \n",
        ">>\n",
        ">$\\mathbb{E}[1] = \\int_\\mathbb{R} 1 dp = p(\\mathbb{R}) = 1$,\n",
        ">>\n",
        "Por tanto\n",
        ">>\n",
        ">$\\mathbb{E}[|(X-\\mathbb{E}[X])|]\\leq (\\mathbb{E}[(X-\\mathbb{E}[X])^2])^{1/2}  = \\sqrt{\\text{var(X)} }$\n",
        "\n",
        "Tenemos 3 desigualdades para encadenar:\n",
        "\n",
        "> $| \\mathbb{E}(X) - m| \\le \\mathbb{E} (|X-m|)$.\n",
        "> >\n",
        ">$\\mathbb{E} (|X-m|) \\leq \\mathbb{E} (|X-\\mathbb{E}(X)|)$\n",
        ">\n",
        ">$\\mathbb{E}[|(X-\\mathbb{E}[X])|]\\leq (\\mathbb{E}[(X-\\mathbb{E}[X])^2])^{1/2}  = \\sqrt{\\text{var(X)} }$\n",
        ">\n",
        "Ejecutando la cadena completa, obtenemos:\n",
        "\n",
        "$| \\mathbb{E}(X) - m| \\le \\sqrt{\\text{var(X)} }$\n",
        ">\n",
        "que es el resultado solicitado. \n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "### Prueba del teorema principal del valor esperado de MAX\n",
        "\n",
        "Acá está la demostración del siguiente resultado que usa todos los prerequisitos que hemos elaborado previamente: \n",
        " \n",
        "\n",
        "\n",
        "*Teorema sandwiche para las cotas de la media de MAX*\n",
        ">\n",
        ">> Sea  $MAX = max_{1 \\leq i \\leq n}   Z_i$ la variable aleatoria que toma el valor máximo sobre $n$ distribuciones estándar independientes  $Z_i =  \\mathcal{N}(0,1)$ con $i=1,...,n$. Entonces\n",
        ">>\n",
        "> El valor medio o esperado de MAX viene dado aproximadamente por el siguiente resultado tipo sándwiche:\n",
        ">>>\n",
        ">>$\\sqrt{\\ln(n)} \\leq \\mathbb{E} (MAX  ) \\leq  \\sqrt{2\\ln(n)} $\n",
        ">>>\n",
        "> Este teorema de aproximación apunta a una familia de funciones de la forma $ \\sqrt{k\\ln(n)}$, para las cuales el mejor valor de $k$ debe ser encontrado recurriendo a la fda de MAX y/o a simulaciones.    La fórmula resultante se utilizará para predecir los valores por defecto.\n",
        "\n",
        "\n",
        "\n",
        "\n",
        "*Prueba.* Seguimos a [Yass1]({https://math.stackexchange.com/q/5008221})hasta que disentamos, pero seguimos guíandonos por su metodología. \n",
        "\n",
        "Vamos a acotar el valor esperado de MAX tanto por arriba como por abajo.  Esto debe ser tomado como una  Ansatz inicial para ensayar variaciones para ver cuál funciona mejor.\n",
        "\n",
        ">\n",
        "**Cota superior:** Apliquemos la desigualdad de Jensen a la función exponencial, la cual es convexa:   \n",
        ">>\n",
        ">$ A = \\exp( \\mathbb{E}(\\lambda \\, \\max_{1\\leq i \\leq n}Z_i)) \\leq  \\mathbb{E}(\\exp(\\lambda \\max_{1\\leq i \\leq n}Z_i)) = B$\n",
        ">\n",
        "donde $\\lambda \\in \\mathbb{R}^+$  será especificado más abajo.\n",
        ">>\n",
        "Para cada muestra finita, la exponencial del MAX es igual al MAX de las imágenes exponenciadas:\n",
        ">>\n",
        ">$ B = \\mathbb{E}(\\exp(\\lambda \\max_{1\\leq i \\leq n}Z_i)) =\n",
        " \\mathbb{E}(\\max_{1\\leq i \\leq n}\\exp(\\lambda Z_i))) = C$\n",
        ">\n",
        "Puesto que la exponencial es siempre positiva, el MAX es menor que él mismo más los otros términos, tambiém positivos:\n",
        ">>\n",
        ">$ \\max_{1\\leq i \\leq n}\\exp(\\lambda Z_i) \\leq \\sum_{i=1}^n \\exp(\\lambda Z_i)$\n",
        ">>\n",
        "Combinando esto con la linealidad del valor esperado, tenemos:\n",
        ">\n",
        ">$C = \\mathbb{E}(\\max_{1\\leq i \\leq n}\\exp(\\lambda Z_i))) \\leq  \\sum_{i=1}^n\\mathbb{E}(\\exp(\\lambda Z_i)) = D$\n",
        ">\n",
        "Por un cálculo específico mostrado más abajo,  \n",
        ">\n",
        ">$\\mathbb{E}(\\exp(\\lambda Z_i)) = exp(\\frac{\\lambda^2}{2})$\n",
        ">\n",
        "Por tanto:\n",
        ">>\n",
        ">$D = \\sum_{i=1}^n\\mathbb{E}(\\exp(\\lambda Z_i))=n\\times \\exp(\\frac{\\lambda^2}{2}) = E$.\n",
        ">>\n",
        "Concatenando todo, desde $A$ hasta $E$, obtenemos:\n",
        ">\n",
        ">$A = \\exp( \\mathbb{E}(\\lambda \\max_{1\\leq i \\leq n}Z_i)) \\leq n\\times \\exp(\\frac{\\lambda^2}{2}) = E$.\n",
        ">>\n",
        ">$\\exp(\\lambda \\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)) \\leq n\\times \\exp(\\frac{\\lambda^2}{2})$.\n",
        ">\n",
        "Tomando  logaritmo, la cual es  una función creciente,\n",
        ">\n",
        ">$\\lambda \\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i) \\leq \\ln n + \\frac{\\lambda^2}{2}$\n",
        ">>\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)\\leq \\frac{\\ln n}{\\lambda}+\\frac{\\lambda}{2}$.\n",
        ">\n",
        "Esta desigualdad es verdadera para todo valor positivo de   $\\lambda$. Por tanto, es también cierta para el mínimo, el cual uno puede hallar igualando la derivada a cero.  \n",
        ">\n",
        "Sea\n",
        ">\n",
        "> $j(\\lambda ) =\\frac{\\ln n}{\\lambda}+\\frac{\\lambda}{2}$.\n",
        ">\n",
        "> $j'(\\lambda ) =-\\frac{\\ln n}{\\lambda^2}+\\frac{1}{2} = 0$.\n",
        ">\n",
        ">  $ -\\frac{\\ln n}{\\lambda^2} = -\\frac{1}{2}  $\n",
        ">\n",
        ">  $ \\frac{\\ln n}{\\lambda^2} = \\frac{1}{2}  $\n",
        ">\n",
        ">  $ 2 \\ln  n = \\lambda^2$\n",
        ">\n",
        ">  $ \\lambda = \\sqrt{2lnn}$\n",
        ">\n",
        "Reemplazando este valor en la desigualdad original, encontramos  \n",
        ">\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)\\leq \\frac{\\ln n}{\\sqrt{2\\ln n}}+\\frac{\\sqrt{2\\ln n}}{2}$.\n",
        ">\n",
        ">$ = \\frac{ 2\\ln n + 2 \\ln n}{2\\sqrt{2\\ln n}}$\n",
        ">\n",
        "> $ = \\frac{ 4\\ln n }{2\\sqrt{2\\ln n}}$\n",
        ">\n",
        "> $ = \\frac{ 2\\ln n }{\\sqrt{2\\ln n}}$\n",
        ">\n",
        ">$ =  \\sqrt{2\\ln n}$\n",
        ">\n",
        "En conclusión,\n",
        ">\n",
        "> $\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)\\leq \\sqrt{2\\ln n}$.\n",
        ">\n",
        "Esto significa que $\\sqrt{2\\ln n}$ es  un cota superior de $\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)$, el valor esperado de MAX.  \n",
        ">\n",
        "Llenemos un detalle. Necesitamos mostrar que para todo  $i$\n",
        ">\n",
        ">$\\mathbb{E}(\\exp(\\lambda Z_i)) = exp(\\frac{\\lambda^2}{2})$\n",
        ">\n",
        "Esto se demuestra por un cálculo directo:\n",
        ">>\n",
        ">$\\mathbb{E}(\\exp(\\lambda Z_i)) = \\int^{\\infty}_{-\\infty} exp( \\lambda z ) dp(z)$\n",
        ">\n",
        "Puesto que nos estamos refiriendo a la normal estándard, la medida de probabilidad es su fdp:  :\n",
        ">\n",
        ">>$ = \\int^{\\infty}_{-\\infty} exp( \\lambda z ) \\frac{e^{-z^2/2}}{\\sqrt{2\\pi}}dz$\n",
        ">>\n",
        ">>$ = \\int^{\\infty}_{-\\infty}   \\frac{e^{-z^2/2 + \\lambda z}}{\\sqrt{2\\pi}}dz$\n",
        ">>\n",
        ">>$ = \\int^{\\infty}_{-\\infty}   \\frac{e^{-(z^2 - 2 \\lambda z)/2) }}{\\sqrt{2\\pi}}dz$\n",
        ">>\n",
        ">>$ = \\int^{\\infty}_{-\\infty}   \\frac{e^{-(z^2 - 2 \\lambda z+ \\lambda^2 - \\lambda ^2)/2  }}{\\sqrt{2\\pi}}dz$\n",
        ">>\n",
        ">>$ = \\int^{\\infty}_{-\\infty}   \\frac{e^{-(z- \\lambda )^2/2  + \\lambda^2 / 2 }}{\\sqrt{2\\pi}}dz$\n",
        ">>\n",
        ">>$ = e^{\\lambda^2 / 2 } \\int^{\\infty}_{-\\infty}   \\frac{e^{-(z- \\lambda )^2/2  }}{\\sqrt{2\\pi}}dz$\n",
        ">>\n",
        "Haciendo el cambio de variable  $ u = z - \\lambda$ and $du = dz$, obtenemos\n",
        ">>\n",
        ">>$ = e^{\\lambda^2 / 2 } \\int^{\\infty}_{-\\infty}   \\frac{e^{-u^2/2  }}{\\sqrt{2\\pi}}du$\n",
        ">>\n",
        ">>\n",
        ">>$ = e^{\\lambda^2 / 2 } $\n",
        ">>\n",
        "> porque la integral representa la probabilidad bajo toda la campana, la cual es 1.  \n",
        "\n",
        " **Cota inferior.**  Para encontrar un límite inferior para el valor esperado de MAX, usemos la desigualdad de la mediana. Esta dice que para cualquier variable aleatoria $X$ con valor esperado y mediana finitos, la diferencia entre el valor esperado y la mediana depende de la varianza:\n",
        "\n",
        ">$|\\mathbb{E}(X)-Med(X)|\\leq Var(X)$\n",
        ">\n",
        "Asumimos que\n",
        ">\n",
        ">$X = \\max_{1\\leq i \\leq n}Z_i $  \n",
        ">\n",
        "y notando\n",
        ">\n",
        ">$M_n=Med(\\max_{1\\leq i \\leq n}Z_i))$\n",
        ">\n",
        "tenemos que\n",
        ">\n",
        ">$|\\mathbb{E}(X)-Med(X)|\\leq Var(X)$\n",
        ">\n",
        "se convierte en\n",
        ">\n",
        ">$|\\mathbb{E}(X)-M_n|\\leq Var(X)$\n",
        ">\n",
        "que es equivalente a\n",
        ">\n",
        ">$-Var(X) \\leq \\mathbb{E}(X)-M_n \\leq Var(X)$\n",
        ">\n",
        "Tomemos la desigualdad izquierda\n",
        ">\n",
        ">$-Var(X)  + M_n \\leq \\mathbb{E}(X) $\n",
        ">\n",
        "o\n",
        ">\n",
        ">$\\mathbb{E}(X) \\ge M_n -Var(X) $\n",
        ">\n",
        "y, por la desigualdad de Poincaré,\n",
        ">\n",
        ">$Var(\\max_{1\\leq i \\leq n}Z_i))\\leq 1$.\n",
        ">\n",
        ">o\n",
        ">\n",
        ">$-Var(\\max_{1\\leq i \\leq n}Z_i))\\ge -1$.\n",
        ">\n",
        "Sumando $M_n$ a ambos lados\n",
        ">\n",
        ">$M_n -Var(\\max_{1\\leq i \\leq n}Z_i))\\ge M_n -1$.\n",
        ">\n",
        "Por tanto,\n",
        ">>\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)\\geq M_n -Var(\\max_{1\\leq i \\leq n}Z_i))\\ge M_n -1$.\n",
        ">\n",
        "Esta desigualdad representa una cota inferior al valor esperado de MAX. Será usada más abajo. \n",
        ">\n",
        "De otra parte, por la definición de la mediana, tenemos:  \n",
        ">\n",
        ">$\\mathbb{P}(\\max_{1\\leq i \\leq n}Z_i\\leq M_n)=\\frac{1}{2}$,\n",
        ">\n",
        "Esta es la FDA de MAX evaluada en la mediana:\n",
        " \n",
        ">\n",
        ">$F(Mediana) = \\Phi^n(Mediana)$\n",
        ">\n",
        "> donde $\\Phi$ es la fda de la normal estandar, $X \\sim \\mathcal{N}(0,1)$, con\n",
        ">\n",
        ">$\\Phi(x)=\\mathbb{P}(X\\leq x)$.\n",
        ">\n",
        "Por consiguiente,\n",
        ">\n",
        ">$F(Mediana) = \\Phi^n(Mediana) = \\frac{1}{2}$\n",
        ">\n",
        "Despejando $\\Phi$, y recordando que la mediana es $M_n$, obtenemos\n",
        ">>\n",
        ">$\\Phi(Mediana) = \\Phi(M_n)= \\frac{1}{2^{\\frac{1}{n}}}$\n",
        ">>\n",
        "Insertando esto en la función-$Q$, obtenemos\n",
        ">>\n",
        ">$Q(M_n) = 1 - \\Phi(M_n)=  1 - \\frac{1}{2^{\\frac{1}{n}}}$\n",
        ">\n",
        "Acompañamos al autor citado hasta aquí (disentimos en un detalle), pero seguimos utilizando su metodología. \n",
        "\n",
        "Hallemos ahora una cota inferior de la función-Q,  dada por $Q(x)=1-\\Phi(x) $,  para hallar una cota inferior a su inversa.  Recordemos, de un prerequisito, que una cota inferior de   $Q$ para $x \\in \\mathbb{R^+}$ es \n",
        ">>\n",
        "> $Q(x)=1-\\Phi(x) \\ge \\frac{1}{12}\\exp(- x^2)$,\n",
        ">>\n",
        "La función-$Q$-es decreciente, monótona, 1-a-1,  por consiguiente,   $Q^{-1}$ también es decreciente. Esto significa que si   $a < b$,entonces sus imágnes se relacionan en orden inverso. Ahora,  tomemos  $Q^{-1} $ a ambos lados de la desigualdad previa para obtener   \n",
        ">>\n",
        ">$Q^{-1} Q(x) \\leq  Q^{-1} (\\frac{1}{12}\\exp(- x^2))$,\n",
        ">>\n",
        "porque  $Q^{-1} $ reversa el  orden.\n",
        ">>\n",
        ">$x \\leq  Q^{-1} (\\frac{1}{12}\\exp(- x^2))$,\n",
        ">>\n",
        "o\n",
        ">>\n",
        "$  Q^{-1} (\\frac{1}{12}\\exp(- x^2)) \\ge x$,\n",
        ">\n",
        "donde $x$ está en el dominio de  $Q$.  Reescribamos eso en términos del dominio de  $Q^{-1}$. Sea, por tanto,\n",
        ">>\n",
        ">$t = \\frac{1}{12}\\exp(- x^2)$\n",
        ">>\n",
        ">$12t =  \\exp(- x^2 )$\n",
        ">>\n",
        "tomando ln a ambos lados, y despejando $x$\n",
        ">>\n",
        ">$ \\ln (12t) =   - x^2 $\n",
        ">>\n",
        ">$  x^2  = - \\ln (12t) $\n",
        ">>\n",
        "El lado derecho es positivo cuando el  $\\ln$ es negativo, i.e., cuando $0 < 12t < 1$ o cuando   $0 < t < 1/12$. Por eso debemos trabajar en la vecindad de $0$.  En ese caso, podemos sacar raíz cuadrada:\n",
        ">>\n",
        "> $  x  = \\sqrt{-  \\ln (12t) }$\n",
        ">>\n",
        "Esto se puede reescribir como\n",
        ">>\n",
        ">  $  x  = \\sqrt{|  \\ln (12t) |} $\n",
        ">>\n",
        "Como consecuencia, la expresión anterior\n",
        ">>\n",
        ">$  Q^{-1} (\\frac{1}{12}\\exp(- x^2)) \\ge x$,\n",
        ">>\n",
        "puede reescribirse como\n",
        ">>\n",
        "> $  Q^{-1} (t) \\ge  \\sqrt{|  \\ln (12t) |}$,\n",
        ">\n",
        ">>\n",
        "Esto es una cota inferior de la inversa de la la función-$Q$. Necesitamos incorporar este resultado para acotar  \n",
        ">>\n",
        ">$Q(M_n)=1-\\frac{1}{2^\\frac{1}{n}}$.\n",
        ">>\n",
        "Ayudémonos pensando en la función\n",
        ">>\n",
        ">$h(x) = 1-\\frac{1}{2^x} = 1 - 2^{-x}$\n",
        ">>\n",
        "que resulta de la sustitución $x = \\frac{1}{n}$.\n",
        ">\n",
        "La exponential $2^x$ es creciente y toma valores des de 1 hasta $\\infty$. La exponential $2^{-x} = \\frac{1}{2^x}$ es decreciente y toma valores desde 1 hasta $0$. La función $-2^{-x}$ es creciente y toma valores desde -1 hasta 0. La función $-2^{-x} +1 = 1-2^{-x} = h(x)$ es creciente y toma valores desde  0 a 1. Y abre hacia abajo. Nuestro punto de interés es 0, porque cuando $n \\to \\infty$, $x= \\frac{1}{n} \\to 0$. Por ello, podemos decir que una cota superior de  $h(x)$ es su línea tangente, la cual sale de su derivada:  \n",
        ">>\n",
        ">$h'(x) = (1- 2^{-x})'  = - (2^{-x})'  = -((e^{\\ln 2})^{-x})'  = -(e^{-x\\ln2})'$\n",
        ">>\n",
        ">$h'(x) = \\ln 2(e^{-x\\ln2})  = \\ln2 \\times 2^{-x}$\n",
        ">>\n",
        "la cual, evaluada en 0 da $h' (0) = \\ln 2$. Puesto que $h(0) = 0$, la línea tangente en  0 es $y = (\\ln2)x$ y está por encima de $h(x)$ porque $h(x)$ abre hacia abajo. Hemos demostrado que la línea tangente en 0 es una cota superior de  $h$. por tanto,\n",
        ">>\n",
        ">$h(x) =   1 - 2^{-x} \\leq (\\ln2)x $.\n",
        ">>\n",
        "Recordando que $x = \\frac{1}{n}$, tenemos\n",
        ">>\n",
        ">$ 1 - 2^{- \\frac{1}{n} } \\leq (\\ln2)\\frac{1}{n} = \\frac{\\ln 2}{n} $,\n",
        ">>\n",
        "o,\n",
        ">>\n",
        ">$Q(M_n)=1-\\frac{1}{2^\\frac{1}{n}}\\leq \\frac{\\ln 2}{n}$.\n",
        ">\n",
        "Teniendo presente en la mente que la función- $Q^{-1}$ es decreciente, y que reversa el orden, apliquémosla a ambos lados de la desigualdad anterior para obtener:\n",
        ">>\n",
        ">$M_n  \\ge  Q^{-1}(\\frac{\\ln2}{n})$\n",
        ">\n",
        "Pero, teníamos que:\n",
        ">>\n",
        "> $  Q^{-1} (t) \\ge  \\sqrt{|  \\ln (12t) |}$,\n",
        ">\n",
        "Así, se reemplazamos $t$ por $\\frac{\\ln2}{n}$, obtenemos\n",
        ">>\n",
        "> $  Q^{-1} (\\frac{\\ln2}{n}) \\ge  \\sqrt{  |  \\ln (12\\frac{\\ln2}{n}) |  }$,\n",
        ">>\n",
        "Concatenando eso con\n",
        ">>\n",
        ">$M_n\\ge Q^{-1}(\\frac{\\ln2}{n}) $\n",
        ">>\n",
        "> obtenemos\n",
        ">>\n",
        ">$M_n\\ge Q^{-1}(\\frac{\\ln2}{n}) \\ge  \\sqrt{|  \\ln (12\\frac{\\ln2}{n}) |}  $\n",
        ">>\n",
        "Recordemos un resultado anterior que acota los límites del valor esperado de MAX teniendo en cuenta que MAX no es dispersivo:\n",
        ">>\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)\\geq M_n -Var(\\max_{1\\leq i \\leq n}Z_i))\\ge M_n -1$.\n",
        ">>\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i) \\ge M_n -1 \\ge  \\sqrt{|  \\ln (12\\frac{\\ln2}{n}) |}  -1 $.\n",
        ">\n",
        "o\n",
        ">\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)   \\ge  \n",
        "\\sqrt{|  \\ln (12\\frac{\\ln2}{n}) |}  -1 $.\n",
        ">\n",
        "Miremos la tendencia de $\\sqrt{|  \\ln (12\\frac{\\ln2}{n}) |} $\n",
        ">\n",
        ">$ \\sqrt{|  \\ln (12\\frac{\\ln2}{n}) |} $\n",
        "$ =  \\sqrt{   |    \\ln (12) + \\ln ( \\ln 2)  - \\ln(n)    |    }  $\n",
        "$ \\to  \\sqrt{ \\ln (n)} $\n",
        ">\n",
        "Por tanto,\n",
        ">\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)   \\ge  \\sqrt{|  \\ln (n) |}  -1  \\to  \\sqrt{|  \\ln (n) |} = \\sqrt{ \\ln (n) }$.\n",
        ">\n",
        "Esto es, ni más ni menos, una cota inferior del valor esperado de MAX, y así cumpliquemos lo que habíamos prometido. \n",
        "\n",
        "*Conclusión.* El valor esperado de MAX puede ser acotado por arriba por  $ \\sqrt{2\\ln n}$:\n",
        ">>\n",
        ">$ \\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i) \\leq \\sqrt{2\\ln n}$\n",
        ">>\n",
        "y por abajo por  $\\sqrt{ \\ln (n) }$\n",
        ">>\n",
        ">$\\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i)   \\ge   \\sqrt{|  \\ln (n) |}$.\n",
        ">\n",
        "En un línea:\n",
        ">\n",
        "> $   \\sqrt{  \\ln (n) }  \\le  \\mathbb{E}(\\max_{1\\leq i \\leq n}Z_i) \\leq \\sqrt{2\\ln n}$\n",
        ">\n",
        "> que es el teorema sándwiche.\n",
        "\n",
        " \n"
      ]
    },
    {
      "cell_type": "markdown",
      "metadata": {},
      "source": [
        "# CONCLUSIÓN\n",
        "\n",
        "**Ejercicio.**  Formule una  conclusión para el presente estudio.\n",
        ">\n",
        "*Nuestra respuesta.*  Un problema manejable que modela el origen de la vida es **The Shakespeare Desafío**, que consiste en emparejar una cadena destino con cadenas generadas al azar. Hemos estudiado una pregunta sencilla relacionada con este desafío en esta contribución: ¿Qué es lo mejor que puede hacer la aleatoriedad dado que funciona en muchos frentes? \n",
        "\n",
        "Hemos visto que el MAX de varios números aleatorios, con una distribución normal o binomial, es ciertamente mejor que uno. Pero, al final, esto no es de gran ayuda para luchar contra la complejidad. Esto significa que la aleatoriedad puede resolver el desafío mencionado anteriormente para cadenas largas si se asignan recursos en cantidades extremadamente grandes. \n",
        "\n",
        "Nada que ver con nuestro universo. \n",
        "\n",
        "Pero, aparece una luz con la siguiente observación: \n",
        "\n",
        "Lo mejor que puede hacer la aleatoriedad es solo la selección del más apto, que hemos modelado como elegir el MAX de  $m$ números.  Estos representan una medida en $z$-unidades de las coincidencias hechas por el azar sobre la cadena objetivo, que hemos imaginado como el producto de $m$ monos tecleando al azar sobre máquinas de escribir.  Entonces, surge un terrible problema de ingeniería: \n",
        "\n",
        "> Dado que elegir el MAX es muy bueno, pero no lo suficientemente bueno, ¿Cómo podemos insertar el procedimiento de selección del más apto en un algoritmo que dispare la capacidad de MAX para combatir la complejidad? Este es **El desafío MAX-ROCKET**. \n",
        "\n",
        "En preparación para estudiar la hermosa promesa de la Evolución para resolver este desafío, necesitamos predecir con una fórmula el rendimiento de los mejores.  Nuestra fórmula dice: El valor esperado de MAX en z-unidades como una función del número de monos $m$, cuyo desempeño sigue una distribución normal estandard,  es \n",
        ">\n",
        " \n",
        ">> Media de MAX = $ \\mathbb{E}(MAX) =   \\sqrt{k \\ln (m)} $ \n",
        ">>\n",
        ">> $k = 1,29 $. \n",
        "\n",
        "Nuestras pruebas dicen que esta fórmula general, derivada para las distribuciones normales, es muy buena. La aplicamos a $m$  variables binomiales $Bi(n, 1/2)$ o monos, donde $n$ representa el largo de la cadena patrón u objetivo a adivinar. Y la refinamos con una simulación. Eso produjo\n",
        ">\n",
        ">> Media de MAX = $\\mathbb{E}(MAX) = \\frac{n}{2} +  \\sqrt{\\frac{n}{k}\\ln m  }  $\n",
        ">>\n",
        ">> $k = 24.9 n^{-1.18} + 2.53$"
      ]
    }
  ],
  "metadata": {
    "colab": {
      "provenance": []
    },
    "kernelspec": {
      "display_name": ".venv",
      "language": "python",
      "name": "python3"
    },
    "language_info": {
      "codemirror_mode": {
        "name": "ipython",
        "version": 3
      },
      "file_extension": ".py",
      "mimetype": "text/x-python",
      "name": "python",
      "nbconvert_exporter": "python",
      "pygments_lexer": "ipython3",
      "version": "3.12.3"
    }
  },
  "nbformat": 4,
  "nbformat_minor": 0
}
