La revolución de la IA: el camino hacia la superinteligencia.

“Estamos al borde de un cambio comparable a la aparición de la vida humana en la Tierra”.

Vernon Vinge.

Antes de empezar quiero que señalar que este artículo es una traducción libre, o mejor dicho, una adaptación de un texto de Tim Urban, autor de la página Wait But Why (que os recomiendo encarecidamente si el inglés no es un problema).

Me he tomado la libertad de modificar y recortar parte de la narración tratando de no alterar el espíritu de la idea original, usando mi propia voz en lo que es, y aviso, una verdadera parrafada. Espero que os resulte tan interesante como lo fue para mí.

Un futuro lejano a la vuelta de la esquina.

Vamos a jugar un poco. Imagina que eres el dueño de una flamante máquina del tiempo y decides viajar al año 1750. Recuerda que se trata de una época donde no había luz eléctrica y la comunicación a larga distancia consistía en gritar a tu vecino a pleno pulmón o disparar un arma al aire.  Como no tienes nada mejor que hacer, trabas amistad con un lugareño en una taberna y después de una juerga nada desdeñable decides traerlo al año 2016 para enseñarle el “futuro”. Es difícil imaginar su reacción al ver nuestro modo de vida, con vehículos metálicos y coloridos que parecen desplazarse por sí solos, espejos mágicos que reproducen la realidad, algunos incrustados en cajitas pequeñas que las personas llevan en su bolsillo y sirven para acceder a todo el conocimiento de la humanidad.  Tratas de explicarle lo que es internet, la estación espacial internacional, las armas nucleares o la relatividad general.

Esta experiencia para él no sólo sería sorprendente o alucinante, es posible que fuera tan traumática que no se recuperara nunca.

Pero digamos que lo asimila, mantiene su cordura y regresa a su año de origen. Como también es un poco trol, te pide prestada tu máquina del tiempo para hacer lo mismo con otro individuo. Viaja al año 1500, engatusa a alguien y después lo lleva al año 1750. Seguramente el nuevo sujeto se sorprendería bastante con los cambios ocurridos en 250 años pero no se abrumaría tanto. La diferencia de progreso existente entre esos dos intervalos de tiempo con respecto a lo distintos que son el año 1750 del 2016 no tiene comparación. El sujeto del año 1500 aprendería cosas nuevas y seguramente se sentiría desubicado y confuso en algunas ocasiones pero  sería capaz de asimilar bien el día a día de su futuro.

Para que nuestro amigo del año 1750 consiguiera causar el mismo impacto que sufrió él, tendría que retroceder mucho más, digamos al 12.000 antes de cristo, antes de la revolución agrícola que dio lugar a las primeras ciudades y al concepto de civilización. Si un cazador-recolector, cuya vida se limitaba a sobrevivir y migrar de aquí para allá, descubriera en que se ha convertido el imperio humano del siglo XVIII, con la imponente arquitectura de las catedrales, la escritura, los barcos transoceánicos e infinidad de nuevos inventos… se quedaría estupefacto.

¿Entonces qué pasa si el cazador-recolector desea hacer lo mismo? Pues tendría que retroceder más tiempo aún, al 100.000 antes de cristo, antes de que se dominara el fuego, el lenguaje y hacer la O con un canuto.

Si pudiéramos medir en unidades este impacto psicológico debido al progreso (algo que llamaremos UISP) podríamos decir que entre el 100.000 a.C. al 12.000 a.C. se acumuló un UISP, pero a medida que avanzamos en la historia los siguientes UISPs se sucedieron más rápido en el tiempo. Este patrón de progreso acelerado es también llamado ley de Rendimientos Acelerados y está asociado al futurista Raymond Kurzweil. Esta ley viene a decir que las sociedades más avanzadas tienen la capacidad de progresar a un ritmo más rápido que otras más primitivas porque sencillamente tienen más medios, más conocimientos, más infraestructura y seguramente más población y por tanto más cerebros pensantes.

Kurzweil afirma que, dado el incremento cada vez mayor, la tasa de progreso debería multiplicarse en años venideros hasta que a finales del siglo XXI sea mil veces más rápida que la del siglo XX. Si tiene razón, entonces el próximo UISP podría estar a sólo unas décadas de distancia y el mundo del año 2050 podría ser tan diferente de nuestra época actual que apenas lo reconoceremos.

Suena extraño ¿no es así? La intuición nos dice que esto no puede ser verdad pero tengo algunos argumentos que vale la pena tener en cuenta:

Cuando se trata de historia tendemos a pensar en línea recta. Por ejemplo, si queremos formular una predicción de cómo será el mundo en los próximos años solemos extrapolar el progreso ocurrido en años pasados como indicador de que puede ocurrir a continuación.  Pero como hemos visto, es un error pensar linealmente cuando en realidad los cambios hasta ahora han ido ocurriendo de forma exponencial.

Además, la historia reciente a menudo está distorsionada.  Este crecimiento exponencial del que hablamos no es continuo si no que crece a distintos intervalos. Kurzweil explica que en realidad ocurre en una “curva en S.”

Estas eses aparecen como una ola de progreso en la cual un nuevo paradigma llega para cambiar el mundo.  En esencia consta de tres fases:

1. Crecimiento lento. Aparece un cambio de paradigma que en principio no reconocemos. El crecimiento es lento pero inexorable.
2. Crecimiento rápido. El paradigma es asimilado y los cambios se precipitan a todos los niveles.
3. Estabilización. El paradigma ha madurado y el crecimiento continúa aunque con menor intensidad.

Un buen ejemplo de esto fue la aparición de internet, una tecnología que surgió hace décadas y que poco a poco fue creciendo (fase 1) hasta que entre 1995 y 2007 se experimentó un incremento brutal con miles de webs, las redes sociales, y como complemento, la introducción de los celulares y posteriormente los smartphones (fase 2). El mundo cambió en esos años y en el intervalo entre 2008 y 2015 continuó el crecimiento, menos innovador, afianzándose las tecnologías existentes (fase 3). Puede que ahora mismo se esté gestando de nuevo una fase 2 en base a una tecnología que lleva esperando su momento desde hace tiempo.

Por último cabe recordar que nuestra propia experiencia personal nos acostumbra a una tasa de progreso que condiciona nuestras ideas. Cuando escuchamos una predicción que contradice nuestra noción de cómo funcionan las cosas, nuestro instinto suele ser el rechazo. Si yo te dijera que podrás vivir hasta los 130 años gracias a los avances médicos futuros, tu reacción quizá sea: “Eso es absurdo, si hay algo que la historia ha demostrado es que rara vez alguien llega a los 100 años”. Pero piensa que antes de la invención de los cohetes espaciales nadie jamás había viajado al espacio.

Así que no es ilógico concluir que si la especie más avanzada del planeta sigue haciendo saltos de progreso más y más grandes a un ritmo cada vez más rápido, en algún momento vamos a dar un brinco tan enorme que la vida tal y como la conocemos quedará alterada para siempre de forma similar a cómo la evolución dio un salto hacia la inteligencia y surgió un criatura nunca antes vista sobre la faz de la tierra que alteró la naturaleza y la manipuló a su voluntad: el ser humano.

Hoy en día, en la ciencia y la tecnología, se intuyen algunas pistas que insinúan que el próximo salto está a la vuelta de la esquina y que no estamos preparados para lo que vendrá a continuación.

El camino hacia la superinteligencia.

¿Qué es una IA?

La mayoría de la gente tiende a pensar que la inteligencia artificial es ciencia ficción y no tienen muy claro cómo definirla. Hay tres razones principales por las que hay confusión al respecto.

1. La asociamos a películas: Star Wars, Terminator, 2001: una odisea en el espacio o Matrix. Todas pelis de ficción con robots y entidades artificiales inteligentes.
2. La IA comprende áreas muy amplias. Abarca desde aplicaciones web hasta los algoritmos de los futuros coches autónomos. IA se refiere a todas estas cosas, lo cual puede ser bastante lioso si no sabemos de que va el tema.
3. Utilizamos IAs todo el tiempo en nuestra vida diaria pero ni si quiera nos damos cuenta.

Así que tenemos que aclarar el significado. En primer lugar, no hay que pensar en robots cuando hablamos de IA. Un robot puede ser un contenedor para una IA pero no necesariamente necesitamos un cuerpo para ello. Por ejemplo, el software y los datos de Siri son una IA, la voz de la mujer que escuchamos es la manera que tenemos de personificarla, pero no hay  ningún robot involucrado en absoluto.

Es segundo lugar quizá hayas oído alguna vez la palabra singularidad. En matemáticas, una singularidad sirve para describir una situación en la que ya no se pueden aplicar las reglas normales. Se usa en física para describir fenómenos extremos como agujeros negros o el propio Big Bang. Resumiendo, en situaciones habituales el término singularidad no se aplica. En 1993, Vernor Vinge escribió un famoso ensayo en el que usa el concepto de singularidad tecnológica para un momento en el futuro en el que la inteligencia de nuestra tecnología es superior a la inteligencia humana, y  por tanto ya no se aplicaran las reglas que hasta ahora nos han regido. Ray Kurzweil define la singularidad tecnológica como el momento en que su Ley de Rendimientos Acelerados alcanza un ritmo aparentemente infinito después de lo cual viviremos en un mundo completamente ajeno al actual. Hay una gran cantidad de pensadores de la IA que han dejado de usar el término, porque es algo vago, pero lo importante es que nos centremos en la idea.

Por último, si bien hay muchos tipos diferentes de IA, vamos a establecer 3 categorías en función de su capacidad:

1. Artificial Narrow Intelligence (ANI): Inteligencia artificial débil. Es el tipo de IA que se especializa en un solo ámbito. Para ponerlo en contexto, existe una IA que puede vencer al campeón mundial de ajedrez, pero eso es lo único que hace; si pretendes que te aconseje sobre cualquier otra cosa puedes esperar sentado.
2. Artificial General Intelligence (AGI): La Inteligencia artificial general, algunas veces conocida como IA Fuerte o IA de nivel humano, es un tipo aún ficticio y se refiere a un sistema tan inteligente como un ser humano y puede realizar las mismas tareas intelectuales que las personas. La creación de una AGI es un reto mucho más complicado que fabricar una ANI y de hecho aún estamos por conseguirlo. La profesora Linda Gottfreson define la inteligencia como la capacidad mental que nos permite razonar, planear y resolver problemas, pensar de manera abstracta, comprender ideas compleja y aprender de la experiencia. Una AGI debería ser capaz de todo esto.
3. Artificial Superintelligence (ASI): Nick Bostrom, filósofo de la universidad de Oxford, explica que la superinteligencia artificial debería ser un intelecto más potente y capaz que los cerebros humanos en prácticamente todos los campos, incluyendo la creatividad científica, la sabiduría y las habilidades sociales. Eso quiere decir que el concepto de superinteligencia comprende un rango que va desde ser sólo un poco más inteligente que los seres humanos hasta serlo millones de veces.

De momento los seres humanos sólo han conquistado la ANI pero la revolución empieza por ahí, continua con la AGI y termina con la ASI. Un camino en el que podemos o no sobrevivir pero que, en cualquier caso, va a transformarlo todo. 

Vivimos en un mundo dominado por las ANI

La inteligencia artificial débil es igual o más eficiente que los seres humanos en tareas concretas. Aquí algunos ejemplos.

• Los coches modernos se complementan con sistemas ANI, desde el que activa el bloqueo de frenos hasta el ordenador que determina los parámetros de inyección de combustible. Los coches autónomos de Google contienen sistemas ANI robustos que permiten al vehículo percibir el mundo y reaccionar en consecuencia.
• Los Smartphones son pequeños hogares para la ANI. Tanto sea navegar usando la aplicación de mapas, recibir recomendaciones musicales, comprobar el tiempo, hablar con un asistente como Siri o Cortana, y en definitiva, realizar decenas de actividades cotidianas.
• El filtro de spam del correo electrónico es un tipo clásico de ANI que decide que mensajes son Spam, cuáles no, y se adapta a nuestras necesidades con la experiencia de nuestras preferencias particulares.
• El traductor de Google es un sistema realmente bueno. Eso sumado al reconocimiento de voz, que es otro ANI, sirve para realizar traducciones simultáneas.
• Cuando tu avión aterriza no es un ser humano el que decide a que puerta debe ir. Al igual que no es un ser humano el que decide el precio de los billetes.
• Los mejores jugadores del mundo de Damas, Ajedrez y Scrabble son sistemas ANI.
• La búsqueda de Google es un gran cerebro ANI que usa métodos sofisticados para la clasificación de páginas web y de paso averiguar que enseñarte.

Y eso sólo en el mundo del consumo. Otros sistemas ANI complejos se utilizan en la industria militar, la manufactura, las finanzas y hasta sistemas expertos que ayudan a los médicos a hacer diagnósticos.

De  momento, no tenemos nada que temer de las ANIs. En el peor de los casos, un fallo puede causar un desastre aislado como la anulación de una red eléctrica o desencadenar una catástrofe puntual en el mercado financiero. Pero, mientras que estas IA no tienen capacidad de causar una amenaza existencial, deberíamos pensar con más amplitud de miras y entender que en nuestro complejo ecosistema tecnológico se está gestando una revolución. Cada nueva innovación es un paso más en nuestro camino a las AGI. Como cita Aarón Sánchez, “Las ANIs son el  equivalente a los aminoácidos del fango primordial de la Tierra primitiva, la materia inanimada en la que, un día inesperado, la vida despertó.

El camino de ANI a AGI

¿Por qué es tan difícil crear una inteligencia equivalente a la humana?

Para que nos hagamos una idea: construir rascacielos, enviar seres humanos al espacio o estudiar los orígenes del cosmos son logros impresionantes y sin embargo aún no hemos conseguido entender el funcionamiento de nuestro cerebro.  No en vano se dice que el cerebro humano es el objeto más complejo del universo.

Lo interesante de construir una AGI, es que hay retos que desafían nuestra intuición. Me explico: fabricar un aparato que sea capaz de multiplicar dos números de 10 dígitos en una fracción de segundo es fácil (si sabes del tema claro), pero conseguir que una máquina sea capaz de distinguir entre un perro y un gato es harina de otro costal. Que un ordenador haga cálculos financieros a tiempo real…hecho. Pero que lea un párrafo escrito a mano por un niño, reconozca las palabras y entienda el significado del mensaje… Google ha gastado millones tratando de conseguirlo.

Las tareas matemáticas son abrumadoramente sencillas para una IA pero la visión, el movimiento y la percepción son terriblemente duras de conseguir. En palabras del científico de la computación Donald Knuth, “La IA ha tenido éxito en hacer todo aquello que requiere pensar pero no ha podido con todo aquello que los animales y la gente hacen sin pensar”.

Todo lo que nos resulta fácil, en realidad sólo lo parece porque esas habilidades se han optimizado en nosotros (y en los animales) gracias a cientos de millones de años de evolución. Cuando lanzamos un objeto, los músculos, tendones y huesos del brazo realizan al instante una larga serie de operaciones físicas que junto con la información recibida por nuestros ojos, permiten que realicemos el movimiento que deseamos sin apenas esfuerzo. Por otro lado la multiplicación de números grandes o jugar al ajedrez son actividades «nuevas» para una criatura biológica y no disponemos de habilidades especializadas para tales cometidos. Sin embargo, somos los campeones en el reconocimiento de formas, algo muy necesario para moverse por el mundo y en lo que una IA falla miserablemente. No termina ahí la cosa, para estar a nivel humano un ordenador tendría que entender la diferencia entre las sutiles expresiones faciales, o distinguir entre estados anímicos similares, o saber por qué Braveheart es genial pero el Patriota es un bodrio.

Desalentador, así que ¿Cómo lo hacemos?

Primera clave para crear AGI: aumento de la potencia de cálculo.

Algo que seguro debe pasar para que la AGI sea una realidad es el aumento de la potencia del hardware. Si un sistema pretende ser tan inteligente como un cerebro humano, al menos debería tener su misma capacidad de cálculo.

Una forma de expresar esa capacidad podría ser con los Flops, que es una medida usada en informática para determinar el rendimiento de un ordenador. Flops significa Operaciones de coma flotante por segundo, que en resumidas cuentas es un tipo de cálculo con números racionales. Ray Kurzweil quiso estimar los cálculos por segundo del cerebro e hizo un montón de aproximaciones desde diferentes enfoques. El resultado fue más o menos el mismo: 10 petaflops. Teniendo en cuenta que un Peta es 10^15, ahí es nada.

Actualmente la supercomputadora más rápida del mundo ubicada en China, la Tianhe-2, ha superado esa cifra con creces, con unos 34 petaflops, pero siendo justos, resulta que el cacharro ocupa 720 metros cuadrados y usa 24 megavatios de potencia (el cerebro funciona sólo con 20 vatios, lo mismo que una bombilla de bajo consumo) y cuesta $390 millones fabricarla.

Kurzweil sugiere que pensemos en cuantos flops podemos comprar con 1000 dólares (al cambio unos 910 euros). Cuando podamos pillarnos un equipo capaz de 10 petaflops por esa cantidad de dinero, estaremos hablando en serio de crear una AGI.

¿Falta mucho para eso? Mirémoslo en perspectiva.

La ley de Moore es una regla históricamente fiable que dice  que el poder de computación de nuestros ordenadores se duplica aproximadamente cada dos años, lo que significa que la potencia del hardware crece de forma exponencial al igual que el progreso humano. En cuanto a cómo relacionamos los flops de Kurzweil con los 1000$, él dice que estamos actualmente alrededor de 10 gigaflops / $1000, más o menos al ritmo de proyección de este gráfico.

Así que un ordenador de 1000 dólares hoy en día es equivalente al cerebro de un ratón en cuanto a potencia pero está a una milésima del nivel humano. No suena bien hasta que recuerdas que 1985 estábamos sobre la billonésima del nivel humano, en 1995 era una milmillonésima y en 2005 una millonésima. Si en 2015 hemos alcanzado la milésima implica que estamos a un paso de conseguir un equipo que rivaliza con la potencia del cerebro humano en el año 2025.

Así que con respecto al hardware, crear una AGI quizá sea posible en china pero será asequible para todos dentro de unos 10 años. Sin embargo, la potencia computacional por sí sola no hace que un equipo sea inteligente, por lo que la siguiente pregunta es ¿Cómo podemos aportar inteligencia a todo ese poder de cálculo?

Segunda clave para crear AGI: La inteligencia.

La verdad es que nadie sabe cómo crear inteligencia y los expertos todavía discuten la mejor manera de conseguirlo. Hay un montón de estrategias inteligentes e inverosímiles y en algún momento una de ellas va a funcionar… o varias en conjunto. Aquí dejo las tres más famosas:

1. Plagiar el cerebro.

Hay gente trabajando duro y practicando ingeniería inversa al cerebro para averiguar como la evolución hizo lo que hizo con nosotros. Las estimaciones más optimistas dicen que se logrará en algunas décadas aunque en arquitectura de computadores se lleva imitando la estructura del cerebro desde hace tiempo con redes neuronales artificiales, usando transistores como “neuronas” que se conectan entre sí.

El cerebro, obviamente, es mucho más sofisticado y a medida que lo estudiamos, vamos descubriendo sus ingeniosos mecanismos para aprovecharlos en los circuitos neuronales. Pero yendo un poco más lejos y entrando en terrenos inexplorados, una forma de plagiar el cerebro de manera extrema sería recurriendo a una estrategia llamada “Emulación total del cerebro”, donde el objetivo es cortar un cerebro de verdad en capas delgadísimas, escanear cada una y utilizar un software para montar una versión 3D exacta del mismo que después sería emulado en un potente ordenador. Si la copia fuera realmente buena, quizá podríamos conservar la personalidad y memoria del dueño original. Me da un poco de aprensión solo de pensarlo.

¿Cómo de lejos estamos de alcanzar la emulación de todo el cerebro? Hasta ahora sólo hemos sido capaces de simular las 302 neuronas del cerebro de un gusano de 1mm de largo, (el cerebro humano contiene cien mil millones de neuronas). Si estas cifras parecen desesperanzadoras, no debemos olvidar el carácter exponencial de nuestro progreso así que lo siguiente será simular el cerebro de una hormiga, después el de un ratón y de repente el proyecto suena mucho más plausible.

2. Utilizar el poder de la evolución a nuestro favor

Si copiar el cerebro es demasiado complicado siempre nos queda la posibilidad de copiar la forma en que la evolución moldeó la inteligencia a lo largo del tiempo.  Sabemos que es posible porque nosotros estamos aquí. El hecho es que siempre que la ingeniería trata de imitar la naturaleza, nunca hacemos una reproducción exacta, si no que nos inspiramos en ella y aprovechamos sus principios. No hemos fabricado aviones que aletean cómo los pájaros pero vuelan igualmente.

Entonces, ¿cómo podemos adaptar el proceso de evolución para construir AGI?  El método se llama Algoritmos genéticos y funciona más o menos así: por un lado tenemos un proceso de rendimiento y evaluación que ejecutamos una y otra vez sobre el sistema a evaluar (de la misma manera que las criaturas biológicas viven su vida y son “evaluadas” logrando reproducirse o no). Estos sistemas tratarían de hacer tareas y los más exitosos (según los procesos de evaluación) serían seleccionados para ser “criados”. Se combinaría sus cualidades para dar lugar a sus “hijos” y estos volverían a ser evaluados. De nuevo los exitosos permanecerían y el resto serían extinguidos. Si repetimos esta iteración miles o millones de veces, reproduciríamos un proceso de selección natural que acabaría por llevarnos a sistemas inteligentes cada vez mejores. El reto está en crear un ciclo de evaluación y mejoramiento automatizado para que todo este proceso de evolución artificial funcione por sí sólo.

El inconveniente es que a la evolución le llevó millones de años hacer algo que nosotros deseamos hacer en unas pocas décadas. Pero también gozamos de algunas ventajas. En primer lugar, la evolución trabaja de forma aleatoria y produce más mutaciones inútiles que aprovechables, algo que nosotros podríamos controlar seleccionando sólo las variaciones beneficiosas. En segundo lugar la evolución no apunta a nada, explora todos los caminos y, según el ambiente, selecciona criaturas de todo menos inteligentes (después de todo cerebros más grandes usan más energía) En cambio nosotros si podemos dirigir específicamente este proceso evolutivo en una dirección concreta. Es posible que fuéramos más rápidos que la evolución pero no sabemos si seremos capaces de conseguir que todo esto sea una estrategia viable.

3. Que el ordenador se mejore así mismo.

La idea es construir un equipo capaz de acumular experiencia y usarla para mejorarse así mismo, y que partiendo de una base, averigüe cómo hacerse más inteligente. Si lo implementamos, podría ser el método más prometedor y más peligroso pero ya hablaremos de esto más adelante.

En cualquier caso, los avances en hardware e innovación se están sucediendo simultáneamente y de manera vertiginosa. Una AGI podría surgir más pronto de lo que parece. Después de todo, si se habla de crecimiento exponencial, lo que en principio se mueve a paso de tortuga acabará por desplazarse a una velocidad de vértigo. Además con relación a la ciencia, no es la primera vez que una epifanía o descubrimiento nos lleva a dar un salto de entendimiento que modifica nuestra velocidad de avance en un área concreta.

El camino de la AGI a la ASI

En algún momento, tanto sean cuarenta o cien años, lograremos AGI con un nivel equivalente al humano, pero mucho me temo que incluso equiparados intelectualmente, las AGIs tendrán ventajas significativas a su favor:

Hardware

Velocidad. La información de las neuronas del cerebro funcionan a 200 hz, mientras que los procesadores de hoy en día lo hacen a 2 Ghz, unas 10 millones de veces más rápido. La comunicación interna de nuestro cerebro se mueve a unos 120 m/s y es ridícula en comparación con la comunicación óptica a la velocidad de la luz.

Tamaño y Almacenamiento. El cerebro posee un tamaño determinado, no demasiado grande por varios motivos biológicos, por ejemplo su gasto energético, que debe mantenerse lo más bajo posible (economía energética de la naturaleza)  Esta limitación no tiene porqué sufrirla un cerebro artificial que puede ser mucho más grande, y poderoso.

Fiabilidad y Durabilidad. Los transistores informáticos son más precisos que las neuronas biológicas y menos propensos a deteriorarse. Además pueden ser reparados o remplazados en caso de avería. Los cerebros humanos también se fatigan mientras que las computadoras pueden funcionar a pleno rendimiento 24/7.

Software

Editabilidad, y capacidad de actuación. A diferencia de un cerebro humano, los programas informáticos pueden recibir actualizaciones y correcciones. Las mejoras también podrían extenderse a zonas donde el cerebro es particularmente débil. Por ejemplo, el “software” de la visión humana es extraordinario mientras que su hardware (el sistema óptico en sí) deja mucho que desear comparado con otros tipos de visión.

Capacidad colectiva. Los seres humanos han hecho un gran trabajo para desarrollar su inteligencia colectiva como especie. Comenzando con el desarrollo del lenguaje y la formación de grandes comunidades, avanzando a través de la escritura, la imprenta y ahora más intensamente con internet; la inteligencia colectiva de la humanidad es una de las principales razones por las que hemos podido llegar tan lejos. Pero los ordenadores nos harían parecer unos aficionados. Un gran red mundial AGI podría sincronizarse para beneficiarse de la experiencia colectiva casi instantáneamente e incluso trabajar en conjunto como una sola unidad por un objetivo común.

Como ya se ha dicho en este artículo, algunas de las estrategias para alcanzar la AGI implican algún tipo de auto-mejora.  Si una hipotética AGI está programada para mejorarse no tiene ningún motivo para detenerse en el nivel humano. Y teniendo en cuenta las ventajas sobre nosotros,  no es descabellado decir que nos dejará atrás muy pronto.  ¿Y que pasa después de eso?

Una explosión de inteligencia: Auto-superación recursiva.

Digamos que hemos creado un sistema de inteligencia artificial a un cierto nivel, tipo “Tonto del Pueblo” con el objetivo de mejorar su propia inteligencia. Este sistema lo consigue y llega a Nivel Einstein. Ahora todo le resulta más fácil por lo que puede realizar saltos más grandes consigo mismo, y por tanto mejora más y más deprisa. La AGI pronto se convierte en una ASI. Podemos considerar el fenómeno como una explosión de inteligencia y un ejemplo de la ley de rendimientos acelerados.

Existe cierto debate sobre cuando construiremos una inteligencia de propósito general y cientos de científicos coinciden en que esto no ocurrirá antes de 2040. Pero desde que pase, es una posibilidad plausible que la progresión de AGI a ASI suceda en un lapsus.

Un sistema 200.000 veces más inteligente que un ser humano no es algo que podamos entender ¿De qué será capaz algo así? De cosas impensables, sus caminos serán inescrutables. Por lo que a nosotros respecta es casi equivalente a un Dios omnipotente en la tierra y la pregunta más importante es:

¿Será un Dios bueno?