The Singularity is here

The Singularity

El concepto de Singularidad fue descrito en un paper de Vernor Vinge hace casi 25 años (es del 1993, antes del lanzamiento del primer navegador web -Mosaic- cuando internet todavía estaba en pañales). Cuando lo leí, recordé la pregunta casi de inmediato: 'where are we going?'

Vale la pena leer el paper completo, pero dejo aquí lo esencial:
Abstract: Within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended. Is such progress avoidable? If not to be avoided, can events be guided so that we may survive? These questions are investigated. Some possible answers (and some further dangers) are presented. [1]
[Resumen: en treinta años, tendremos el poder tecnológico de crear inteligencia super-humana. Poco después, será el fin de la era humana. Es evitable este progreso? Si no podemos evitarlo, pueden ser guiados los eventos tal que podamos sobrevivir? Estas cuestiones son objeto de esta investigación. Posibles respuestas (y otros peligros) son presentados] 

Una vez que estemos cerca de ese momento, los acontecimientos se irán acelerando:
When greater-than-human intelligence drives progress, that progress will be much more rapid. In fact, there seems no reason why progress itself would not involve the creation of still more intelligent entities -- on a still-shorter time scale ... ideas themselves should spread ever faster, and even the most radical will quickly become commonplace ... the Singularity moves closer as we accelerate through the critical speed. [1]
[Cuando la inteligencia super-humana impulse el progreso, este progreso será mucho más rápido. De hecho, no hay razón para creer que ese progreso no derivará en la creación de entidades aún más inteligentes -en una escala de tiempo menor ... ideas se propagarán aún más rápido, e incluso las más radicales rápidamente serán comunes ... mientras nos acercamos a la Singularidad, esta tiende a acelerarse]

Y a pesar del impacto creciente en nuestras vidas, nos tomará desprevenidos:
As we move closer to this point, it will loom vaster and vaster over human affairs till the notion becomes a commonplace. Yet when it finally happens it may still be a great surprise and a greater unknown. [1]
[En la medida que nos acerquemos a ese punto, se propagará de manera importante sobre nuestras vidas hasta ser algo de impacto en lo cotidiano. Aún así, cuando ocurra, igualmente será una sorpresa y traerá confusión]

Hasta que hacemos un último gran invento:
Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an "intelligence explosion," and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the _last_ invention that man need ever make. [1]
[Definamos una máquina ultra-inteligente como una máquina que puede sobrepasar ampliamente el intelecto de un hombre inteligente. Siendo que el diseño de máquinas inteligentes es una actividad intelectual, esa máquina ultra-inteligente podrá diseñar máquinas aún más inteligentes; habrá entonces una explosión de inteligencia y la de los hombres quedará rezagada. Entonces, esa primera máquina ultra-inteligente será la -última- invención del hombre]

Y debemos desechar los viejos modelos:
For the human point of view this change will be a throwing away of all the previous rules, perhaps in the blink of an eye, an exponential runaway beyond any hope of control. Developments that before were thought might only happen in "a million years" (if ever) will likely happen in the next century. I think it's fair to call this event a singularity ("the Singularity" for the purposes of this paper). It is a point where our old models must be discarded and a new reality rules. [1] 
[Desde el punto de vista humano, este cambio desecha toda regla anterior, a lo mejor en un abrir y cerrar de ojos, exponencialmente se desvanece cualquier posibilidad de control. Desarrollos que ocurrían "en un millón de años", serán posibles en el próximo siglo. Creo que es justo llamar a este evento una singularidad (la Singularidad a propósito de este paper). Es un punto donde nuestros modelos deben ser desechados y surgen nuevas reglas] 

E inclusive estima una fecha:
Let me more specific: I'll be surprised if this event occurs before 2005 or after 2030. [1] 
[Déjame ser más específico: estaría sorprendido si el evento ocurriera antes del 2005 o después del 2030]. 

¿Es realmente posible?

Pasaron algunos años, y la discusión pasó a analizar la probabilidad real de que algo así ocurriera, y cuándo podría suceder. El siguiente gran impulsor de la Singularidad fue Ray Kurzweil: se apropia del término y lo hace popular, principalmente haciendo algunas predicciones acerca del momento e impacto de la Singularidad.

Y así, unos 15 años después de la aparición del paper, se empezaba a difundir el concepto, con preguntas del tipo "es realmente posible?". Después de varios artículos publicados en medios más masivos (dejo algunos links interesantes: NYT, Wired, IEEE, Blogs), yo comentaba en un post en este mismo blog acerca de los aspectos que más me llamaban la atención. No sólo estaba entusiasmado de ver discusiones del antiguo paper en medios más masivos, sino que estaba seguro que ocurriría en poco tiempo, y me interesaban las consecuencias filosóficas y antropológicas de algo de tal magnitud.


En un futuro lejano?

Uno de los principales argumentos a favor de la Singularidad es que la tecnología detrás de los procesadores evoluciona exponencialmente (como  lo había definido Gordon Moore en otro paper, este del '65 -más conocido como Ley de Moore). El mismo Ray Kurzweil también es ferviente propulsor de una idea parecida, la Ley de Rendimientos Acelerados. En la medida que el desarrollo tecnológico avanza a pasos agigantados en los últimos años -confirmando ambas leyes- la discusión empieza a moverse a '¿cuándo ocurrirá?'. De vuelta, Ray Kurzweil hizo su apuesta: para el año 2029 una computadora sería capaz de pasar el Test de Turing. Junto a él, varios autores que defienden la tesis que el cambio se viene acelerando y estamos cada vez más cerca de la Singularidad (cuestión de unos pocos años).


Y entonces cómo nos preparamos?

Debido a que los cambios serán tan profundos, impactando en la vida de todos, muchos científicos y especialistas están alertando que debemos prepararnos e influir proactivamente en ese momento. John Smart (científico y futurista) es uno de los principales propulsores de la idea de prepararnos para el cambio acelerado.

Recientemente se realizó un Congreso llamado "Beneficial AI 2017" donde importantes científicos especialistas en el tema tuvieron una discusión llamada "Superintelligence: Science or Fiction?". En el video se puede ver a Elon Musk (fundador de Tesla Motors, SpaceX, SolarCity, OpenAI, Hyperloop), Ray Kurzweil (futurólogo, inventor y escritor citado anteriormente), Demis Hassabis (neurocientífico y diseñador de juegos), Sam Harris (filósofo y neurocientífico), Nick Bostrom (filósofo transhumanista), David Chalmers (matemático, científico congnitivo y filósofo), Jaan Tallinn (físico teórico y programador), Stuart Russell (científico de la computación), Bart Selman (científico de la computación) y Max Tegmark (cosmólogo). Todos están de acuerdo que muy pronto ocurrirá lo que aquí definimos como Singularidad, y básicamente discuten cómo la civilización debe prepararse para ese momento. 


The Singularity is here!

Pero la Singularidad no necesariamente es solo un punto en el tiempo, puede durar meses o años como todo proceso de cambio en la historia. En algunos ámbitos ya está aquí, y en otros llegará muy pronto. Tal vez el punto sin retorno será cuando los algoritmos de AI creen solitos mejores algoritmos de AI, y algunos científicos ya afirman haber logrado esta hazaña.

La aparición de servicios que están disponibles en la palma de nuestras manos, como Whatsapp, Facebook, Uber, Airbnb, Alexa y otros servicios, cambiaron completamente las reglas de juego existentes hasta hoy. La industria de contenidos (música y películas por ejemplo) cambió radicalmente con la introducción de los medios digitales. Primero vino el mp3, luego Napster, iTunes y recientemente el Spotify o Netflix. Quién podía predecir hace 20 años que los grandes sellos musicales como Warner, EMI, Sony perderían tanto poder, o que un gigante como Blockbuster iría a la bancarrota?

Los avances producidos por el BigData y el Machine Learning (que gracias a la enorme cantidad de información que producimos todos los días, acerca de nuestro comportamiento, agendas, movimientos, trabajo, compras, etc, y los modelos predictivos creados a partir de ellos) nos permitieron llegar a un punto en que las máquinas son mucho mejores que nosotros para definir reglas y comportamientos. Los nuevos modelos de negocio son impensables sin estas máquinas. Ya vemos en la mayoría de las industrias, que las máquinas son una pieza fundamental de competitividad. En poco tiempo tendremos máquinas capaces de hacer cada una de nuestras actividades cotidianas mejores que nosotros. Sí, piense un momento. Cada actividad que realices hoy. Tu trabajo. Enseñar una tarea a tu hijo. Un deporte. Entretenimiento. Arte. Sí, todo!

Los avances son cada vez más acelerados, las curvas de adopción, apogeo y descarte más pronunciadas, las transformaciones más brutales. Estamos preparados como sociedad y como personas para el momento que vivimos?

Después de casi 10 años, vuelvo a querer discutir lo mismo, la implicancia Filosófica de tener computadoras similares (sean que nos simulen o sean iguales a nosotros, que es otra discusión) o quizás aún más inteligentes que nosotros; y la Antropológica, cómo nos afecta como seres humanos?, dejaremos de ser homo-sapiens para transformarnos en algo más?, ocurrirá la especiación?, seremos varias especies con modos de vida completamente distintos?

Hay varias teorías y posibilidades y muchos autores nos compartieron su visión acerca de lo que creían que se venía, ya sea en novelas, ensayos, papers o conferencias; desde Aldous Huxley en "A Brave new World" (traducido como Un Mundo Feliz), publicado en 1932, hasta los días actuales, cuando el historiador israelí y autor del libro "Homo-Sapiens" Yuval Noah Harari, publica en el 2016 un libro llamado "Homo-Deus - una breve historia del mañana", donde menciona la post-humanidad (libro que recién estoy leyendo, pero su teoría no parece muy alentadora, como la gran mayoría de los divagues sobre el tema. El más positivo que encontré hasta hoy es el de Francis Fukuyama, "El Fin del Hombre -consecuencias de la revolución biotecnológica"). Y desde todas las ciencias se está tratando de entender el fenómeno de la incertidumbre, encuentro una relación con la visión de la modernidad líquida de Zygmunt Bauman.

Ya no sé si la pregunta sigue siendo la misma que me hacía la pareja hippie, una madrugada de enero del año 2000, en la Washington Avenue en Miami Beach, con la inscripción "¿where are we going?" escrita en un plato descartable o si la respuesta es "42". Tiendo a ser negativo, a orillas del Aqueronte ya leo la famosa inscripción en la puerta de Dante, aunque todavía no la crucé.

----------
[1] Vinge, Vernor. "The Coming Technological Singularity: How to Survive in the Post-Human Era". Vision21 Symposium - NASA Lewis Research Center and Ohio Aerospace Institute (March 1993).

Comentarios

Entradas más populares de este blog

Y después de simular el cerebro?

Where are we going?

Internet para todos

El debate ético