El sueño tecnológico de la «inteligencia general artificial» es visto por algunos como un futuro cambio de juego para el desarrollo económico. Pero también podría representar una amenaza existencial para la humanidad, un desafío conocido como el problema de «control». Esta columna argumenta que, por lo tanto, es esencial considerar cuidadosamente todas las implicaciones de las políticas públicas.
El mundo ha progresado espectacularmente en el desarrollo económico y hay optimismo de que el camino hacia el progreso continúe. Steven Pinker reflexiona sobre una gran cantidad de medidas para ilustrar este progreso. Steven Radelet hace eco de esto y nos recuerda que «la pobreza mundial está cayendo más rápido hoy en día, que en cualquier otro momento de la historia de la humanidad». Nick Bostrom también calcula que, si se pueden mantener las tasas de crecimiento económico de los últimos 50 años, el mundo será 34 veces más rico en el 2100 que ahora.
Existe consenso en que, sin la innovación tecnológica, este progreso en el desarrollo económico no hubiera sido posible. Los países y las regiones que no han utilizado suficientemente la tecnología han tendido a quedarse atrás. Diego Comin y sus coautores encuentran que «el 78% de la diferencia en el ingreso actual entre África y Europa occidental se puede explicar por las diferencias en la tecnología que ya existían desde el año 1500 DC».
Joel Mokyr y Matt Ridley creen que el progreso económico continuará. Ridley espera que el “ritmo de la innovación se redoblará y la evolución económica elevará los estándares de vida del siglo XXI a niveles inimaginables, ayudando incluso a las personas más pobres del mundo a satisfacer sus deseos y necesidades”.
En los últimos años, especialmente desde el 2007 hemos visto un resurgimiento en el “optimismo tecnológico” debido a la aparición de nuevas tecnologías tales como plataformas digitales, Internet de los Objetos, nanotecnología, ingeniería genética, materiales inteligentes y, quizás lo más importante, inteligencia artificial (IA). Como explica el libro de New Scientist, IA se refiere a “máquinas que actúan inteligentemente… cuando una máquina puede tomar la decisión correcta, en circunstancias inciertas, se puede decir que es inteligente”.
Ha habido un progreso rápido en IA como resultado de aumentos exponenciales en la potencia informática, la disponibilidad de grandes datos, la computación en nube y el desarrollo de algoritmos de aprendizaje automático.
Las empresas de plataformas digitales, incluidas Apple, Amazon, Facebook y Google, las cuales confían en, innovar invierten mucho en IA, por lo que se han convertido en las compañías más valiosas del mundo. PwC pronostica que estas aplicaciones de IA agregarán un 14% al PIN global para el 2013, un total de $15.7 billones.
Pero estas aplicaciones aún no son muy inteligentes, y no se están acercando para nada a la inteligencia humana. Por lo tanto, toda la IA que existe en la actualidad a menudo se denomina IA “estrecha” en comparación con el sueño aún lejano de una “inteligencia general artificial” (IGA), que será una verdadera súper inteligencia.
Mientras que la estrecha inteligencia artificial puede aportar muchos beneficios al desarrollo económico (como se discutió recientemente en una Conferencia del Banco Mundial sobre “Inteligencia Artificial para el Desarrollo”) es la invención potencial de una Inteligencia General Artificial, lo que algunos ven como un cambio de juego en el futuro para el desarrollo económico.
El punto en el cual la Inteligencia General Artificial excederá la inteligencia humana es denominada, “singularidad” por Raymond Kurzweil. Algunos economistas como William Nordhaus, creen que después de esto, «el crecimiento económico se acelerará bruscamente a medida que un ritmo cada vez mayor de mejoras caiga rapidamente a través de la economía».
Pero hay una advertencia importante. Cualquiera que sea la empresa de alta tecnología o el laboratorio gubernamental que logre inventar la primera Inteligencia General Artificial, obtendrá la tecnología que dominará el mundo. Este potencial premio “el ganador se lo lleva todo” plantea el fantasma de una carrera competitiva (de armas) por una Inteligencia General Artificial.
El problema es que una carrera como tal puede resultar en una Inteligencia General Artificial poco favorable o no favorable, que no esté alineada con el bienestar humano, un problema conocido en el campo de la IA como el problema de «control» o «alineación». Una Inteligencia General Artificial tan desalineada podría destruir a la humanidad, ya que puede llegar a ser mal utilizada por terroristas, dictadores o podría beneficiar sólo a las élites.
El optimismo sobre la marcha del desarrollo económico puede verse desilusionado por la capacidad misma, la innovación tecnológica, que lo originó en primer lugar.
Para arrojar más luz sobre el problema de control, hemos desarrollado un modelo de una carrera armamentista de Inteligencia General Artificial basada en un “concurso de pago total”.
A través de nuestro análisis, establecemos los siguientes resultados: Primero, en una carrera en la que el ganador se lo lleva todo, donde los jugadores deben invertir en investigación y desarrollo (I + D), sólo participarán los equipos más competitivos. Por ello, dada la dificultad de la Inteligencia General Artificial, es poco probable que la cantidad de equipos competitivos sea muy grande, una conclusión positiva, dado que el problema de control se vuelve más complicado mientras más equipos compiten.
En segundo lugar, es importante la intención de los equipos que compiten en una carrera de IAG, así como la posibilidad de un premio intermedio. Este último proporcionará incentivos para la inversión en I+D y, por lo tanto, la calidad de la IA, pero también mejorará la probabilidad de que se invente una Inteligencia General Artificial y, por lo tanto, hará que el control público sea aún más urgente.
Recomendamos que los gobiernos utilicen impuestos sobre IA y las contrataciones públicas. La función de la contratación pública de innovación por parte de las principales entidades adjudicadoras centrales, como la Unión Europea y las agencias gubernamentales de los Estados Unidos, podrían utilizarse para:
- Promover la coordinación, cooperación y transparencia en el desarrollo de IA;
- Ayudar para financiar costos elevados irrecuperables en I+D para una IA amigable;
- Promover el estado general de conocimiento público sobre IA; y
- Garantizar el acceso y la difusión del conocimiento y las herramientas en IA, incluida su comprensión pública.
Si bien se ha escrito mucho sobre las herramientas y técnicas que hacen posible la IA, y se escribe más sobre el posible impacto en el desarrollo, se escribe mucho menos sobre los instrumentos de política pública para dirigir el desarrollo de la IA en interés del desarrollo económico. Nuestro trabajo comienza a llenar este vacío.
