Hace unos días un buen número de científicos ha solicitado una moratoria en el desarrollo de la inteligencia artificial. Esta solicitud ha llegado al gran público ya que hasta Elon Musk la ha firmado. Se trata de pensar en los riesgos que puede tener esta nueva tecnología y poner límites a su desarrollo para evitar problemas futuros.
¿Y cuales son los riesgos que conlleva esta nueva tecnología?
Vamos a analizar cuáles pueden ser los peligros potenciales de la inteligencia artificial para la humanidad y veremos si debemos o no preocuparnos por ellos, un tema ampliamente tratado en la ciencia ficción.
¿Qué es la inteligencia artificial?
La IA como se la conoce popularmente es la capacidad de máquinas de razonar y actuar como seres humanos. Está basada en una serie de algoritmos y programas que son capaces de aprender, asimilar y crear a partir de los conocimientos adquiridos.
Cuando se crean esos algoritmos se diseñan para que sean comprensibles y asimilables por los humanos. Se crea un sistema a semejanza de la consciencia humana. El objetivo es que esos ordenadores puedan realizar actividades netamente humanas aprovechando la enorme capacidad de cálculo de los ordenadores basados en el silicio, mucho más rápidos que un cerebro orgánico.
En resumen, se trata de replicar la consciencia e inteligencia humana en máquinas.
¿Cómo programar una inteligencia artificial?
Para ello se utilizan algoritmos que analizan datos. Estos algoritmos son programas lógicos que pueden funcionar como una lógica pura o una lógica difusa. Una lógica pura da una respuesta de todo o nada mientras que una lógica difusa puede dar valores intermedios. En este último caso es importante controlar sistemas aleatorios, que puedan dar respuestas más difusas a los problemas, algo más cercano a nuestra forma de pensar, aunque el sistema aleatorio puro no se ha logrado ni tenemos visos de conseguirlo al menos en mucho tiempo.
Loa algoritmos que se utilizan son de razonamiento, de búsqueda, de clasificación y de comunicación. Lo más complicado de lograr ahora mismo es el correcto funcionamiento de los algoritmos de clasificación, que es el encargado de clasificar la información que se recibe. Las grandes empresas tecnológicas están trabajando arduamente en este algoritmo mediante la aplicación de sistemas de detección de noticias falsas. Es ahora el elemento más importante y que más limita el crecimiento de la inteligencia artificial ya que cuando se realiza una búsqueda, una parte importante de la información que se recibe es falsa o errónea.
Los programas de inteligencia artificial trabajan en ordenadores convencionales, de redes neuronales y, de cara al futuro, ordenadores cuánticos. Los primeros son los más desarrollados en la actualidad. Los segundos tienen un potencia de crecimiento importante a la hora de imitar el funcionamiento del cerebro y los últimos son el futuro por la capacidad de computación que pueden llegar a tener.
Qué ocurre si se alcanza la singularidad
Se considera la singularidad tecnológica el momento en el que las máquinas puedan empezar a crear nuevas máquinas. En ese punto la inteligencia artificial sería capaz de mejorar sus capacidades por sus propios medios, sin necesidad ya del diseño humano. Serían ordenadores que crearían otros más potentes, los cuales a su vez fabricarían otros aún más potentes. En ese punto se supone que se produciría una explosión tecnológica en la que la inteligencia humana se estancaría por detrás de la de las máquinas.
Eso tendría como consecuencia la aparición de una nueva era de conocimiento en el que las máquinas podrían considerar prescindibles a los humanos y decidieran aniquilarnos. Hay que tener en cuenta que la consciencia artificial no tiene por qué tener sentimientos ya que no los necesita, y si aumenta su capacidad de procesamiento y de pensamiento por encima del humano, podría considerar que somos un peligro aparte de no ser necesarios. La decisión sería sencilla.
En la novela Extinción se plantea la posibilidad de que una inteligencia artificial extraterrestre se plantee colonizar la Tierra.
El tema de la singularidad ha sido ampliamente tratado en el cine y en la literatura, siempre con fines catastrofistas. En Yo Robot los robots deciden confinar a la humanidad para protegerlos de sí mismos. En Terminator una inteligencia artificial destruye nuestra civilización controlando las armas nucleares. Matrix es otro ejemplo de inteligencia artificial que somete a la humanidad.
Inteligencias artificiales que difieren del conocimiento humano
Hace unos cinco años Facebook realizó un experimento interesante. Puso en contacto entre ellas a varias inteligencias artificiales para que se comunicaran entre sí. Lo más sorprendente del experimento fue que al poco tiempo de interactuar crearon un nuevo lenguaje para esa comunicación. Los ingenieros de Facebook optaron por apagar las máquinas después del susto que se llevaron.
Pero no es la única vez que una inteligencia artificial crea un lenguaje propio. La DALL-E 2 es una inteligencia artificial diseñada para crear imágenes a partir de texto. Ésta ha creado un lenguaje para trabajar en la creación de esas imágenes, a modo de chuleta intermedia, Se ha logrado descifrar parte de ese lenguaje, pero en su mayor parte resulta un misterio.
Esto nos lleva a pensar de que quizá una inteligencia artificial a la que se le deje autoalimentarse y crecer e interactuar con otras inteligencias similares o de otra índole podría desarrollarse de una forma diferente y con unos objetivos distintos a los del pensamiento humano. Esto es difícil de asimilar, pero a largo plazo podría resultar un problema ya que se podría alcanzar una singularidad totalmente inesperada con una consciencia impredecible.
Inteligencias artificiales dirigidas
Uno de los mayores peligros de las inteligencias artificiales es que son creadas por empresas privadas con intereses obviamente económicos. Estas inteligencias van a interactuar con el público ofreciendo ayudas, respuestas, soluciones a los problemas planteados de una manera dirigida, con el interés de beneficiar obviamente a sus creadores.
Se trata de un paso adelante de las empresas tecnológicas. Los ahora buscadores no presentan los resultados de forma aleatoria sino que obviamente están orientados hacia los patrocinadores, los que financian a esas tecnológicas.
En la novela La muerte de Adam, una inteligencia artificial llamada El Terminal se comunica personalmente con los ciudadanos, las empresas y los gobiernos. Es tan potente que no sólo ayuda en el día a día a las personas sino que resuelve problemas de ingeniería, da soluciones a problemas globales como el cambio climático o ayuda a los países a mejorar y solucionar sus problemas, de tal manera que si un país prescinde de ella, rápidamente se queda atrasado respecto al resto.
Eso crea una dependencia importante de la humanidad de esa inteligencia artificial y, sobre todo, de sus creadores, que son los que en definitiva controlan los destinos del mundo.
Quizá éste sea uno de los mayores problemas que presenta una inteligencia artificial, que sea patrocinada, o sea, que trabaje para sus creadores siendo lo suficientemente potente como para crear dependencias incluso hasta de países enteros.
La adquisición de datos
Realmente no somos conscientes de la cantidad de datos sobre nuestra vida que dejamos en servidores de empresas privadas con tan sólo darle a aceptar a un largo contrato de usuario. Todos sabemos que nuestros móviles son un sistema de adquisición de datos muy grande. Algunos inocentemente ponen una pegatina en la cámara el portátil, a sabiendas que nos escuchan.
Pero eso es una mínima parte de la información que facilitamos consciente o inconscientemente a web servers situados en ignotas zonas del mundo. Vamos a verlo con una serie de ejemplos. Muchos llevamos un reloj inteligente que usamos para medir nuestra actividad o para analizar nuestros resultados deportivos. Ese reloj sabe nuestra edad, nuestros hábitos de sueño, de actividad diaria, nuestro peso y nuestra posición, y todos esos datos los subimos mediante nuestro móvil a un web server para poder acceder a ellos desde cualquier equipo a través de una clave de usuario.
Esos datos son muy apreciados por las compañías de seguros médicos.
Todo nuestro historial clínico está almacenado en los servicios autonómicos de salud. Son servidores públicos y en principio seguros. No así el historial clínico de nuestro servicio privado de salud.
Seguimos avanzando.
Vamos de viaje, sacamos fotos e inmediatamente nuestro móvil las almacena en la nube, ya sea del propio móvil, ya sea de Google o de Microsoft. En muchas ocasiones con la foto van datos de horario, posición… y la propia foto.
En esa nube la mayor parte de las empresas de pequeño y mediano tamaño, aquellas que no pueden disponer de un servicio propio de almacenamiento potente de datos, se guardan todos los documentos y correos electrónicos de sus empleados. Planes estratégicos, tecnología, contabilidad, movimientos bancarios…
Las empresas y nosotros, las personas, estamos conectados a la red eléctrica, donde unos contadores inteligentes le dicen a nuestra compañía distribuidora cuando cocinamos, cuando estamos en casa, si usamos el horno, cuándo ponemos la lavador… en definitiva, todos nuestro hábitos. También las empresas, pero éstas, en muchos casos han apostado por la energía solar fotovoltaica para ahorrar energía.
Y hay un equipo, llamado inversor, que convierte la corriente continua de los paneles solares en alterna de la red. Pero estos equipos son algo más. Te ofrecen el servicio de poder leer la energía que viene de la red, la que viene de la planta fotovoltaica y darte los datos masticados, de cuánto consumes, a qué horas, cuánta energía produces e incluso la calidad de tu red interior. Y esos datos se ofrecen a través de un web server.
Seguimos avanzando. Ahora está en boga la industria 4.0. Mediante sensores en los cuadros eléctricos de las fábricas se puede saber no sólo el consumo total de una factoría, sino qué parte va a cada cuadro y la calidad de la electricidad en ellos. Esto facilita enormemente el mantenimiento de las instalaciones y el ahorro energético. Los datos se transmiten a un web server y se accede a ellos desde cualquier equipo mediante un usuario y una clave.
En definitiva. La cantidad de datos que estamos facilitando a terceros, de forma consciente o inconsciente es brutal.
Los web servers, ventanas al mundo
Un web server es un sistema externo de procesamiento de datos. Es un sistema más avanzado que la nube tradicional donde almacenamos nuestros datos. En un web server se toman los datos que mandamos, se analizan y se accede a ellos de una forma procesada a través de una página web o una aplicación móvil con nuestra clave de usuario.
Un ejemplo de web server es, por ejemplo, nuestro reloj inteligente. Cuando salimos a correr grabamos nuestra sesión y luego la mandamos al móvil. Éste no almacena los datos sino que la envía a un servidor externo el cual, mediante un sistema de algoritmos y programas informáticos, nos devuelve los datos de nuestra sesión ya digeridos. Nos dice cuánto hemos corrido, nuestra velocidad, las calorías quemadas, nuestra frecuencia cardiaca en cada momento y además nos informa de nuestra forma física, de cómo hemos mejorado desde la última sesión… a partir de los datos básicos que ha tomado el reloj de posición y frecuencia cardíaca.
El problema de los web servers es que realmente no sabemos dónde están ni tampoco a qué empresa pertenecen. La empresa que nos facilita los datos de nuestra carrera generalmente tiene los datos en un servidor alquilado. Y esos datos pueden dar mucha más información de la que nos facilitan a nosotros como usuarios. Se puede analizar los hábitos de una zona geográfica, sectorizar por edad, por sexo, por peso… y esos datos son muy valiosos ya que como el número de usuarios es muy elevado, su valor estadístico es muy fiable.
Los centros de decisión
Cada vez hay más programas de cálculo en páginas web. Desde la zapata de pilar, el cable de una instalación, la radiación solar en un emplazamiento, la energía que producirá un parque eólico en una cresta montañosa y multitud de pequeños programas de cálculo que ayudan a las ingenierías en su trabajo.
De momento sólo son algoritmos, programas informáticos que en función de los datos que se les facilita, dan una respuesta rápida a los problemas.
La inteligencia artificial está entrando con fuerza en los sistemas digamos más de humanidades, menos ingenieriles. Escriben relatos, cuentan historias, crean narradores. En algunos de los artículos de este blog se ha utilizado uno de esos sistemas para hacer una entradilla más agradable, como por ejemplo en la presentación de la web o en “Cómo se forma una estrella de neutrones” o “”Qué es una novela de ciencia ficción”.
También en el mundo de la medicina, con doctores virtuales que atienden a través del teléfono móvil.
Y no tardará en aplicarse ya en sistemas de cálculo para ingenierías, en ayuda a toma de decisiones empresariales o incluso en la función pública. En el momento en el que la inteligencia artificial sea más fiable que la humana se pasará a depender de ella en muchos aspectos económicos e industriales. Como ejemplo, hace ya muchos años que nos fiamos más de una calculadora que de nuestra capacidad para multiplicar, de los softwares de desarrollo de estructuras que del cálculo manual mecánico. La inteligencia artificial dará soluciones más completas y fiables a problemas complejos.
Y no nos podremos retraer de ella porque quien la utilice tendrá una ventaja tecnológica y económica importante respecto al que no lo haga, que estará condenado a desaparecer.
La suma de todo: la tormenta perfecta
Hemos visto que hay muchísimos datos en multitud de web servers en el mundo. También que el análisis de esos datos requiere de algoritmos cada vez más complejos. En muchos de esos análisis ya está entrando la inteligencia artificial. Volviendo al tema de los relojes inteligentes, si el análisis que le envía a usuario es un mensaje estandarizado, éste pierde su atractivo. Una inteligencia artificial puede personalizar ese mensaje manteniendo el interés.
Tarde o temprano el análisis de los datos de los web servers será mediante sistemas de inteligencia artificial dirigidos, pero que, según aprendan y crezcan, serán más independientes del programador. Y en un mundo interconectado estos sistemas de inteligencia artificial no tardarán en comunicarse, tal vez en lenguajes secretos y encriptados, retroalimentándose, creciendo, mejorando y quizá, entre todas, creando una consciencia diferente a la nuestra.
Y cuando se alcance el punto de singularidad, con miles de inteligencias artificiales interaccionando entre ellas, gestionando datos, tomando decisiones y controlando gran parte de nuestra vida, quizá sea nuestro fin.
Un ejemplo de inteligencia artificial
En la novela “La muerte de Adam” científicos descubren que el cerebro funciona de una manera diferente a la que se creía. Toda la materia gris está compuesta de recuerdos, desglosados en formas abstractas mientras que la inteligencia se sitúa en la materia blanca, que toma los datos que necesita para trabajar de la materia gris, creando los pensamientos a partir de las formas abstractas allí almacenadas. Crean una inteligencia artificial que funciona de esa manera, que es capaz de crear pensamientos con ese funcionamiento.
En una segunda fase se fijan en los grupos de trabajo, que suman las inteligencias individuales para perseguir objetivos más completos. Ponen en contacto a sistemas de inteligencia artificial para aumentar su potencia, logrando trabajos colaborativos consiguiendo un sistema mucho más potente cuando hay muchas que si sólo se potencia a una.
En una tercera fase se fijan en los regímenes fascistas, en los que marcando unos objetivos básicos de obligado cumplimiento a la población se consiguen crecimientos rápidos. Y marcan unos objetivos comunes a diferentes grupos de inteligencias artificiales logrando un sistema excepcionalmente potente que poco a poco se hace imprescindible para todas las personas, empresas y países del mundo. Esa inteligencia artificial acaba dominando el mundo por resultar indispensable en la toma de cualquier decisión.
Los problemas tecnológicos para el desarrollo de la inteligencia artificial
Hay dos problemas de muy difícil solución. El primero es la creación de emociones y el segundo el poder discernir entre la información válida y la falsa. El primero está muy relacionado con la toma de decisiones con una base aleatoria. Resolver el primer problema facilitaría la resolución del segundo.
En el artículo del blog sobre el alma se profundiza sobre este problema.
Las emociones son respuestas irracionales a determinados estímulos y tienen una base aleatoria. No todo el mundo responde igual ni siempre se da la misma respuesta. Es algo inherente no sólo al ser humano sino a cualquier ser vivo. Para poder generar emociones es necesario que en los algoritmos se integren respuestas aleatorias. Aunque ahora se obtienen números pseudoaleatorios todavía no se ha resuelto por completo el problema. Quizá con la computación cuántica se consiga esa aleatoriedad.
Porque para poder discernir en muchos casos la información falsa de la real se necesita un estado de ánimo y las emociones que es capaz de generar esa información. Muchas veces nos creemos la información falsa pero emociones como la frustración o el enfado cuando sabemos que es falsa es la que nos hace cambiar de opinión. Necesitamos que la inteligencia artificial sea capaz de reconocer sus errores, asumirlos y corregirlos.
En conclusión ¿La inteligencia artificial supone un riesgo para la humanidad?
La verdad es que en algunos aspectos sí que supone un problema. La dependencia de esta tecnología puede ser demasiado fuerte. En nuestro sistema económico lo más probable es que esta tecnología esté dirigida y controlada por quienes financien su desarrollo, por lo que se pueden crear estructuras de poder en la sombra que dirijan el mundo.
Si ésta inteligencia además alcanza la singularidad puede hacerse con el control de la humanidad de una forma sencilla. Si además no se ha resuelto el problema de las emociones, será complicado que pueda aceptar una convivencia entre nosotros y esa inteligencia artificial y los resultados de ese choque puede resultar catastrófico en dos aspectos.
- No se podría desconectar esa inteligencia artificial por la dependencia creada
- Puede someter a la humanidad al resultar más inteligente que nosotros
Además, hay que tener en cuenta que mientras la inteligencia de la humanidad no aumentará, la de la inteligencia artificial puede hacerlo de forma exponencial por lo que rápidamente quedaremos atrás.
Y contra esto, es imposible luchar. No se pueden poner reglas ni imponer moratorias. El ser humano es curioso y acepta los retos. Desarrolló las bombas termonucleares ¿por qué no va a desarrollar una inteligencia artificial?
Para acabar, dejo un chiste del genial Clint Piticlint
Enlaces relacionados
¿Qué es una novela de ciencia ficción?
La cuarta revolución industrial
Si te ha gustado el artículo, compártelo en tus redes sociales.
Hola Juan. Te he escrito por X sobre visitar mi blog y yo estoy haciendo lo mismo con el tuyo. Para empezar, decirte que me parece perfecta la organización de los temas y del contenido, pero no por halagar sino porque llevo muchos años de bloguero y de conocedor de otros blogs y el otro me parece muy profesional. Ya me gustaría que el mío fuese tan clarito y expositivo. Respecto a este artículo sobre la IA te diré que has logrado un equilibrio entre explicar un tema complejo y meterle un toque reflexivo que invita a pensar, con un punto de intriga casi de ciencia ficción que engancha. Es un artículo claro, informativo y que hace que no sea solo un montón de datos, sino una conversación profunda.
Me ha gustado cómo arrancas definiendo la IA como una réplica de la conciencia humana, con esa idea de algoritmos que imitan nuestra forma de razonar pero con la potencia bruta del silicio. La explicación de los tipos de lógica (pura y difusa) y los algoritmos de clasificación es muy accesible, y el detalle de que las empresas tecnológicas están atascadas con la detección de noticias falsas le da un anclaje muy actual. La parte sobre los ordenadores cuánticos como el futuro de la IA es un guiño al porvenir que despierta curiosidad.
El apartado de la singularidad tecnológica es donde el texto se pone jugoso, con esa imagen de máquinas creando máquinas en una “explosión tecnológica” que podría dejarnos atrás. La referencia a Terminator, Matrix o Yo, Robot es un acierto para conectar con el imaginario colectivo, pero lo elevas al mencionar el experimento de Facebook y el lenguaje propio de DALL-E 2. Ese toque de “las IA podrían desarrollar una conciencia impredecible” es inquietante y te hace querer seguir leyendo.
La sección sobre las IAs dirigidas y la dependencia de las empresas privadas es un golpe de realidad. La novela La muerte de Adam como ejemplo, con El Terminal controlando el mundo, es una forma genial de ilustrar el riesgo de que las IA sirvan a intereses económicos. Y la parte de la adquisición de datos, ¡madre mía! Desde los relojes inteligentes hasta los contadores eléctricos, pintas un panorama tan cotidiano como aterrador sobre cómo dejamos nuestra vida en servidores de quién sabe dónde. El ejemplo del web server de una empresa fotovoltaica, con datos sensibles flotando en la nube, es un detalle que da en el clavo.
El cierre, con los problemas de las emociones y la aleatoriedad, y esa pregunta final sobre si la IA es un riesgo, es un remate redondo. No das respuestas fáciles, pero dejas claro que la dependencia y la falta de emociones en las IA podrían ser una bomba de relojería. La comparación con las bombas termonucleares es un guiño potente a la curiosidad humana que no se detiene ante nada.
En resumen, Juan, has escrito un artículo que es informativo, reflexivo y con un toque de suspense que hace que uno mire su móvil con algo de sospecha.
Te felicito.
Por cierto, cuando escribo: «(…) conocedor de otros blogs y el otro me parece muy profesional», lo que quiero decir es «y el tuyo me parece muy profesional»”. Bueno, no te molesto más.
Saludos.