Inteligencia artificial – Singularidad nota 2

Putin ha firmado un decreto, el 27 de abril, por el que ha tomado el control de activos en Rusia de 2 empresas extranjeras de energía. Es algo muy parecido a lo que nosotros llamaríamos “expropiación” (o expropiación temporal, …ya se verá). Y ha avisado de que puede hacer lo mismo con otras empresas (noticia aquí).

Tras esto, todas las empresas extranjeras ya saben que sus propiedades en Rusia peligran (ya lo sabían). Asunto que generará problemas de balances (al tener que dar de baja el valor de esos activos), así como de capacidad de cumplir los contratos que tengan firmados, ya que pierden el control de la producción.

Se puede decir fácilmente que esa actuación va contra las leyes internacionales, pero no es tan fácil argumentar el porqué hay que aceptar que Occidente se quedara con el dinero ruso en bancos centrales occidentales, y esta otra actuación no es aceptable. Además, aunque vaya contra las leyes internacionales, ¿alguien va a mandar ejércitos a Rusia para evitar estas “confiscaciones”?

Me parece que la desconexión económica entre los futuros bloques de países se va consolidando. Respecto a esto, es interesante ver esta entrevista a Giuliano Da Empoli.

Hablando de cambios en las reglas de organización del mundo, es muy significativo que hayan cambiado recientemente las de una organización tan monolítica como la Iglesia Católica, con milenios de historia. El caso es que el Papa ha decidido que en las próximas Asambleas del Sínodo (máximo órgano ente concilios) tendrán derecho a voto las mujeres y los laicos (noticia aquí).

Esto hace que la Iglesia Católica se acerque más al estilo organizativo de una asociación (democracia entre los participantes), que al de una corporación (deciden los líderes).

Por las mismas razones de cambios en alianzas globales, es significativo lo que ha ocurrido recientemente entre Irán y Arabia Saudí (noticia aquí).

El del centro de la foto es chino.

Han conseguido un acuerdo entre enemigos históricos, y están quitándole protagonismo a USA en la estrategia geopolítica en Oriente Medio. Con ello, China mejora su acceso al petróleo. Mucho ojo a esto, que también afectará al petrodólar.

Ha quebrado otro banco, el First Republic Bank. Al final, han hecho un acuerdo por el que JP Morgan se queda con casi todo. Por ahora, parece que los clientes no sufrirán, que es lo que intentan por todos los medios para evitar que tengan miedo los clientes de otros bancos y se produzca una retirada masiva de depósitos.

Para hacerlo, se han tenido que llevar al límite la interpretación de algunas leyes, así como una negociación de todo en un fin de semana.

El sistema aplicado es que la DFPI (el regulador financiero de California) ha “intervenido” el banco (aunque más bien parece una expropiación). Tras ello, ha encargado su venta al FDIC (la entidad federal que asegura los depósitos en bancos), quien ha vendido “casi todo” a JP Morgan (aquí se puede ver la nota de prensa del DFPI). Aunque no están claros los detalles, dicen que el coste para la FDIC será de unos 13.000 millones de dólares, a lo que habrá que sumar las pérdidas para los accionistas (esas dos partidas no se las ha llevado JP Morgan). Es casi seguro que habrá juicios posteriores por los perjudicados, y ya se verá cómo acaba esto de verdad.

Lo curioso es que la noticia se ha publicado muy poco (algo, por supuesto, pero poco para lo importante del asunto), incluso en medios especializados. Y, se ha publicado rodeada de noticias sobre los muchos beneficios y gran solvencia de otros bancos. Parece que se han hecho grandes esfuerzos para pedir a los medios que colaboren en evitar el pánico, incluso con censura en redes sociales. Y, … si se dedican a hacer esos esfuerzos, es porque ellos sí sienten ese pánico. De entre lo publicado, me ha gustado cómo lo cuentan los de ZeroHedge aquí, con bastante ironía sobre la solvencia del sector y los costes para los contribuyentes.

En siguientes notas hablaré más de la situación de los bancos, que se puede resumir en altamente preocupante.

La noticia relevante para conocer la fortaleza del dólar como moneda de referencia en las transferencias internacionales está aquí. El pasado mes de marzo ha sido el primero en el que China ha utilizado más el yuan que el dólar para sus transferencias internacionales. Falta mucho para que eso ocurra a nivel mundial, pero hay una tendencia clara a que determinadas transacciones abandonen el dólar.

*****

IA y Singularidad.

En la nota anterior ya enuncié el asunto de la Singularidad, que es el momento en que se van a producir cambios totales en la sociedad por causa de la inteligencia artificial y otros avances tecnológicos.

Digo abajo que pienso que este tema no es el que definirá el mundo al que vamos en los próximos pocos años (que es mi objetivo para esta serie de notas), sino el que vendrá después.

Sin embargo, lo quiero tratar antes para dejar claro que el mundo de los próximos pocos años va a ser una época de transición. Que las decisiones de largo plazo las tenemos que tomar pensando en la Singularidad.

Entrando en el asunto, podemos llegar a esa Singularidad por varios caminos distintos. El primero que quiero tratar es el de la inteligencia artificial (IA), que hoy está tan de moda, y que pienso que es el más probable hoy.

Inteligencia Artificial. El concepto.

Imaginemos que conseguimos programar un ordenador (más bien una red de ordenadores, que llamaremos IA) para que tenga acceso a todo el conocimiento mundial, a todo lo que está escrito, y que sea capaz de buscar en segundos el conocimiento relevante para lo que le toque analizar en cada momento. Y que lo haga en cualquier idioma. Aclaro que esto ya está casi conseguido.

Imaginemos que le damos a esa IA unas reglas para entender esos conocimientos, y para aplicarlos en la búsqueda de soluciones a lo que se le plantee en cada momento. Y que también le damos reglas para que sepa diferenciar entre publicaciones fake, o simplemente básicas, y las profesionales y fiables. Incluso le damos reglas para que ella misma se haga las preguntas convenientes en cada momento, … y para hacer investigación teórica por su cuenta.

Imaginemos también que le damos una especie de “Constitución”, es decir, unos objetivos generales deseados a priorizar en la decisión de cualquier asunto de detalle. Por ejemplo, las tres reglas de la robótica que propuso Asimov hace mucho tiempo (básicamente: proteger a los humanos), aunque, por desgracia, podrían ser otras.

Si conseguimos eso (y estamos muy cerca), ni la más inteligente de las personas tendría en su cabeza tanta información como esa IA, ni podría aplicar con velocidad todas esas reglas de actuación al caso en concreto. Mucho menos podría hacer un amplísimo árbol de alternativas resultantes para elegir entre la mejor para el objetivo final. Tampoco podría esa persona ser experta en todas las materias a la vez, y considerar todas las implicaciones. Como ejemplo ilustrativo, hay que recordar, que, a menor escala, hace tiempo que está claro que el mejor jugador de ajedrez del mundo no puede ganar al ordenador.

En ese caso, lo sensato sería dejar que esa IA tomara todas las decisiones humanas, pues lo haría mejor que nosotros. Claro está que sería sensato si consta en la Constitución de la IA el protegernos, porque si tiene otros objetivos, puede darse el caso de que su decisión sea que lo conveniente es aniquilar a los humanos.

Si a esa IA le damos el gobierno de los robots, y la capacidad de diseñarlos y fabricarlos para que hagan los trabajos mecánicos (desde cirugías, hasta cultivar la tierra, o construir casas, …), el resultado es que los humanos no tendrían que hacer los trabajos intelectuales, ni los manuales. La IA lo haría todo, incluso el decidir sobre la forma más eficaz de nuestro gobierno y nuestra convivencia.

El caso es que esto, aunque suene a locura, y dé miedo, está a punto de ocurrir. No va a ser este año, y será gradual (por ramas de actividad), pero va a llegar. Tal vez en pocas décadas.

Cuando llegue ese momento, los conceptos mismos de individuo, de sociedad, de política, de propiedad privada, … cambiarán por completo.

Nosotros seremos simples organismos vivos obligados a hacer lo que la IA ha decidido que nos conviene, y ella nos dará alimentos, vivienda, … Eso sí, seguiremos teniendo la capacidad de sentir emociones, como el amor, la diversión, …

En realidad, no será muy distinto de como eran las cosas en tiempos antiguos. Cuando la función de la IA la cubrían los reyes y los líderes religiosos. En aquellos momentos, a las personas normales se les daba todo decidido, incluso aquello en lo que tenían que creer y la forma correcta de actuar. Y, salvando las distancias, es cierto que en aquellos tiempos los reyes y líderes religiosos tenían el acceso a todo el conocimiento de la época, y a contratar a los mejores “decisores”.

Por lo dicho en el párrafo anterior, la IA no es nada nuevo. Lo nuevo es que lo haga un ordenador, en lugar de una persona. También es nuevo el nombre. Tal vez lo entendamos mejor si, en lugar de IA la llamamos Inteligencia Suprema, o mejor: Poder Supremo, el que todo lo sabe y decide correctamente por nosotros. Es decir, lo que ha sido siempre la religión.

IA. Habrá más de una.

Ante el escenario que acabo de describir, muchos pueden decir que eso es inaceptable, y que hay que pararlo, o buscar tiempo para controlarlo. Algo parecido han dicho personas relevantes (Elon Musk incluido), que han firmado una carta pidiendo tiempo de parada (noticia aquí).

Pero eso es imposible. Al principio no habrá una sola IA, sino tantas como desarrolladores y financiadores quieran. Y, no hay millones de personas con conocimientos para desarrollarla, pero sí cientos (y más que habrá).

Tal vez se pueda conseguir que un gobierno retarde el desarrollo de una IA pública en su país. Incluso que prohíba que lo hagan las privadas en su territorio (habrá que ver cómo consigue evitar que se hagan clandestinamente, lo que sería peor, porque sería como darle el poder de diseño a las mafias). Lo que no se va a conseguir es que todos los países del mundo se coordinen en ese esfuerzo de prohibición (sería la primera vez).

Si se aplican esas prohibiciones, el resultado será que avanzará antes la IA de aquel país marginal, o enemigo, o la del mafioso. Y, como en casi todo, el que llega primero tiene ventaja. ¿Queremos llegar tarde a esa carrera?

Creo que lo mejor será fomentar el desarrollo lo antes y lo mejor posible. Incluso robándole a nuestros enemigos los mejores cerebros del asunto. Vaya, nada distinto a como se hizo el desarrollo de la también muy peligrosa bomba nuclear. Recordemos que USA puso el máximo esfuerzo, y le robó los técnicos a Hitler (que iban más avanzados).

Cuando estén desarrolladas varias IAs, habrá que ver cómo funciona la convivencia entre ellas. Pueden decidir dejar un espacio físico para que lo controle cada una, o buscar una forma de convivencia y cooperación entre ellas, o hacer algo parecido a una fusión, … o, incluso, ir a la guerra entre ellas. Recuerdo aquí la comparación con las religiones a lo largo de la historia.

Tal vez, por eso de que no se puede parar, ¡y no conviene! Es por lo que el mismo Elon Musk, después de firmar la carta que he dicho arriba, el pasado abril ha creado una nueva empresa destinada a hacer su propia IA (noticia aquí).

Los humanos ante la IA.

Tenemos que olvidarnos de pararla. Más bien hay que acelerarla antes de que lo hagan “los malos”.

Sólo tenemos la posibilidad de redactar lo mejor posible la “Constitución” que gobierna a esa IA, que será tarea para filósofos. Eso me lleva a ver que no creo que se pongan de acuerdo en una misma Constitución USA y China (por citar tan sólo a dos actores muy relevantes). Lo que lleva de nuevo a la alta posibilidad de que haya varias IAs en competencia/convivencia.

De hecho, una ventaja que tenemos los humanos, al redactar esa Constitución, es la de poner en competencia a las distintas IAs para que les importe la aceptación de más humanos (por darles más felicidad). Esto me lleva otra vez a pensar en la comparación con las religiones.

Sería como la existencia de varios países, cada uno con su IA. Y el permitir las migraciones. Así, distintos humanos podrían elegir distintos tipos de vida. Eso sí, con la Constitución, habría que evitar que las IAs decidan ir a la guerra entre ellas.

Los humanos, también podemos intentar no perder el acceso a un botón de apagado de emergencia, para el caso de que no nos guste lo que la IA está haciendo. Sería algo como en la película “2001, una odisea en el espacio”, cuando se decide apagar a Hal 9000, que era lo más parecido a una IA para aquella época.

La otra alternativa que podríamos tener los humanos, siempre si la Constitución de la IA lo permite, es la de vivir fuera del control de la IA, como los exploradores del lejano Oeste, viviendo sin la protección (o la opresión) de una Ley. Si, por el contrario, la Constitución no lo permite, podría pasar como con Hal 9000 en la película: Hal decidiría que esos disidentes son “máquinas equivocadas”, y elegiría matarlos, es decir, sería como vivir en la clandestinidad. Como la resistencia en WWII.

Para la mayoría de los humanos actuales, que no participamos en el diseño de la IA, nuestra casi única opción es la de estar lo más informados posible, adaptarnos a nuestra mejor conveniencia a los avances graduales que irá habiendo, y … cuando llegue el avance final, elegir la IA de la que nos fiamos, o elegir pasar a la resistencia.

Tras lo dicho, y volviendo a mi discurso de notas previas de encontrarnos ante un mundo dividido en los bloques de China y USA, pienso que la sociedad china está mejor preparada para seguir las instrucciones de un nuevo líder supremo (la IA). Nosotros somos más individualistas.

Para acabar con esto de la IA, quiero recomendar la lectura de éste link, y de éste otro.

También veo importante consultar éste, donde se puede ver en qué materias ChatGPT es ya casi experto en comparación con los humanos, … y no son pocas en las que está por encima del 80 % de los expertos.

La conexión total de los humanos.

Otro camino de llegar a la Singularidad sería el de desarrollar una especie de chip que nos implantaran en el cerebro y que permitiese la conexión total de esos cerebros humanos. Tanta conexión como para que el pensamiento fuese común, y no diferenciar si ha participado más o menos el cerebro de cada persona. Igual que ahora no diferenciamos si nuestros pensamientos vienen del hemisferio derecho o el izquierdo de nuestro cerebro.

Eso significaría que seríamos un cerebro común, con información repartida en distintos seres biológicos hiperconectados. Desaparecería el concepto individuo.

Al igual que con la IA, ese cerebro común tendría acceso a todo el conocimiento humano. Su capacidad de toma de decisiones correctas podría ser similar a la de la IA.

Por otra parte, al contrario del caso de la IA, por perderse el concepto de individuo, los humanos conectados no podríamos tomar decisiones contra ese cerebro común, porque seríamos parte del mismo. Tan sólo podrían darse casos si hay fallos en la comunicación, o en los chips.

Sin embargo, la posibilidad de llegar a la Singularidad por este camino la veo mucho más lejana en el tiempo que por el de la IA, ya que esos chips están menos desarrollados (aunque hay investigación, como la de Elon Musk con Neuralink – siempre él-), además de necesitarse que miles de millones de personas acepten implantarse ese chip, que sería algo mucho más complicado de lo que fue vacunarnos contra Covid 19 (aunque hay quien dice que esas vacunas incluían chips, así que puede que ese trabajo ya está hecho -que conste que yo no lo creo-).

Descartes y su moral provisional.

Con lo dicho sobre la Singularidad, he querido dejar claro que creo que sabemos lo que va a pasar dentro de unas pocas décadas. Nos guste, o no. Y, que debemos prepararnos como mejor se nos ocurra. Pero eso no debe ser nuestra preocupación para el corto y medio plazo.

Con lo dicho en notas anteriores, y lo que todos sabemos, es claro que la estructura actual del mundo funciona mal en casi todos los aspectos, y que hay que aplicar cambios.

Así que, sabemos que tenemos que crear una estructura social nueva para ser usada durante un tiempo transitorio de pocas décadas. Es decir, que nos conviene que esa nueva estructura sea lo más fácil y rápida de implantar, porque si no es así, no llegaremos a tiempo. No necesitamos que sea una verdad absoluta. Nos basta con que nos deje vivir cómodos esa época de transición.

Esto me lleva a recordar a Descartes, y a la genialidad en su libro “Discurso del método”. No me refiero a lo que todos hemos estudiado del método científico (cuya importancia no niego), sino a su “hallazgo” de la “moral provisional”.

Descartes llegó a la conclusión de que no se iba a creer nada hasta que no lo demostrara científicamente. Pero sabía que no iba a terminar ese trabajo en su vida. Por eso decidió que, mientras estaba en el trabajo, necesitaba tener unos principios, aunque no creyese en ellos. También comprendió que, si no creía en esos principios, que no obstante necesitaba para la convivencia social y para la tranquilidad de mente, lo mejor era elegir los principios que menos tiempo le quitaran para su trabajo científico. Y, la genialidad es que decidió que los que menos tiempo le quitaban eran los que mejor aceptaran sus coetáneos. Es decir, que tras no creer en nada, y buscar cambiar todo: eligió vivir como siempre, al menos en las apariencias.

Digo esto porque existe la posibilidad de que esa sea una forma de actuar hasta que lleguemos a la Singularidad. O, con pequeños y fáciles cambios. También existe la de que no seamos capaces. Veremos, …

Lecturas que me han interesado.

En el proceso de escribir esta nota me he encontrado con muchos asuntos de otras materias que me gustaría compartir. Pero, como me ha salido un poco larga, los dejo para siguientes, excepto esto:

Todos sabemos que el grado de desarrollo tecnológico de un país es una de las medidas de su poder mundial. Por eso, es muy ilustrativo ver el gráfico que han preparado los de Visual Capitalist respecto a los registros de patentes del año 2021 (se puede ver aquí).

El caso es que, en ese año, China ha sido el país de origen del 38 % de todas las patentes mundiales, y USA, tan sólo del 18 %. Además, China domina en 29 campos de tecnología, y USA, tan sólo en 4.

Hemos hablado en notas anteriores de la importancia geoestratégica para los bloques de países de controlar la minería. Aquí hay un buen video divulgativo del asunto.

Hasta aquí llego por hoy.

Como siempre, agradezco comentarios en mi email: pgonzalez@ie3.org