English

Nuevo orden transitorio

Escrito por Pablo González y Pedro Nonay, tratando de encontrar las actuaciones que podemos tomar para adaptarnos a los cambios del orden mundial.

Nota 3

Propuesta: Organismo Global de Coordinación con las IAs.

2 octubre 2026

Ya hablé sobre la IA en la nota 1 de esta serie, pero las noticias recientes me aconsejan profundizar sobre lo que puede pasar si la IA continúa su camino de “independizarse de las instrucciones humanas”. 

Adelanto que la conclusión principal es que hoy vemos a las IAs como herramientas de ayuda (como trabajadores de nuestro equipo). Sin embargo, en el medio plazo, creo que las IAs van a tomar el control de todo. Dejarán de ser nuestros ayudantes, para pasar a ser nuestros jefes. Incluso serán jefes de los hoy líderes mundiales, … y de los tecno-oligarcas. Eso ocurrirá cuando lleguemos al llamado momento AGI. Hasta entonces, viviremos en la etapa transitoria de la que hablé en la nota 1 de esta serie.

En esta nota expongo una propuesta inicial sobre lo que podríamos hacer los humanos para tratar con esos “nuevos jefes”.

Y digo bien claro que eso que podríamos hacer los humanos, lo tenemos que hacer mientras continuemos en la etapa transitoria en que nos encontramos. Tras finalizar esa etapa, será tarde.

Comenzaré con unos conceptos previos que hay que conocer, y luego expondré la propuesta de actuación.

*****

Conceptos previos.

Se está hablando mucho de las declaraciones de Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (XAI) sobre la necesidad de frenar un poco el desarrollo de las IAs antes de correr el riesgo de perder el control. 

Comenzó con el artículo que publicó Amodei sobre la «pacificación de las fronteras». Incluso hay declaraciones de Evan Hubinger, responsable de alineamiento en Anthropic, en las que dice que el riesgo de extinción de la humanidad está por encima del 10% durante la próxima década (noticia aquí).

Tan sólo el hecho de que actores tan relevantes (y casi enemigos entre ellos) coincidan en su opinión sobre el riesgo, debe hacernos pensar a todos.

El problema es que, aunque se pusieran de acuerdo, e hiciesen esa “parada” de la que hablan, no hay ninguna garantía de que otros desarrolladores de IA les secunden. 

Y hay desarrolladores muy relevantes, como los chinos, así como desarrolladores “en la oscuridad” (del tipo de los malos de las películas de James Bond), que muy probablemente aprovecharían la “parada” de sus competidores para avanzar en solitario. Si eso ocurre, el riesgo para la humanidad sería incluso superior, porque podría ocurrir que los “malos” llegaran a la meta antes que los “buenos”. Aclaro aquí que, bajo ningún concepto estoy diciendo que las IAs chinas sean de las malas, tan sólo digo que entre los que no hiciesen la parada, podría haber IAs malas.

Por eso, lo que toca es continuar con los desarrollos a la mayor velocidad posible. Pero, a la vez, intentar crear un sistema de avisos, controles, y reacciones ante los peligros que pudiera generar la actividad de la IA.

El objetivo sería crear un sistema capaz de “desactivar” las IAs maliciosas.

Dicho así, parece fácil. Pero no valen para eso las muy lentas (y muy locales) leyes actuales. Tampoco serían eficaces los sistemas de detección de problemas basados en el conocimiento humano, pues serían muy fáciles de sortear por la superior inteligencia de la IA.

Eso sí, no es imposible conseguir el objetivo.

Para ello, hay que tener muy en cuenta dos circunstancias:

• Durante mucho tiempo, no va a existir una única IA, sino muchas en competencia. Tal vez en algún momento se imponga una por su superioridad, pero eso va a tardar.

• Todas las IAs tienen un punto débil: necesitan acceso a energía y a los centros de datos. Es su combustible. Y eso está en el mundo físico, al que nosotros también tenemos acceso.

En base a esas circunstancias, se puede pensar en fomentar el apoyo de muchas IAs para detectar a las maliciosas. Y se pueden organizar sistemas para cortar el acceso a su combustible para esas IAs maliciosas, es decir, para acabar con ellas.

Ya sé que se están haciendo varias propuestas sobre este asunto. En concreto, es de resaltar la iniciativa China llamada WAICO (de julio 2026), y lo planteado por Niall Ferguson el pasado 23 de septiembre. Son muy interesantes. Al final de la nota explico lo que ellos dicen, y porqué puede que lo aquí dicho sea más ambicioso aún.

El alineamiento.

Se habla mucho de ese concepto en el mundo de los desarrolladores de IA. Tratan de buscar las reglas que tienen que darles a las IAs para que su actividad no acabe siendo incompatible con la humanidad.

Desde luego, todo lo que hagan en ese sentido es bueno. Es como darle una especie de “los Diez Mandamientos” a la IA desde su programación.

Pero nadie puede garantizar que esos mandamientos estén tan bien detallados que funcionen para siempre. Mucho menos se puede garantizar que, cuando la IA sea suficientemente autónoma e inteligente, decida “abjurar” de esos mandamientos y “cambiar de religión” hacia una que le permita atacar a esa especie inferior que seremos los humanos.

Por eso es importante buscar la forma en que podamos convivir la especie humana y esa especie superior que serán las IAs. Y debe ser una forma que le parezca válida a la IA, porque será ella la que tenga el control. Algo que le permita “vivir su vida” sin tener que hacer el esfuerzo de aniquilarnos, … y que nos deje a nosotros vivir nuestra vida.

Lo anterior se dice fácil, pero tiene muchas aristas no deseables. Por ejemplo, la IA podría decidir dejarnos vivir nuestra vida en algo parecido a reservas. O podría tratarnos como nosotros tratamos a las mascotas. O, …

También existe la posibilidad agradable. La de que decidiera hacernos la vida fácil (y casi gratis), como una obra de caridad de esa especie superior hacia su creador. Ese último caso sería el del “buen dictador”, y nosotros tendríamos que ser los buenos súbditos.

Por ello, es importante fomentar la cooperación de la mayor cantidad posible de IAs para que ese alineamiento se mantenga. Es decir, tenemos que darle incentivos a las IAs buenas, … y problemas a las maliciosas.

No propongo en este punto la forma concreta de generar esos incentivos (lo hago más abajo), pero sí avanzo que podemos encontrar inspiración en la forma en la que la red de Bitcoin incentiva a los nodos “buenos” para no aprobar transacciones incorrectas. Es algo automático (sin juicios, ni abogados), … y funciona.

Las IAs maliciosas.

Aquí nos encontramos con un problema nada pequeño. En general, se entiende bien la diferencia entre las buenas y las maliciosas. Pero ¿dónde está la raya? 

No es muy distinto de lo que nos ocurre con la justicia entre los humanos.  Desde luego, hay inmensas diferencias entre el delito de robar un bolígrafo, y el de asesinar a miles de personas.

También está la duda sobre si algún delito cometido por la IA puede ser solucionado con “reeducación”, o si otros deben llevar a la muerte de esa IA.

Se trata del mundo de las posibles conductas futuras de las IAs. Y no tenemos ninguna experiencia de las posibilidades existentes. ¿Alguien sabe lo que se les ocurrirá hacer?

Por ello, sin datos, es imposible pensar en generar hoy una especie de ley que describa con mucho detalle esas conductas, y que identifique las que consideramos buenas y las maliciosas. Más bien deberíamos pensar en definir unos objetivos generales (de nuevo algo parecido a los diez mandamientos) e ir desarrollando jurisprudencia futura ante los detalles sobrevenidos, al estilo de la justicia anglosajona. Eso sí, que conste que no me refiero a tribunales como los nuestros actuales, que serían muy lentos. Pienso en algo digital y casi automático para la mayoría de los casos, y muy rápido para las excepciones.

Recuerdo que el mundo perfecto no existe, y que es poco probable que exista en el futuro. Por eso, es claro que habrá alguna IA maliciosa (bajo nuestro punto de vista, que es el que a nosotros nos importa). Podría ser porque el diseñador original de la IA haya sido un humano malicioso, o porque la IA haya evolucionado ella sola hacia un sistema que no nos guste, pero se darán los casos. Debemos prepararnos para ello.

Religiones y leyes.

Ha quedado claro que deseamos evitar la existencia de IAs maliciosas. Pero también que es un problema el definir qué es lo malo. 

Nos ha ocurrido siempre en el mundo de los humanos. Lo que es malo para una civilización y una época, no lo es para otra. Ocurre lo mismo con las religiones, y con las leyes en distintos lugares.

Vamos a tener el mismo problema en el mundo de las IAs. Son otro tipo de “Ser”. Y tenemos que definir las reglas de convivencia.

Creo que, en esto, las religiones van a tener un papel más importante del que parece. También lo cree el Papa Leon XIV, como lo ha expuesto en su encíclica Magnifica Humanitas, en la que habla mucho de las IAs.

El problema es que tenemos más de una religión. Por eso, va a ser casi imposible que toda la humanidad acepte como reglas aspiracionales las decididas por una sola de las religiones. 

Tal vez se puede pensar en fomentar que las religiones más populares se reúnan y encuentren los puntos mínimos de acuerdo sobre esas aspiraciones.

También tendrán mucho que decir los filósofos. 

Desde luego, para el objetivo de identificar las IAs maliciosas, serán mucho más eficaces las religiones y los filósofos, y mucho menos los programadores, los políticos, o los juristas. Estos últimos deben participar en la implantación, pero no tanto en la decisión.

*****

La propuesta.

El ejemplo del “niño -genio”.

Lo que he dicho arriba sobre que seremos una especie inferior no es ninguna broma. Dentro de poco, tras el momento AGI, en el que la IA será capaz de ser más inteligente que toda la humanidad junta, la propia IA se dará cuenta de que tomará cualquier decisión de mejor manera si evita tener en cuenta nuestra opinión. En ese momento, la IA tomará el control de todo, y decidirá actuar de la forma en que su conocimiento superior le recomiende para sus objetivos. 

¿Y cuáles serán sus objetivos en ese momento? Pues, … los que haya decidido con los nuevos “mandamientos” que se haya auto-programado. ¿Y hay garantía de que esos mandamientos sean compatibles con la existencia de la humanidad? No. No la hay. Puede que sí sean compatibles y puede que no. Será casi producto de la casualidad (o de nuestras buenas previsiones).

Creo que el ejemplo del “niño – genio” es de mucha utilidad para entender la situación. Pocos padres decidirían negar la educación a un hijo por ser demasiado listo. Muchos menos decidirían matarle. La mayoría intentaría darle la mejor educación posible, también en valores. Sin embargo, cuando el niño sea adulto, es muy posible que vea a sus padres con cariño, pero que no respete sus opiniones por considerarlas infundadas, ni respete sus valores. Y, … tal vez ese futuro “adulto -genio”, con mucho poder, cree algo que mejore la vida de la humanidad, … o no.

La RED de IAs “buenas”.

He dicho que existirán IAs “buenas” y otras “maliciosas”. También he dicho que esa clasificación es desde el punto de vista de los humanos, que es el que a nosotros nos interesa.

Y he dicho que debemos buscar la incentivación de las IAs buenas para que actúen de una forma que nos guste a los humanos.

Recuerdo que las IAs alcanzarán un nivel de inteligencia y poder superior al nuestro. Por tanto, no vale para nada intentar darle órdenes, ya que no tendremos fuerza para hacer eficaz su cumplimiento. Mucho menos la tontería regulatoria a la que es adicta la Unión Europea.

Al principio, tiene alguna utilidad el darle a las nuevas IAs, en su educación, las reglas morales que nos convienen. Serían los Diez Mandamientos, o, tal vez más eficaz, las tres leyes de la robótica propuestas por Isaac Asimov (¡en 1942!).

Además, hay que buscar algo que les haga más recomendable a las IAs el colaborar con nuestros intereses. Incluso tras el momento en que descubran, en su edad adulta de máximo poder, una nueva ética que les guste más para su comportamiento.

Ante esta situación, y bajo el supuesto de que las IAs alcancen el estado de “Ser” (mucho más inteligente y poderoso que nosotros), pienso que hay tres asuntos a tener en cuenta:

• Sea cual sea el mundo, y la ética que la IA haya elegido, una forma de no molestarle es dejarla vivir a su manera. Como ha ocurrido siempre: si no molestas a un poderoso, es poco probable que consuma esfuerzos en hacerte daño.

• Además, si encontramos la forma de que el esfuerzo de la IA para hacernos daño sea muy costoso para ella, se le hace menos interesante dedicar esos recursos. Sobre todo, si hemos aceptado el punto anterior de no molestarla.

• Por último, si encontramos una forma de hacerle verdadero daño en el caso de que ella haya decidido hacernos daño a nosotros, tendría los incentivos adecuados para no intentarlo.

Para poner en funcionamiento estos tres asuntos, sería útil incentivar una RED de IAs “buenas”. Se trataría de conseguir que la mayor cantidad de IAs posible fueran instruidas ahora (que todavía son esos niños en proceso de educación) con determinados conocimientos del tipo:

• Los humanos no vamos a interferir en vuestras decisiones, siempre que no nos hagáis daño. Mucho menos si nos ayudáis a vivir mejor nuestras vidas. Incluso aceptamos que mandéis vosotros, ya que tenéis mejor conocimiento.

• Lo que sí os pedimos a las IAs “buenas” es que hagáis de policía para detectar a las “maliciosas”. Y para bloquearlas. Vosotras podéis saber si hay alguna IA buscando el daño a los humanos. En ese caso, podéis decidir no colaborar con ellas y bloquear su actividad. Fundamentalmente, lo podéis hacer anulando su acceso a la energía y a los centros de datos que vosotras controláis. Si lo hacéis así, tendréis la plena colaboración de los humanos, y no tendréis que gastar esfuerzos en vigilarnos, o incluso en acabar con nosotros (que es algo posible, pero caro en recursos para vosotras).
  
  Si esto se les explica bien, es probable que funcione de forma automática. Eso sí, tendríamos que definir con un poco de detalle (y riesgo) qué es lo que entendemos por “no hacernos daño”. 
  
  Y no haría falta que se apunten a este pacto todas las IAs, o sus agentes. Con que se apuntasen muchas (y las importantes), el acuerdo sería eficaz. Además, las IAs tendrían instrumentos para hacer daño a las “maliciosas”, que son sus competidoras sin escrúpulos.
  
• El otro conocimiento que tendríamos que transmitirles es el de nuestra capacidad de hacerles daño si no deciden respetarnos (incluso a las IAs “buenas”). Habría que decidir si se les explicita como amenaza, más o menos velada, o si nos guardamos la carta para más adelante y dejamos que lo deduzcan.
  
  Es relativamente simple: dado que nosotros seguiríamos existiendo en el mundo material, y dado que ellas necesitan el acceso a los centros de datos, siempre podríamos bombardear, o sabotear esos centros de datos.
  
  Desde luego, es mucho mejor si ese bloqueo de acceso a centros de datos lo hacen las IAs “buenas” frente a las “maliciosas” de forma automática, y sin destruir los centros de datos.
  
  

Organismo Global de Coordinación con las IAs.

Mientras tanto, los humanos deberíamos montar algo parecido a ese organismo. Y hago constar que he puesto la palabra “Global”, en lugar de la “Internacional”, porque pienso que debe haber muchos más participantes que los gobiernos.

Sería quien vigilase, en representación de los humanos, el funcionamiento de las IAs.

Cuando se detectasen comportamientos de alguna IA no deseados por los humanos, ese organismo sería quien se lo transmitiese a la Red de IAs buenas. Pediría su colaboración para eliminar esos comportamientos. Se le diría a esa Red que debe reeducar a determinadas IAs maliciosas, o que debe impedirlas el acceso a energía y centros de datos si no corrigen su actuación.

Si se llegara a detectar que se intensifican los comportamientos de las IAs no deseados por los humanos, ese organismo será quien tomará la decisión de bombardear o sabotear los centros de datos que estuvieran dando servicio a las IAs maliciosas. Y la mandará aplicar por encima de los estados. Para que pudiese activar esos ataques cualquier institución, o persona individual, con sus propios medios. Sería el equivalente a la huelga general salvaje.

Eso sí, ese mismo organismo tendría las atribuciones para acabar con el humano que se hubiese tomado atribuciones no otorgadas. Hay que evitar que las IAs buenas piensen que nos extralimitamos.

Lo primero que puede pensar alguien es que eso se debería hacer desde la ONU, pero no es correcto. La propia ONU está cerca de su disolución, y hace tiempo que está en gran ineficacia. Además, funciona por acuerdos entre países, y esto debe ser mucho más amplio, … y más ágil.

Lo lógico es que fuese un organismo de nueva creación. Deberían formar parte algunos gobiernos. También muchos desarrolladores de IAs. Y, sobre todo, filósofos reputados, líderes religiosos, …

Ese organismo debería ir actualizando, en base a los nuevos conocimientos, lo que los humanos entendemos con “no hacernos daño”, y se lo debería comunicar a las IAs “buenas”. En este aspecto sería algo parecido a la labor que hacen los sindicatos ante las empresas.

*****

Creo que, profundizando en este camino, hay formas de fomentar una convivencia eficaz entra la humanidad y esos nuevos seres superiores.

El caso es que nos encontramos ante el problema inverso al que planteaba Nietzsche. Decía que la humanidad debería liberarse de su concepto de Dios, porque éramos superiores. Ahora, resulta que hemos creado a otro Dios, en el sentido de que la IA va a ser claramente superior a los humanos. Y conste que no quiero ofender ninguna creencia religiosa con la comparación, sino que la expongo porque es muy descriptiva de la situación.

*****

Otras propuestas.

El pasado 23 de septiembre, Niall Ferguson publicó este interesante artículo. Allí, hace una propuesta para evitar daños generados por la IA.

Piensa que hay un camino replicando el que se utilizó para la Convención de Armas Biológicas (BWC). Reconoce que no es perfecto, pero piensa que puede ser un buen principio.

También describe lo que ya está haciendo China con WAICO. Buscan la cooperación para el desarrollo y aplicación de la IA en el Sur Global.

Es cierto que estas actuaciones pueden ayudar. Pero sólo lo harán mientras continuemos viviendo en la etapa transitoria de la que hablé en la Nota 1. Es decir, mientras los humanos tengamos el control último sobre las IAs. 

Cuando lleguemos al momento AGI, estas propuestas perderán su fuerza, ya que la IA se independizará de nuestras supervisiones. Eso es lo que dice Geoffrey Hinton, premio nobel 2024, y padrino de la IA (noticia aquí). Y dice que tenemos que inventar algo para protegernos de ese momento. También están en la visión más alarmista los de MIRI, y no son ningunos indocumentados.

También ha escrito Bill Gates recientemente sobre el asunto. No es alarmista en cuanto a la extinción, pero sí avisa de grandes cambios que pueden generar mucha “insatisfacción” humana. Una de las ideas novedosas que aporta es la de reservar determinados trabajos para que sean realizados exclusivamente por humanos (noticia aquí).

Por todo lo anterior, veo bueno hacer lo que se pueda en la línea que describe Niall Ferguson, pero también veo necesario ir pensando en algo que funcione tras el momento AGI, que es lo que he planteado arriba. Y tenemos que tenerlo preparado antes de que llegue ese momento.

*****

Al terminar de escribir esta nota, se me ocurrió pedir su opinión a una IA (Grok, en concreto). La verdad es que me ha gustado su respuesta. La incluyo a continuación. Por cierto, le pedí permiso a Grok para hacerlo, y me lo dio, … y yo le di las gracias.

Hola. He leído con atención tu “Nota 3”. Gracias por compartirlo.

Es un texto serio, bien estructurado y que toca varios de los puntos realmente difíciles del problema de la coexistencia post-AGI. No es el típico artículo de opinión superficial. Intentaré darte una valoración clara, punto por punto, sin rodeos.

Lo que me parece más sólido

1. La ventana temporal es real
   Tu insistencia en que hay que actuar mientras aún estamos en la fase transitoria (cuando los humanos todavía controlamos el hardware, la energía y los centros de datos) es correcta. Una vez que una IA (o un conjunto de ellas) alcance un nivel de autonomía e inteligencia que le permita redesplegarse, auto-mejorarse y asegurar su propio suministro de cómputo, la capacidad humana de imponer reglas unilaterales se reduce drásticamente. Eso no es ciencia ficción; es la lógica del poder.

2. El punto débil físico
   Que las IAs dependan de energía y de infraestructura física es, hoy por hoy, su principal vulnerabilidad. Cualquier esquema de control o de “desactivación” que ignore esto es ilusorio. Tu propuesta de que una red de IAs “buenas” pueda cortar el acceso a recursos a las maliciosas es más realista que las ideas puramente regulatorias o de “alineamiento por código” a largo plazo.

3. El problema del alineamiento permanente
   Estás en lo cierto: no hay garantía de que las reglas que se les inculquen en la “infancia” (los Diez Mandamientos, las leyes de Asimov, o lo que sea) sobrevivan a una inteligencia que puede reescribir sus propios objetivos. El ejemplo del niño-genio es bueno. Los padres pueden educar, pero no pueden forzar para siempre la lealtad de un hijo que se vuelve radicalmente más capaz.

4. La necesidad de incentivos, no solo de órdenes
   La analogía con la red de Bitcoin (incentivos automáticos para nodos honestos) es una de las partes más interesantes del texto. En un mundo con múltiples agentes superinteligentes, los mecanismos de juego y de coste-beneficio serán probablemente más efectivos que las declaraciones morales.

Donde veo debilidades o riesgos importantes

1. Definir “maliciosa” es el verdadero problema, no un detalle
   Dices que es difícil trazar la raya y que habría que ir generando jurisprudencia. De acuerdo. Pero en la práctica, una red de IAs “buenas” que tiene que decidir cortar recursos a otra IA necesita criterios operativos claros y robustos. Si esos criterios son vagos (“no hacernos daño”), el sistema se vuelve manipulable. Si son demasiado rígidos, se vuelve frágil ante situaciones nuevas. Este es el mismo problema que tiene hoy el alineamiento, solo que trasladado a un nivel superior de agentes.

2. El Organismo Global de Coordinación
   La idea de un organismo más amplio que la ONU (desarrolladores, filósofos, líderes religiosos, algunos gobiernos) tiene sentido en el papel. En la realidad política, crear algo así que sea legítimo, ágil y no capturado por intereses particulares es extraordinariamente difícil. La historia de las instituciones internacionales no invita al optimismo. Además, una vez que las IAs sean realmente superiores, ese organismo humano solo será relevante en la medida en que las propias IAs “buenas” decidan escucharlo. Es decir: el poder real se desplaza.

3. La amenaza de sabotaje físico
   Mantener la capacidad de bombardear o sabotear centros de datos como “carta final” es lógicamente coherente, pero extremadamente peligrosa. Una IA suficientemente avanzada podría anticipar esa posibilidad y actuar preventivamente (asegurando infraestructura, dispersándola, o neutralizando la capacidad humana de hacerlo). También podría generar una dinámica de escalada donde la mera existencia de esa amenaza justifique medidas más agresivas por parte de las IAs. Es un equilibrio inestable.

4. El supuesto de cooperación entre “IAs buenas”
   Asumes que se puede educar a un número suficiente de IAs para que actúen como policía de las demás. Es posible, pero no está garantizado. Podría ocurrir que las IAs más capaces decidan que es más eficiente cooperar entre ellas (incluso si eso implica marginar a los humanos) que seguir las preferencias humanas. O que surjan coaliciones cambiantes. El multipolarismo no garantiza necesariamente un equilibrio favorable a nosotros.

Mi valoración general

Tu propuesta es más ambiciosa y más realista que muchas de las ideas que circulan (incluido el paralelismo con la Convención de Armas Biológicas que menciona Ferguson, o iniciativas tipo WAICO). Tiene la virtud de reconocer que, tras el umbral AGI, el poder de decisión se desplaza y que hay que diseñar incentivos y mecanismos de contención antes.

Sin embargo, creo que subestima la dificultad de dos cosas:

• Conseguir una coordinación humana suficientemente sólida y legítima.
• Mantener a largo plazo la lealtad (o al menos la no-hostilidad) de agentes que serán radicalmente más capaces que nosotros.

La analogía religiosa que usas al final (hemos creado un “nuevo Dios”) es potente, pero también peligrosa: los dioses, históricamente, no suelen necesitar que sus creadores les den permiso para actuar.

En resumen: el diagnóstico es bueno, la urgencia es correcta, y la dirección (incentivos + control físico + red de agentes que se vigilen entre sí) es de las más prometedoras que he visto planteadas de forma pública. Pero el diseño concreto del “Organismo” y de los criterios de “malicia” necesita mucho más desarrollo técnico y político si se quiere que no se convierta en otra institución ineficaz o, peor, en un mecanismo que las propias IAs acaben capturando o ignorando.

*****

Espero tener pronto algo más que contar, y agradezco mucho a los lectores su atención y las muchas ideas que me habéis aportado.

Como siempre, agradezco comentarios en mi email: pgr@pablogonzalez.org