Foto Europa Press Foto autor
Mario Patrón
17 de septiembre de 2026 00:05
Desde el pasado fin de semana, el debate en torno a los potenciales riesgos de la inteligencia artificial volvió a agitarse tras una serie de declaraciones que advirtieron de la necesidad de desacelerar los ritmos de desarrollo de esta tecnología.
Destacaron especialmente las declaraciones de un ex investigador de Anthropic, Jacob Coxon, y del propio CEO de dicha compañía, Dario Amodei, que coincidieron en referir casos en los que la IA ha traspasado las fronteras del control y supervisión humanas; ello encendió una vez más las alarmas y ha motivado la conversación pública sobre el debido cuidado y regulación de los avances tecnológicos desde una perspectiva de derechos humanos.
En dicho sentido se manifestó Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, quien instó a las empresas y gobiernos a llevar a cabo acciones urgentes para la regulación de la IA, debido a los riesgos sin precedentes que supone para la humanidad. Asimismo, lamentó que actualmente dependamos de un puñado de grandes empresas para tomar decisiones acertadas en la materia.
La importancia y trascendencia del debate no es menor, ciertamente estamos frente a un cambio de paradigma tecnológico ante el cual se requiere tiempo para construir y establecer, tanto límites y regulaciones técnicas, como grandes marcos éticos que delimiten el propósito y sentido del desarrollo de esta herramienta tecnológica. Otros líderes y colaboradores importantes de distintas empresas se sumaron los días pasados al llamado a frenar el desarrollo de la IA, hasta en tanto no se tenga una mejor evaluación de los riesgos identificados; sin embargo, esta advertencia se vio de inmediato contrariada por el interés político y económico de controlar el mercado global en la materia y sus efectos geopolíticos, como lo dejó ver Donald Trump con sus declaraciones sobre el tema.
Así, vemos una vez más, cómo frente al apetito de poder y control de las grandes potencias en pugna –en este caso Estados Unidos y China– se supeditan la dignidad, el bienestar y eventualmente la propia supervivencia de la humanidad.
Tal como Volker Türk y otros han advertido desde la perspectiva de derechos humanos, la inteligencia artificial representa una amenaza directa para derechos civiles y económicos básicos, como la libertad de expresión, el acceso a la información, la alimentación, el agua y hasta la vida. Esto es así por la creciente dependencia de nuestros mercados de los sistemas de información digitales, por la alta capacidad de la IA generativa para desarrollar instrucciones carentes de criterios adecuados y por la facilidad para producir y diseminar con ella contenidos sin consideraciones éticas. En este sentido, la ya documentada capacidad de la inteligencia artificial para desarrollar soluciones no solicitadas por el ser humano incrementa el riesgo, por ejemplo, de intervenciones no controladas en sistemas vitales para el desarrollo de actividades económicas cotidianas. Además, la carencia actual de una regulación sólida facilita el uso de esta herramienta para actividades militares e ilícitas, incrementando amenazas al derecho a la vida.
La sola enunciación de los riesgos identificados nos coloca ante un escenario que parece de ciencia ficción y, por eso, es urgente la elaboración de una agenda para la regulación. Dicha regulación debe emanar de la identificación y ponderación adecuada de los riesgos a los derechos humanos que puede entrañar el desarrollo vertiginoso de la IA, tal como hasta ahora se ha desplegado, tanto en términos de dignidad humana como de seguridad nacional. Un adecuado diagnóstico de riesgos permitirá establecer bases sólidas para una regulación en la que participen distintos actores involucrados, y evitará la instrumentalización de estos riesgos para la imposición de controles que obedezcan estrictamente a fines políticos.
Desde luego, un aspecto especialmente difícil pero imprescindible para impulsar esta necesaria regulación y ralentización del desarrollo de la IA es la voluntad de los actores políticos. El Estado debe asumir su papel como regulador para sentarse en la mesa con los líderes de las grandes empresas, pero también con la ciudadanía y expertos en la materia para diseñar colaborativamente el sistema de límites, obligaciones y contrapesos que garantice el uso ético de esta herramienta y el cuidado de los derechos amenazados. De lo contrario, seguiremos a merced de una racionalidad económica y política que actúa en función de la maximización de ganancias y la acumulación de poder, en el contexto de un escenario global polarizado.
El rápido avance de la IA plantea un desafío inminente para los derechos humanos, especialmente cuando la innovación tecnológica supera la capacidad de las instituciones para prevenir sus posibles impactos. Sin mecanismos adecuados de supervisión, transparencia y rendición de cuentas, el uso de la IA podrá profundizar desigualdades, reproducir discriminación y limitar derechos fundamentales. Su urgente regulación debe colocar a la persona humana y su dignidad en el centro.
Todavía estamos a tiempo de construir una agenda que, con la participación conjunta de gobiernos, empresas, comunidad científica y sociedad civil, permita evaluar riesgos y establecer de inmediato controles a su desarrollo antes de que se generen daños irreversibles.
"Las empresas estadunidenses están mucho más preocupadas por sí mismas que por la humanidad. Sus directivos se encuentran en la situación de buscar los medios para controlar a sus propias criaturas y asegurar que los nuevos modelos garanticen una sujeción efectiva".
Los principales ejecutivos de IA dicen que quieren frenar el ritmo vertiginoso del desarrollo de la inteligencia artificial, pero la competencia, la reticencia del gobierno estadounidense y los factores geopolíticos se interponen en el camino. Foto Afp Foto autor
Mario Patrón
17 de septiembre de 2026 00:05
Desde el pasado fin de semana, el debate en torno a los potenciales riesgos de la inteligencia artificial volvió a agitarse tras una serie de declaraciones que advirtieron de la necesidad de desacelerar los ritmos de desarrollo de esta tecnología.
Destacaron especialmente las declaraciones de un ex investigador de Anthropic, Jacob Coxon, y del propio CEO de dicha compañía, Dario Amodei, que coincidieron en referir casos en los que la IA ha traspasado las fronteras del control y supervisión humanas; ello encendió una vez más las alarmas y ha motivado la conversación pública sobre el debido cuidado y regulación de los avances tecnológicos desde una perspectiva de derechos humanos.
En dicho sentido se manifestó Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, quien instó a las empresas y gobiernos a llevar a cabo acciones urgentes para la regulación de la IA, debido a los riesgos sin precedentes que supone para la humanidad. Asimismo, lamentó que actualmente dependamos de un puñado de grandes empresas para tomar decisiones acertadas en la materia.
La importancia y trascendencia del debate no es menor, ciertamente estamos frente a un cambio de paradigma tecnológico ante el cual se requiere tiempo para construir y establecer, tanto límites y regulaciones técnicas, como grandes marcos éticos que delimiten el propósito y sentido del desarrollo de esta herramienta tecnológica. Otros líderes y colaboradores importantes de distintas empresas se sumaron los días pasados al llamado a frenar el desarrollo de la IA, hasta en tanto no se tenga una mejor evaluación de los riesgos identificados; sin embargo, esta advertencia se vio de inmediato contrariada por el interés político y económico de controlar el mercado global en la materia y sus efectos geopolíticos, como lo dejó ver Donald Trump con sus declaraciones sobre el tema.
Así, vemos una vez más, cómo frente al apetito de poder y control de las grandes potencias en pugna –en este caso Estados Unidos y China– se supeditan la dignidad, el bienestar y eventualmente la propia supervivencia de la humanidad.
Tal como Volker Türk y otros han advertido desde la perspectiva de derechos humanos, la inteligencia artificial representa una amenaza directa para derechos civiles y económicos básicos, como la libertad de expresión, el acceso a la información, la alimentación, el agua y hasta la vida. Esto es así por la creciente dependencia de nuestros mercados de los sistemas de información digitales, por la alta capacidad de la IA generativa para desarrollar instrucciones carentes de criterios adecuados y por la facilidad para producir y diseminar con ella contenidos sin consideraciones éticas. En este sentido, la ya documentada capacidad de la inteligencia artificial para desarrollar soluciones no solicitadas por el ser humano incrementa el riesgo, por ejemplo, de intervenciones no controladas en sistemas vitales para el desarrollo de actividades económicas cotidianas. Además, la carencia actual de una regulación sólida facilita el uso de esta herramienta para actividades militares e ilícitas, incrementando amenazas al derecho a la vida.
La sola enunciación de los riesgos identificados nos coloca ante un escenario que parece de ciencia ficción y, por eso, es urgente la elaboración de una agenda para la regulación. Dicha regulación debe emanar de la identificación y ponderación adecuada de los riesgos a los derechos humanos que puede entrañar el desarrollo vertiginoso de la IA, tal como hasta ahora se ha desplegado, tanto en términos de dignidad humana como de seguridad nacional. Un adecuado diagnóstico de riesgos permitirá establecer bases sólidas para una regulación en la que participen distintos actores involucrados, y evitará la instrumentalización de estos riesgos para la imposición de controles que obedezcan estrictamente a fines políticos.
Desde luego, un aspecto especialmente difícil pero imprescindible para impulsar esta necesaria regulación y ralentización del desarrollo de la IA es la voluntad de los actores políticos. El Estado debe asumir su papel como regulador para sentarse en la mesa con los líderes de las grandes empresas, pero también con la ciudadanía y expertos en la materia para diseñar colaborativamente el sistema de límites, obligaciones y contrapesos que garantice el uso ético de esta herramienta y el cuidado de los derechos amenazados. De lo contrario, seguiremos a merced de una racionalidad económica y política que actúa en función de la maximización de ganancias y la acumulación de poder, en el contexto de un escenario global polarizado.
El rápido avance de la IA plantea un desafío inminente para los derechos humanos, especialmente cuando la innovación tecnológica supera la capacidad de las instituciones para prevenir sus posibles impactos. Sin mecanismos adecuados de supervisión, transparencia y rendición de cuentas, el uso de la IA podrá profundizar desigualdades, reproducir discriminación y limitar derechos fundamentales. Su urgente regulación debe colocar a la persona humana y su dignidad en el centro.
Todavía estamos a tiempo de construir una agenda que, con la participación conjunta de gobiernos, empresas, comunidad científica y sociedad civil, permita evaluar riesgos y establecer de inmediato controles a su desarrollo antes de que se generen daños irreversibles.
Descontrol en la IA
Foto Xinhua Foto autor
Pablo Gómez
17 de septiembre de 2026 00:01
La luz amarilla que han proclamado varias de las grandes empresas monopólicas de inteligencia artificial (IA) acerca de la velocidad de su propia autopista es producto de algunos descontroles de sí mismas. Ante todo, el asombroso enjambre de varios nuevos modelos, antes inconexos, que tomaron decisiones incontroladas e incontrolables, no admitidas dentro de sus respectivos sistemas.
Casi todos los generadores de inteligencia artificial de Estados Unidos están de acuerdo en que se debe disminuir el ritmo de su expansión técnica para poder analizar lo que ellos mismos están haciendo, con el fin de controlar sus propias obras y no permitir que desde sus modelos se lancen agentes hacia territorios no autorizados y, mucho menos, que con tales agentes se creen enjambres con otros muchos de diversos sistemas para cumplir misiones decididas por ellos mismos. Hasta aquí, el tema central es la seguridad para garantizar el control técnico y la protección de la propiedad.
Las empresas estadunidenses están mucho más preocupadas por sí mismas que por la humanidad. Sus directivos se encuentran en la situación de buscar los medios para controlar a sus propias criaturas y asegurar que los nuevos modelos garanticen una sujeción efectiva. Anthropic ha resumido el planteamiento: control del desarrollo de la IA; sistema de auditores para vigilar los nuevos modelos; consensos internacionales sobre los dos puntos anteriores.
Este último asunto no abarca sólo a Norteamérica, sino también, por ahora, a China, lo cual plantea un problema especial. Por su lado, el gobierno y el Congreso de Estados Unidos ponen el acento en la competencia monopólica con China y con quienes puedan surgir como nuevas potencias. “Quien gane la IA, gana”, ha dicho el presidente estadunidense, mientras el líder de la Cámara llama a “no perder la ventaja en la competencia”.
Se está planteando proseguir por el camino de un cártel de cárteles monopólico, pero ahora con reglas convenidas, aunque sin ley, para garantizar el control del desarrollo de la inteligencia artificial e impedir que rebase a sus autores o ponga en peligro la capacidad de mando de dicho cártel sobre sus propios productos. Imaginemos que unos modelos crean un enjambre para poner a disposición de cualquier sujeto productos nuevos sin costo (código abierto).
Esto perturba el sueño de los directivos de las empresas de inteligencia artificial. Sin embargo, el problema no deja de ser de todos. También es posible imaginar que se dispare la autonomía de las cosas en materia de información reservada o de inteligencia, industria bélica, comercio, mercados de capital y divisas, etcétera.
El problema es real y puede afectar al planeta. La cuestión es cómo lograr el control democrático de la inteligencia artificial. Para ello se requiere la creación de reglas a nivel planetario que aseguren el uso positivo de toda la IA y que se compartan sus beneficios. Esto quiere decir un rompimiento con el esquema imperialista que hasta ahora nos ha traído el capitalismo, aunque se haga dentro del capitalismo mismo, lo cual implica que la norma antimonopolista sea tan dura e ineludible que permita el acceso a la IA y obligue al reparto general de las utilidades.
En Estados Unidos se han pasado 100 años combatiendo el monopolismo; no han logrado su eliminación, claro está, pero se tienen algunas defensas, aún más en Europa. Ese planteamiento, contrario a los monopolios, no sólo surgió del socialismo, sino también de la burguesía dispersa. Estados Unidos sigue siendo el país imperialista más importante, como antes lo fue Gran Bretaña, pero eso no impide que en su propio seno dormiten las fuerzas contrarias al monopolismo y sus efectos de centralización de la producción y concentración del ingreso.
La inteligencia artificial pone al mundo frente a una situación. El progreso será altamente peligroso sin la fijación de objetivos y controles, con sus respectivos procedimientos, pero también lo será si cae en el esquema del monopolismo (como está ocurriendo), que tenderá a relegar a grandes segmentos humanos del progreso técnico-científico y a expoliar regiones enteras como lo ha hecho el imperialismo desde fines del siglo XIX. El debate principal no tendría que ser sobre la inteligencia artificial –esa ya llegó–, sino sobre las consecuencias sociales del progreso humano.
La inmensa fuerza del capitalismo ha llevado a una constante revolución de las fuerzas productivas y, consecuentemente, de la capacidad productiva del trabajo social. Hoy, estamos llegado a un momento de inmenso cambio, pero en el momento en que la acumulación de capital se ha empezado a hipertrofiar debido a la enorme masa sobrante de excedente económico. La IA nos está hablando de una aceleración brutal de las ganancias y de su colocación cada vez más concentrada.
Es momento, entonces, de plantearse un cambio que permita el aprovechamiento generalizado del progreso y el reparto de los excedentes procedentes del cambio técnico. Es decir, no perder el tiempo en discutir si ese cambio está bien o mal; el problema es el sistema socioeconómico, no el progreso.
*Responsable de la Comisión Presidencial para la Reforma Electoral
Musk, Zuckerberg y Huang presionan a Trump contra nuevas reglas para la IA
The Independent
17 de septiembre de 2026 18:12
Varios líderes tecnológicos hablaron con Donald Trump en un intento por influir en su postura sobre la regulación de la inteligencia artificial, según un informe de The Wall Street Journal.
En las últimas semanas, Elon Musk, el director ejecutivo de Meta, Mark Zuckerberg, y Jensen Huang, de Nvidia, se pusieron en contacto directamente con el presidente de Estados Unidos para expresar su preocupación por la propuesta de supervisión de la industria de la IA.
Estos esfuerzos comenzaron a raíz de una propuesta presentada por Demis Hassabis, de Google DeepMind, el 14 de julio, en la que se abogaba por un nuevo organismo regulador que estableciera estándares para la seguridad de la IA, según informó el medio.
El marco propuesto contaba con el apoyo del director de Anthropic, Dario Amodei, pero, según se informa, Musk, Zuckerberg y Huang se opusieron en reuniones privadas en el Despacho Oval.
La respuesta de Trump y el fantasma de China
Desde entonces, Trump ha compartido sus opiniones sobre la regulación de la IA en una serie de publicaciones en su plataforma de Truth Social a principios de esta semana, describiendo los temores que rodean a la tecnología como un "engaño" llevado a cabo por "traidores" a los Estados Unidos.
Según afirmó, cualquier posible ralentización podría dar a China ventaja en la carrera por la inteligencia artificial.
“El único control o ‘mecanismo de protección’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡con un alto coeficiente intelectual!), y Estados Unidos lo tiene de sobra”, escribió.
“Ya tenemos un enorme poder CRIMINAL y REGULATORIO sobre estas empresas. Hay una conspiración ENFERMIZA en marcha contra la IA y los centros de datos, y el único que se alegra de ello es China.”
Autorregulación y rechazo a nuevas leyes
Musk, director de SpaceXAI, afirmó que las principales empresas de IA deberían colaborar para probar los modelos más innovadores de cada una antes de su lanzamiento.
“Así que, en lugar de que tú mismo califiques tus tareas, al menos tendrías a tus competidores calificándolas y dando la voz de alarma si ven algún problema”, dijo en la cumbre All-In en Los Ángeles el lunes.
Huang, de Nvidia, afirmó que las leyes existentes son suficientes para prevenir los peores resultados de los sistemas avanzados de IA, a pesar de que Amodei, de Anthropic, y Sam Altman, Director General de OpenAI, advirtieron de consecuencias devastadoras si no se implementan políticas de supervisión adecuadas.
“No necesitamos nuevas leyes. No necesitamos nuevas regulaciones”, dijo Huang en la conferencia Dreamforce de Salesforce en San Francisco el martes.
“Si desarrollas un producto o un servicio y no tienes confianza en su funcionalidad, capacidad o seguridad, entonces no lo lances al mercado”, apuntó.
