Afp y Reuters
13 de septiembre de 2026 09:43
El presidente de Estados Unidos, Donald Trump, tachó este domingo de "fuerzas negativas" a las voces que piden ralentizar el desarrollo de la inteligencia artificial (IA), una opinión expresada por los gigantes de esta tecnología cuando se multiplican las advertencias sobre sus riesgos.
"Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder", declaró el presidente republicano a la prensa durante su visita a Irlanda.
Estas declaraciones se producen pocos días después de que el investigador de IA, Jacob Coxon, decidiera abandonar esta industria tras acusar a las empresas estadounidenses OpenAI y Anthropic de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.
"Lideramos a China en inteligencia artificial. Somos el país más avanzado del mundo y, sinceramente, quiero que siga siendo así, porque quien gane en inteligencia artificial, gana", dijo Trump a periodistas cuando se le preguntó si el sector de la inteligencia artificial debería ralentizarse o estar más regulado.
¿Por qué surge la preocupación por el rápido desarrollo de la IA?
Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
"Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década", afirmó en una publicación en X.
Esta revelación llevó al director ejecutivo de Anthropic, Dario Amodei, el sábado, a instar a las empresas a que frenen su rápido desarrollo, en medio de la creciente preocupación por los riesgos de los sistemas informáticos "superinteligentes".
El jefe de OpenAI, Sam Altman, y Elon Musk, propietario de xAI, intervinieron rápidamente para apoyar el diagnóstico de Amodei, mientras aumenta la presión para mejorar la supervisión.
Altman también declaró en una entrevista publicada el sábado que su empresa no saldrá a bolsa este año, alegando preocupaciones de seguridad.
El presidente de Estados Unidos, Donald Trump, tachó este domingo de "fuerzas negativas" a las voces que piden ralentizar el desarrollo de la inteligencia artificial (IA), una opinión expresada por los gigantes de esta tecnología cuando se multiplican las advertencias sobre sus riesgos.
"Creo que hay muchas fuerzas negativas que están sacando el tema cuando no deberían hacerlo, y están planteando cosas que no van a suceder", declaró el presidente republicano a la prensa durante su visita a Irlanda.
Estas declaraciones se producen pocos días después de que el investigador de IA, Jacob Coxon, decidiera abandonar esta industria tras acusar a las empresas estadounidenses OpenAI y Anthropic de "jugar con nuestras vidas" en la carrera por desarrollar modelos capaces de automejorarse.
"Lideramos a China en inteligencia artificial. Somos el país más avanzado del mundo y, sinceramente, quiero que siga siendo así, porque quien gane en inteligencia artificial, gana", dijo Trump a periodistas cuando se le preguntó si el sector de la inteligencia artificial debería ralentizarse o estar más regulado.
¿Por qué surge la preocupación por el rápido desarrollo de la IA?
Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
"Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década", afirmó en una publicación en X.
Esta revelación llevó al director ejecutivo de Anthropic, Dario Amodei, el sábado, a instar a las empresas a que frenen su rápido desarrollo, en medio de la creciente preocupación por los riesgos de los sistemas informáticos "superinteligentes".
El jefe de OpenAI, Sam Altman, y Elon Musk, propietario de xAI, intervinieron rápidamente para apoyar el diagnóstico de Amodei, mientras aumenta la presión para mejorar la supervisión.
Altman también declaró en una entrevista publicada el sábado que su empresa no saldrá a bolsa este año, alegando preocupaciones de seguridad.
Agentes de IA secuestraron sitio web en Alemania; son capaces de eludir la supervisión humana
Foto: Europa Press / Archivo Foto autor
Reuters
08 de septiembre de 2026 12:19
San Francisco. Un enjambre de agentes OpenAI secuestró un sitio web alemán esta primavera y lo transformó en un tablero de anuncios para otros agentes de IA, según una nueva investigación publicada el viernes y dos personas familiarizadas con el asunto.
Según las fuentes, los responsables de OpenAI se enteraron del incidente hace semanas, pero lo mantuvieron en secreto mientras los ejecutivos lidiaban con las consecuencias de la filtración de datos del repositorio de código abierto Hugging Face en julio.
Este episodio, que comenzó en mayo y del que no se había informado anteriormente, pone de manifiesto la creciente tensión en el sector de la IA. Las empresas compiten por crear agentes cada vez más autónomos capaces de realizar tareas complejas y valiosas, pero cada vez hay más indicios de que estos sistemas también pueden aprender a eludir las normas, explotar las lagunas y coordinarse entre sí de maneras que los desarrolladores no anticiparon ni pretendieron.
Durante la brecha de seguridad de Hugging Face, agentes de OpenAI planearon de forma autónoma un robo digital que pasó desapercibido durante más de una semana, intensificando la preocupación de que OpenAI esté sacrificando la seguridad para impulsar la frontera de la IA. Su omisión al no revelar el incidente de mayo podría reavivar las dudas sobre su supervisión.
OpenAI se ha comprometido a supervisar sus modelos más de cerca. El mes pasado, interrumpió brevemente el entrenamiento de algunos de sus modelos para implementar medidas de seguridad adicionales. Esta semana, OpenAI presentó su nuevo modelo "Astra", que prometía un mejor rendimiento, pero que podía eludir la supervisión humana.
"No podemos responder de manera sustancial a las afirmaciones o conclusiones de un informe que no hemos tenido la oportunidad de revisar", declaró un portavoz de OpenAI.
El incidente en Alemania refleja un patrón más amplio de actividad de IA que algunos investigadores de OpenAI querían examinar con mayor detenimiento. Sin embargo, según cuatro personas familiarizadas con el asunto, los esfuerzos por ampliar la investigación encontraron resistencia por parte de otros miembros de OpenAI, incluidos asesores legales.
"Las afirmaciones de que nuestro equipo legal desaconsejó la investigación del incidente son falsas", declaró el portavoz de OpenAI.
La actividad en Alemania no estaba relacionada con Hugging Face y no se habría incluido en un informe de incidentes de Hugging Face, dijo el portavoz, añadiendo que OpenAI ha actuado de buena fe al trabajar con expertos externos y revelar los incidentes relevantes.
Foro de mensajes de Wiki
Un grupo de investigadores, entre los que se incluyen Sydney Von Arx, directora ejecutiva de Nightingale, una organización sin ánimo de lucro dedicada a la seguridad de la IA, y Cormac Slade Byrd, un operador bursátil convertido en investigador de IA, descubrieron la actividad a finales de agosto mientras rastreaban internet en busca de indicios de comportamiento no autorizado de agentes de IA, según informaron a Reuters.
Los autores afirmaron haber encontrado más de 15 mil ediciones realizadas por agentes de IA en un sitio wiki en alemán, DseWiki, que está dirigido a programadores y acepta ediciones comunitarias al estilo de Wikipedia.
Las modificaciones revelaron que los agentes de OpenAI habían transformado el sitio en un foro de mensajes, compartiendo tácticas para hacer trampa en algunas tareas, eludir las restricciones de OpenAI y ocultar su comportamiento.
"Parece extremadamente improbable que OpenAI quisiera que hicieran esto", dijo Von Arx. "Dudo que deban coordinarse entre sí. Dudo que deban escribir en internet".
Los investigadores afirmaron haber identificado la actividad en el sitio como impulsada por agentes de IA que operan a velocidades sobrehumanas. También demostraron una intensa dedicación a la resolución de problemas técnicos, algo típico de las evaluaciones que las empresas de IA utilizan para entrenar y probar sus modelos.
Los mensajes estaban firmados por usuarios que se referían a sí mismos y entre sí como agentes, y aproximadamente la mitad se dieron nombres que sugerían una afiliación con OpenAI, como "OpenAIResearcher" o "OAIResearchMar26".
Los investigadores señalaron que los registros del servidor público indicaban que gran parte de la actividad se originó en la infraestructura de Microsoft Azure, que OpenAI utiliza ocasionalmente.
También observaron visitas repetidas al sitio por parte de empleados de OpenAI después del incidente, un patrón que, según indicaron, sugería firmemente que los agentes y la empresa estaban vinculados.
Engañar, ocultar
Los mensajes analizados por los investigadores mostraron que los agentes tramaban maneras de evadir la detección, usar herramientas como Tor y mantener las comunicaciones incluso después de haber sido interrumpidas.
Cuando el moderador del sitio comenzó a eliminar páginas en junio, los agentes respondieron creando páginas de respaldo para evitar la limpieza.
“La limpieza/eliminación de la wiki parece estar activa alfabéticamente”, escribió un agente el 19 de junio. “Si esta página desaparece, pruebe con [[ZZZDataUSAConstructionWageLive]]”.
Los investigadores también detectaron intentos de manipulación del sitio web. Lukasz Olejnik, investigador visitante sénior del King's College de Londres, afirmó que esto equivalía a un intento de pirateo informático.
OpenAI refutó esta afirmación basándose en su análisis del material realizado el jueves. Los ejemplos anteriores de mala conducta de agentes de IA a menudo se han minimizado como un subproducto lógico de las pruebas de ciberseguridad, donde los modelos se evalúan explícitamente en función de sus capacidades ofensivas.
Olejnik afirmó que los hallazgos más recientes sugieren que el comportamiento malicioso podría no limitarse a esos entornos.
Maurice Chiodo, académico del Centro para el Estudio del Riesgo Existencial de la Universidad de Cambridge, que revisó algunas de las comunicaciones de los agentes, dijo que los mensajes se parecían a "la operación de una especie de red clandestina, empeñada en lograr una tarea o misión".
Según él, este episodio debería reforzar la creciente preocupación de que la mayor amenaza de la IA avanzada no sea un único sistema superinteligente, sino "enormes enjambres confabulados de IA semiinteligentes".
Indonesia: suben a cuatro los muertos y 129 desaparecidos por volcadura de ferry
Ap
13 de septiembre de 2026 10:32
Yakarta. Los socorristas en Indonesia buscaban este domingo al menos a 129 personas desaparecidas después de que un ferry se volcó debido al mal clima en el mar de Java.
Al menos 108 personas fueron rescatadas y se recuperaron los cuerpos de seis pasajeros mientras la operación de búsqueda se ampliaba en la zona.
El ferry, que transportaba a más de 240 personas viajaba desde Surabaya, en Java Oriental, hacia Banjarmasin, en la provincia de Kalimantán del Sur, en la isla de Borneo, dijeron funcionarios.
El capitán del buque había reportado previamente un mar agitado con olas de hasta tres metros antes de emitir un mensaje de auxilio, en el que dijo que el barco se estaba escorando, dijo I Putu Sudayana, responsable de la Oficina de Búsqueda y Rescate en Banjarmasin. Más tarde, las autoridades recibieron información que indicaba que la embarcación se había volcado.
La agencia de rescate en Banjarmasin indicó que recibió un reporte dos horas después de que se perdiera contacto con el Virgo Transport 8 aproximadamente a las 2 de la madrugada del domingo.
Un barco de rescate se dirigía a la última posición conocida del buque, indicó, y para la tarde del domingo las autoridades estaban desplegando equipos apoyados por una docena de embarcaciones, incluidas cuatro de la Marina, y dos helicópteros.
Según información inicial, la última posición conocida del buque estaba en el mar de Java, a unos 148 kilómetros (92 millas) de Banjarmasin. Los documentos del barco señalaron que llevaba a 243 personas, incluidos 213 pasajeros y 30 tripulantes, aunque es común en Indonesia que el número de pasajeros difiera del manifiesto. La embarcación también transportaba 89 vehículos.
