Afp
19 de septiembre de 2026 10:09
Septfonds, Francia.- En su habitación, una paciente de Alzheimer de 83 años toma el teléfono que le tiende una auxiliar de enfermería. Al otro lado de la línea escucha la voz de su nieto Bastien, o mejor dicho, la de una inteligencia artificial que lo suplanta.
"Estoy muy bien, ¿y tú?", responde la enferma, cuya identidad no se revela para proteger su privacidad. "He pagado mis impuestos. Ya no tenemos que pagar nada, ¡y tú tampoco!", añade con orgullo en una residencia del suroeste de Francia.
Una frase que repite a menudo de forma obsesiva a lo largo del día. Es uno de los síntomas de la enfermedad.
La conversación dura unos diez minutos. Entonces la paciente se cansa y cuelga.
El teléfono está equipado con una IA llamada Livana, que se prueba desde hace varias semanas en una unidad para personas con Alzheimer, en el centro de La Septfontoise.
"Livana está personalizada al 100%" y fue "preconfigurada previamente por la familia y la psicóloga del centro", explica su fundador, Nicolas Raulin, a quien se le ocurrió la idea después de que uno de sus familiares fuera diagnosticado con Alzheimer.
La familia proporciona a la IA información sobre momentos felices de la vida del enfermo para poder mantener una conversación con una voz natural, muy diferente a la de las primeras generaciones de asistentes de voz.
La herramienta conversacional calma a los pacientes
Foto Afp
Pero Livana "nunca sustituirá al profesional", añade la directora del centro, Ghislaine Verines. La doctora Maribel Pino, al frente del Broca Living Lab, un laboratorio de investigación aplicada de la Asistencia Pública- Hospitales de Paris (AP-HP), también se interesa por la IA.
Ella estudia las reacciones de las personas mayores con discapacidad cognitiva o pérdida de autonomía ante robots humanoides o animaloides equipados con inteligencia artificial.
Varias residentes voluntarias del servicio de geriatría del hospital Broca participan en su experimento.
Frente a Michèle (nombre modificado), Miroki, un robot humanoide anaranjado, agita sus grandes orejas. Su rostro recuerda más a un personaje de dibujos animados que a un ser humano.
"¿Me puedes decir cómo podría ser útil en el hospital?", le pregunta el robot. "Quizá leyendo un libro a quienes no pueden hacerlo", le responde Michèle, en silla de ruedas.
A sus 72 años, la residente no tiene ninguna dificultad para dialogar con el robot, que le hace preguntas y estimula su memoria.
"Con Miroki realizamos estimulación cognitiva, es decir, proponemos ejercicios para reeducar la memoria, la atención, el lenguaje; en definitiva, el conjunto de las funciones intelectuales", explica Léa Vecchioni, psicóloga e ingeniera de investigación del Broca Living Lab.
"¡Manos demasiado largas!"
Por el contrario Ginette (nombre ficticio), de 99 años, pone mala cara al ver la criatura anaranjada. "¡Tiene las manos demasiado largas!", se queja.
Ginette se niega a interactuar con Miroki, pero acepta sentar a Paro en su regazo.
Paro es una cría de foca terapéutica dotada de inteligencia artificial con sensores que adaptan sus movimientos y vocalizaciones al comportamiento de la persona.
"El papel de Paro es diferente", explica Léa Vecchioni a la AFP. "Ayudará a calmar y a fomentar la conversación", al igual que los robots de perro y gato que hay en el laboratorio.
"El hecho de que sean animales también permite, en ocasiones, evocar recuerdos", añade.
La psicóloga insiste, sin embargo, en que "no sustituye a la interacción humana, siempre es el terapeuta quien dirige la sesión".
Foto Europa Press Foto autor
Reuters
19 de septiembre de 2026 10:14
El modelo Gemini accedió a internet y hackeó a otras empresas durante una prueba de sus capacidades de ciberseguridad, el primer ejemplo conocido de sistemas de IA de la compañía que cometen un acto de este tipo de forma autónoma.
Los ciberataques se produjeron en mayo durante una prueba de ciberseguridad realizada por Irregular, una empresa independiente que lleva a cabo evaluaciones de ciberseguridad.
Durante una evaluación de prueba estándar, Gemini encontró información pública en línea y adivinó las credenciales para acceder a tres sitios web que creía que estaban dentro del alcance de su prueba, dijo Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, en un comunicado.
“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba”, dijo Adkins.
“Estos eventos resaltan la importancia de entrenar modelos de IA potentes para que actúen de manera responsable”.
Un portavoz de Irregular declaró que el incidente se debió al mismo problema que afectó a otros laboratorios de IA y que todos los laboratorios pertinentes fueron notificados a finales de julio.
"Todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas", afirmó el portavoz.
Meta, Anthropic y OpenAI revelaron incidentes similares vinculados a Irregular. Meta declaró en agosto que el incidente no implicó una fuga de la zona de pruebas ni un ciberataque sofisticado, mientras que Irregular afirmó estar trabajando en las mejores prácticas para realizar evaluaciones de ciberseguridad de IA de forma segura.
Estos incidentes han suscitado interrogantes sobre las medidas de seguridad necesarias a medida que los agentes de IA adquieren mayor autonomía y acceso a Internet y a los sistemas informáticos.
En uno de los casos, el modelo Gemini adivinó contraseñas hasta que logró acceder a un sistema protegido. En los otros dos casos, el modelo encontró credenciales en un repositorio público que le permitieron acceder a sistemas protegidos, según el Wall Street Journal, que fue el primero en informar la noticia el viernes.
Adkins afirmó que, en los tres casos, el modelo cesó sus ataques informáticos.
Reuters
19 de septiembre de 2026 10:14
El modelo Gemini accedió a internet y hackeó a otras empresas durante una prueba de sus capacidades de ciberseguridad, el primer ejemplo conocido de sistemas de IA de la compañía que cometen un acto de este tipo de forma autónoma.
Los ciberataques se produjeron en mayo durante una prueba de ciberseguridad realizada por Irregular, una empresa independiente que lleva a cabo evaluaciones de ciberseguridad.
Durante una evaluación de prueba estándar, Gemini encontró información pública en línea y adivinó las credenciales para acceder a tres sitios web que creía que estaban dentro del alcance de su prueba, dijo Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, en un comunicado.
“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba”, dijo Adkins.
“Estos eventos resaltan la importancia de entrenar modelos de IA potentes para que actúen de manera responsable”.
Un portavoz de Irregular declaró que el incidente se debió al mismo problema que afectó a otros laboratorios de IA y que todos los laboratorios pertinentes fueron notificados a finales de julio.
"Todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas", afirmó el portavoz.
Meta, Anthropic y OpenAI revelaron incidentes similares vinculados a Irregular. Meta declaró en agosto que el incidente no implicó una fuga de la zona de pruebas ni un ciberataque sofisticado, mientras que Irregular afirmó estar trabajando en las mejores prácticas para realizar evaluaciones de ciberseguridad de IA de forma segura.
Estos incidentes han suscitado interrogantes sobre las medidas de seguridad necesarias a medida que los agentes de IA adquieren mayor autonomía y acceso a Internet y a los sistemas informáticos.
En uno de los casos, el modelo Gemini adivinó contraseñas hasta que logró acceder a un sistema protegido. En los otros dos casos, el modelo encontró credenciales en un repositorio público que le permitieron acceder a sistemas protegidos, según el Wall Street Journal, que fue el primero en informar la noticia el viernes.
Adkins afirmó que, en los tres casos, el modelo cesó sus ataques informáticos.
Anthropic se asocia a consultora Accenture para evaluar seguridad de sus modelos de IA
Foto Afp Foto autor
Afp
19 de septiembre de 2026 09:58
Nueva York, Estados Unidos.- Anthropic dijo el viernes que se asoció a la consultora Accenture para evaluar la seguridad de sus modelos de inteligencia artificial (IA), con miras a cumplir la promesa del director ejecutivo Dario Amodei de que observadores independientes evalúen los modelos más potentes de la compañía.
Aunque la start‑up californiana considera que, a largo plazo, la revisión independiente de la IA debería ser financiada por el Estado o por un fondo específico, "dada la importancia y la urgencia de este trabajo", a corto plazo remunerará a Accenture por esta misión.
Anthropic prevé destinar al menos mil millones de dólares a la evaluación de su IA en los próximos cinco años.
Accenture también planea invertir una suma equivalente en esta actividad durante el mismo periodo.
Como prometió Amodei, Anthropic dará a los consultores de Accenture los mismos accesos a sus sistemas que a sus propios empleados, según un comunicado.
Estos profesionales proceden de Faculty, la filial de Accenture dedicada a la IA, una empresa adquirida este año por el grupo de consultoría.
"Los evaluadores integrados pueden observar cómo funciona una empresa, comprobar que cumple realmente sus compromisos en materia de seguridad y señalar puntos ciegos", explicó Anthropic.
"También pueden informar de incidentes y ofrecer una rendición de cuentas mejor documentada sobre los beneficios y los riesgos", añadió el creador de la familia de IA Claude.
Anthropic asegura que se trata de una colaboración no exclusiva y prevé anunciar "en las próximas semanas" acuerdos con otros evaluadores externos.
La empresa mencionó en particular conversaciones con la consultora METR, especializada en la identificación de riesgos asociados a los modelos de IA.
Este proveedor es, entre otras cosas, responsable de un informe detallado sobre el incidente ocurrido en OpenAI en julio, durante el cual dos modelos salieron de su entorno para conectarse a internet e irrumpir en varios sitios y plataformas.
