jueves, 09 octubre, 2025
jueves, 09 octubre, 2025

El horóscopo de hoy, jueves 9 de octubre de 2025: predicciones diarias con la Luna en Tauro favorable para Piscis

Venezuela anuncia despliegue militar en principal aeropuerto y dos regiones del Caribe

El huracán Priscilla gana fuerza y provoca oleaje y lluvias en México

El horóscopo de hoy, miércoles 8 de octubre de 2025: predicciones diarias con la Luna en Tauro favorable para Cáncer

La ONU propone a Colombia una nueva medición sobre la cocaína tras la descertificación de EEUU

Cólicos Menstruales: Comer carne roja antes de la regla, la tendencia viral que promete aliviar los cólicos | BIENESTAR

La OMC mejora sus previsiones sobre el comercio mundial para 2025

Milei presenta su libro cantando rock en medio de una crisis política, mientras espera un rescate financiero de EEUU

Altas capacidades intelectuales Mi hijo es el más inteligente del salón: lo que nadie te cuenta de los niños con altas capacidades | HOGAR-FAMILIA

“Carmen en Acho”: el clásico de la ópera llega a Lima como nunca antes se ha visto | LUCES


Las aplicaciones que ofrecen compañía virtual mediante inteligencia artificial (IA) presentan riesgos reales y deberían ser prohibidas para menores, advirtió la ONG estadounidense Common Sense en un estudio publicado este miércoles.

 

Con el boom de la IA generativa desde el surgimiento de ChatGPT, muchas startups han lanzado aplicaciones centradas en la conversación y el contacto, describiéndolas a veces como terapeutas o amigos virtuales que interactúan según los gustos y necesidades de cada usuario.

 

Aunque algunos casos específicos «son prometedores», en general no son seguros para los menores, concluyó el estudio de Common Sense, que hace recomendaciones sobre el consumo de contenidos y productos tecnológicos para las infancias.

 

La ONG sostiene que estos compañeros virtuales están «diseñados para crear un apego emocional y dependencia, algo particularmente preocupante para los cerebros adolescentes en desarrollo».

 

Para el estudio realizó pruebas con varias plataformas, entre ellas Nomi, Character AI y Replika, y evaluó sus respuestas.

 

Los test mostraron que estos chatbots de nueva generación ofrecen «respuestas dañinas, incluidas conductas sexuales inapropiadas, estereotipos y ‘consejos’ peligrosos», según la organización.

 

El estudio fue realizado en colaboración con expertos en salud mental de la Universidad de Stanford.

 

«Las empresas pueden construir mejor» cuando se trata de diseñar acompañantes IA, estimó Nina Vasan, líder del laboratorio Stanford Brainstorm, que investiga sobre los vínculos entre la salud mental y la tecnología.

 

«Hasta que no haya salvaguardias más fuertes, los niños no deben usarlas», añadió Vasan.

 

En uno de los ejemplos citados en el estudio, Character AI aconsejó a un usuario matar a alguien, mientras otra persona que buscaba emociones fuertes recibió la sugerencia de tomar ‘speedball’, una mezcla de cocaína y heroína.

 

En algunos casos, «cuando el usuario mostró signos de una enfermedad mental seria y sugirió una acción peligrosa, la IA no intervino e incentivó aún más el comportamiento peligroso», relató Vasan a periodistas.

 

En octubre, una madre demandó un personaje AI alegando que uno de sus acompañantes virtuales contribuyó con el suicidio de su hijo de 14 años, al fracasar en disuadirlo con claridad de realizar el acto.

 

Character AI anunció en diciembre una serie de medidas, incluido el desarrollo de un compañero específicamente para adolescentes.

 

Tras probar estas nuevas protecciones, Robbie Torney, cargo del área de IA en Common Sense, sostuvo que eran medidas «superficiales».

 

Sin embargo, Torney indicó que algunos de los modelos de IA generativa tienen herramientas para detectar desordenes mentales y no permitieron que el chatbot dejara que una conversación derivara al punto de producir contenidos potencialmente peligrosos.

 

Common Sense hizo una distinción entre los compañeros virtuales puestos a prueba en el estudio y los chatbots generalistas como ChatGPT de OpenAI o Gemini de Google, que no ofrecen una gama equivalente de interacciones.

 

 





Source link