miércoles, 02 abril, 2025
miércoles, 02 abril, 2025

Superman 2025 – James Gunn revela por qué rechazó dirigir antes Superman y qué proyecto prefirió | CinemaCon

Elecciones 2026: Congreso aprueba en segunda votación texto sustitutorio para regular el recuento de votos | Comisión de Constitución | últimas | POLITICA

Jean-Claude Van Damme es investigado por caso de trata de personas en Rumania

Gustavo Adrianzén asegura que Ejecutivo evalúa medidas para hacer efectivo el equilibrio de poderes con el Congreso | cuestión de confianza | últimas | POLITICA

Guerra Israel – Hamás en Gaza | Aid al Fitr: Al menos 40 muertos por ataques de Tel Aviv en Franja de Gaza este domingo, coincidiendo con la fiesta de Ruptura del Ayuno | Palestina | Shuka | Jan Yunis | Últimas | MUNDO

Superman 2025 – James Gunn revela por qué incluyó al perro Krypto en nueva película de DC

Franja informativa | Gobierno suspende polémica propuesta, anuncia ministro de Justicia, Eduardo Arana | últimas | POLITICA

Todos creían que seguía la regla de los cinco minutos, pero Elon Musk tenía otro secreto | TECNOLOGIA

Migrantes cubanos se conforman con el sueño mexicano por Trump

Karla Sofía Gascón: Juan Caruso, actor de ‘La sociedad de la nieve’, le responde por polémico comentario sobre la tragedia



Un estudio publicado en la revista ‘Nature’ advierte que modelos de inteligencia artificial (IA) como ChatGPT, pese a su objetivo de alcanzar la “superinteligencia”, siguen siendo poco fiables, incluso en tareas simples. La investigación, liderada por Lexin Zhou y otros expertos de la Universidad Politécnica de Valencia y la Universidad de Cambridge, concluye que los errores de estos sistemas serán difíciles de eliminar por completo en el futuro.

Los modelos de lenguaje actuales tienden a mejorar en tareas complejas, pero fallan en las sencillas, señala Zhou. Este problema, que ya ha sido probado con ChatGPT-4 y otras herramientas, plantea serias dudas sobre la evolución de la IA. Hay algo incluso peor: los nuevos modelos no evitan tareas difíciles y, en lugar de reconocer sus limitaciones, utilizan mucho tiempo y recursos computacionales para intentar resolverlas, explica Zhou.

MIRA: Miles de médicos recurren a ChatGPT en los hospitales para responder a sus pacientes

José Hernández-Orallo, investigador y coautor del estudio, destaca que estos sistemas pueden resolver problemas matemáticos complejos, pero se equivocan en sumas simples. Esta discordancia entre lo que los humanos perciben como complicado y lo que resulta difícil para las IA agrava la situación. A medida que las expectativas sobre la IA crecen, los usuarios tienden a confiar menos en los sistemas para tareas básicas.

El artículo también subraya que estos modelos de lenguaje evitan cada vez más admitir errores. Esta “seguridad irreal” puede llevar a los usuarios a creer que las respuestas incorrectas son verdaderas, lo que aumenta la posibilidad de errores. Este fenómeno se agrava porque los modelos avanzados responden incluso cuando no deberían, en lugar de reconocer sus limitaciones.

Posibles soluciones

Para los autores del estudio, una solución posible para modelos de IA especializados en áreas sensibles, como la medicina, sería implementar mecanismos que les permitan rechazar responder a ciertas consultas. Sin embargo, hasta que se logre este nivel de autocontrol en las IA, los expertos llaman a concienciar sobre los riesgos de depender exclusivamente de la supervisión humana.

Pablo Haya, investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid, señaló, en declaraciones a SMC España, que el estudio “desafía la suposición de que escalar y ajustar los modelos de lenguaje siempre mejora su precisión”. Aunque las IA más avanzadas suelen ser más estables, también son propensas a cometer errores que pasan desapercibidos porque evitan no responder.

Un remedio temporal que proponen los investigadores es ajustar las preguntas hechas a la IA. “Preguntar varias veces o cambiar sutilmente el enunciado puede mejorar la respuesta”, explica Zhou. No obstante, esto transfiere al usuario la responsabilidad de evaluar la precisión de las respuestas, lo cual no es una solución definitiva.

El problema más preocupante de estos modelos es que buscan una “superinteligencia” capaz de resolver problemas que los humanos no pueden. Sin embargo, según Zhou y su equipo, el camino actual de desarrollo no llevará a una IA verdaderamente fiable. Incluso Ilya Sutskever, cofundador de OpenAI, admitió recientemente que el modelo actual está agotado y que se necesitan nuevas soluciones.

A pesar de sus limitaciones, estas IA aún pueden ser útiles en tareas donde no se requiere una precisión absoluta.Sin embargo, los usuarios deben asumir el riesgo de posibles errores.



Source link