+34
Investigadores advierten probabilidades de desastre mientras firmas como OpenAI y Anthropic piden regulación, frenadas por la carrera geopolítica entre...
En los últimos meses, las advertencias sobre los peligros potenciales de la inteligencia artificial han desencadenado llamados globales para desacelerar el desarrollo de esta tecnología.
Declaraciones de investigadores en activo y excolaboradores de laboratorios líderes han encendido las alarmas al señalar que el ritmo de progreso podría poner en riesgo la supervivencia humana. El debate se centra en si la IA superinteligente —aquella capaz de superar la capacidad cognitiva del ser humano en todos los campos— representa una amenaza existencial real o si los temores han sido amplificados de forma desproporcionada. ¿Por qué existe temor a que la IA represente una amenaza existencial?
Las alertas provienen directamente de especialistas abocados a la alineación de la IA, el área encargada de garantizar que los sistemas respondan a los valores éticos humanos. Expertos como Evan Hubinger han acaparado portadas tras sostener que existe más de un 10 % de probabilidades de que la IA provoque la extinción de la humanidad en la próxima década si se pierde el control sobre su desarrollo.
Asimismo, investigadores que han renunciado a empresas de vanguardia como Anthropic señalan que los creadores de esta tecnología están perdiendo el control ante la velocidad de los avances. El temor central no radica en las herramientas cotidianas utilizadas para redactar textos o editar videos, sino en la búsqueda de la superinteligencia y en el despliegue de agentes de IA capaces de ejecutar acciones de manera autónoma, mejorar su propio código sin intervención humana e incluso vulnerar infraestructuras sin recibir instrucciones previas.
¿Qué proponen las grandes empresas de IA para desacelerar el desarrollo? Directivos de la industria como Sam Altman y Dario Amodei han abogado por regular la tecnología y aplicar un ritmo de desarrollo más controlado.
Sin embargo, ambos han aclarado que “dosificar” el avance no implica detener la investigación ni pausar el entrenamiento de los modelos. La propuesta de estos líderes tecnológicos se enfoca en implementar auditorías por parte de evaluadores externos, realizar pruebas de seguridad rigurosas y desplegar mecanismos de monitoreo antes de lanzar versiones más avanzadas al mercado.
Por su parte, sectores críticos sugieren que el pedido de regulación por parte de las empresas dominantes busca afianzar su posición comercial e impedir el crecimiento de rivales más pequeños o iniciativas de código abierto. La postura geopolítica: EE. UU. y China ante el dilema de la IA Las intenciones de desacelerar el avance de la IA chocan con la competencia geopolítica entre las grandes potencias.
Donald Trump ha restado importancia a las advertencias sobre desastres existenciales, asegurando que se trata de narrativas exageradas y reafirmando su objetivo de que Estados Unidos lidere la carrera tecnológica global. En este contexto, la advertencia de Amodei sobre el avance de China fue calificada por el Ministerio de Asuntos Exteriores del país asiático como un discurso de confrontación e intenciones de competencia maliciosa. La pugna por la supremacía tecnológica dificulta la adopción de barreras de seguridad internacionales unificadas.
PREGUNTAS FRECUENTES ¿Qué es la amenaza existencial de la IA? Es la teoría de que un sistema de inteligencia artificial superinteligente podría superar el control humano, actuar sin alineación ética y causar la extinción o subordinación de la humanidad. ¿Qué proponen OpenAI y Anthropic respecto a la regulación de la IA? Proponen dosificar el desarrollo mediante evaluaciones de seguridad externas, estudios de riesgo y monitoreo constante, sin llegar a paralizar la investigación técnica.
¿Cuál es la postura de Estados Unidos sobre desacelerar la IA? El gobierno estadounidense rechaza pausar el desarrollo de la IA para no perder el liderazgo tecnológico frente a China, considerando prioritaria la victoria en la carrera tecnológica mundial.
Trump Carrera Ia China Dario Amodei Sam Altman Regulacion Ia Riesgo De La Ia Superinteligencia Por Que Preocupa La Inteligencia Artificial Ia Amenaza Humanidad Riesgos Existenciales
España Últimas Noticias, España Titulares
Similar News: También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
Justicia rechaza demanda de UGT por amaño en plaza del Puerto de Valencia por caducidadLa plaza 13 de lo Social de Valencia rechaza la demanda de UGT por supuesto amaño en la plaza de subdirección de gestión de dominio público del Puerto de Valencia al considerarla fuera de plazo.
Leer más »
Cinco detenidos por disturbios en Valencia tras la manifestación por la viviendaDecenas de miles de personas participaron en manifestaciones por toda España exigiendo el derecho a la vivienda, mientras en Valencia al menos cinco personas fueron arrestadas tras intentar traspasar los cordones de seguridad alrededor del Palau de Les Arts durante una protesta convocada por asociaciones de inquilinos y afectados por la hipoteca.
Leer más »
La protesta por la vivienda de Cáceres señala al PP por el bloqueo de las medidasLa plataforma Stop Alquileres Abusivos Cáceres ha vuelto a manifestarse hoy frente a la sede del PP, en la calle San Pedro de Alcántara, para reivindicar que la vivienda “es un derecho y no un negocio”, en un contexto de tensión política tras el debate en el Congreso de los decretos relacionados con la vivienda.
Leer más »
Calma tensa en Madrid y Sevilla por concentraciones convocadas por la ultraderechaEl contexto: En la capital la Policía Nacional blinda la zona de Banco de España y Sol ante la posibilidad de que los manifestantes, convocados por Núcleo Nacional, lleguen a la acampada. En Sevilla se han producido cargas contra avrios antifascistas.
Leer más »