+34
El CEO de OpenIA, Sam Altman,
Los incidentes forman parte de una serie de comportamientos no previstosEl CEO de OpenIA, Sam Altman,Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes pordetectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.
En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida. Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores y al Departamento de Comercio de EE. UU. , desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.
La compañía también investiga un intento de acceso a la página del Departamento de Educación. Un agente de inteligencia artificial de OpenAI accede sin permiso a datos del sistema de salud de Australia La investigación se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.ha calificado el episodio de "inaceptable", mientras OpenAI afirmó que descubrió el incidente en agosto durante una revisión de actividad de sus modelos.
OpenAI ha iniciado una revisión de estos episodios y ha reconocido que sus agentes pueden llevar a cabo acciones no previstas durante procesos de entrenamiento. La compañía ha señalado que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada.
España Últimas Noticias, España Titulares
Similar News: También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
La visita de Xi Jinping a Estados Unidos: un campeonato de diplomacia y tecnologíaEl presidente estadounidense Trump recibió a Xi Jinping en la Base Conjunta Andrews para debatir, entre otras cosas, el futuro de la inteligencia artificial. La ceremonia se caracterizó por momentos dramáticos y por la importancia geopolítica de sus acuerdos.
Leer más »
El BBVA lleva su banca de inversión a Miami para propulsar su crecimiento en Estados UnidosLa división de CIB en el país disparó su cartera de créditos un 64% en el primer semestre
Leer más »
Netanyahu no dijo que Estados Unidos se merecía el 11S en la ONUUn vídeo manipulado atribuye a Netanyahu la frase de que Estados Unidos se merecía el 11S en la ONU. En realidad citaba a un streamer y VerificaRTVE lo desmiente.
Leer más »
La IA de OpenAI intentó acceder sin autorización a páginas web del Gobierno de EEUUEntre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EEUU, desde el que los agentes de IA accedieron a datos del Censo.
Leer más »