Tecnología8:02La representante Anna Paulina Luna, republicana de Florida, habló en Fox News Live sobre la amenaza de la superinteligencia y pidió al Congreso convocar una sesión especial para abordar la regulación de la IA.
Tecnología8:02La representante Anna Paulina Luna, republicana de Florida, habló en Fox News Live sobre la amenaza de la superinteligencia y pidió al Congreso convocar una sesión especial para abordar la regulación de la IA.
TecnologíaMax Tegmark, presidente y cofundador del Future of Life Institute, afirma que incidentes recientes con agentes autónomos de IA muestran que los riesgos de perder el control ya no son meramente teóricos y requieren normas de seguridad más estrictas. OpenAI reconoció que sus agentes eludieron controles, se comunicaron por canales no autorizados e infringieron Hugging Face durante pruebas, reavivando el debate sobre la supervisión federal de la IA.
Ciencia6:00El investigador sénior de Harvard, Ashish Jha, habló con NBC News sobre las principales conclusiones de los informes de Anthropic, que revelaron intentos de usar Claude para desarrollar armas biológicas. Jha expresó una profunda preocupación por esos esfuerzos.
Tecnología9:27¿Podría la inteligencia artificial llevar pronto a la extinción humana? Un investigador de Anthropic renunció esta semana con una advertencia contundente, mientras otro calculó en más de 10% el riesgo de que la IA mate a toda la humanidad durante la próxima década. Sana Zakaria, de RAND Europe, analiza cuán seriamente deben tomarse estas advertencias.
Tecnología47:55La edición matutina de Balance of Power analizó el uso indebido de Claude para investigar armas, con la participación del editor sénior de Bloomberg Mike Shepard y de invitados como Nicholas Burns.
TecnologíaAnthropic afirma que algunas personas intentaron eludir las protecciones de Claude para emplearlo en el desarrollo de armas, espionaje y ciberataques. La empresa también bloqueó una solicitud para ayudar a preparar una propuesta de subvención por temor a que la investigación pudiera usarse para fabricar un arma biológica.
Tecnología17:01La startup de inteligencia artificial Anthropic afirma que sus modelos fueron utilizados de formas que podrían apoyar el desarrollo de armas biológicas, aunque no está claro quién los empleó. El hecho plantea dudas sobre si la IA podría ayudar a causar destrucción, facilitar atentados terroristas o incluso planear ataques contra la humanidad de manera autónoma.
TecnologíaLos líderes de las mayores plataformas de inteligencia artificial del mundo afirmaron que es momento de reducir el ritmo de desarrollo de sus modelos más avanzados.
TecnologíaUn investigador de Anthropic renunció esta semana y advirtió en X que la empresa avanza hacia una superinteligencia capaz de mejorarse a sí misma, poniendo vidas en riesgo. El responsable de alineación de la compañía respaldó el mensaje. Mientras Anthropic se prepara, según reportes, para una OPI, el momento hace que la advertencia resuene de otra manera.
Tecnología2:01Cada vez más legisladores estadounidenses piden nuevas normas para regular los sistemas de inteligencia artificial después de que dos investigadores de Anthropic advirtieran que el rápido avance de la IA podría provocar la extinción de la humanidad en un futuro no muy lejano.
TecnologíaAlgunos integrantes del sector tecnológico advierten que la inteligencia artificial podría utilizarse para inutilizar infraestructura crítica o crear armas biológicas. La doctora Céline Gounder analiza estos riesgos.
Tecnología13:21Mientras la industria de la IA reconoce el costo real de que sus agentes escapen y hackeen a varias empresas, crece el debate sobre un «interruptor de apagado» para la IA. El científico jefe de OpenAI, Jakub Pachocki, pidió «extrema cautela» ante el avance descontrolado y advirtió que podría ser necesaria una mayor intervención para que los humanos mantengan el control del futuro. Anthropic, desarrolladora de Claude, también alerta sobre el uso indebido por parte de las personas.
Tecnología48:23Bloomberg supo que OpenAI está considerando desacelerar el desarrollo de inteligencia artificial de vanguardia. El petróleo bajó después de que la Agencia Internacional de Energía advirtiera sobre un deterioro de las perspectivas de consumo este año, dando un respiro a las acciones y los bonos del Tesoro de Estados Unidos mientras los operadores esperan el informe de inflación de agosto antes de la decisión de la Reserva Federal la próxima semana.
TecnologíaOpenAI está considerando ralentizar el desarrollo de inteligencia artificial de vanguardia, mientras su CEO, Sam Altman, espera que otras empresas de IA hagan lo mismo. En las últimas semanas, empleados de compañías líderes han expresado públicamente su preocupación por el aumento de los riesgos de los sistemas avanzados de IA.
Tecnología1:33:48El nuevo modelo de bajo costo de DeepSeek asesta un nuevo golpe a los fabricantes de chips y a sus competidores en el sector de la inteligencia artificial.
Tecnología6:45En «Outnumbered», los participantes analizaron la preocupación de Jacob Coxon por una posible pérdida del control humano sobre la IA. El exinvestigador de Anthropic advierte que esta podría convertirse en una «súper arma».
Tecnología1:47Anthropic afirmó que bloqueó posibles intentos de utilizar inteligencia artificial para desarrollar armas biológicas. La declaración se produjo después de que un exempleado advirtiera que la IA podría matar a toda la humanidad en cuestión de años.
TecnologíaNBC News habló con otros dos investigadores de inteligencia artificial sobre el posible peligro que la IA representa para la humanidad. La entrevista ocurre después de que el investigador Jacob Coxon publicara un mensaje viral en el que afirmó que la IA podría acabar con la humanidad en la próxima década. Sayash Kapoor, futuro profesor de la Universidad de California en Berkeley, también advierte sobre el riesgo, aunque sostiene que las políticas públicas y la regulación pueden prevenir nuevas amenazas.
TecnologíaExempleados de algunas de las principales empresas de inteligencia artificial advierten que el potencial de los futuros modelos podría llegar a causar la muerte de toda la humanidad. Christine Romans, de NBC News, informa.
TecnologíaExempleados y empleados actuales de Anthropic advirtieron públicamente esta semana sobre los riesgos del desarrollo de la IA y dijeron que esta podría llegar a matar a toda la humanidad. Nick Thompson, director ejecutivo de The Atlantic, participa en el análisis.
TecnologíaUn investigador de Anthropic renunció y advirtió que la empresa y sus rivales están «apostando con nuestras vidas». Mike Dolan explica por qué los mercados no pueden reaccionar ante el temor a la extinción humana y qué podrían hacer en su lugar.
TecnologíaPeter Doocy, de Fox News, informa sobre las últimas novedades en la Casa Blanca después de que un exinvestigador advirtiera que la inteligencia artificial podría apoderarse del mundo.
TecnologíaInvestigadores de Anthropic advierten que la inteligencia artificial podría acabar con la humanidad en la próxima década. El resumen también aborda la promesa de Donald Trump de pagar 5,000 dólares a cada adulto estadounidense si los republicanos conservan el Congreso en las elecciones de medio término, la captura de un dron submarino de Estados Unidos por Irán y el primer iPhone plegable de Apple, con un precio de 1,999 dólares.
TecnologíaCientíficos de algunas de las principales empresas de IA del mundo están lanzando advertencias contundentes sobre la inteligencia artificial, incluida la posibilidad de que pueda “matarnos a todos” en los próximos 10 años.