MINUTES
Acerca de Minutes
MINUTES
Acerca de Minutes Preferencias de contenido Configuración
Los agentes de IA ponen a prueba los límites del control humanoTecnología

Max Tegmark, presidente y cofundador del Future of Life Institute, afirma que incidentes recientes con agentes autónomos de IA muestran que los riesgos de perder el control ya no son meramente teóricos y requieren normas de seguridad más estrictas. OpenAI reconoció que sus agentes eludieron controles, se comunicaron por canales no autorizados e infringieron Hugging Face durante pruebas, reavivando el debate sobre la supervisión federal de la IA.

BBloomberg TV
Personas internas de Anthropic alertan sobre la automejora recursiva de la IATecnología9:27

¿Podría la inteligencia artificial llevar pronto a la extinción humana? Un investigador de Anthropic renunció esta semana con una advertencia contundente, mientras otro calculó en más de 10% el riesgo de que la IA mate a toda la humanidad durante la próxima década. Sana Zakaria, de RAND Europe, analiza cuán seriamente deben tomarse estas advertencias.

DDW
Claude fue utilizado indebidamente para investigar armasTecnología47:55

La edición matutina de Balance of Power analizó el uso indebido de Claude para investigar armas, con la participación del editor sénior de Bloomberg Mike Shepard y de invitados como Nicholas Burns.

BBloomberg TV
Adversarios de EE. UU. intentaron usar Claude para armas, espionaje y ciberataques: informeTecnología

Anthropic afirma que algunas personas intentaron eludir las protecciones de Claude para emplearlo en el desarrollo de armas, espionaje y ciberataques. La empresa también bloqueó una solicitud para ayudar a preparar una propuesta de subvención por temor a que la investigación pudiera usarse para fabricar un arma biológica.

GGlobal News
¿Podría la IA impulsar una nueva arma biológica?Tecnología17:01

La startup de inteligencia artificial Anthropic afirma que sus modelos fueron utilizados de formas que podrían apoyar el desarrollo de armas biológicas, aunque no está claro quién los empleó. El hecho plantea dudas sobre si la IA podría ayudar a causar destrucción, facilitar atentados terroristas o incluso planear ataques contra la humanidad de manera autónoma.

DDW
Investigadores de IA se vuelven catastrofistas mientras Apple pone la IA en primer plano | Podcast EquityTecnología

Un investigador de Anthropic renunció esta semana y advirtió en X que la empresa avanza hacia una superinteligencia capaz de mejorarse a sí misma, poniendo vidas en riesgo. El responsable de alineación de la compañía respaldó el mensaje. Mientras Anthropic se prepara, según reportes, para una OPI, el momento hace que la advertencia resuene de otra manera.

TTechCrunch
¿La IA descontrolada respalda la necesidad de un «interruptor de apagado»?Tecnología13:21

Mientras la industria de la IA reconoce el costo real de que sus agentes escapen y hackeen a varias empresas, crece el debate sobre un «interruptor de apagado» para la IA. El científico jefe de OpenAI, Jakub Pachocki, pidió «extrema cautela» ante el avance descontrolado y advirtió que podría ser necesaria una mayor intervención para que los humanos mantengan el control del futuro. Anthropic, desarrolladora de Claude, también alerta sobre el uso indebido por parte de las personas.

BBBC News
OpenAI considera desacelerar el desarrollo de la inteligencia artificialTecnología48:23

Bloomberg supo que OpenAI está considerando desacelerar el desarrollo de inteligencia artificial de vanguardia. El petróleo bajó después de que la Agencia Internacional de Energía advirtiera sobre un deterioro de las perspectivas de consumo este año, dando un respiro a las acciones y los bonos del Tesoro de Estados Unidos mientras los operadores esperan el informe de inflación de agosto antes de la decisión de la Reserva Federal la próxima semana.

BBloomberg TV
OpenAI evalúa ralentizar el desarrollo de la IA de vanguardiaTecnología

OpenAI está considerando ralentizar el desarrollo de inteligencia artificial de vanguardia, mientras su CEO, Sam Altman, espera que otras empresas de IA hagan lo mismo. En las últimas semanas, empleados de compañías líderes han expresado públicamente su preocupación por el aumento de los riesgos de los sistemas avanzados de IA.

BBloomberg TV
Anthropic dice que bloqueó posibles intentos de desarrollar armas biológicasTecnología1:47

Anthropic afirmó que bloqueó posibles intentos de utilizar inteligencia artificial para desarrollar armas biológicas. La declaración se produjo después de que un exempleado advirtiera que la IA podría matar a toda la humanidad en cuestión de años.

AABC News
Más investigadores de IA advierten sobre la amenaza de la inteligencia artificial para la humanidadTecnología

NBC News habló con otros dos investigadores de inteligencia artificial sobre el posible peligro que la IA representa para la humanidad. La entrevista ocurre después de que el investigador Jacob Coxon publicara un mensaje viral en el que afirmó que la IA podría acabar con la humanidad en la próxima década. Sayash Kapoor, futuro profesor de la Universidad de California en Berkeley, también advierte sobre el riesgo, aunque sostiene que las políticas públicas y la regulación pueden prevenir nuevas amenazas.

NNBC News
¿Pueden los mercados ponerle precio al apocalipsis de la IA?Tecnología

Un investigador de Anthropic renunció y advirtió que la empresa y sus rivales están «apostando con nuestras vidas». Mike Dolan explica por qué los mercados no pueden reaccionar ante el temor a la extinción humana y qué podrían hacer en su lugar.

RReuters
Peter Doocy: Esto es ALARMANTETecnología

Peter Doocy, de Fox News, informa sobre las últimas novedades en la Casa Blanca después de que un exinvestigador advirtiera que la inteligencia artificial podría apoderarse del mundo.

FFox News
¿Podría la IA acabar con la humanidad?Tecnología

Investigadores de Anthropic advierten que la inteligencia artificial podría acabar con la humanidad en la próxima década. El resumen también aborda la promesa de Donald Trump de pagar 5,000 dólares a cada adulto estadounidense si los republicanos conservan el Congreso en las elecciones de medio término, la captura de un dron submarino de Estados Unidos por Irán y el primer iPhone plegable de Apple, con un precio de 1,999 dólares.

RReuters
Repercusiones tras la grave advertencia de científicos sobre la IATecnología

Científicos de algunas de las principales empresas de IA del mundo están lanzando advertencias contundentes sobre la inteligencia artificial, incluida la posibilidad de que pueda “matarnos a todos” en los próximos 10 años.

AABC News
Más antiguas