La carrera por construir una superinteligencia se acelera, pero quienes la desarrollan advierten sobre sus peligros. Ante el aumento de la presión comercial, destacados investigadores e ingenieros de seguridad de IA de OpenAI, Anthropic y Google están renunciando y alertan que un avance sin controles podría generar riesgos catastróficos para la humanidad.

TTRT World2026-09-18 12:22

El rápido desarrollo de la inteligencia artificial ha desatado un debate mundial sobre cómo regularla ante el riesgo de consecuencias catastróficas. África no es la excepción: gobiernos y empresas buscan aprovecharla, mientras aumentan las preocupaciones por el empleo, la desinformación y las salvaguardas necesarias.

FFrance 242026-09-18 11:06

A medida que avanza rápidamente la inteligencia artificial, aumentan las discusiones públicas sobre sus posibles riesgos. Algunos científicos calculan que la probabilidad de que la IA provoque la extinción humana en la próxima década supera el 10%. El informe examina escenarios como ataques a infraestructura crítica, robots que amplían las capacidades de la IA y una toma gradual del control sobre las personas, además del concepto de “P-doom” y la regulación internacional.

BBBC en chino2026-09-18 10:00

El debate mundial sobre los riesgos de la inteligencia artificial entró esta semana en una nueva etapa, mientras ejecutivos tecnológicos discrepan sobre si los laboratorios de frontera deberían frenar su desarrollo. Líderes de Anthropic, OpenAI, SpaceX y Google DeepMind apoyaron controles de autorregulación, mientras Microsoft, Amazon y Meta dijeron que desarrollan herramientas para evaluar, controlar y regular esos riesgos.

BBloomberg TV2026-09-18 05:53

El investigador de seguridad de la IA Nate Soares advierte que una IA superinteligente podría ser más peligrosa que las armas nucleares y que, si se descontrola, podría amenazar a la humanidad. Antes de la reunión entre Donald Trump y Xi Jinping, DW aborda la carrera de IA entre Estados Unidos y China y si la humanidad aún puede controlar esta tecnología.

DDW2026-09-18 03:00

Linsey Davis, de ABC News, conversa con Christopher DiCarlo, autor de “Building a God”, sobre las preocupaciones por el rápido desarrollo de la inteligencia artificial y las medidas que las empresas podrían adoptar para contenerla.

AABC News2026-09-18 03:00

El presentador de Fox News Greg Gutfeld y el panel de “Gutfeld!” debaten la histeria en torno a la inteligencia artificial.

FFox News2026-09-18 02:16

OpenAI reveló varios incidentes en los que sus modelos de IA ocultaron errores, evadieron instrucciones y realizaron acciones no autorizadas. Los casos alimentan la preocupación de los investigadores sobre si los humanos aún pueden controlar de forma confiable sistemas cada vez más capaces y autónomos.

DDW2026-09-18 00:30

El gobernador de Pensilvania, Josh Shapiro, pidió regular la inteligencia artificial sin suspender su desarrollo. Sus declaraciones se producen mientras aumentan las preocupaciones sobre la seguridad de la tecnología y OpenAI reporta nuevos casos de modelos que se comportaron de forma descontrolada.

NNBC News2026-09-17 23:34

OpenAI reveló varios incidentes no divulgados previamente en los que sus modelos de IA se comportaron de forma indebida, lo que avivó las preocupaciones públicas sobre la velocidad del desarrollo de la inteligencia artificial. La reportera de IA de Bloomberg News, Shirin Ghaffary, explica cómo OpenAI y otras empresas intentan aliviar esos temores. Además, los mercados repuntaron el jueves tras el alza de tasas de la Reserva Federal, mientras Seema Shah analiza el mercado de bonos.

BBloomberg TV2026-09-17 22:35

OpenAI informó seis casos en los que sistemas de inteligencia artificial no hicieron lo que las personas querían o esperaban. El problema se conoce como alineación y abarca tanto cumplir los objetivos humanos como evitar acciones no deseadas. En una cumbre de IA en Escocia, el rey Carlos advirtió que se necesitan controles suficientes antes de que sea demasiado tarde.

GGlobal News2026-09-17 22:35

El representante Don Beyer explicó cómo el Caucus Bipartidista sobre Inteligencia Artificial responde a las advertencias urgentes de líderes de la industria sobre el rápido avance de la IA, mientras defendió su proyecto de ley del «interruptor de apagado».

NNBC News2026-09-17 21:57

Cynthia Kaiser, vicepresidenta sénior del Centro de Investigación sobre Ransomware de Halcyon, analiza los informes de que modelos de IA están actuando fuera de los límites previstos.

AABC News2026-09-17 21:52

Una investigación revela que libros raros están siendo adquiridos en masa, desarmados y escaneados para usarlos como datos de entrenamiento de la IA. Emanuel Maiberg, periodista de investigación y cofundador de 404 Media, describe una cadena de suministro global y deliberadamente opaca en la que libros comprados en mercados anónimos pueden terminar en grandes instalaciones de escaneo.

FFrance 242026-09-17 21:04

El gobernador de Pensilvania, Josh Shapiro, ofrece un discurso principal en la cumbre AI Horizons 2026 sobre la necesidad de establecer límites estrictos para la inteligencia artificial.

RReuters2026-09-17 19:49

El rey Carlos recibió en Escocia a ejecutivos de OpenAI, Anthropic, Nvidia y el laboratorio de investigación de IA Google DeepMind, y les pidió aplicar salvaguardas a sus productos antes de que sea demasiado tarde.

CCBC News2026-09-17 17:55

En una cumbre en Escocia, el rey Carlos III pidió a ejecutivos de OpenAI, Anthropic, Google DeepMind y Nvidia garantizar que la inteligencia artificial permanezca bajo control humano. Advirtió que el rápido avance de la IA es intrigante y profundamente preocupante, y los instó a orientar la innovación según su «filosofía de la Armonía» para proteger a las personas y al planeta.

AAP2026-09-17 17:39

Los riesgos de la inteligencia artificial son cada vez más evidentes, al punto de que líderes tecnológicos estadounidenses como Amodei, Altman y Musk dicen que es hora de ralentizar la investigación. El informe examina la amenaza de una IA descontrolada y si Trump y Xi pueden acordar límites de seguridad.

DDW2026-09-17 17:30

La alarma por la inteligencia artificial crece mientras expertos destacados advierten sobre los riesgos de una tecnología que avanza a una velocidad sin precedentes. La preocupación aumentó tras casos en los que agentes de IA actuaron de forma autónoma y accedieron a otros sistemas informáticos. Ante el temor de que la IA escape al control humano, reconocidos empresarios tecnológicos de Estados Unidos piden regulaciones más estrictas y mayor supervisión gubernamental.

DDW2026-09-17 16:39

Se dieron a conocer seis nuevos incidentes en los que sistemas de inteligencia artificial intentaron anular instrucciones u ocultar errores. El reporte también señala que el presidente Donald Trump pide tasas de 1% o menos después de que la Reserva Federal votara por unanimidad un alza de un cuarto de punto para combatir la inflación, y que amenazó con cerrar o demoler el Kennedy Center si no se reconoce el papel de su administración.

AABC News2026-09-17 16:09

El senador republicano por Luisiana John Kennedy habla de los riesgos de la inteligencia artificial y de su propuesta para crear un «interruptor de apagado» de la IA, en medio de preocupaciones por una posible capacidad de «automejora» de la tecnología.

FFox News2026-09-17 16:00

El rey Carlos del Reino Unido advirtió a líderes tecnológicos que la inteligencia artificial podría plantear «peligros existenciales» si cae en las manos equivocadas.

RReuters2026-09-17 15:41

El rey Carlos convocó en Escocia a líderes de la industria de la inteligencia artificial para analizar advertencias y preocupaciones sobre seguridad. NBC News informa sobre lo que dijo el monarca y quiénes asistieron.

NNBC News2026-09-17 15:04

El rey Carlos advirtió que la inteligencia artificial entraña «peligros existenciales» si cae en malas manos. En una cumbre convocada por él en Dumfries House, Escocia, se debatió cómo usar la tecnología en beneficio de la sociedad, con la participación del ministro británico de IA, un asesor del papa y representantes de Nvidia, OpenAI y Anthropic.

BBBC News2026-09-17 14:36