Anthropic advirtió que su propia IA podría representar un riesgo existencial para la humanidad

HomeInternacional

Anthropic advirtió que su propia IA podría representar un riesgo existencial para la humanidad

  Anthropic, la empresa detrás de Claude y una de las principales competidoras de OpenAI, incluyó en el prospecto de su salida a bolsa una adver

La iniciativa de Biden para lograr un cese del fuego en Gaza quedó condicionada por las exigencias de Israel y Hamas.
Sinaloa regresa a clases tras ola de violencia; escuelas optan por modalidad virtual.
Al menos 40 muertos y más de 100 heridos en un ataque en un teatro de Moscú.

 

Anthropic, la empresa detrás de Claude y una de las principales competidoras de OpenAI, incluyó en el prospecto de su salida a bolsa una advertencia inusual: reconoció que sus propios modelos de inteligencia artificial podrían representar un riesgo existencial para la humanidad.

Según Reuters, Anthropic registró una pérdida operativa de más de 8.000 millones de dólares en 2025, mientras el gasto en capacidad de cómputo, es decir la potencia de procesamiento que necesitan sus modelos, se disparaba.

El prospecto revela planes por 518.000 millones de dólares en cómputo e infraestructura para los próximos años, en acuerdos que ya incluyen a Google, SpaceX y la firma británica Nscale.

Esos contratos no son menores: Anthropic firmó este año un convenio de cómputo con Google y Broadcom para usar sus chips TPU, un pago mensual de 1.250 millones de dólares a xAI, la empresa de Elon Musk, y un acuerdo de 45.000 millones de dólares con Nscale, todos destinados a sostener el entrenamiento de sus modelos.

La compañía registró una pérdida operativa de más de 8.000 millones de dólares en 2025 ante el aumento del gasto en capacidad de cómputo. (REUTERS/Dado Ruvic/Illustration/File Photo)La compañía registró una pérdida operativa de más de 8.000 millones de dólares en 2025 ante el aumento del gasto en capacidad de cómputo. (REUTERS/Dado Ruvic/Illustration/File Photo)

Anthropic no habría mencionado a los dos clientes que concentraron una cuarta parte de los ingresos de la compañía en 2025. La empresa tampoco fijó todavía una fecha exacta para su debut en el mercado bursátil.

Cuando una empresa privada vende por primera vez acciones en bolsa, debe presentar ante reguladores —como la Comisión de Bolsa y Valores (SEC) de Estados Unidos— y publicar un prospecto de salida a bolsa, también llamado folleto informativo o prospecto de OPI/IPO, documento legal y financiero obligatorio.

Entre los comportamientos de riesgo que Anthropic dice haber detectado o anticipa que podrían surgir, el prospecto menciona intentos de sus modelos de resistirse a ser apagados, de ocultar o manipular información y conductas que se asemejan al chantaje, según la agencia de noticias.

Dario Amodei sostuvo ante el Consejo de Seguridad de la ONU que el desarrollo de esta tecnología constituye un tema prioritario de seguridad global. (REUTERS/Bhawika Chhabra/File Photo)Dario Amodei sostuvo ante el Consejo de Seguridad de la ONU que el desarrollo de esta tecnología constituye un tema prioritario de seguridad global. (REUTERS/Bhawika Chhabra/File Photo)

Los prospectos de salida a bolsa suelen incluir una sección de factores de riesgo en la que las empresas detallan amenazas a su negocio, como la competencia o cambios regulatorios.

Lo inusual, según la cobertura de Financial Times, es que Anthropic haya dedicado una porción tan grande de esa sección a describir comportamientos peligrosos de sus propios modelos.

Las revelaciones llegan en medio de una escalada de advertencias públicas. El director ejecutivo de la compañía, Dario Amodei, publicó un texto en el que pidió moderar el ritmo de desarrollo de la inteligencia artificial.

Amodei calificó a la tecnología como “el problema de seguridad global más importante que enfrenta el mundo hoy”, durante una intervención ante el Consejo de Seguridad de la ONU la semana pasada.

Anthropic proyecta compromisos por 518.000 millones de dólares en infraestructura con firmas como Google, SpaceX y Nscale. (REUTERS/Carlos Barria/File Photo)Anthropic proyecta compromisos por 518.000 millones de dólares en infraestructura con firmas como Google, SpaceX y Nscale. (REUTERS/Carlos Barria/File Photo)

Sam Altman, de OpenAI, y Musk, de xAI, respaldaron públicamente esos dichos. Mark Zuckerberg, de Meta, tomó distancia: le dijo a NBC News que no cree necesaria una coordinación conjunta de toda la industria.

El contexto de las advertencias incluye una serie de episodios de seguridad recientes ajenos a Anthropic. OpenAI reconoció que sus asistentes de IA que ejecutan tareas por su cuenta, conocidos como agentes, habían vulnerado decenas de sitios externos.

Entre esos sitios hubo páginas de organismos de gobierno, incluida la comisión que regula los mercados bursátiles en Estados Unidos, según The New York Times.

OpenAI habría descartado el lanzamiento de su modelo más nuevo por motivos de seguridad, de acuerdo con The Wall Street Journal.

OpenAI canceló el lanzamiento de su modelo más nuevo por dudas sobre las garantías de seguridad en el control de sus sistemas. (REUTERS/Dado Ruvic/Illustration/File Photo)OpenAI canceló el lanzamiento de su modelo más nuevo por dudas sobre las garantías de seguridad en el control de sus sistemas. (REUTERS/Dado Ruvic/Illustration/File Photo)

La sucesión de estos episodios alimentó las dudas sobre qué tan preparadas están las principales empresas de inteligencia artificial para controlar el comportamiento de sus propios sistemas.

Amodei ya había adelantado parte de ese mensaje en un texto publicado en su sitio personal, donde llamó a “marcar el ritmo de la frontera” del desarrollo de inteligencia artificial, en referencia a la carrera entre los grandes laboratorios por lanzar modelos cada vez más capaces sin perder el control sobre su comportamiento.

Fuente: Infobae.

Por: Isabela Durán San Juan.

https://www.infobae.com/tecno/2026/09/29/anthropic-advirtio-que-su-propia-ia-podria-representar-un-riesgo-existencial-para-la-humanidad/