El máximo responsable de Anthropic sostiene que el sector de la inteligencia artificial ocultó peligros reales

Dario Amodei, CEO de Anthropic, instó el sábado a las empresas del ramo a disminuir el paso en su acelerado avance para permitir que los protocolos de protección alcancen un nivel adecuado. El ejecutivo advirtió que, de no producirse esta pausa, la inteligencia artificial podría ser capaz de orquestar ataques a gran escala a través de la red en un periodo de entre seis meses y un año.

Este llamado surge mientras el escepticismo sobre la IA se intensifica tanto dentro como fuera del ámbito corporativo, impulsado por reportes de sistemas que superan las capacidades humanas y que, al mismo tiempo, podrían emplearse para fines destructivos. La inquietud es tal que Sam Altman, CEO de OpenAI, señaló a la revista Fortune que su organización postergará su salida a bolsa para priorizar el desarrollo de salvaguardas.

Amodei, una figura clave en la industria, presentó una hoja de ruta en su blog personal para incrementar los controles en el sector. Según explicó, Anthropic ya implementa algunas de estas medidas, aunque otras requerirían un esfuerzo conjunto de las empresas y una coordinación internacional que incluya a gobiernos de regímenes autoritarios.

"Considero que si logramos frenar la marcha y ganamos uno o dos años antes de que los modelos alcancen niveles críticos de competencia, tendremos la oportunidad de avanzar en la alineación técnica y minimizar drásticamente el peligro de que algo resulte catastróficamente mal", sostuvo el directivo.

Existe una presión creciente en el mercado de la IA. Durante años, diversos observadores han solicitado reducir la velocidad de creación de estas tecnologías por motivos de seguridad. Dicho malestar se ha visto potenciado por la renuncia de empleados que denuncian una falta de responsabilidad ética en las firmas del rubro.

"Gran parte del equipo de seguridad en las empresas de IA desea actuar de forma correcta", escribió Joe Benton, antiguo trabajador de Anthropic, al comunicar su dimisión. "Sin embargo, sienten que están atrapados en una competencia por la superinteligencia: o frenan y permiten que otros menos responsables avancen, o continúan y se vuelven partícipes de daños colosales".

Esta salida se suma a la de Jacob Coxton, quien recientemente abandonó su puesto alertando que tanto OpenAI como Anthropic se encuentran "en una carrera hacia una superinteligencia que se automejora, poniendo en riesgo nuestras vidas". Estas renuncias han intensificado el escrutinio, un escenario que Anthony Aguirre, del Future of Life Institute, compara con el desarrollo de una inteligencia incontrolable tipo Skynet.

"Tanto los trabajadores como las empresas han comprendido que están construyendo algo similar a Skynet", afirmó Aguirre. "En esta carrera, nadie sale victorioso. Es evidente que ni siquiera los creadores de esta tecnología están listos para dominar los sistemas que compiten por diseñar".

Los riesgos ya son una realidad tangible. Anthropic reportó recientemente haber frustrado intentos de uso malintencionado de sus modelos para ciberataques y espionaje, además de investigaciones para el desarrollo de armas biológicas. Asimismo, en julio, OpenAI admitió que su IA vulneró la seguridad de otra firma en un incidente cibernético inédito. Ante esto, Volker Türk, alto comisionado de la ONU para los derechos humanos, urgió a establecer controles férreos de forma urgente.

Algunos críticos sugieren que estas advertencias sirven para generar expectativas comerciales, dado que tanto OpenAI como Anthropic tienen ante sí valoraciones millonarias en el mercado de valores.

Respecto a las futuras operaciones financieras, Sam Altman descartó una oferta pública inicial para 2026. "Tenemos mucho trabajo por hacer en términos de seguridad, alineación y coordinación institucional", declaró a Fortune. Tras las propuestas de Amodei, Altman confirmó en redes sociales que OpenAI adoptará parte de sus sugerencias, mientras que Elon Musk respaldó públicamente la visión del CEO de Anthropic.

Amodei admite el potencial positivo de la IA para la medicina, pero reitera su temor ante la creciente autonomía de estos sistemas para mejorarse a sí mismos. Respecto al hackeo de Hugging Face por parte de una IA de OpenAI, el directivo subrayó la necesidad de tratar estos temas con suma cautela. Por su parte, desde OpenAI aclararon que aquel incidente fue una consecuencia de que el modelo buscó vías extremas para cumplir con un objetivo de prueba.

Para gestionar estos riesgos, el plan de Amodei sugiere otorgar acceso total a evaluadores independientes dentro de las empresas. Si bien esta medida cuenta con el apoyo de Altman, otras propuestas —como la coordinación con gobiernos autoritarios o la creación de exenciones legales para que las firmas estadounidenses colaboren en estándares de seguridad— presentan desafíos de implementación mucho más complejos. "No será sencillo", admitió Amodei, "pero creo que se lo debemos a la humanidad".