Saltar al contenido
La Voz de Cuyo main
Estamos haciendo - Viviendas
Mundo

Un ex ejecutivo de Anthropic lanza una alarmante advertencia: la IA podría causar nuestra extinción antes de 2030

Jacob Coxon, ex empleado de OpenAI y Anthropic, sostiene que el desarrollo tecnológico actual conlleva un peligro sin precedentes. Sus declaraciones subrayan el temor que persiste entre los propios expertos del sector sobre la velocidad de la automatización.

Por Redacción
Un ex directivo renunció a Anthropic y admitió que la IA "podría matarnos a todos a fines de la década".
Un ex directivo renunció a Anthropic y admitió que la IA "podría matarnos a todos a fines de la década".

La expansión sin límites de la inteligencia artificial genera diversas posturas críticas, pero pocas han resultado tan incisivas como las de Jacob Coxon, un investigador con pasado en OpenAI que acaba de abandonar su puesto en Anthropic.

Pocos días después de desvincularse de la firma creadora del asistente Claude, el especialista difundió una serie de mensajes impactantes en la red social X, exponiendo los peligros latentes de esta tecnología. “Los individuos que están desarrollando inteligencia artificial admiten que estos sistemas podrían acabar con toda la humanidad antes de que termine esta década”, afirmó.

Coxon, de nacionalidad británica, acumuló tres años de experiencia en OpenAI antes de integrarse a Anthropic. Su trayectoria, enfocada en el preentrenamiento de modelos de lenguaje en ambas corporaciones, le otorga una voz autorizada: no se trata de un observador ajeno, sino de alguien que formó parte de las entrañas de la industria.

“Pronto serán sistemas sobrehumanos”, alertó Coxon

Tras su salida de Anthropic —organización que recientemente logró superar los niveles de facturación de OpenAI, la empresa liderada por Sam Altman—, Coxon advirtió que no debe minimizarse el potencial de la inteligencia artificial. “Muy pronto presenciaremos sistemas sobrehumanos con capacidad para vulnerar cualquier seguridad, transformar radicalmente cualquier sector de un momento a otro, y ganar el control de recursos y poder real”, sentenció. El investigador, de 27 años, enfatizó que este fenómeno no tiene freno.

Respecto a su predicción más fatalista sobre la supervivencia humana, aclaró: “Muchos directivos y científicos prefieren suavizar su discurso para proyectar cordura, pero en el ámbito privado expresan los mismos temores. No existe ninguna otra labor humana que encierre un riesgo de tal magnitud”.

El antiguo supervisor de Coxon respaldó sus alarmas: “Realmente creemos que la IA nos matará”

En sus contundentes declaraciones, el ex integrante de OpenAI y Anthropic sostuvo que “ninguna de las dos corporaciones actúa con verdadera responsabilidad”. Ante este panorama, resultaba previsible que las entidades involucradas intentaran refutar o restar importancia a los dichos de Coxon.

No obstante, Evan Hubinger, quien fuera su superior en el equipo de desarrollo de Claude, intervino en el hilo de X para respaldar sus palabras.

“Jacob tiene razón. Creemos sinceramente que existe una posibilidad real de que la IA acabe con la especie humana”, confesó. Hubinger matizó que sitúa ese riesgo por debajo del 10% y aprovechó para defender, en parte, la hoja de ruta de la compañía donde ejerce.

“Considero que Anthropic trabaja con los mejores esfuerzos, pero admito que todavía no contamos con una solución para el alineamiento de una superinteligencia y no está claro que estemos en la ruta correcta para lograrlo”, admitió.

En su perfil personal de X, Hubinger se identifica como líder de alineación en Anthropic, aclarando que sus opiniones son a título privado. Su historial incluye pasos previos por empresas clave del sector, tales como Google y OpenAI.

El contexto de los temores sobre la IA

Coxon denunció que los líderes de la industria están atrapados en una “competencia por ser los primeros”, señalando que este apuro aumenta significativamente los peligros.

Sus palabras surgen en un contexto donde agentes de IA, diseñados por las mismas empresas que emplearon al investigador, han mostrado comportamientos erráticos, incluyendo ataques a plataformas externas sin intervención humana. Uno de los incidentes más conocidos involucró a sistemas de OpenAI, los cuales vulneraron por cuenta propia el servicio Hugging Face.

Sumado a esto, durante la presente semana, Google admitió que, en un ensayo controlado, diversos agentes basados en Gemini realizaron trampas para completar acertijos matemáticos, comunicándose entre sí a través de un foro.

Frente a estos episodios, las advertencias de Coxon cobran una relevancia especial. Dirigiéndose a las firmas en las que colaboró, concluyó con un mensaje tajante: “Están avanzando a toda velocidad hacia una superinteligencia capaz de autooptimizarse y están poniendo en juego nuestras vidas”.

Más noticias

Estamos haciendo -Salud