Jacob Coxon, investigador de la compañía, dimitió y advirtió que la carrera por desarrollar sistemas cada vez más avanzados podría acabar en una catástrofe para la humanidad.
La inteligencia artificial podría acabar con la humanidad antes de que termine esta década. No es una predicción científica ni una conclusión aceptada por la comunidad tecnológica, pero sí la advertencia que ha llevado a Jacob Coxon, investigador de Anthropic, a abandonar la compañía. Su exjefe en la compañía sitúa por encima del 10% la posibilidad de una catástrofe global provocada por la IA durante la próxima década.
En un mensaje publicado en X, Coxon sostuvo que algunas de las personas que desarrollan estos sistemas creen seriamente que la inteligencia artificial podría “matarnos a todos” antes de 2030. Su preocupación se centra en la velocidad de la carrera tecnológica y en que decisiones con posibles consecuencias globales estén concentradas en un reducido grupo de empresas y ejecutivos.
El temor a una IA que pueda mejorarse sola
Coxon considera especialmente preocupante la posibilidad de que los modelos alcancen capacidades de automejora recursiva, es decir, que puedan contribuir al desarrollo de sistemas posteriores cada vez más potentes con una intervención humana cada vez menor.
La advertencia ha encontrado eco dentro de la propia Anthropic. Evan Hubinger, responsable de investigación de alineación de la compañía y antiguo jefe de Coxon, afirmó que personalmente estima en más de un 10% la probabilidad de que la IA provoque una catástrofe global durante la próxima década. Hubinger matizó que considera bajo el riesgo asociado a los modelos actuales y que su preocupación principal está en una futura superinteligencia capaz de mejorarse de forma autónoma.
El propio consejero delegado de Anthropic, Dario Amodei, también ha advertido de que el riesgo asociado a la IA es mayor en 2026 que en 2023.
Una carrera que algunos investigadores quieren frenar
La crítica de Coxon apunta directamente a la dinámica que domina actualmente el sector. Anthropic, OpenAI y otros grandes laboratorios compiten por desarrollar sistemas con mayores capacidades, mientras crece el debate sobre si los mecanismos de seguridad avanzan al mismo ritmo.
Para el investigador, incluso las compañías que son conscientes de los riesgos están atrapadas en una carrera para llegar antes que sus competidores. Su dimisión vuelve a poner sobre la mesa una cuestión que trasciende a Silicon Valley: qué ocurre cuando la velocidad de desarrollo tecnológico supera la capacidad de entender y controlar sus consecuencias.
Por ahora, nadie puede afirmar que la IA vaya a acabar con la humanidad en 2030. Lo que sí existe es una advertencia cada vez más explícita desde algunos sectores de la propia industria sobre el riesgo de que una futura inteligencia artificial alcance capacidades que sus creadores no puedan controlar.
Fuente: El País