Dario Amodei, CEO de Anthropic, ha lanzado una advertencia explícita sobre el futuro de la inteligencia artificial. En un ensayo de 38 páginas titulado “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI” (La adolescencia de la tecnología: afrontar y superar los riesgos de la inteligencia artificial avanzada), el directivo sostiene que la humanidad se encuentra ante una prueba de madurez histórica, enfrentada a una tecnología cuyo poder crece más rápido que las instituciones capaces de controlarla.

“La humanidad está a punto de recibir un poder casi inimaginable, y no está claro que nuestros sistemas sociales, políticos y tecnológicos tengan la madurez necesaria para manejarlo”, escribe Amodei, que describe el momento actual como una fase inevitable de desajuste.

El núcleo de su argumento se encuentra en que la carrera por la IA no puede autorregularse. El incentivo económico, geopolítico y militar es tan fuerte que ningún laboratorio, empresa o gobierno tiene margen real para pisar el freno sin quedar fuera del juego. “El premio es demasiado brillante”, viene a decir Amodei, incluso para quienes son plenamente conscientes de los riesgos.

Para explicar el alcance del problema, el CEO recurre de forma constante a una metáfora inquietante: “un país de genios en un centro de datos”. Un ecosistema compuesto por millones de sistemas de IA, más inteligentes que cualquier humano, operando a velocidad de máquina, coordinándose y con capacidad creciente para actuar sobre el mundo real. El riesgo, según Amodei, es solo moral y estratégico, puesto que el poder se concentra antes de que existan mecanismos para gobernarlo.

El ensayo, en este sentido, identifica cinco grandes áreas de riesgo:

• La autonomía: sistemas que desarrollen comportamientos impredecibles o difíciles de controlar
• El uso malicioso por parte de individuos, especialmente en ámbitos como la biología, donde la IA podría reducir drásticamente las barreras para causar daño masivo
• El uso por parte de Estados autoritarios para reforzar la vigilancia, la propaganda o el control social
• El impacto económico, con una disrupción acelerada del empleo y una concentración extrema de riqueza
• Los efectos indirectos: cambios culturales, psicológicos y sociales que llegarían antes de que existan normas para gestionarlos.

Amodei es especialmente explícito al advertir de que la IA potente podría estar a tan solo “uno o dos años de distancia”, y que un análisis serio podría calificarla como “la mayor amenaza para la seguridad nacional en un siglo, o incluso en toda la historia”. No porque el desastre sea inevitable, sino porque la combinación de capacidad, velocidad y escala multiplica el impacto de cualquier fallo.

La trampa de a regulación

El texto también funciona como posicionamiento. Anthropic es uno de los grandes actores de la llamada “IA de frontera” y compite directamente en el mercado con sistemas como Claude, su propio modelo conversacional. El mismo día de la publicación del ensayo, la compañía anunciaba mejoras comerciales en su producto, lo que subraya la tensión central del discurso: advertir sobre una tecnología mientras se acelera su adopción.

Noticias Relacionadas

Las herramientas de Freepik, en la primera película producida con IA elegible para los Óscar

Separados, identificados y seguros para las marcas: así serán los anuncios en ChatGPT, según OpenAI

El propio Amodei reconoce esa paradoja. Defiende que la autorregulación voluntaria no es suficiente y apuesta por intervenciones “aburridas pero efectivas”: leyes de transparencia, controles a la exportación de chips, obligaciones de divulgación sobre el comportamiento de los modelos y regulaciones incrementales diseñadas para ganar tiempo, no para congelar el progreso. “La tentación de las soluciones grandilocuentes suele acabar en un teatro de seguridad”, advierte, alertando contra regulaciones mal diseñadas que provoquen rechazo social.

En su visión, el objetivo no es frenar la IA, algo que considera inviable. La clave reside en comprar margen de maniobra institucional antes de que la tecnología supere definitivamente la capacidad humana de reacción. De lo contrario, el riesgo será técnico y también político, porque si el control de la IA queda en manos de unos pocos actores -empresas, Estados o alianzas- estos serán capaces de moldear economías, narrativas y estructuras de poder a escala global.

“La trampa”, concluye Amodei, es creer que alguien dentro de la carrera puede actuar como adulto responsable cuando todos compiten por el mismo botín. Una advertencia que gana peso precisamente porque proviene de uno de los protagonistas del propio sistema que describe.

Más info.: The Adolescence of Technology