El hombre que desarrolla una de las IA más avanzadas ahora pide frenar la carrera

La carrera por desarrollar sistemas de inteligencia artificial cada vez más capaces acaba de entrar en una nueva etapa: uno de sus principales protagonistas está pidiendo bajar el ritmo.

Dario Amodei, CEO de Anthropic, publicó el 12 de septiembre un ensayo en el que plantea que las empresas de inteligencia artificial deberían desacelerar deliberadamente el avance de sus modelos para dar tiempo a desarrollar mejores mecanismos de seguridad y supervisión. Su propuesta llega después de varias advertencias sobre el uso indebido de sistemas avanzados y sobre la posibilidad de que sus capacidades evolucionen más rápido que la capacidad humana para controlarlas.

Amodei no propone detener el desarrollo de la IA. Su planteamiento es avanzar a un ritmo que permita evaluar y controlar los nuevos sistemas antes de llevarlos a capacidades más avanzadas. El plan contempla tres elementos: evaluadores externos con acceso permanente a los sistemas para supervisar su seguridad, coordinación entre las principales empresas del sector y cooperación internacional. Anthropic anunció que aplicará unilateralmente el primero de estos pasos.

La propuesta ganó rápidamente apoyos dentro de la propia industria. Sam Altman, CEO de OpenAI, y Elon Musk, de xAI, expresaron respaldo al llamado de Amodei.

El debate se intensificó después de que Jacob Coxon, un exempleado de OpenAI y Anthropic, renunciara públicamente y advirtiera que personas dentro de la industria consideran posible que la inteligencia artificial provoque una catástrofe para la humanidad antes de que termine la década. Coxon reconoció que no existe un escenario único y definido sobre cómo ocurriría algo así, pero señaló como preocupación el ritmo de avance hacia sistemas capaces de mejorar sus propias capacidades.

Las advertencias también llegaron al terreno político. El senador Bernie Sanders y el representante Greg Casar anunciaron un proyecto de ley que propone prohibir el desarrollo y despliegue de sistemas de superinteligencia artificial y establecer una pausa temporal para el desarrollo de sistemas avanzados hasta crear un organismo federal encargado de regularlos.

Pero no existe consenso sobre cómo responder a estos riesgos. En el Gobierno de Donald Trump predomina una visión que vincula el desarrollo de la IA con la competencia tecnológica frente a China. El presidente defendió que Estados Unidos debe mantener el liderazgo en esta tecnología y afirmó que pueden establecerse salvaguardas sin frenar la innovación.

David Sacks, asesor de la Casa Blanca para IA y criptomonedas, también ha cuestionado los llamados a frenar el desarrollo. Su argumento es que una regulación excesiva podría concentrar todavía más el mercado en las grandes empresas tecnológicas y permitir que China gane terreno en la carrera por la inteligencia artificial.

Así, la discusión ya no gira únicamente alrededor de si la IA puede llegar a ser demasiado poderosa. También plantea quién debe decidir hasta dónde puede avanzar, qué controles deben existir y cómo evitar que las medidas de seguridad terminen concentrando el poder tecnológico en unas pocas compañías o países.

El debate apenas comienza, pero el hecho de que algunos de los propios líderes de la industria estén pidiendo tiempo para mejorar las medidas de seguridad muestra hasta qué punto ha cambiado la conversación sobre la velocidad con la que avanza la inteligencia artificial.

Con información de: Reuters, CNN, Anthropic y Oficina del senador Bernie Sanders.

Síguenos en Instagram, Facebook y nuestro canal de Telegram