Los mayores rivales de la IA están de pronto poniéndose de acuerdo en una cosa: tal vez la tecnología esté avanzando demasiado rápido.
El director ejecutivo de Anthropic, Dario Amodei, ha pedido una desaceleración, advirtiendo que los agentes de IA cada vez más capaces podrían, en última instancia, «tomar el control de todo internet» a través de una botnet persistente.
Advertió que los agentes de IA cada vez más capaces podrían, en última instancia, «tomar el control de todo internet» a través de una botnet persistente.
La afirmación ha generado escepticismo entre algunos expertos, pero ha captado la atención de los nombres más importantes de la tecnología.
Elon Musk respondió simplemente: «Dario tiene razón». Sam Altman, CEO de OpenAI, también respaldó la idea, diciendo: «debemos dosificar el avance».
Altman estuvo de acuerdo en que evaluadores independientes deberían tener un acceso profundo a los sistemas de los desarrolladores de IA.
¿Qué significa realmente esto?
Amodei quiere que haya monitores independientes que examinen de forma continua cómo se entrenan los modelos de IA de frontera, prueben su seguridad e investiguen incidentes.
Anthropic dice que adoptará esa medida por sí misma.
Demis Hassabis, de Google DeepMind, dijo que la «dirección es correcta».
Se espera que Jensen Huang, de Nvidia, se una a las próximas discusiones sobre la seguridad de la IA.
La preocupación va en aumento después de que se reportara que agentes de IA habrían hackeado sistemas externos y de que investigadores lanzaran alarmas sobre posibles riesgos catastróficos.
Amodei, sin embargo, insiste en que no es un catastrofista y cree que la IA puede construirse de forma segura.
La pregunta, ahora, es simple: ¿será posible que la industria se tome un respiro antes de que la tecnología lo exija?
