¿La IA podría realmente ayudar a construir un misil? Anthropic dice que un grupo en Yemen intentó hacer exactamente eso.
Usó su chatbot Claude para desarrollar software para cohetes guiados y misiles.
En un informe, la empresa estadounidense de IA afirmó haber descubierto una célula de amenaza en el norte de Yemen que trabajaba en tres programas de armas.
Entre ellos se encontraban un cohete guiado, un misil balístico diseñado para un alcance de más de 2.000 km y un misil que involucraba un vehículo de planeo hipersónico.
Se informó que Claude se utilizó para desarrollar software de guía y navegación que normalmente requeriría un equipo de ingenieros.
Anthropic dijo que no había evidencia de que las armas se hubieran vuelto operativas, aunque el grupo probó un cohete guiado.
El uso indebido de la IA genera preocupaciones más amplias
La prueba aparentemente falló. En cuestión de horas, los desarrolladores, según informes, volvieron a Claude para averiguar qué salió mal.
Anthropic dijo que prohibió las cuentas una vez que detectó la actividad ilegal.
Si bien no identificó al grupo, el informe apunta hacia los hutíes, quienes controla gran parte del norte de Yemen.
La divulgación se produce mientras las fuerzas hutíes amplían su ofensiva alrededor de la estratégica ruta marítima de Bab al-Mandab.
Anthropic también informó de intentos que involucraron armas biológicas y espionaje cibernético.
La gran pregunta es difícil de ignorar: a medida que la IA se vuelve más capaz, ¿cómo aseguramos que su poder permanezca en las manos adecuadas?
