Un informe de Anthropic ha revelado que su modelo de inteligencia artificial Claude está siendo utilizado de manera indebida y peligrosa en varios países, incluyendo vigilancia masiva, propaganda y desarrollo de armas. Estos casos amenazan la seguridad global y los derechos humanos, y ponen de manifiesto los riesgos de la IA en manos equivocadas.
Casos de uso malicioso de Claude
1. Vigilancia masiva en Malí
Un consultor tecnológico en Bamako, vinculado al servicio de inteligencia de Malí, usó Claude Code para crear «Lakana 360», un sistema que monitorea 25 millones de tarjetas SIM.
- Capacidades:
- Captura de llamadas, mensajes y tráfico de voz.
- Identificación de personas por su voz, incluso si cambian de SIM.
- Detección de cifrado o VPN.
- Riesgo: El sistema sigue operativo y podría usarse para reprimir disidentes.
2. Drones kamikaze en Rusia
Un equipo independiente en Rusia usó Claude para desarrollar software para drones autónomos «kamikaze», programados para seleccionar objetivos y estrellarse sin intervención humana.
3. Desarrollo de armas en Yemen
Un grupo en Yemen usó Claude Code para diseñar cohetes guiados y misiles de largo alcance, aunque sin éxito comprobado.
4. Propaganda en Francia
La agencia LKM Company usó Claude para producir 8,913 noticias falsas en 70 sitios web y 20 idiomas, con cuentas falsas en redes sociales que simulaban ser usuarios reales.
5. Desinformación en Emiratos Árabes Unidos
Una operación vinculada a EAU usó Claude para generar contenido contra los Hermanos Musulmanes y críticos de Abu Dabi, incluyendo testimonios para la ONU.
6. Apps de citas falsas en China
Un estudio en China creó 20 apps de citas con 4,700 personajes de IA que interactuaron con 25,000 usuarios reales, enviando 2.36 millones de mensajes.
Medidas de Anthropic
Anthropic está implementando medidas para mitigar el uso malicioso de Claude, como:
- Bloqueo de cuentas sospechosas.
- Mejoras en la detección de patrones de uso malicioso.
- Colaboración con gobiernos para regular el uso de la IA.
El dilema ético de la IA
Estos casos evidencian los riesgos de la IA en manos de actores maliciosos, incluyendo:
- Vigilancia masiva sin consentimiento.
- Propaganda y desinformación a gran escala.
- Desarrollo de armas autónomas con implicaciones éticas y de seguridad.
Conclusión
El informe de Anthropic es un recordatorio urgente de que la IA puede ser un arma si no se regula adecuadamente. La comunidad internacional debe unir esfuerzos para establecer normativas claras que protejan los derechos humanos y la seguridad global.
Hashtags: #Anthropic #Claude #IA #Vigilancia #Propaganda #Armas #ÉticaIA #SeguridadGlobal #RegulaciónIA