A pesar de las salvaguardas “sofisticadas”, la empresa de infraestructura de IA, Anthropic, dice que los ciberdelincuentes siguen encontrando formas de usar indebidamente su chatbot de IA, Claude, para orquestar ciberataques a gran escala.
En un informe de “Inteligencia de Amenazas” publicado el miércoles, miembros del equipo de Inteligencia de Amenazas de Anthropic, incluidos Alex Moix, Ken Lebedev y Jacob Klein, compartieron varios casos en los que criminales habían usado indebidamente el chatbot Claude, con algunos ataques exigiendo más de 500.000 dólares en rescate.
Descubrieron que el chatbot fue utilizado no solo para proporcionar asesoramiento técnico a criminales, sino también para ejecutar directamente ataques en su nombre a través de “vibe hacking”, lo que les permitía realizar ataques con solo conocimientos básicos de programación y cifrado.
En febrero, la firma de seguridad de la blockchain Chainalysis pronosticó que las estafas para robar criptomonedas podrían tener su mayor año en 2025, pues las soluciones de IA generativa las ha hecho más escalables y asequibles.
Anthropic encontró a un hacker que había estado realizando “vibe hacking” con Claude para robar datos sensibles de al menos 17 organizaciones, incluidos servicios de salud, servicios de emergencia, instituciones gubernamentales y religiosas, con demandas de rescate que oscilaban entre 75.000 y 500.000 dólares en Bitcoin.
El hacker entrenó a Claude para evaluar registros financieros robados, calcular cantidades de rescate adecuadas y escribir notas de rescate personalizadas para maximizar la presión psicológica.
Aunque Anthropic logró banear posteriormente al atacante, el incidente refleja cómo la IA está facilitando incluso a los programadores con los conocimientos más básicos el realizar ciberdelitos en un “grado sin precedentes”.
“Los actores que no pueden implementar de forma independiente un cifrado básico o entender la mecánica de las llamadas al sistema ahora están creando con éxito ransomware con capacidades de evasión [y] aplicando técnicas anti-análisis”.
Trabajadores de TI norcoreanos también utilizaron Claude
Anthropic también descubrió que trabajadores de TI norcoreanos han estado utilizando Claude para forjar identidades convincentes, aprobar pruebas técnicas de codificación e incluso conseguir puestos remotos en empresas tecnológicas estadounidenses de la lista Fortune 500. También utilizaron Claude para preparar las respuestas de las entrevistas para esos puestos.
Claude también se utilizó para llevar a cabo el trabajo técnico una vez contratados, dijo Anthropic, señalando que los esquemas de empleo fueron diseñados para canalizar ganancias al régimen norcoreano a pesar de las sanciones internacionales.
A principios de este mes, un trabajador de TI norcoreano fue contra-hackeado, donde se descubrió que un equipo de seis personas compartía al menos 31 identidades falsas, obteniendo desde documentos de identidad gubernamentales y números de teléfono hasta la compra de cuentas de LinkedIn y UpWork para ocultar sus verdaderas identidades y conseguir empleos en criptomonedas.
Uno de los trabajadores supuestamente se entrevistó para un puesto de ingeniero full-stack en Polygon Labs, mientras que otras pruebas mostraron respuestas de entrevista guionizadas en las que afirmaban tener experiencia en el marketplace de NFT OpenSea y en el proveedor de oráculos de la blockchain Chainlink.
Anthropic afirmó que su nuevo informe tiene como objetivo debatir públicamente los incidentes de uso indebido para ayudar a la comunidad más amplia de seguridad de la IA y fortalecer la defensa de la industria en general contra los abusadores de la IA.
Afirmó que, a pesar de implementar “sofisticadas medidas de seguridad” para prevenir el uso indebido de Claude, los actores maliciosos han seguido encontrando formas de eludirlas.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.
