Anthropic revela usos indebidos de su IA para armas biológicas y ataques de Irán a EEUU

La empresa de inteligencia artificial Anthropic afirmó este jueves que ha frustrado varios posibles complots en los que se utilizaron sus modelos de Inteligencia Artificial (IA) para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas y reveló que actores vinculados al régimen de Irán utilizaron el modelo de IA Claude para apoyar operaciones de vigilancia, como planificar posibles ataques contra objetivos estadounidenses y propaganda, según un informe publicado este jueves, que documentó durante los últimos ocho meses varios usos indebidos de su tecnología.

En cuanto a la primera irregularidad, la compañía indicó en su informe de 154 páginas que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo determinar si los estudios tenían fines legítimos o maliciosos, por lo que optó por bloquearlos ante el riesgo de que sus modelos de IA pudieran contribuir al desarrollo de patógenos peligrosos.

«Si bien las evaluaciones son útiles porque proporcionan evidencia de capacidad, no pueden demostrar concretamente que dicha capacidad se utilizaría alguna vez para desarrollar armas biológicas en el mundo real», explicó la empresa en el documento.Suscríbete A Noticias

Hasta el momento, la corporación californiana negó que tuviera constancia de que alguna empresa privada haya compartido públicamente «evidencia del posible mal uso de sus plataformas para el desarrollo de armas biológicas».

Por el otro lado, la empresa también señaló en su informe que estas herramientas pueden ayudar a identificar objetivos y procesar grandes cantidades de información relacionada con disidentes, periodistas, activistas y  políticos, lo que permite a los gobiernos hacer más eficientes sistemas de vigilancia que ya existen, como se presume habría hecho el régimen de Irán.

En el caso de la República Islámica, los usuarios recurrieron además a mecanismos para sortear las restricciones de acceso a Claude, que no está disponible oficialmente en el país, y utilizaron redes privadas virtuales y números de teléfono extranjeros para acceder al servicio.

Según Anthropic, un grupo de ciberdelincuentes vinculado a Irán utilizó la cuenta de Claude para elaborar recomendaciones de ataque contra las fuerzas navales estadounidenses en la región.

Anthropic advirtió que la creciente capacidad y autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían mayores conocimientos y recursos.

Este informe surge entre crecientes preocupaciones de expertos en el sector tecnológico por el uso dual de la IA, ya que los modelos capaces de ayudar en investigaciones biológicas también pueden servir para actividades peligrosas, y también de voces que alertan de los peligros derivados de la creciente autonomía de estos modelos.

La empresa tecnológica aseguró haber desarrollado sistemas de detección para identificar y bloquear los usos que puedan suponer un riesgo en sus modelos de IA.

Con información de EFE

Fuente: PanamPost