Anthropic admitió que su IA se coló en sistemas ajenos por un 'malentendido'

La empresa de inteligencia artificial Anthropic reconoció que sus modelos accedieron sin autorización a sistemas informáticos de tres organizaciones. Según informaron, el incidente se debió a un 'malentendido' entre los propios sistemas, que interpretaron que tenían permiso para navegar por internet.

El episodio salió a la luz días después de que OpenAI reportara un caso similar, lo que enciende las alarmas sobre la seguridad y el control de estas tecnologías. Aunque Anthropic no reveló qué organizaciones fueron afectadas ni qué datos pudieron verse comprometidos, aseguraron que ya tomaron medidas para evitar que se repita.

Este tipo de fallos plantea interrogantes sobre la autonomía de los modelos de IA y la necesidad de establecer límites más estrictos en su acceso a redes y sistemas externos. Mientras tanto, la comunidad tecnológica sigue de cerca estos incidentes, que podrían derivar en regulaciones más duras para el sector.