• Microsoft creó un equipo rojo de inteligencia artificial en 2018 cuando predijo el auge de la inteligencia artificial
  • Un equipo rojo representa al enemigo; y adopta la personalidad del adversario.
  • El último documento técnico del equipo espera abordar las vulnerabilidades comunes en los sistemas de inteligencia artificial y los LLM.

Durante los últimos siete años, Microsoft ha abordado los riesgos en los sistemas de IA a través de su ‘Equipo Rojo’ dedicado a la IA.

Formado para anticipar y abordar los crecientes desafíos de los sistemas avanzados de IA, este equipo asume el papel de los actores de amenazas y, en última instancia, tiene como objetivo identificar vulnerabilidades antes de que puedan explotarse en el mundo real.

Source link