Un análisis sobre la supervisión humana en sistemas de inteligencia artificial señala que la mera presencia de una persona en el proceso no garantiza control efectivo. El texto distingue entre intervención y control, y detalla las condiciones necesarias para una supervisión real.
La expresión “supervisión humana” aparece en diversas regulaciones sobre inteligencia artificial, incluidos protocolos y guías adoptados por distintos poderes judiciales argentinos, como una barrera frente a decisiones que puedan afectar derechos. La fórmula transmite seguridad, pero su aplicación práctica presenta limitaciones.
El autor del análisis, un funcionario de la Suprema Corte de Justicia de la Provincia de Buenos Aires, sostiene que la presencia de una persona en el circuito de una decisión automatizada no convierte el resultado en una decisión controlada. Señala que, en muchos casos, quien interviene puede desconocer el funcionamiento del sistema, recibir solo el resultado final, disponer de poco tiempo para revisar o carecer de facultades para apartarse de lo sugerido.
El texto indica que la supervisión efectiva requiere que quien la ejerza cuente con conocimientos suficientes sobre las capacidades y limitaciones del sistema, acceso a información relevante, tiempo adecuado y poder real de intervención, como detener el procedimiento o modificar el curso de acción.
También advierte que cuando la regulación impone un deber genérico de supervisión sin precisar las obligaciones de la organización, la responsabilidad puede recaer sobre el individuo, sin examinar las reglas, capacitaciones o controles establecidos por la entidad.
El análisis menciona el Reglamento de Inteligencia Artificial de la Unión Europea como ejemplo de norma que, para sistemas de alto riesgo, exige medidas de supervisión adecuadas y proporcionales, y prevé que el supervisor pueda comprender los resultados y, cuando corresponda, descartarlos o detener el sistema.
Finalmente, el autor propone que las regulaciones especifiquen quién supervisará, qué conocimientos deberá tener, qué información recibirá, de cuánto tiempo dispondrá y qué acciones podrá tomar ante un resultado cuestionable. Sin esas condiciones, concluye, la supervisión humana es una puesta en escena.