La inteligencia artificial (IA), prácticamente, irrumpió en todos los ámbitos de la vida moderna, desde la medicina hasta la automatización industrial. No obstante, a medida que sus capacidades avanzan, también crecen las preocupaciones sobre los riesgos que conlleva su uso descontrolado.

La necesidad de establecer límites claros y mecanismos regulatorios eficaces es cada vez más apremiante, pues el desarrollo de IA sin restricciones adecuadas podría poner en riesgo la privacidad, la seguridad y la estabilidad social.

“La IA puede generar consecuencias no previstas si no se regula adecuadamente. Desde la falta de transparencia en los algoritmos hasta la invasión a la privacidad, el marco legal actual no está preparado para estos desafíos tecnológicos”, señala William Llanos, abogado especializado en derecho informático y docente de la carrera de Derecho en la Universidad Franz Tamayo, Unifranz.

En este sentido, el Foro Económico Mundial (WEF, por sus siglas en inglés), ha subrayado la importancia de definir líneas rojas para la IA, es decir, aquellas barreras que estos sistemas no deben cruzar bajo ninguna circunstancia. Estas prohibiciones buscan evitar escenarios catastróficos, como el uso de la IA para la creación de armas de destrucción masiva, la suplantación de identidad humana o la vigilancia no autorizada.

De acuerdo con un análisis del WEF, las líneas rojas de la IA pueden clasificarse en dos grandes categorías: los usos inaceptables y los comportamientos inaceptables.

• Usos inaceptables: se refieren a la forma en que los humanos pueden emplear la IA con fines perjudiciales. Por ejemplo, el Reglamento de IA de la Unión Europea establece restricciones sobre el uso de sistemas de videovigilancia impulsados por IA para evitar el abuso en la recolección de datos personales.