Sobre el Boeing 737 MAX: ¿Dejar todo a la Inteligencia Artificial?

@JPCyberLaw

¿Dejar todo a la Inteligencia Artificial?: debate ético.

Todo apunta a que los dos accidentes de aviación ocurridos con aviones Boeing 737 Max fueron ocasionados por errores en los controles automatizados del avión. ¿Puede una máquina automatizada o la inteligencia artificial ser causante de las muertes en este desastre de la aviación mundial? 

A pesar de la ventajas que produce el impulso de la inteligencia artificial y de la automatización de los negocios, en los procesos, y en la vida cotidiana, el desarrollo de máquinas inteligentes o autónomas requiere de ciertos ajustes para evitar la ocurrencia de riesgos fatales, asegurando estándares que incorporen los controles que sean necesarios para que la toma de decisiones críticas esté en cabeza de los humanos y no de las máquinas. Se debe detener toda posibilidad que las máquinas tomen decisiones que pueda poner en riesgo la vida humana, o sobre aquellos aspectos que puedan poner en riesgo la vida cotidiana y la economía.

Precisamente, desde hace unos años el Comité Internacional de la Cruz Roja – CICR viene llamando la atención sobre los avances tecnológicos en materia de armas, no en muy poco tiempo, el campo de batalla será totalmente sin intervención humana, dónde las máquinas/armas automatizadas conducirán el desarrollo de las guerras y los conflictos. Ante este panorama la CICR (2013) pone en el debate público la necesidad que la toma de decisiones sobre la vida o la muerte por parte de una máquina automatizada requiera de la decisión humana antes que la decisión artificial se imponga.

Sobre el tema de la guerra, bien se hacía el siguiente llamado, hace más de 150 años (1868) y aún vigente en tiempos modernos, al firmar la Declaración de San Petersburgo con el objeto de prohibir el uso de determinados proyectiles en tiempo de guerra: «Que los progresos de la civilización deben tener por efecto atenuar en cuanto sea posible las calamidades de la guerra».

Ante el avance de la industrialización digital, y tomando como referencia las discusiones éticas sobre el alcance y límites de las decisiones de las máquinas frente asuntos críticos de la vida, con los hechos hipotéticos de lo ocurrido con los accidentes de los aviones Boeing 737 Max, no queda duda que las máquinas pueden ser responsables de decisiones que generen muertes humanas y daños a los bienes, por lo que las discusiones sobre la responsabilidad de las máquinas se puede trasladar a sus diseñadores y/o propietarios de las mismas.

Sin embargo, el debate sobre el avance de la inteligencia artificial, también debe llevarse a un escenario de diálogos y discusiones éticas. Las máquinas y la inteligencia artificial son y serán un soporte fundamental para la vida y desarrollo de la humanidad, sin embargo, por ningún motivo se puede dejar al azar y sin controles humanos que las máquinas tomen decisiones críticas que puedan significar afectaciones a la vida o elementos críticos del funcionamiento de una sociedad. Abro el Debate.

 

JUAN PABLO SALAZAR
Abogado Experto en Derecho Cibernético y Ciberseguridad
juan.salazar@cyberlaw.digital

—

Ver:

CICR: Armas autónomas: los Estados deben abordar importantes retos humanitarios y éticos. 2013. 

Imagen tomada de:

https://www.muyinteresante.es/tecnologia/articulo/ventajas-y-riesgos-de-la-inteligencia-artificial-651449483429