Cerrar Menú Blogs
Las opiniones de los blogueros son de su estricta responsabilidad y no representan la opinión de este portal.
Profile image

Ingresa o regístrate acá para seguir este blog.

Seguir este blog

Una decisión correcta en un momento crítico puede ser una cuestión de vida o muerte, razón por la cual es necesario desarrollar tecnologías confiables de inteligencia artificial (IA) que mantengan a los humanos en el centro del proceso de toma de decisiones.

Es de vital importancia no pasar por alto la dimensión humana de los sistemas basados en IA. El diálogo entre humanos y máquinas es una cuestión de importancia estratégica y hay que desarrollar e implementar sistemas de inteligencia artificial que respalden la interacción y el diálogo intuitivo entre estos.

Esto ha llevado al desarrollo de una nueva estrategia de IA, diseñada para resolver problemas de complejidad cada vez mayor, que pone al ser humano en el centro: la Inteligencia Aumentada, es decir, que la inteligencia humana puede mejorarse mediante tecnologías basadas en IA adaptadas a un propósito siempre que tenga sentido para la sociedad.

La Inteligencia Aumentada es capaz de amplificar esa combinación hombre-máquina y, lo más importante, ofrecer a los humanos nuevas herramientas para desarrollar mejor su juicio y capacidades de resolución de problemas, particularmente en situaciones críticas. Sin embargo, no puede reemplazar al ser humano, especialmente cuando hay vidas en juego.

Por ejemplo, en un triage médico, la inteligencia aumentada podría ayudar a los equipos médicos a analizar cantidades masivas de información, como señales fisiológicas capturadas por sensores, lo cual sería imposible para los humanos. Sin embargo, la tecnología lo realiza fácilmente y este sistema de detección podría ofrecer apoyo a las decisiones de los trabajadores de la salud para concentrarse en los pacientes en situaciones más críticas.

Para estar seguros que podemos confiar en la IA, en campos en donde está de por medio la vida de las personas, los sistemas digitales basados en ella son particularmente estrictos en sus requisitos y hay que demostrar que se puede confiar en la IA, no solo decirlo.  Si la aplicación de contador de pasos de nuestro teléfono inteligente produce una lectura inexacta porque el algoritmo es solo aproximado, no es gran cosa. Pero para los sistemas que hacen que los aviones despeguen de manera segura, el estándar es diferente.

Cuando se desarrolla un sistema basado en IA, la prioridad es demostrar su validez, es decir, asegurarse de que funcione según lo previsto. ¿Cómo se puede demostrar que un sistema hará exactamente lo que se espera que haga en su dominio de diseño operativo o en las condiciones precisas para las que fue diseñado para funcionar? Imagínense el problema si el algoritmo no calcula la longitud de pista necesaria para aterrizar un avión de pasajeros.

Ahora bien, ¿cómo eliminar las vulnerabilidades y asegurar que estos sistemas puedan resistir los ciberataques y otras amenazas? Es importante demostrar que los sistemas de IA son lo suficientemente robustos para resistir ciberataques y otros actos maliciosos. Hoy, la relación entre seguridad e IA funciona en ambos sentidos: además de construir sistemas ciberseguros basados en IA, también se utiliza IA para desarrollar algoritmos de ciberseguridad. Cuando se trata de ciber fraude y otras formas de actividad maliciosa, la tecnología de inteligencia artificial avanza al mismo ritmo que las amenazas.

Asimismo, es importante poder demostrar que un sistema ha aprendido lo que queríamos que aprendiera porque el aprendizaje erróneo puede ser un problema real para las tecnologías de inteligencia artificial. Hay suficientes casos ilustrados de cómo la IA ha leído erróneamente algunas señales proporcionando información imprecisa.

Dado que la ciencia es una búsqueda constante de verdades simples y universales, el desarrollo de una IA confiable es una oportunidad perfecta para aprovechar el poder de la tecnología para construir un mundo mejor para todos.

(Visited 308 times, 1 visits today)
PERFIL
Profile image

Administrador de Empresas de la Universidad Francisco de Vitoria - Complutense de Madrid, con un Master por la escuela de negocios INSEEC de Francia con especialización en Estrategia de Negocios Internacionales. En el año 2009 se incorporó a Thales, líder mundial en alta tecnología que brinda soluciones, servicios y productos que ayudan a sus clientes -empresas, organizaciones y estados- en los mercados de defensa, aeronáutica, espacio, transporte, e identidad digital y seguridad, a cumplir con sus misiones críticas. A partir del 2021, Copin asumió la posición de Director General de Thales para Países Andinos, liderando importantes proyectos en diferentes áreas y mercados.

    Sigue a este bloguero en sus redes sociales:

Más posts de este Blog

Ver más

Lo más leído en Blogs

1

La COP16 es una reunión multilateral, que abarca temas de biodiversidad(...)

2

Hace apenas una semana presentamos el Cuaderno de Radio #21, un fascinante viaje(...)

3

“Pena ajena”, dictaminó Consuelo Cepeda, defensora del televidente del Canal RCN,(...)

0 Comentarios
Ingresa aquí para que puedas comentar este post
Reglamento de comentarios

ETCE no se responsabiliza por el uso y tratamiento que los usuarios le den a la información publicada en este espacio de recomendaciones, pero aclara que busca ser la sombrilla de un espacio donde el equilibrio y la tolerancia sean el eje. En ese camino, disponemos de total libertad para eliminar los contenidos que:

  1. Promuevan mensajes tipo spam.
  2. El odio ante una persona o comunidad por su condición social, racial, sexual, religiosa o de situación de discapacidad.
  3. Muestren o impulsen comportamientos o lenguajes sexualmente explícitos, violentos o dañinos.
  4. Vulneren o atenten contra los derechos de los menores de edad.

Además, tenga en cuenta que:

  • - El usuario registrado solo podrá hacer un voto y veto por comentario.
Aceptar
¿Encontraste un error?

Para EL TIEMPO las observaciones sobre su contenido son importantes. Permítenos conocerlas para, si es el caso, tomar los correctivos necesarios, o darle trámite ante las instancias pertinentes dentro de EL TIEMPO Casa Editorial.


Debes escribir el comentario
¡Gracias! Tu comentario ha sido guardado
Tu calificación ha sido registrada
Tu participación ya fue registrada
Haz tu reporte
Cerrar
Debes escribir tu reporte
Tu reporte ha sido enviado con éxito
Debes ser usuario registrado para poder reportar este comentario. Cerrar