El lado oscuro de la inteligencia artificial (IA)

Hola abejas, después de este período navideño en el que "se me han pegado los turrones" (os pido disculpas por ello) ya estamos aquí de nuevo, y como no podía ser de otra manera, vuelvo a publicar estos artículos que tanto os gustan (jejeje).

En este caso voy a hablaros de algo que está en auge, que representa el futuro, y que pese a lo que se ha avanzado en ello desde hace muchos años, estamos casi en pañales todavía, dado que las posibilidades son casi infinitas: la Inteligencia Artificial...

Podéis estar tranquilos, que NO voy ha hablar de los sistemas expertos, o del procesamiento en tiempo real, ni de esas cosas tan complicadas, para eso en la colmena hay grandes y expertos ingenieros informáticos, que sin duda pueden aportaros mucho más conocimiento que yo, aunque se ocultan bastante bien, y a los que animo a difundir conocimiento para los que no sabemos tanto como ellos de estas "cosas raras".

Así que sin más preámbulos, aquí os dejo mis reflexiones sobre la inteligencia artificial, y su cara oculta...

¡Aaah... Y preparad las palomitas, las chuches, y los refrescos, que hoy tenemos peli!

                                                                                      *          *          *          *

El siglo XXI ha visto un resurgimiento masivo del uso de técnicas altamente avanzadas como la IA. Ahora podemos procesar grandes cantidades de datos en un corto período de tiempo. Podemos usar el aprendizaje automático para ayudar a las máquinas a mejorar sus errores. De hecho, hemos visto cómo la IA se sumerge en todas las industrias, desde la cirugía demostrada realizada por un robot, hasta el los coches que conducen por cuenta propia, esos que disponen de la denominada conducción autónoma.

Sin embargo, también hemos estudiado el lado oscuro de los algoritmos y la inteligencia artificial en general. La gente no suele considerar los sesgos de la IA. El sistema de tribunales federales de Estados Unidos utiliza un software de voz, reconocimiento facial y pautas de sentencia. A todos nos gustaría creer que el uso de algoritmos de IA aumentaría la neutralidad y la toma de decisiones sin emociones. Sin embargo, ese no ha sido el caso.

Con estos parámetros iniciales, y vistos los grandes ejemplos de conductas más que dudosas por parte de algunas grandes compañias tecnonológicas y sus  respectivos CEO, el futuro es como poco algo inquietante.

Problemas de la IA

Los algoritmos, por diseño, tienen defectos inherentes. Después de todo, somos los humanos quienes diseñamos (por ahora) los algoritmos. Por lo tanto, los algoritmos están sujetos al inevitable error humano.

Desafortunadamente, algunos de los atributos y características de estos algoritmos pueden sufrir sesgos en deteminadas "variables" como edad, género, raza, color, origen nacional, religión, estado civil, nivel de educación e incluso fuentes de ingresos. Y es todavía peor, cuando reflexionamos sobre todas las formas posibles en que una IA podría evalúar a las personas.

En EE.UU. los informes indican que al menos 15 estados usan IA o algún tipo de programa de aprendizaje automático para determinar el riesgo de que los reclusos puedan ser ofendidos, así que os podéis imaginar que la crisis podría desencadenarse en cualquier momento.

No obstante, cuando consideramos que la vida de alguien está en manos de un software de IA que puede tener tendencias sesgadas, los problemas resultantes son fáciles de predecir, o debería serlo.

Otras situaciones e industrias que tienen un gran impacto en la vida de las personas también están utilizando estos algoritmos para tomar decisiones muy importantes. Las industrias de banca, finanzas y seguros son sólo algunos ejemplos. Considerad a alguien a quien se le a quien se le deniega un préstamo para iniciar sus pequeñas empresas. ¿Y si se declinaran por ser simplemente una mujer?

Estas son las decisiones que cambian la vida, y podrían estar en manos de programas informáticos extremadamente falibles y con fallos de programación en su código, por lo que por supuesto serían también altamente vulnerables.

Y este tipo de filtros o sesgos, o incluso "coacciones informáticas" viene dado (entre otras cosas) por que la intligencia artificial NO tiene emociones, y por tanto los programadores implementan un gran número de "variables" en su código para intentar sustituir y simular algo remotamente parecido a las emociones humanas en el difícil proceso de la toma de decisiones. No todo va a ser la recopilación de información previa, y eso que esto es algo totalmente fundamental e imprescindible en la toma de decisiones, o en los procesos de negociación.

Malos ejemplos

Algunos problemas que ocurrieron en 2017 ilustran todo esto. Hubo sesgos de género en la traducción de Google al manejar las traducciones turco-inglés. Lamentablemente, eso no fue todo lo que salió mal para Google ese año. Un programa de inteligencia artificial que habían lanzado para respuestas rápidas e inteligentes produjo un sistema de sugerencias de emoji racistas. Al enviar un emoji de arma, una de las tres respuestas recomendadas fue un hombre que llevaba un turbante. Google afortunadamente, respondió rápidamente cambiando el algoritmo.

Necesitamos ser responsables

Esos son sólo algunos ejemplos de cómo la IA y los algoritmos han demostrado tener errores en determinadas características "propiamente humanas" y de maneras sorprendentes. Estos algoritmos están afectando cada vez a más y más personas a medida que aumenta la popularidad entre ellos.

Los humanos necesitamos establecer más límites para la IA, es lo mismo que educar a un niño al que si no le ponemos límites...   Debemos por lo tanto "educar a las IA".

Y de postre, aquí os dejo una película (completa) sobre Alan Turing, la persona que construyó una máquina que sirvió para descifrar el código de ENIGMA, que era el dispositivo con el que los alemanes encriptaban los mensajes que enviaban a sus submarinos durante la II Guerra Mundial, y cuyo trabajo, junto con los trabajos posteriores de John von Neumann, dieron origen a lo que hoy en día conocemos como ORDENADORES.

¡Poneos cómodos y sacad las palomitas!

Espero y deseo que os haya gustado, pero no es obligatorio.

Gracias a tod@s por leerme.

Referencias:

https://es.wikipedia.org/wiki/Inteligencia_artificial

http://wiki.inf.utfsm.cl/index.php?title=Sistemas_Expertos

https://docs.microsoft.com/es-es/azure/architecture/data-guide/big-data/real-time-processing

https://es.wikipedia.org/wiki/Test_de_Turing

https://hipertextual.com/2017/08/ia-robots-guerra-es-peligro-real-advierten-elon-musk-otros-expertos

https://omicrono.elespanol.com/2017/07/inteligencia-artificial-idioma-propio-desactivada/

https://es.gizmodo.com/un-nuevo-informe-sobre-los-riesgos-de-la-ia-pinta-un-fu-1823328773

https://www.nobbot.com/futuro/aplicaciones-de-la-ia-que-tienes-a-mano/

https://blog.adext.com/es/tecnologias-inteligencia-artificial-2018

http://www.lostiempos.com/tendencias/tecnologia/20180120/lado-oscuro-inteligencia-artificial

https://www.vix.com/es/tecnologia/176591/el-sistema-de-inteligencia-artificial-de-google-mostro-su-lado-oscuro

https://academiaplay.es/inteligencia-artificial/

https://programacionparatodossite.wordpress.com/2018/05/05/la-inteligencia-artificial-el-lado-oscuro/comment-page-1/