Fran ūüźĚ Brizzolis

hace 2 a√Īos ¬∑ 4 min. de lectura ¬∑ visibility ~10 ¬∑

chat Contactar con el autor

thumb_up Relevante message Comentar

El lado oscuro de la inteligencia artificial (IA)

El lado oscuro de la inteligencia artificial (IA)



Hola abejas, despu√©s de este per√≠odo navide√Īo en el que "se me han pegado los turrones" (os pido disculpas por ello) ya estamos aqu√≠ de nuevo, y como no pod√≠a ser de otra manera, vuelvo a publicar estos art√≠culos que tanto os gustan (jejeje).


En este caso voy a hablaros de algo que est√° en auge, que representa el futuro, y que pese a lo que se ha avanzado en ello desde hace muchos a√Īos, estamos casi en pa√Īales todav√≠a, dado que las posibilidades son casi infinitas: la Inteligencia Artificial...


Podéis estar tranquilos, que NO voy ha hablar de los sistemas expertos, o del procesamiento en tiempo real, ni de esas cosas tan complicadas, para eso en la colmena hay grandes y expertos ingenieros informáticos, que sin duda pueden aportaros mucho más conocimiento que yo, aunque se ocultan bastante bien, y a los que animo a difundir conocimiento para los que no sabemos tanto como ellos de estas "cosas raras".


Así que sin más preámbulos, aquí os dejo mis reflexiones sobre la inteligencia artificial, y su cara oculta...


¬°Aaah... Y preparad las palomitas, las chuches, y los refrescos, que hoy tenemos peli!



                                                                                      *          *          *          *



El siglo XXI ha visto un resurgimiento masivo del uso de técnicas altamente avanzadas como la IA. Ahora podemos procesar grandes cantidades de datos en un corto período de tiempo. Podemos usar el aprendizaje automático para ayudar a las máquinas a mejorar sus errores. De hecho, hemos visto cómo la IA se sumerge en todas las industrias, desde la cirugía demostrada realizada por un robot, hasta el los coches que conducen por cuenta propia, esos que disponen de la denominada conducción autónoma.


Sin embargo, también hemos estudiado el lado oscuro de los algoritmos y la inteligencia artificial en general. La gente no suele considerar los sesgos de la IA. El sistema de tribunales federales de Estados Unidos utiliza un software de voz, reconocimiento facial y pautas de sentencia. A todos nos gustaría creer que el uso de algoritmos de IA aumentaría la neutralidad y la toma de decisiones sin emociones. Sin embargo, ese no ha sido el caso.


Con estos par√°metros iniciales, y vistos los grandes ejemplos de conductas m√°s que dudosas por parte de algunas grandes compa√Īias tecnonol√≥gicas y sus¬† respectivos CEO, el futuro es como poco algo inquietante.





               

Problemas de la IA


Los algoritmos, por dise√Īo, tienen defectos inherentes. Despu√©s de todo, somos los humanos quienes dise√Īamos (por ahora) los algoritmos. Por lo tanto, los algoritmos est√°n sujetos al inevitable error humano.


Desafortunadamente, algunos de los atributos y caracter√≠sticas de estos algoritmos pueden sufrir sesgos en deteminadas "variables" como edad, g√©nero, raza, color, origen nacional, religi√≥n, estado civil, nivel de educaci√≥n e incluso fuentes de ingresos. Y es todav√≠a peor, cuando reflexionamos sobre todas las formas posibles en que una IA podr√≠a eval√ļar a las personas.


En EE.UU. los informes indican que al menos 15 estados usan IA o alg√ļn tipo de programa de aprendizaje autom√°tico para determinar el riesgo de que los reclusos puedan ser ofendidos, as√≠ que os pod√©is imaginar que la crisis podr√≠a desencadenarse en cualquier momento.


No obstante, cuando consideramos que la vida de alguien está en manos de un software de IA que puede tener tendencias sesgadas, los problemas resultantes son fáciles de predecir, o debería serlo.


Otras situaciones e industrias que tienen un gran impacto en la vida de las personas tambi√©n est√°n utilizando estos algoritmos para tomar decisiones muy importantes. Las industrias de banca, finanzas y seguros son s√≥lo algunos ejemplos. Considerad a alguien a quien se le a quien se le deniega un pr√©stamo para iniciar sus peque√Īas empresas. ¬ŅY si se declinaran por ser simplemente una mujer?


Estas son las decisiones que cambian la vida, y podrían estar en manos de programas informáticos extremadamente falibles y con fallos de programación en su código, por lo que por supuesto serían también altamente vulnerables.


Y este tipo de filtros o sesgos, o incluso "coacciones inform√°ticas" viene dado (entre otras cosas) por que la intligencia artificial NO tiene emociones, y por tanto los programadores implementan un gran n√ļmero de "variables" en su c√≥digo para intentar sustituir y simular algo remotamente parecido a las emociones humanas en el dif√≠cil proceso de la toma de decisiones. No todo va a ser la recopilaci√≥n de informaci√≥n previa, y eso que esto es algo totalmente fundamental e imprescindible en la toma de decisiones, o en los procesos de negociaci√≥n.





Malos ejemplos


Algunos problemas que ocurrieron en 2017 ilustran todo esto. Hubo sesgos de g√©nero en la traducci√≥n de Google al manejar las traducciones turco-ingl√©s. Lamentablemente, eso no fue todo lo que sali√≥ mal para Google ese a√Īo. Un programa de inteligencia artificial que hab√≠an lanzado para respuestas r√°pidas e inteligentes produjo un sistema de sugerencias de emoji racistas. Al enviar un emoji de arma, una de las tres respuestas recomendadas fue un hombre que llevaba un turbante. Google afortunadamente, respondi√≥ r√°pidamente cambiando el algoritmo.




  

Necesitamos ser responsables


Esos son sólo algunos ejemplos de cómo la IA y los algoritmos han demostrado tener errores en determinadas características "propiamente humanas" y de maneras sorprendentes. Estos algoritmos están afectando cada vez a más y más personas a medida que aumenta la popularidad entre ellos.


Los humanos necesitamos establecer m√°s l√≠mites para la IA, es lo mismo que educar a un ni√Īo al que si no le ponemos l√≠mites...¬†¬† Debemos por lo tanto "educar a las IA".


Y de postre, aquí os dejo una película (completa) sobre Alan Turing, la persona que construyó una máquina que sirvió para descifrar el código de ENIGMA, que era el dispositivo con el que los alemanes encriptaban los mensajes que enviaban a sus submarinos durante la II Guerra Mundial, y cuyo trabajo, junto con los trabajos posteriores de John von Neumann, dieron origen a lo que hoy en día conocemos como ORDENADORES.


¡Poneos cómodos y sacad las palomitas!





Espero y deseo que os haya gustado, pero no es obligatorio.

Gracias a tod@s por leerme.






Referencias:


https://es.wikipedia.org/wiki/Inteligencia_artificial

http://wiki.inf.utfsm.cl/index.php?title=Sistemas_Expertos

https://docs.microsoft.com/es-es/azure/architecture/data-guide/big-data/real-time-processing

https://es.wikipedia.org/wiki/Test_de_Turing

https://hipertextual.com/2017/08/ia-robots-guerra-es-peligro-real-advierten-elon-musk-otros-expertos

https://omicrono.elespanol.com/2017/07/inteligencia-artificial-idioma-propio-desactivada/

https://es.gizmodo.com/un-nuevo-informe-sobre-los-riesgos-de-la-ia-pinta-un-fu-1823328773

https://www.nobbot.com/futuro/aplicaciones-de-la-ia-que-tienes-a-mano/

https://blog.adext.com/es/tecnologias-inteligencia-artificial-2018

http://www.lostiempos.com/tendencias/tecnologia/20180120/lado-oscuro-inteligencia-artificial

https://www.vix.com/es/tecnologia/176591/el-sistema-de-inteligencia-artificial-de-google-mostro-su-lado-oscuro

https://academiaplay.es/inteligencia-artificial/

https://programacionparatodossite.wordpress.com/2018/05/05/la-inteligencia-artificial-el-lado-oscuro/comment-page-1/


                                            

"
thumb_up Relevante message Comentar
Comentarios

Fran ūüźĚ Brizzolis

hace 2 a√Īos #3

#5
Gracias Julio Angel \ud83d\udc1dLopez Lopez... Así es y asi debe ser. disfruta de la peli amigo.

Fran ūüźĚ Brizzolis

hace 2 a√Īos #2

#4
Gracias Roberto. La IA no es de ahora, de hecho es mucho más antigua de lo que podría parecer, pero como ya he dicho muchas veces, esto es sólo el principio, ya que es algo de dimensiones inimaginables, y sobre todo pasa por el procesamiento en tiempo real, para la toma de decisiones sea lo más correcta posible... Y esto es algo muy muy complicado hoy por hoy.

Fran ūüźĚ Brizzolis

hace 2 a√Īos #1

#1
Muchas gracias, intento hacer todo lo que puedo por removeros esas neuronas. No os quejareis os he incluido pelis para ver tranquilamente en casa jajaja, mientras la "rebelion de las m√°quinas" tiene lugar fuera.... Jose Vicente Soldevila Puchol

M√°s art√≠culos de Fran ūüźĚ Brizzolis

Ver blog
hace 2 a√Īos ¬∑ 10 min. de lectura

Ciberseguridad en PYMES: Administrando sistemas de forma segura (buenas pr√°cticas)

Hola abejas, estos días me costaba bastante encont ...

hace 3 a√Īos ¬∑ 3 min. de lectura

Cazando amenazas - ¬ŅSabes qu√© es un HONEYPOT?

¡Hola abejas!... Aquí sigo intentando recuperar el ...

hace 3 a√Īos ¬∑ 3 min. de lectura

Controles imprescindibles para una buena ciberseguridad

La seguridad de la información está cada día entra ...