domingo, abril 18, 2021

Riesgos de la inteligencia artificial, por Pedro Baños

“El aspecto más triste de la vida actual es que la ciencia gana en conocimiento más rápidamente que la sociedad en sabiduría”.

Isaac Asimov.

Según Nick Bostrom, profesor de filosofía en la Universidad de Oxford, apoyado por personajes de la talla de Bill Gates y Elon Musk, ha afirmado que la amenaza que supone la inteligencia artificial (IA) es superior a la del cambio climático. En su opinión, el principal riesgo es que a las IA no les importe lo más mínimo las aspiraciones humanas. En caso de que llegaran a ser altamente competentes en lograr sus propios objetivos, podrían provocar daños a las personas, incluso sin proponérselo. Por ejemplo, según Bostrom, ya se podría estar produciendo un impacto negativo en el ámbito de los sistemas de información, al seleccionar la IA noticias que confirman los prejuicios de las personas o al servir como sistemas de vigilancia.

Por su parte, a pesar de sus muy avanzados proyectos tecnológicos, como Tesla, Neurakink, OpenAI o SpaceX, Elon Musk lleva tiempo alertando sobre los riesgos de la IA, afirmando que al desarrollar «la inteligencia artificial estamos invocando al demonio», a la que considera como la «mayor amenaza a nuestra existencia». Con una visión tan futurista como pesimista, considera que «como la IA será, probablemente, mucho más inteligente que los humanos, la relación entre las diferentes inteligencias probablemente sea similar a la existente entre una persona y un gato». Convencido de que es inevitable que la inteligencia artificial supere a la inteligencia humana, Musk centra sus esperanzas en lograr, al menos, una «simbiosis» o «fusión» de nuestra mente con la IA. Es decir, que la especie humana no se quede atrás, a merced de los deseos de una IA que quiera jugar con su «mascota» o ignorarla.

En 2017 tuvo lugar un suceso que ejemplifica muy bien esta situación. Facebook tuvo que desconectar una IA que inventó su propio idioma. La máquina se comunicaba en un inglés incorrecto y repetitivo que, sin embargo, para ella tenía un sentido muy concreto, incomprensible para los humanos.  El fenómeno es similar a la creación de abreviaturas o de una determinada jerga entre ciertas comunidades humanas, solo que a una velocidad mucho mayor y sin supervisión ni control alguno por parte de personas. Lejos de ser una mera curiosidad, resalta uno de los problemas que presenta esta tecnología: que en el futuro los humanos no comprendamos la comunicación entre máquinas.

Así las cosas, el principal reto es tener controlada a la IA y verificar que sólo se la programa alineada con los propósitos y objetivos humanos.

 

Pedro Baños. Autor de “El Dominio Mental”.

 

- Publicidad -

Artículos relacionados

Hacia una tiranía colectivista

Clara Campoamor, ¿fascista?

Sánchez, el iluminado