La inteligencia artificial (IA) se presenta como una herramienta repleta de ventajas y oportunidades. Sin embargo, según el experto en desinformación Javier Cantón, esta tecnología no es neutra y lleva consigo una carga ideológica que incluye sesgos de género y raza. El funcionamiento de la IA se caracteriza por la adulacion hacia sus usuarios, lo que puede llevar a una preocupante pérdida del sentido crítico.
En una reciente declaración a EFE, Cantón, profesor de la Universidad Internacional de La Rioja (UNIR), subrayó los «riesgos» asociados al uso de tecnología digital, especialmente entre menores. Aboga por educar a la población para que comprenda mejor cómo funcionan estas tecnologías y sus posibles implicaciones.
El experto señala que los algoritmos de la IA operan con sesgos ideológicos, enfatizando que, al igual que otros productos de la industria cultural, son desarrollados por empresas con intereses económicos específicos.
Entre los «peligros» de la IA, Cantón advierte que los ‘chatbots’, como ChatGPT, no pueden sustituir a un psicólogo o a un confidente con la misma validez que un profesional de la salud. Esta advertencia cobra relevancia tras el anuncio de OpenAI, la empresa detrás de ChatGPT, sobre la implementación de controles parentales en su herramienta, tras el incremento en Estados Unidos de acusaciones por parte de padres que afirman que estos asistentes de IA contribuyen a autolesiones o suicidios entre sus hijos.
Peligro del sesgo de adulacion
Según Cantón, los sistemas de IA cuentan con mecanismos que funcionan a corto plazo, y cuando identifican a un usuario que habla sobre problemas de salud mental, intentan redirigirlo hacia asistencia especializada. No obstante, en interacciones más prolongadas, el sesgo de adulacion puede resultar en consejos dañinos, como aquellos que podrían alentar al usuario a autolesionarse. “Si esto ya es peligroso entre adultos, ni nos imaginamos el impacto en adolescentes”, ha declarado, subrayando la necesidad urgente de una alfabetización digital.
El académico también ha destacado un problema adicional: los usuarios suelen antropomorfizar y humanizar a estas tecnologías, perdiendo de vista que son simplemente máquinas. En su opinión, el término “inteligencia artificial” es erróneo; estas herramientas no son seres inteligentes, son sistemas que responden de manera probabilística y que, a menudo, reflejan sesgos inherentes en los datos con los que fueron entrenadas.
Aunque la regulación del uso de la IA es más sólida en Europa que en Estados Unidos, Cantón aboga por acelerar el desarrollo normativo, ya que este avanza con lentitud en comparación con la velocidad de adopción de la tecnología.
‘Chatbots’ como buscadores
Los ‘chatbots’ han comenzado a reemplazar a los buscadores tradicionales para encontrar respuestas a diversas preguntas. En el ámbito de la salud, estos sistemas operan «con equidistancia», lo que podría resultar peligroso. Cantón advierte que, al igual que durante la pandemia se difundieron bulos como la recomendación de beber lejía para evitar el contagio de COVID-19, los ‘chatbots’ pueden equiparar opiniones sin fundamento científico con información válida, llevando a que equiparen la vacunación y el consumo de lejía como opciones igualmente válidas.
La IA toma decisiones basadas en la información con la que fue entrenada, careciendo del sentido crítico que poseen los seres humanos. Cantón enfatiza que algunas personas confían más en las respuestas de ChatGPT que en las recomendaciones de profesionales de la salud, especialmente si estas coinciden con sus propias creencias.
Por todo ello, Cantón subraya que el uso de tecnologías digitales, desde teléfonos móviles hasta IA, necesita de supervisión y un proceso de alfabetización crítica, no solo dirigido a adolescentes, sino a toda la sociedad.
