Sesgo en la IA lleva a una mayor difusión de ideas completamente extremistas
(Global) La opacidad en el funcionamiento de la inteligencia artificial se debe principalmente a la intención de las empresas desarrolladoras en resguardar los procesos internos de sus algoritmos y no revelar cómo funcionan. Esta falta de transparencia nos pone en alerta y demuestra la necesidad de pensar críticamente en los sesgos, las citas falsas, las alucinaciones y la soberanía tecnológica.
¿Qué es un sesgo?
Los sesgos en la IA se refieren a la presencia de prejuicios sistemáticos en los resultados generados por sistemas de IA. Estos prejuicios pueden manifestarse de varias maneras: como discriminación racial, de género, edad u otros tipos de discriminación. Los sesgos pueden surgir en diferentes etapas del desarrollo de un sistema de IA, desde la recopilación de datos hasta la formulación de algoritmos y la implementación en aplicaciones del mundo real.
Las principales causas de los sesgos en la IA son: datos sesgados, sesgos en el diseño del algoritmo, sesgos en los datos de entrenamiento, falta de diversidad en el desarrollo, etc.
Los peligros del sesgo
En agosto del 2023, la Norwich Business School de la University of East Anglia de Inglaterra publicó un trabajo sobre la evaluación del sesgo político y la desalineación de valores en la IA Generativa. El informe, realizado por el profesor de Contabilidad de dicha entidad, Fabio Motoki, profundizaba sobre los diferentes sesgos con los que trabaja ChatGPT -la IA más famosa y pionera en el mundo occidental-, el cual deja en evidencia que las herramientas de IA generativa estaban muy lejos de mantener posturas neutrales. Y continúan en esa misma línea.
El estudio reveló también que son reiteradas las ocasiones en las que el ChatGPT se niega a brindar una mirada sobre los puntos de vista conservadores dominantes y, en algunas ocasiones, hasta produciendo cierta tendencia de izquierda en los resultados que arroja.
Dada lo novedoso de todo lo que tiene que ver con la IA, cabe señalar que los sesgos de la Inteligencia Artificial un concepto del que poco y nada se habla, también son conocidos como sesgos de machine learning o sesgos de algoritmos. En otras palabras y tal como lo define IBM, “los sistemas de IA producen resultados sesgados que reflejan y perpetúan los sesgos humanos de una sociedad”.
Entre los innumerables riesgos que esto plantea, teniendo en cuenta que son muchos los jóvenes que acceden a la información a través del uso de plataformas de inteligencia artificial, está la distorsión del debate público, favoreciendo narrativas dominantes y reduciendo de manera considerable la diversidad de opiniones, incluso hasta poniendo en peligro a algunos sectores de la sociedad, los cuales podrían quedar totalmente marginados de la opinión pública.
Ni hablar del impacto que genera en la polarización ya existente. Si los individuos sienten que la inteligencia artificial censura o no le brinda legitimidad a sus ideas, comenzarán a buscar espacios de menor control o supervisión que valide algunas posturas que puedan llegar a ser más radicalizadas.
En pos de la libertad de expresión “a toda costa”, esos espacios podrían fomentar una mayor difusión de ideas completamente extremistas.
Ver más: Peligro! IA cruza la “delgada línea roja” al clonarse sin ayuda humana
Ver más: Gemini 2.0 Flash, ya está disponible para todas las personas de forma gratuita
Ver más: Año Cuántico: Cómo enfrentar el reto de la escasez de talento
