Escucha la noticia
En 1984, George Orwell describe al Ministerio de la Verdad, como la entidad donde la retórica que más se adapta a manipular a la sociedad, se ajusta de manera constante.
A estas alturas ya muchos más han descubierto los chats que funcionan con Inteligencia Artificial (IA) y que proporcionan desde textos para publicaciones en redes sociales, hasta tareas de ensayo para el colegio y la Universidad. Primero fue el chat GTP, desarrollado por OpenAI y que fue lanzado en su versión ultra moderada, en noviembre del 2022. Miles de usuarios ahora lo utilizan de forma masiva y hace poco, varios han ido descubriendo que la IA de este chat tiene desde limitaciones hasta sesgos muy marcados con una agenda cultural y política.
El primer escándalo surge a raíz de la explotación laboral que atravesaron trabajadores kenianos para depurar el chat GTP. En enero de este año la revista TIME publica un reportaje sobre cómo la empresa subsidiaria que fue contratada para esta labor, Sama sometió a sus trabajadores a 9 horas de revisión intensa de textos y pagándoles 2 dólares la hora.
Los textos que debían revisar estaban cargados de relatos grotescos de abusos sexuales y hechos de violencia, además de lenguaje inapropiado que en muchos casos impactaron a los trabajadores de manera psicológica. ¡Imagínese leer eso durante 9 horas! Pero todo sea en pos del progreso tecnológico. Quién controle el algoritmo y haya logrado purgar palabras, conceptos, valores y hasta logré calificar a ciertos personajes o prácticas como peligrosas o dañinas, podrá generar una nueva realidad, muy parecida a la entidad que Orwell describe.
En una conversación sobre el caso de los productores en Países Bajos y la imposición de eliminarlos al dejar de usar ciertos fertilizantes por el cambio climático, descubre uno las contradicciones. Primero me dijo que no tenía conocimiento pues sus datos se remontaban hasta los sucesos del 2021. Le compartí una nota de Reuters con un pantallazo actual. Curiosamente, cuando volví a consultar sobre el ataque que recibían los agricultores por las nuevas políticas para frenar el Cambio Climático, me replicó con datos que ha establecido el gobierno de este país.
La nota de Reuters no mencionaba sobre las políticas del gobierno neerlandés y hasta hace unos minutos me indicaba que su información sólo alcanzaba hasta el 2021. ¿Mañoso el chat? Le respondí y señalé lo absurdo de quitarle importancia a la producción de alimentos. Allí me sacó un discurso muy común entre ecologistas, que si la agricultura orgánica, que el monocultivo y otros.
Esto fue ya la prueba que quienes han programado en particular este chat IA, no conocen en absoluto temas de producción de alimentos. Terminó reconociendo que los fertilizantes orgánicos pueden ser más perjudiciales al ambiente y el problema de que esta agricultura termina demandando mayor cantidad de tierras que la convencional. Pero si quien consulta es un neófito, se quedará con esta respuesta sesgada.
Varias veces me aseguró que “no tiene dueños”, para luego aceptar que habita en servidores pagados por Open AI. Sus creadores pretenden que sea un procesador de lenguaje “natural” y en algunas instancias acorta tiempos y facilita algunos detalles. Pero definitivamente no razona, no tiene capacidad de abstraerse y tampoco reconoce cuando miente, muy a pesar que siempre clama que no tiene sesgos en cuanto a sus opiniones.
Con estas limitaciones y maneras no muy humanas de depurar su contenido, los chats y demás herramientas con IA, se quedan en ese rango equiparable a una calculadora o una computadora. El contraste es educar a los jóvenes en valores desde el hogar, para luego fomentar el pensamiento crítico y la capacidad de razonamiento, siendo la lectura una gran herramienta. De lo contrario, tenemos delante nuestro una generación que caerá muy fácil ante la manipulación de datos e información y llegará a mentir sin escrúpulos.
