Este post vine de aquí.
Hoy trataré el tema de la «manipulación». Hasta qué punto un texto generado por un modelo de lenguaje es «cierto» en un mundo de incertidumbre.
¿Hasta qué punto este no tiene sesgos, prejuicios o estereotipos?
Manipulación
- ¿Es ético utilizar un modelo de lenguaje para manipular a las personas, ya sea para difundir información engañosa o para influir en sus decisiones?
- Los modelos de lenguaje pueden aprender prejuicios y estereotipos, lo que puede ser éticamente problemático si se utilizan para generar textos. ¿Cómo se puede abordar este problema ético al publicar textos generados por un modelo de lenguaje?
Ratonería
Empezaré por el segundo dilema. Alguna vez, he intentado utilizar ChatGPT para retos literarios de terror o de fantasía oscura. Pero en cuanto aparecen palabras como «demonio», «maldición» o similares, me dice algo así como:
Sigue leyendo