Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios
Objetivo: Establecer recomendaciones para que los prosumidores efectúen un uso ético de estas herramientas evitando, de esta forma, resultados que caigan en estereotipos de clase, raza y/o género. Método: Análisis del material documental desarrollado por distintas entidades: instituciones interna...
Saved in:
| Main Authors: | , , |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Universidade Federal de Santa Catarina -- Programa de Pós Graduação em Ciência da Informação Centro de Ciências da Educação
2025-03-01
|
| Series: | Encontros Bibli |
| Subjects: | |
| Online Access: | https://periodicos.ufsc.br/index.php/eb/article/view/103518 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| _version_ | 1850060092329689088 |
|---|---|
| author | Andrea Castro-Martínez José Luis Torres-Martín Cristina Pérez-Ordóñez |
| author_facet | Andrea Castro-Martínez José Luis Torres-Martín Cristina Pérez-Ordóñez |
| author_sort | Andrea Castro-Martínez |
| collection | DOAJ |
| description |
Objetivo: Establecer recomendaciones para que los prosumidores efectúen un uso ético de estas herramientas evitando, de esta forma, resultados que caigan en estereotipos de clase, raza y/o género.
Método: Análisis del material documental desarrollado por distintas entidades: instituciones internacionales (UNESCO y Conuncil of Europe) y empresas desarrolladoras de herramientas de IA (OpenAI, Google, Microsoft y Anthropic).
Resultado: La IA puede perpetuar estereotipos ya que emplea datos que reproducen un contexto donde las minorías y las mujeres están infrarrepresentadas. Las principales corporaciones afirman haber desarrollado códigos de conducta y autorregulación. Esta gobernanza concuerda con las recomendaciones internacionales y rige su comportamiento, los protege de responsabilidades y basa su RSC. Incluyen recomendaciones para los usuarios en los procesos de uso de las herramientas.
Conclusiones: Aún no es posible evitar totalmente los sesgos pero es recomendable que los usuarios detecten las estereotipos y los minimicen. La autorregulación contribuye a contenidos menos discriminatorios, además de incorporar a mujeres y minorías como desarrolladores. Plantean códigos de conductas para detectar contenidos inapropiados. Los hallazgos son útiles para fomentar la perspectiva crítica y poner el foco en el papel que los usuarios, a los que se ofrecen recomendaciones, tienen en un proceso en el que el uso que se haga de las herramientas resulta fundamental.
|
| format | Article |
| id | doaj-art-596eb885ad784dd6a20b3b02f8ed715d |
| institution | DOAJ |
| issn | 1518-2924 |
| language | English |
| publishDate | 2025-03-01 |
| publisher | Universidade Federal de Santa Catarina -- Programa de Pós Graduação em Ciência da Informação Centro de Ciências da Educação |
| record_format | Article |
| series | Encontros Bibli |
| spelling | doaj-art-596eb885ad784dd6a20b3b02f8ed715d2025-08-20T02:50:41ZengUniversidade Federal de Santa Catarina -- Programa de Pós Graduação em Ciência da Informação Centro de Ciências da EducaçãoEncontros Bibli1518-29242025-03-013010.5007/1518-2924.2025.e103518Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuariosAndrea Castro-Martínez0https://orcid.org/0000-0002-2775-625XJosé Luis Torres-Martín1https://orcid.org/0000-0001-6556-1560Cristina Pérez-Ordóñez2https://orcid.org/0000-0002-9532-0087Universidad de MálagaUniversidad de MálagaUniversidad de Málaga Objetivo: Establecer recomendaciones para que los prosumidores efectúen un uso ético de estas herramientas evitando, de esta forma, resultados que caigan en estereotipos de clase, raza y/o género. Método: Análisis del material documental desarrollado por distintas entidades: instituciones internacionales (UNESCO y Conuncil of Europe) y empresas desarrolladoras de herramientas de IA (OpenAI, Google, Microsoft y Anthropic). Resultado: La IA puede perpetuar estereotipos ya que emplea datos que reproducen un contexto donde las minorías y las mujeres están infrarrepresentadas. Las principales corporaciones afirman haber desarrollado códigos de conducta y autorregulación. Esta gobernanza concuerda con las recomendaciones internacionales y rige su comportamiento, los protege de responsabilidades y basa su RSC. Incluyen recomendaciones para los usuarios en los procesos de uso de las herramientas. Conclusiones: Aún no es posible evitar totalmente los sesgos pero es recomendable que los usuarios detecten las estereotipos y los minimicen. La autorregulación contribuye a contenidos menos discriminatorios, además de incorporar a mujeres y minorías como desarrolladores. Plantean códigos de conductas para detectar contenidos inapropiados. Los hallazgos son útiles para fomentar la perspectiva crítica y poner el foco en el papel que los usuarios, a los que se ofrecen recomendaciones, tienen en un proceso en el que el uso que se haga de las herramientas resulta fundamental. https://periodicos.ufsc.br/index.php/eb/article/view/103518Inteligencia artificialGéneroRazaClaseEstereotipos |
| spellingShingle | Andrea Castro-Martínez José Luis Torres-Martín Cristina Pérez-Ordóñez Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios Encontros Bibli Inteligencia artificial Género Raza Clase Estereotipos |
| title | Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios |
| title_full | Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios |
| title_fullStr | Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios |
| title_full_unstemmed | Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios |
| title_short | Los estereotipos de clase, género y raza reproducidos por la ia generativa: recomendaciones para los usuarios |
| title_sort | los estereotipos de clase genero y raza reproducidos por la ia generativa recomendaciones para los usuarios |
| topic | Inteligencia artificial Género Raza Clase Estereotipos |
| url | https://periodicos.ufsc.br/index.php/eb/article/view/103518 |
| work_keys_str_mv | AT andreacastromartinez losestereotiposdeclasegeneroyrazareproducidosporlaiagenerativarecomendacionesparalosusuarios AT joseluistorresmartin losestereotiposdeclasegeneroyrazareproducidosporlaiagenerativarecomendacionesparalosusuarios AT cristinaperezordonez losestereotiposdeclasegeneroyrazareproducidosporlaiagenerativarecomendacionesparalosusuarios |