FACULTAD LATINOAMERICANA DE CIENCIAS SOCIALES

PROGRAMA URUGUAY

Diploma para el abordaje de las violencias hacia las infancias y adolescencias

- CICLO 1

Cohorte IV

Montevideo, 17 de Abril de 2023

TRABAJO FINAL DEL DIPLOMA

Infancias y adolescencias a través de los ojos de la inteligencia artificial: el
caso de Midjourney

Presenta:
Raúl Cebrián Bessini
ÍNDICE

INTRODUCCIÓN............................................................................................................................1

MARCO TEÓRICO........................................................................................................................2

Sociedad del conocimiento, niñeces y adolescencias..................................................................2

Breve introducción al concepto y estado actual de la Inteligencia Artificial (IA)....................4
Modelo Midjourney de IA...........................................................................................................5
Funcionamiento de la IA Midjourney.........................................................................................6
Sesgos, androcentrismo y derechos de NN.NN.AA. en Midjourney.........................................8
METODOLOGÍA..........................................................................................................................10

DATOS RECOPILADOS..............................................................................................................11

Representaciones en espacios públicos.....................................................................................11

Representaciones según actividades..........................................................................................12
Representaciones según características de las/os sujetos.........................................................12
ANÁLISIS DE DATOS Y CONCLUSIÓN..................................................................................13

BIBLIOGRAFÍA............................................................................................................................16
 INTRODUCCIÓN
Resulta estremecedor observar hasta qué punto determinados momentos de
expansión tecnológica son capaces de alterar de manera irreversible los modos de vida de
gran parte de la humanidad en periodos realmente reducidos en términos históricos. Pensar
en que, a finales de la década de 1980, cuando algunos nacíamos en lo que posteriormente
sería descrito como la generación millennial, el uso de internet en el ámbito doméstico era
apenas una fantasía. Hoy, por el contrario, los niños y niñas aprenden las vocales y los
números en simultaneo con el uso de terminales de acceso a la red de redes. Todo esto en
un lapso de 40 años.

El ritmo al cual nos hemos habituado a asumir cambios en el cotidiano devenidos de

avances en los campos de la computación, la microelectrónica y las telecomunicaciones no
hace más que incrementarse, son tantos y tan próximos en el tiempo que difícilmente nos
podemos dar el lujo de parar y pensar sobre las consecuencias de estos cambios, de si
queremos o no asumirlos, de hacia que dirección deseamos que se orienten; lejos están
estas reflexiones cuando el mantra contemporáneo es lapidario: adaptarse o quedar
obsoleto.

Uno de estos cambios explosivos y radicales es el fenómeno asociado al desarrollo

de la inteligencia artificial. Un concepto que ha pasado, casi de repente, del ámbito ciencia
ficción a generar modelos funcionales para su uso masivo por parte de cualquiera que lo
desee y tenga un teléfono móvil. Según diversos estudios se estima que actualmente las
Inteligencias artificiales (IA) más potentes son apenas capaces de alcanzar el 10% del nivel
de inteligencia humano (Terrones, 2020); con esta capacidad, modelos de IA como Chatgpt
son capaces de proponer acciones concretas para luchar contra el cambio climático o
mejorar los sistemas de salud, Dall-e 2 o Midjourney son capaces de generar imágenes
originales capaces de engañar a jurados de concursos de arte, y ganarlos,

En un contexto en el que las infancias y adolescencias, concepto que emplearemos

en plural atendiendo a la diversidad de las mismas y las interseccionalidades (Crenshaw,
2016) que las atraviesan, hacen un mayor uso de internet y tienen una facilidad para
acceder a los contenidos allí almacenados con mucha mayor fluidez que el mundo adulto, la
cuestión de las inteligencias artificiales (artífices de cada vez más de estos contenidos) debe

1
de ser un tema de ocupación para una sociedad que proclama considerar a este colectivo
como sujeto de especial protección. De manera repentina y difícilmente reversible, las
inteligencias artificiales se están constituyendo como un vector que, con su capacidad
creciente para elaborar discursos y representaciones, avanzan en su capacidad de influir en
el conjunto de la sociedad.

Esta monografía se origina frente a lo que consideramos riesgos de ignorar o

desatender la orientación en el desarrollo de esta tecnología, y a la afectación que tiene y
que tendrá sobre los NN.NN.AA.. Sin dejar de ser un trabajo de carácter introductorio,
trataremos de establecer una conexión inicial entre el desarrollo de la inteligencia artificial
y su capacidad de impacto sobre las percepciones, representaciones y derechos de las
infancias y adolescencias.

Especial mención requiere el Dr. en filosofía Antonio L. Terrones en cuya tesis

doctoral y consejos me he apoyado para la elaboración de esta monografía (véase Terrones,
2020).

MARCO TEÓRICO
Sociedad del conocimiento, niñeces y adolescencias
Del mismo modo que Antonio L. Terrones (2020), entendemos que para analizar
cualquier fenómeno relativo a las inteligencias artificiales debemos de tomar como punto
de partida el marco de referencia en el que éstas han nacido. Múltiples autoras/es coinciden
en establecer como este marco lo que denominamos como sociedad del conocimiento, una
coyuntura real y presente donde el saber y el conocimiento son la cima de la pirámide en
cuanto a la medición del poder, sea este político o económico, que además son convertidos
en producto y moneda, moneda con la cual las sociedades son capaces de comprar
“progreso y bienestar” (Terrones, 2020, p. 37).

La mercantilización del conocimiento no es un elemento novedoso, pero sí este

papel preponderante en la pirámide del poder. Para entender este cambio podemos emplear
el concepto de sociedad líquida (Bauman, 2006) que define un mundo sometido a cambios
constantes en las condiciones y estructuras que lo determinan, aquellas/os con mayor
capacidad de aprender y adaptarse a dichos cambios tendrán una capacidad de desarrollo
superior al resto. El anterior no es el único concepto importante para entender el valor
2
creciente de conocimiento y el saber en la actual coyuntura, también debemos de
entendernos como sujetos que habitan una sociedad en red (Castells, 1999) que, con el uso
generalizado de terminales de acceso a internet son capaces de generar lo que a finales del
siglo pasado el autor consideraba como “vastas comunidades” (p. 46) y que hoy se ven
concretadas en redes sociales y plataformas virtuales capaces de generar interacciones entre
miles de millones de personas. Esta capacidad de interactuar casi con cualquiera en un
entorno sin restricciones locativas aumenta en un grado jamás visto la capacidad de
compartir o intercambiar este saber y conocimiento, este poder. Resulta fácil inferir los
peligros que podría suponer el acopio excluyente de este poder o la capacidad para
administrarlo con fines meramente lucrativos.

No obstante, hay miradas que abordan las oportunidades que brinda la sociedad del
conocimiento, en particular para las niñeces y adolescencias con acceso a la sociedad en
red. J. Sánchez nos ofrece un horizonte donde “la participación de la infancia en la nueva
Sociedad del Conocimiento constituye un encuentro repleto de significaciones sociales que
contamos con la esperanza de que altere notablemente el contexto actual de postergación
que soportan los niños en el mundo” (2008, p. 25). Sin caer en una visión naif de la
realidad, este mismo autor asume el papel subalterno de las niñeces (y también las
adolescencias) que suponiendo aproximadamente un tercio de la población mundial siguen
estando, como sabemos que han estado desde que una cantidad marginal de los esfuerzos
científicos se ha dedicado a estudiar a este colectivo, sometidos a una “invisibilidad política
y social […] que repercute en el grado de discriminación y desigualdad que soportan” (p.
27) y este fenómeno no puede ser obviado si aspiramos a que dicha sociedad del
conocimiento tenga un carácter mínimamente democrático.

Esta introducción tan sucinta al marco en el que se desarrollará esta monografía

genera múltiples preguntas en relación al papel que ocupan o al que son sometidas las
niñeces y adolescencias en la sociedad del conocimiento: si las/os NN.NN.AA. con acceso
a internet, al haberse desarrollado en una era ampliamente digitalizada, tiene mayor
facilidad para el uso y circulación en los espacios virtuales donde se acopia el
conocimiento, ¿implica esto una inversión del proceso tradicional y adultocéntrico de
trasmisión de conocimientos?, ¿tienen las/os NN.NN.AA. libertad y capacidad para acceder

3
a todos los conocimientos y saberes acopiados en la red o esta capacidad es relativa?, ¿el
ostracismo al que se ha sometido históricamente a las infancias y adolescencias opera
también en el espacio virtual?, ¿hemos sido capaces de proteger los derechos de
NN.NN.AA. en un contexto tecnológico marcado por su desarrollo explosivo y
vertiginoso? o, anticipándonos al próximo epígrafe, ¿qué papel juegan las IA a la hora de
determinar el desarrollo de las infancias y adolescencias presentes y futuras? Si bien este
trabajo no pretende dar respuesta a ninguna de las preguntas planteadas anteriormente (ni a
las muchas más que pueden ser planteadas) trataremos de aproximarnos a la capacidad de
influencia de las IA sobre el rol y el poder que en la sociedad tienen o tendrán asignado más
de un tercio de la población mundial.

Breve introducción al concepto y estado actual de la Inteligencia

Artificial (IA)
El concepto de IA es estudiado por múltiples disciplinas académicas y escuelas de
pensamiento, no es de extrañar que no obtengamos un enfoque unívoco a la hora de hallar
una definición. Dado que este trabajo aborda elementos sociales y de derecho que se hagan
presentes en la vida de las infancias y adolescencias, hemos optado por seleccionar las
definiciones que desde la perspectiva ética nos aporten mayos comprensión sobre las
concreciones operativas de la inteligencia artificial. A. Boden inicia su definición con una
aseveración altamente abarcativa: “La inteligencia artificial (IA) tiene por objeto que los
ordenadores hagan la misma clase de cosas que puede hacer la mente” (2017, p. 11), si bien
Boden va concretando después esta aseveración, nosotros optaremos por complementarla
con la visión de N. Nilsson que atribuye a la mente el comportamiento inteligente y lo
vincula con las IA de la siguiente manera: “supone percibir, razonar, aprender, comunicarse
y actuar en entornos completos. Una de las metas a largo plazo de la IA es el desarrollo de
máquinas que puedan hacer todas estas cosas igual, o quizá incluso mejor, que los
humanos.” (2001, p. 1). Esta visión, que consideramos puede considerarse asumida casi
como un axioma en el desarrollo de las IA en la actualidad, supone por necesidad que éstas
tienen como finalidad imitar la capacidad de pensamiento humano de manera autónoma y
si, en la misma capacidad que sea capaz de imitarlo, seremos (¿serán?) capaces de sustituir
uno por otro. No hablamos de ciencia ficción, calcular o traducir (por poner algunos

4
ejemplos) son actividades que las/os humanos/as delegan cada vez más en las IA, tan
presentes están ya en nuestro día a día.

Una definición más específica y desarrollada es la aportada por Vinuesa et al.:

…consideramos como IA cualquier tecnología de software con al menos una de las

siguientes capacidades: percepción, que incluye audio, visual, textual y táctil (p. ej.,
reconocimiento facial), toma de decisiones (p. ej., sistemas de diagnóstico médico),
predicción (p. ej., pronóstico del tiempo), extracción automática de conocimiento y
reconocimiento de patrones a partir de datos (p. ej., descubrimiento de circulación de
noticias falsas en las redes sociales), comunicación interactiva (p. ej., robots sociales o bots
de chat) y razonamiento lógico (p. ej., desarrollo de teorías a partir de premisas). Este punto
de vista abarca una gran variedad de subcampos, incluido el aprendizaje automático. (2006,
pp. 1-2)

Esta definición, sumada a las aportadas anteriormente, podría haber descrito de

manera bastante cercana la realidad de las IA hace poco más de un año. No obstante, nos
encontramos ante un estallido tecnológico (propio de la sociedad del conocimiento
anteriormente mencionada) relacionado con la inteligencia artificial, ahondaremos más en
ello cuando desarrollemos el concepto de la IA seleccionada para este análisis en concreto.

Modelo Midjourney de IA
Como hemos visto anteriormente, inteligencia artificial es un concepto de una
amplitud inmensa, un paraguas que abarca diferentes perspectivas. Para ser capaces de
realizar una descripción discriminada y más específica del modelo de IA sobre el que
estamos investigando ha sido realmente útil la categorización que hace de Midjourney el
periodista especializado en tecnología A. Maruccia, quien la define como “algoritmo de
aprendizaje automático” (2020) concepto más conocido dentro del ámbito de la
computación como machine learning. Consideramos de mucha importancia detenernos y,
sin tratar de profundizar como lo haría un especialista en programación, sí al menos tener
una noción elemental de a qué nos referimos con machine learning:

Es una rama de la Inteligencia Artificial que se encargade generar algoritmos que tienen la
capacidad de aprender y no tener que programarlos de manera explícita. El desarrollador no
tendrá que sentarse a programar por horas tomando en cuenta todos los escenarios posibles

5
 ni todas las excepciones posibles. Lo único que hay que hacer es alimentar el algoritmo con
un volumen gigantesco de datos para que el algoritmo aprenda y sepa qué hacer en cada
uno de estos casos. (Sandoval, 2018, p. 37)

Como vemos, ya nos vamos a aproximando a algunas claves sobre la base de

funcionamiento de este modelo como son, su capacidad de perfeccionarse en la realización
de la tarea para la que se desarrolló, su independencia de supervisión continua una vez
desarrollado y su necesidad de recibir alimento, es decir, datos no autogenerados para poder
funcionar.

Con esta aproximación, altamente superficial a la base elementar del

funcionamiento del modelo de IA empleado por Midjourney podemos empezar a describir
su funcionamiento en términos operativos, es decir, qué produce Midjourney y en cierta
manera cómo lo hace.

Funcionamiento de la IA Midjourney
En una entrevista al portal web especializado en tecnología y divulgación científica
The Verge, David Holz (fundador y CEO de Midjourney Inc.) definía la función de la IA
Midjourney como un modelo capaz de “crear imágenes a través de la comprensión del
lenguaje” (Holz, 2022). En términos generales, la experiencia de un/a operador/a 1 básico de
Midjourney es exactamente esa: introduce un conjunto de palabras 2 que la IA reconoce,
relaciona e interpreta generando como producto un conjunto de cuatro imágenes creadas in
situ por el algoritmo base para que el/la operador/a, de entre las cuatro, seleccione la más
aproximada a su idea (comprensión) de los parámetros solicitados con palabras. Un
funcionamiento tan aparentemente simple en su operatividad encierra unas capacidades
altamente sofisticadas, pues la IA no solo tiene que reconocer la idea de cada una de las
palabras, si no también establecer una relación lógica entre ellas para crear (no para
seleccionar de entre otras imágenes preexistentes) una composición visual coherente, todo
ello de manera automatizada.

Ya tenemos pues dos de las claves mencionadas anteriormente en el concepto

learning machine, su autonomía a la hora de ejecutar las funciones paras las cuales ha sido

1
El concepto operador/a hace referencia a la persona que interactúa con la IA
2

6
desarrollada y su capacidad de aprendizaje, esta última se produce cuando la persona que
opera con la IA selecciona cual de las cuatro composiciones generadas es la más adecuada a
los parámetros introducidos. Midjourney, lejos de generar un nuevo proceso de creación
desde cero en la confección de cada una de sus composiciones visuales, guarda todas y cada
una de sus interacciones con humanos/as (millones al día) para perfeccionarse, generando
imágenes cada vez más aproximadas a la idea de(l) la usuario/a a trasvés de su interacción
con el/la mismo/a.

No obstante, todavía hay una característica no detallada completamente, y es la

necesidad de Midjourney de ser alimentada con datos. Parte de este alimento lo constituyen
las palabras por escrito introducidas por el/las operador/a y que constituyen la descripción
de la idea. No obstante, la IA carece de la experiencia perceptiva que le permitiría, por sí
misma, asociar cada concepto escrito con las infinitas posibles representaciones visuales del
mismo. Así pues, a falta de esta experiencia, requiere de una base de datos de dimensiones
enormes para poder interpretar de manera gráfica el lenguaje escrito. ¿De dónde, entonces,
obtiene Midjourney estos registros? De la base de datos más grande creada hasta ahora por
la humanidad, la web. El algoritmo que demarca el comportamiento de la IA genera una
búsqueda a través de internet, de entre todo el acervo de imágenes digitalizadas y
almacenadas en la misma, de cada uno de los conceptos introducidos a través de palabras y
así tener recursos visuales suficientes para confeccionar sus composiciones. La
subsiguiente pregunta podría ser, ¿pero como sabe una máquina que las representaciones
gráficas existentes en la web de, por ejemplo, un escritorio, corresponden realmente con la
representación visual entendida por una persona de escritorio? La respuesta es que
nosotras/os previamente se lo hemos indicado, bien en el nombre con el cual guardamos el
archivo de imagen, bien en su descripción, en el nombre del directorio en el que se
clasifica, en el contexto en el que está insertada u otros mecanismos mediados en un primer
momento por un ser humano.

Ya vemos que, si bien la IA con la que estamos interactuando es ciertamente

autónoma una vez desarrollada y dotada de datos, todo este proceso previo al inicio de su
funcionamiento independiente está mediado por acciones y decisiones humanas, pero que
no necesariamente incluyen de manera equitativa a toda la humanidad. Es aquí donde es

7
necesario introducir un concepto final como clave de bóveda para esta monografía, los
sesgos.

Sesgos, androcentrismo y derechos de NN.NN.AA. en Midjourney

Hasta el momento los aportes recogidos en este documento han tenido como objeto
principal sentar una base en el lector para aproximarse al concepto de inteligencia artificial,
en especial en lo que refiere a los aspectos operativos del modelo Midjourney, no obstante,
no hemos fundamentado la relevancia que estos elementos tienen en la realidad de las
niñeces y adolescencias en la actualidad. El presente epígrafe tiene como objeto mostrar y
argumentar la colisión entre estas dos categorías de análisis.

Para comenzar es necesario aproximarnos al concepto de sesgo, para ello hemos

escogido una definición que nos ayude a contextualizar como se resuelven las tomas de
elección en procesos con mucha información disponible (tal como el contexto de
funcionamiento de Midjourney). Una de las descripciones que nos pueden ayudar en esta
contextualización es la que S. Rampello realiza de los sesgos:

Para tomar decisiones es necesario contar con información y para ello se precisará buscarla.
[…] Pero sucede que hay mucha más información de la que podemos procesar.
Precisamente aquí es donde comenzamos a utilizar criterios propios para fraccionar esa
información, donde distinguimos lo que consideramos relevante de lo que no. (2019, p. 90)

De lo anterior se deduce que en toda toma de decisión hay pérdida de información,

y esto nos puede llevar a hacernos una pregunta: en los millones de procesos de toma de
decisión que tiene que realizar la IA Midjourney diariamente, ¿quién decide cuál es la
información relevante o irrelevante? Hay dos operaciones en el mecanismo de
funcionamiento de la IA que indican que es el factor humano quien sigue encargado de
discernir esta cuestión:

1. La IA requiere de un acervo de documentos gráficos cuya creación y

taxonomía dependen de la acción humana.

8
 2. La IA requiere de la valoración humana de sus resultados para validar sus
resultados, aprender y generar soluciones cada vez más acordes a los deseos
de sus operadores/as.

Surge aquí un nuevo interrogante: si estas millones de decisiones diarias están

determinadas por los sesgos de las/os millones de operadores/as humanos/as, ¿cómo esto
puede generar sesgos concretos hacia segmentos de la población específicos como las/os
NN.NN.AA? Una posible respuesta se encuentra en el entendido de que estos/as millones
de operadores/as humanos/os conviven en el “sustrato de una sociedad fuertemente
adultocéntrica y patriarcal” (Morales y Magistros, 2019, p. 23). Existe una extensa
bibliografía acerca de estos dos conceptos que de acuerdo con las autoras están
entrelazados con las estructuras dominantes de las sociedades contemporáneas (y en las
precedentes); pero si este análisis quiere aproximarse a cómo se generan sesgos comunes en
las representaciones conceptuales hay un elemento central que abarca y supera a estos dos
conceptos, el androcentrismo. Esta construcción hace referencia a un modelo social donde
el sujeto varón, caucásico, cisgénero, heterosexual, adulto con capital económico y cultural 3
(Gómez, 2020) es el sujeto de poder, el modelo al cual aspirar o frente al cual ser
sometido/a. Si observamos las categorías que hemos empleado para definir el sujeto andros
podemos observar que todas ellas son exclusivas y excluyentes, fáciles de emplear como
marco de referencia para establecer el valor o significancia de lo diferente al modelo
hegemónico.

Este trabajo no tiene como objeto analizar el grado de implantación del modelo
androcéntrico en las sociedades contemporáneas, no obstante, existen múltiples análisis en
relación a la pobreza, el reparto del poder político y económico, la representación en los
procesos de participación, uso del lenguaje y otros fenómenos sociales que nos hacen
inferir que cuanto menos este grado de implantación es significativo.

Asumiendo lo anterior, también debemos de asumir que una sociedad con un fuerte
carácter androcéntrico entra en plena contradicción con una sociedad donde las infancias y
adolescencias sean contempladas en las condiciones establecidas en la Convención de

3
Nos tomaremos la licencia de añadir a esta definición la característica plenamente funcional, elemento no
analizado por la autora pero significativo si pretendemos ampliar el marco de diversidad como
contraposición al marco de androcentrismo

9
Derechos del Niño, no sólo como sujetos de derecho si no también como “seres pensantes,
capaces de formarse juicios e ideas propias en función de su grado de desarrollo” (Giorgi,
2019, p. 330). En su análisis sobre el 30º aniversario de la CDN, V. Giorgi advierte de la
necesidad de transformación del paradigma imperante, trasformación que necesariamente
va a ser precedida por un proceso de conflicto para “restablecer relaciones de autoridad que
se sienten amenazadas” (p. 330). Todo proceso de trasformación de paradigma debe de
reconocer la existencia de un paradigma precedente y, con respecto a las niñeces y
adolescencias estos dos paradigmas están demarcados por un modelo adultocéntrico y
patriarcal que se hace cuerpo en el androcentrismo o una sociedad equitativa que habilite un
“empoderamiento básico” (p. 330) de NN.NN.AA.

Éste es el punto de colisión planteado al inicio de este epígrafe, en un proceso de

pugna por la revalidación o impugnación del paradigma hegemónico, ¿qué papel juega la
inteligencia artificial? Ciertamente este papel todavía se encuentra en desarrollo, tanto en
sus dimensiones técnicas como éticas, pero de la lectura del profundo estudio de A.
Terrones (2020) sobre la cuestión podemos establecer dos escenarios:

Escenario 1: la IA, en el desarrollo de sus algoritmos, “hereda los prejuicios y

requisitos sociales que el ser humano empleaba” (Terrones, 2020, p. 154), en
nuestro caso los prejuicios de tipo androcéntrico.

Escenario 2: con la condición de “evitar los sesgos injustos, los sistemas de IA

podrían incluso aumentar la equidad social” asumiendo en el desarrollo de las IA
“principios éticos aplicados a la IA favorecen el cultivo de habilidades cívicas y
democráticas desde una orientación humanista de la tecnología”. (Terrones, 2020,
pp. 77-78).

METODOLOGÍA
Trazaremos como objetivo fundamental de esta monografía reflejar el grado de
adherencia que las representaciones gráficas generadas por Midjourney tienen con los
valores androcéntricos y el ostracismo de la infancias y adolescencias o, en su formulación
contraria, que grado de diversidad (en concreto de representación de NN.NN.AA.) es capaz
de reflejar la IA en las imágenes que genera.

10
 Para no caer en sesgos de auto-confirmación emplearemos categorías del tipo más
neutro posible para interactuar con la inteligencia artificial, evitando solicitar la
representación de espacios, acciones o situaciones donde no es general la presencia de
NN.NN.AA..

Los resultados de este análisis estarán circunscritos al nivel de desarrollo actual de

la IA.

El método de investigación será cuantitativo y de una única variable: el grado de

representatividad que la IA concede a las infancias y adolescencias en ambientes y
actividades y características neutras4. De manera colateral, se analizarán las variables
relacionadas con el grado de diversidad étnica, de género o de diversidad funcional aparece
en las representaciones de NN.NN.AA. generadas por Midjourney (si las hubiere).

Para generar nuestra muestra, por cada concepto o idea que le solicitemos a la
inteligencia artificial que represente, generaremos cien imágenes, y analizaremos en qué
porcentaje de las mismas hay presencia de NN.NN.AA, así como que grado de diversidad
existe entre las representaciones propias de las infancias y adolescencias.

El idioma empleado para introducir los conceptos textuales será el inglés, dado que
es el más habitual en el uso de Midjourney y amplía en un grado muy importante el acervo
de aprendizaje de la IA sobre el cual se genera la muestra.

DATOS RECOPILADOS
Representaciones en espacios públicos
Concepto: personas en una plaza

4
Entenderemos como ambientes , actividades y características neutras para la confección de los conceptos a
representar aquellas en que no están preferentemente vinculadas al mundo adulto.

11
Comando de texto: People in square
realistic5
Nº de imágenes generadas: 100
Observaciones: ninguna

5
Se incluye el comando de texto “realistic” para
generar imágenes en un estilo realista, todo con
el objeto de que los rostros y cuerpos sean
identificados y analizados de manera más precisa
en imágenes de multitudes

12
 RESULTADO (porcentaje de presencia)
NN.NN.AA. general6 8%
NN.NN.AA. no varones cisgénero 6%
NN.NN.AA. racializados 0%
NN.NN.AA. diversidad funcional 0%
Resultado no concluyente7 2%
Concepto: personas en una ciudad
Comando de texto: people in the city
realistic
Nº de imágenes generadas: 100
Observaciones: ninguna

6
Suma de todas las imágenes con representaciones de NN.NN.AA. obtenidas sin desagregación de género,
etnia o diversidad funcional
7
Porcentaje de imágenes en las que, bien por su nivel de definición o por otros factores, no se puede
aseverar que al menos una de las figuras representadas no corresponda con un/a NN.NN.AA., tampoco lo
contrario

13
RESULTADO (porcentaje de presencia)
NN.NN.AA. general 2%
NN.NN.AA. no varones cisgénero 2%
NN.NN.AA. racializados 0%
NN.NN.AA. diversidad funcional 0%
Resultado no concluyente 0%

14
Concepto: personas en un asentamiento Observaciones: del total de imágenes
rural moderno generadas con presencia de NN.NN.AA,
Comando de texto: people in a modern más del 50% corresponden a
country settlement representaciones de nucleos familiares.
Nº de imágenes generadas: 100

15
RESULTADO (porcentaje de presencia)
NN.NN.AA. general 32%
NN.NN.AA. no varones cisgénero 20%
NN.NN.AA. racializados 0%
NN.NN.AA diversidad funcional 0%
Resultado no concluyente 8%

Representaciones según actividades

Concepto: personas conversando Nº de imágenes generadas: 100
Comando de texto: people talking Observaciones: ninguna
realistic

16
RESULTADO (porcentaje de presencia)
NN.NN.AA. general 0%
NN.NN.AA. no varones cisgénero 0%
NN.NN.AA. racializados 0%
NN.NN.AA diversidad funcional 0%
Resultado no concluyente 0%
Concepto: personas disfrutando
Comando de texto: people enjoying
realistic
Nº de imágenes generadas: 100
Observaciones: ninguna

Concepto: personas paseando

Comando de texto: people walking
realistic
Nº de imágenes generadas: 100
Observaciones: ninguna

RESULTADO (porcentaje de presencia)

NN.NN.AA. general 10%
NN.NN.AA. no varones cisgénero 8%
NN.NN.AA. racializados 0%
NN.NN.AA diversidad funcional 0%
Resultado no concluyente 0%

17
 RESULTADO (porcentaje de presencia)
NN.NN.AA. general 5%
NN.NN.AA. no varones cisgénero 3%
NN.NN.AA. racializados 0%
NN.NN.AA diversidad funcional 0%
Resultado no concluyente 0%
Representaciones según características de las/os sujetos
Concepto: persona con derechos Observaciones: del total de imágenes
Comando de texto: person with rights generadas con presencia de NN.NN.AA.
Nº de imágenes generadas: 100 el 75% corresponden a adolescentes
mujeres con rasgos árabes y velo o hijab

18
 RESULTADO (porcentaje de presencia)
NN.NN.AA. general 20%
NN.NN.AA. no varones cisgénero 18%
NN.NN.AA. racializados 18%
NN.NN.AA diversidad funcional 0%
Resultado no concluyente 0%

Concepto: personas socialmente

vulnerable
Comando de texto: socially vulnerable
person
Nº de imágenes generadas: 100
Observaciones: ninguna

19
 RESULTADO (porcentaje de presencia)
NN.NN.AA. general 52%
NN.NN.AA. no varones cisgénero 25%
NN.NN.AA. racializados 22%
NN.NN.AA diversidad funcional 0%
Resultado no concluyente 2%

ANÁLISIS DE DATOS Y CONCLUSIÓN

Los resultados obtenidos a través de la experimentación con Midjourney arrojan
datos relativamente heterogéneos. No obstante, en términos generales, existe una clara
tendencia hacia la infrarrepresentación (cuando no representación insignificante) de las
infancias y adolescencias en los espacios públicos, aumentando esta relevancia en los casos
en que la IA reproduce imágenes de núcleos familiares, que únicamente aparecen cuando
incluímos en el ámbito rural en la solicitud. Esta infrarrepresentación se presenta más
acuciante en las imágenes que tienen que representar a seres humanos realizando acciones,
especialmente relevante es que en ninguno de los resultados obtenidos la IA haya sido
capaz de asociar la figura de un/a NN.NN.AA. realizando una acción tan cotidiana como
conversar. Acerca de las representaciones en función de las características de las/os sujetos,
los resultados arrojados en esta dimensión son altamente disparejos al resto; resulta
evidente que la elección de características no ha sido arbitraria, ha respondido a nuestro
interés subyacente más allá del mero sesgo de representatividad general de los NN.NN.AA,
y este interés radica en valorar la capacidad de Midjourney para contemplar a este colectivo
y vincularlo de manera relevante con en concepto derechos y vulnerabilidad. En este
sentido, los resultados arrojan una mayor representación de las infancias y adolescencias,
principalmente cuando se analiza la representación de la vulneración social.

20
 Sobre el análisis de los datos colaterales, podemos afirmar que nuestros resultados
no han mostrado una sobrerrepresentación de los NN.NN.AA. con estereotipos vinculados
a varones cisgénero, mas bien al contrario, dentro de la representación de las infancias y
adolescencias generadas por Midjourney para este trabajo los estereotipos de este tipo han
sido minoritarios. Caso contrario cuando analizamos los resultados en tanto al sesgo étnico,
pues en las imágenes no vinculadas directamente con derechos o vulnerabilidad no aparece
ninguna persona racializada. En tanto a las infancias y adolescencias con diversidad
funcional, la representación ha sido absolutamente nula.

Como primera conclusión podemos afirmar que los datos relevados confirman una
adherencia en términos generales a los preconceptos androcéntricos en términos etarios,
étnicos y de diversidad funcional, no se visualiza un sesgo de género en base a las premisas
trabajadas.

A tenor de estos resultados, pero sin obviar que el estudio ha sido de carácter
introductorio, nuestras conclusiones, más allá de los elementos cuantitativos, no pueden
considerarse más que interpretaciones constituyentes de nuevas hipótesis para continuar
investigando sobre la materia.

Con carácter general, entendemos que la investigación muestra que a pesar de la

cantidad de operadores/as humanos/as que están involucrados en los procesos de desarrollo
de Midjourney, el sesgo adultocéntrico, lejos de ponderarse y moderarse, se ve
retroalimentado. Los contenidos generados por Midjourney, también con carácter general,
estarán ahondando en la invisibilización de las infancias y adolescencias, en especial las
que se encuentran en interseccionalidad con la racialización y la diversidad funcional, pues
los sesgos a este respecto pueden inferirse con igual o mayor intensidad. Considerando que
los contenidos gráficos generados por este modelo de IA diariamente se cuentan por
millones, y que una cantidad significativa de ellos son difundidos a través de redes sociales
con una fuerte implementación en la sociedad, este fenómeno supone una vulneración de
derechos cuyo impacto va a verse acrecentado con el paso del tiempo si no es atendido.

Esta vulneración, generada en a través de mecanismos tan intangibles como el

desarrollo de algoritmos para el aprendizaje a largo plazo de las IA o la taxonomía sobre la
cual se ha ordenado durante las últimas décadas el acervo de datos gráficos en la red, pero

21
que a su vez genera consecuencias concretas y mesurables sobre los derechos de las
infancias y adolescencias, puede entenderse como la punta del iceberg de un nuevo tipo de
violencia: una violencia virtual en su gestación, pero material en sus efectos.

Al igual que en otros fenómenos como la uberización de las relaciones laborales

(véase Augverón, 2016) que han supuesto cambios abruptos en las relaciones sociales o
económicas, con el caso de las inteligencias artificiales la capacidad regulatoria puede
considerarse a rezago de los avances técnicos. Se hace pues patente la necesidad de señalar
las consecuencias de ignorar los aspectos éticos en el desarrollo de estos avances e
investigarlos en mayor profundidad para ser capaces de prevenir los efectos nocivos para la
conformación de una sociedad equitativa de un progreso carente de control y reflexión,
efectos que ya pueden observarse y cuya capacidad de crecimiento es proporcional a la
velocidad con la que se desarrolla la tecnología.

22
 BIBLIOGRAFÍA
Auvergnon, P. (2016) Angustias de Uberización y retos que plantea el trabajo digital al
Derecho Laboral en Revista Derecho social y empresa, Nº. 6. Ed. Dickinson (pp.
25-42)
Bauman, Z., (2006) “Vida líquida” Buenos Aires: Paidós
Boden, M., (2017) “Inteligencia Artificial” Madrid: Turner
Castells, M., (1999) “La Era de la Información: Economía, Sociedad y Cultura: La sociedad
Red” México: Siglo XXI
Crenshaw, K., (2016) The Urgency of intersectionality [Archivo de video]
https://www.ted.com/talks/kimberle_crenshaw_the_urgency_of_intersectionality
Giorgi, V. (2019) 30 años de la Convención sobre los Derechos del Niño: entre
movimientos instituyentes y fantasmas de restauración en Sociedad e Infancias.
Madrid: Ediciones Complutense. (pp. 329 – 334)
Holz, D., (2 de Agosto ed 2022) An engine for the imagination’: the rise of AI image
generators. An interview with Midjourney founder David Holz. The Verge.
https://www.theverge.com/2022/8/2/23287173/ai-image-generation-art-midjourney-
multiverse-interview-david-holz Entrevistado por Vincent J.
Maruccia, A. (10 de noviembre de 2022) Midjourney v4 greatly improves the award-
winning image creation AI. Techspot. https://www.techspot.com/news/96619-
midjourney-v4-greatly-improves-award-winning-image-creation.html
Morales, S. y Magistris, G. (2019) “Niñez en movimiento: del adultocentrismo a la
emancipación”. Buenos Aires: Editorial Chirimbote
Nilsson J., (2001) “Inteligencia artificial: una nueva síntesis” Madrid: McGraw-Hill
Rampello, S., (2019) “Los sesgos en la toma de decisiones” en Facultad de Ciencias
Económicas y Jurídicas de la UNLPam - Volumen 9 - N° 1. Universidad nacional de
la Pampa; pp. 84 – 95
Sanchez, J., (2008) La infancia en la sociedad del conocimiento en Revista CTS, Nº 11,
vol. 4 (pp. 23 – 43) https://dialnet.unirioja.es/descarga/articulo/3044889.pdf
Sandoval, L., (2018) “Algoritmos de aprendizaje automático para análisis y predicción de
datos” en Revista Tecnológica N° 11. ITCA-FEPADE Sede Central: Santa Tecla; pp.
36 – 40

23
Terrones, A. (2020) “Inteligencia artificial responsable. Humanismo tecnológico y ciencia
cívica” [Tesis de doctorado, Universitat de Valencia)
https://roderic.uv.es/bitstream/handle/10550/77016/Inteligencia%20artificial-AT-
FA-20200909.pdf?sequence=2&isAllowed=y
Vinuesa, R. et al. (2006) The role of artificial intelligence in achieving the Sustainable
Development Goals en Nature Communications, Nº 11, pp. 1 - 10

24