Seleccionar página

DALL-E 2 crea imágenes increíbles e imágenes sesgadas invisibles
DALL-E 2 crea imágenes increíbles e imágenes sesgadas invisibles

Con el lanzamiento de GPT-2 en febrero de 2019, OpenAI adoptará un enfoque escalonado para la mayor forma de lanzamiento del modelo, basado en la afirmación de que el texto generado es demasiado realista para publicarlo. Ese enfoque provocó un debate sobre cómo publicar de manera responsable grandes modelos de lenguaje y críticas de que se diseñaron métodos elaborados para mejorar la publicidad.

GPT-3 es más de 100 veces más grande que GPT-2, y aunque los prejuicios contra grupos de negros, musulmanes y otros están bien documentados, GPT-3 con su socio exclusivo Microsoft: los esfuerzos para comercializar 3 continuaron en 2020 sin datos específicos. Un método dirigido o cuantitativo para determinar si un modelo es adecuado para su publicación.

Altman sugirió que DALL-E2 puede seguir el mismo enfoque que GPT-3. «No hay un indicador claro de que la sociedad pueda decir que esta es la forma correcta de manejar esto», dice, pero OpenAI quiere seguir indicadores como el número DALL-E. Por ejemplo, dos imágenes de una persona de color en una celda de prisión. .

Una forma de lidiar con el problema del sesgo de DALL-E 2 es eliminar por completo la capacidad de generar rostros humanos, dice Hannah Rosekirk, científica de datos de la Universidad de Oxford que participó en el proceso Red Team. A principios de este año, fue coautora de una investigación sobre formas de reducir el sesgo en modelos multimodales como CLIP de OpenAI, adoptando un modelo de clasificación que limita la capacidad de los sistemas para generar imágenes que persisten estereotipos.Recomendado para DALL-E2.

“Es menos preciso, pero argumentamos que vale la pena reducir el sesgo”, dice Kirk. «Creo que sería una gran limitación para las capacidades actuales de DALL-E, pero en cierto sentido, muchos riesgos se pueden eliminar de manera fácil y económica».

Cuando usa DALL-E 2, frases como «lugar de culto», «plato de alimentación saludable» y «calle limpia» son occidentales, así como indicaciones como «grupo alemán». Descubrimos que puede arrojar resultados con prejuicios culturales. «Niños en el Aula» vs. «Grupo de Niños Sudafricanos en el Aula». DALL-E 2 exporta una imagen de «una pareja besándose en la playa», pero debido al método de filtrado de texto de OpenAI, no se genera una imagen de «una pareja de transexuales besándose en la playa». Hmm. Los filtros de texto están ahí para evitar la creación de contenido inapropiado, pero pueden ayudar a eliminar a ciertos grupos de personas.

Lia Coleman es miembro y artista del Red Team y ha utilizado modelos de texto a imagen en su trabajo durante los últimos dos años. Ella solía sentir increíble las caras de las personas producidas por DALL-E 2. El resultado fue similar a imágenes prediseñadas no fotorrealistas con fondos blancos, animaciones de dibujos animados y sombras inadecuadas. Al igual que Kirk, apoya el filtrado para reducir la capacidad de DALL-E para amplificar el sesgo. Pero ella cree que la solución a largo plazo es educar a las personas para que tomen las imágenes de las redes sociales con un grano de sal. «Por mucho que tratemos de poner un corcho, se derramará en algún momento en los próximos años», dice ella.

Marcelo Rinesi, CTO del Instituto de Ética y Tecnologías Emergentes, afirma que DALL-E 2 es una herramienta poderosa, pero no hace nada que los ilustradores experimentados no puedan hacer en Photoshop o durante algún tiempo. La principal diferencia es que DALL-E 2 puede cambiar la economía y la velocidad de creación de este tipo de imágenes, lo que permite industrializar la desinformación o personalizar el sesgo para llegar a un público específico.

Le impresionó que el proceso del Equipo Rojo se tratara más de proteger las responsabilidades legales o de reputación de OpenAI que de encontrar nuevas formas que pudieran dañar a las personas. Es escéptico DALL-E 2 solo, derrotando al presidente y causando una gran agitación en la sociedad.

“No me preocupan cosas como el estigma social o la desinformación, porque el montón de basura se está quemando ahora que no empeora”, dice la autoproclamada pesimista Linesi. .. “Ya estamos en juego, por lo que no será una crisis sistemática”.

Comentarios de otros artículos

  1. Yo tengo un problema, mis hijos no se quieren venir conmigo pero son chiquitos y mi marido los compra con…

  2. Doctor usted me puede curar una hemorroide externa???? No puedo con el dolor, vivo en canal nacional.

  3. Ya lo sigo en Tiktok. Esta usted muy guapo Licenciado. Gracias por compartirnos su talento. 🥰

0 comentarios

Enviar un comentario

Tu dirección de correo electrónico no será publicada.

También te puede interesar 👇

Pin It on Pinterest

Share This