Microsoft aprovechar la generación de imágenes por Inteligencia Artificial y olvidarse de la ética

Microsoft elude el debate sobre el arte impulsado por la IA y adopta la generación de imágenes ofreciendolo como una herramienta más para los creativos.

Durante un evento de prensa de Surface hoy, Microsoft anunció la integración de la tecnología de generación de imágenes impulsada por IA en su motor de búsqueda Bing, el navegador Edge y una nueva aplicación de Office llamada Microsoft Designer.

La tecnología estará impulsada por DALL-E 2 de OpenAI, que causó sensación en abril por su capacidad para generar imágenes novedosas basadas en indicaciones escritas.

Microsoft anuncia el competidor de Canva, nueva aplicación Designer impulsada por IA

La tecnología también ha sido objeto de ira entre algunos artistas debido a preocupaciones éticas.

Las ofertas de Microsoft tienen como objetivo ayudar a los creadores a superar el síndrome de la página en blanco sugiriendo cursos de acción creativos.

En un ejemplo de Microsoft Designer proporcionado por Microsoft, alguien escribe una descripción de lo que quiere ver, como “Pastel decorado con flores y hojas de otoño” y luego puedes desplazarte a través de ejemplos de imágenes generadas por IA entre las que se puede elegir.

Microsoft integrará Teams, Office, Windows y Xbox en el ecosistema de Meta Quest VR

Microsoft Designer se originó como parte de PowerPoint, donde actualmente sugiere ideas de diseño como un subconjunto de ese programa. Pero Microsoft planea incluir a Designer en su propia aplicación Microsoft 365 que estará disponible como aplicación gratuita y como aplicación premium disponible para los suscriptores de Microsoft 365 Personal y Family.

Por ahora, Microsoft limita Designer a una aplicación web pública gratuita, que utilizará para recopilar comentarios de las pruebas públicas.

Microsoft también anunció que integrará Designer en Microsoft Edge para ofrecer “sugerencias de diseño impulsadas por IA para mejorar visualmente las publicaciones en las redes sociales y otro contenido visual sin tener que salir de la ventana del navegador”.

Microsoft transfiere 1500 emojis a dominio público

La síntesis de imágenes de IA también llegará a Bing con Image Creator, donde las personas podrán escribir un aviso y obtener un resultado novedoso, impulsado por DALL-E 2 de OpenAI.

El problema de la ética

Desde que OpenAI presentó DALL-E 2 en abril, la generación de imágenes de IA ha sido controvertida con algunos artistas debido a su funcionamiento.

Los modelos de síntesis de imágenes como DALL-E 2 utilizan redes neuronales de aprendizaje profundo para analizar millones o miles de millones de imágenes que se encuentran públicamente en la web sin buscar el consentimiento de los artistas o los titulares de los derechos de autor.

Estos modelos, incluido el competidor de DALL-E Stable Diffusion, vinculan estadísticamente el contenido de esas imágenes con leyendas descriptivas que se encuentran en la web para asociarlas con palabras.

Red neuronal combina las famosas pinturas de Van Gogh, Monet y Munch

El resultado es que estos modelos pueden generar imágenes basadas en descripciones de texto y pueden imitar los estilos distintivos de artistas humanos específicos.

Además, los creadores de estos modelos de síntesis de imágenes advierten que reflejan prejuicios sociales como el racismo y el sexismo en sus datos de entrenamiento y también son capaces de producir imágenes perturbadoras o ilegales si no se implementan medidas de seguridad.

Microsoft dice que está abordando estos problemas: “Para ayudar a evitar que DALL∙E 2 brinde resultados inapropiados en la aplicación Designer y Image Creator, estamos trabajando nosotros mismos y con nuestro socio OpenAI que desarrolló DALL-E 2, para tomar medidas y lo haremos seguir evolucionando nuestro enfoque según sea necesario”.

Las mitigaciones incluyen eliminar “el contenido sexual y violento más explícito” del conjunto de datos de entrenamiento y agregar filtros para “limitar la generación de imágenes que violan la política de contenido”. Con respecto al sesgo, Microsoft menciona la aplicación de “tecnología adicional que ayuda a ofrecer imágenes más diversas a nuestros resultados” que probablemente sea lo mismo que las inyecciones aleatorias diversas que OpenAI introdujo en DALL-E en julio, lo que generó cierta controversia.

El modelo de IA de OpenAI reconoce automáticamente el habla y la traduce al inglés

Quizás debido a estos problemas, Microsoft está adoptando un enfoque de lanzamiento lento en lugar de abrir las puertas por completo a su nuevo software.

Con estos movimientos de Microsoft, las herramientas de síntesis de imágenes se están generalizando rápidamente. Canva agregó capacidades de generación de texto a imagen a mediados de septiembre.

Relacionados

Deja un comentario