Figma afirma que no entrenó los modelos de IA generativos que utilizó y culpa a un ‘sistema de diseño personalizado’
Por Jay Peters, editor de noticias que escribe sobre tecnología, videojuegos y mundos virtuales. Ha presentado varias propuestas de emojis aceptadas al Consorcio Unicode.
2 de julio de 2024, 20:15 UTC
Compartir esta historia
La nueva herramienta de Figma, Make Designs, permite a los usuarios crear prototipos de aplicaciones rápidamente utilizando inteligencia artificial generativa. Ahora, ha sido retirada después de que la herramienta creara diseños que se parecían sorprendentemente a la aplicación del clima de iOS de Apple. El CEO de Figma, Dylan Field, publicó un hilo en X temprano en la mañana del martes, detallando la eliminación, asumiendo la responsabilidad por presionar al equipo para cumplir con un plazo límite y defendiendo el enfoque de la empresa para desarrollar sus herramientas de IA.
En publicaciones en X, Andy Allen, CEO de Not Boring Software, mostró justo cuán cerca se parecían los diseños creados por la herramienta Make Designs de Figma a la aplicación del clima de Apple. «Solo un aviso a cualquier diseñador que use la función Make Designs de que puede querer verificar cuidadosamente aplicaciones existentes o modificar los resultados pesadamente para no meterse en problemas legales sin darse cuenta», escribió Allen.
En una entrevista del martes con el CTO de Figma, Kris Rasmussen, le pregunté directamente si Make Designs se había entrenado con diseños de aplicaciones de Apple. Su respuesta fue que no podía decir con certeza. Figma no fue responsable de entrenar los modelos de IA que utilizó en absoluto.
“No realizamos capacitación alguna como parte de las características de inteligencia artificial generativa”, dijo Rasmussen. Las características están “impulsadas por modelos fuera de la estantería y un sistema de diseño personalizado que encargamos, lo que parece ser el problema subyacente”.
Eso coincide en general con algo que dijo el lunes en X en respuesta a un usuario que sugirió que Make Designs se entrenó en aplicaciones existentes. “Como compartimos cuando lanzamos Figma AI la semana pasada, no hubo capacitación como parte de esta característica o ninguna de nuestras características generativas”, escribió. “Estamos investigando hasta qué punto las similitudes son una función de los modelos de terceros que estamos utilizando versus los sistemas de diseño que encargamos para ser utilizados por los modelos y abordaremos según sea necesario”.
Field, en su propio hilo, dijo que la característica Make Designs “no se entrenó en contenido de Figma, archivos de la comunidad o diseños de aplicaciones” y destacó que “las acusaciones sobre capacitación de datos en este tuit son falsas”. Dijo que un problema con el enfoque de la empresa es que “la variabilidad es demasiado baja”.
Los modelos de inteligencia artificial clave que impulsan Make Designs son GPT-4o de OpenAI y el Generador de Imágenes Titan G1 de Amazon, según Rasmussen. Si es cierto que Figma no entrenó sus herramientas de IA pero están produciendo copias de aplicaciones de Apple de todos modos, eso podría sugerir que los modelos de OpenAI o Amazon se entrenaron en diseños de Apple. OpenAI y Amazon no respondieron inmediatamente a una solicitud de comentarios.
Rasmussen argumentó que Figma no quería realizar ningún entrenamiento para mejorar sus características hasta que fuera abierto con sus usuarios sobre sus políticas de entrenamiento de IA, que también se presentaron la semana pasada. Como parte de esas políticas, los usuarios tienen hasta el 15 de agosto para decidir si desean optar por permitir o no que su contenido se utilice para el entrenamiento de Figma. (Los planes de Inicio y Profesional se optan por defecto, mientras que los planes de Organización y Empresa se optan por defecto).
Relacionados
- Figma anuncia una gran redesign con IA
- Los nuevos términos de servicio de Adobe establecen que no utilizarán tu trabajo para entrenar IA
Pregunté si Figma planea entrenar sus propios modelos — lo que, dados los nuevos políticas de entrenamiento de IA de la empresa, parece algo que sucederá. «Definitivamente vemos oportunidades para perfeccionar tus flujos de diseño enseñando a estos modelos a diseñar en el contexto de Figma», dijo Rasmussen. Sin embargo, «vamos a tomar medidas para asegurarnos de que nuestros propios modelos o cualquier afinamiento que hagamos con modelos de código abierto solo aprendan patrones de diseño generales y conceptos de diseño específicos de Figma, para que puedan ser herramientas mejores para diseñadores profesionales».
También pregunté a Rasmussen cómo Figma planea solucionar sus procesos para detectar posibles problemas en el futuro. «Estamos haciendo un paso sobre el sistema de diseño personalizado para asegurarnos de que tenga suficiente variación y cumpla con nuestros estándares de calidad», dijo. «Esa es la causa raíz del problema.
Pero vamos a tomar precauciones adicionales antes de reactivar [Crear diseños] para asegurarnos de que toda la función cumpla con nuestros estándares de calidad y sea consistente con nuestros valores.”
Rasmussen también señaló que Crear diseños se encuentra en beta. “Las betas, por definición, no son perfectas. Pero es seguro decir, como compartió Dylan en su tuit, que simplemente no detectamos este problema en particular. Y deberíamos haberlo hecho.”
Rasmussen dijo que Figma espera reactivar Crear diseños “pronto”. Otras características de inteligencia artificial de Figma seguirán estando disponibles en beta. (Para acceder a cualquier característica de inteligencia artificial de Figma, debes inscribirte en una lista de espera.)
Figma es la última empresa en recibir críticas por su enfoque para llevar la inteligencia artificial a sus herramientas creativas. Adobe tuvo que aclarar que no utilizaría el trabajo de los usuarios para entrenar su inteligencia artificial después de la reacción negativa hacia los cambios en los términos de servicio. Y Meta ha tenido que cambiar sus etiquetas de inteligencia artificial después de que los fotógrafos se quejaran de que la etiqueta antigua se aplicaba incorrectamente a fotos reales.
