Innovación responsable en la era de la IA generativa
La inteligencia artificial (IA) generativa es el siguiente paso de la década que hemos dedicado al desarrollo de Adobe Sensei. Al tiempo que aprovechamos su potencial en todas nuestras tecnologías en la nube, estamos más comprometidos que nunca con el desarrollo responsable y reflexivo.
“La IA está transformando la manera en la que creamos, trabajamos y nos comunicamos. Al adoptar un enfoque reflexivo y completo sobre la ética de la IA, Adobe garantiza que esta tecnología se desarrolle de manera responsable y respetuosa con nuestra clientela y nuestra comunidad”.
Dana Rao
Vicepresidente ejecutivo, director jurídico y fideicomisario jefe
La ética de la IA en acción
Basándonos en nuestros principios de ética de la IA sobre compromiso, responsabilidad y transparencia, hemos creado procesos estandarizados que van desde el diseño hasta el desarrollo y la implementación, pasando por formación, pruebas y revisión supervisada por una junta diversa de revisión de la ética de la IA.
Formación
La calidad de la IA depende de los datos con los que se entrena y los resultados que se consideran apropiados varían según el caso. Por esta razón, hemos creado conjuntos de datos específicos para responder a las necesidades de nuestras empresas y asegurarnos unos resultados heterogéneos y éticos adecuados para las distintas formas en las que se emplea la IA.
Pruebas
Realizamos pruebas continuas y rigurosas de las funciones y los productos basados en la IA para reducir los prejuicios y estereotipos dañinos. Esto incluye pruebas automatizadas y evaluación humana.
Evaluaciones de impacto
Los ingenieros que desarrollan cualquier función basada en la IA envían una evaluación de impacto de la ética de la IA. Esta evaluación de impacto tiene varias partes y está diseñada para identificar funciones y productos que puedan perpetuar prejuicios y estereotipos dañinos. Esto permite que nuestro equipo de ética de la IA pueda centrar sus esfuerzos en las funciones y los productos con mayor potencial de impacto ético, sin ralentizarse el ritmo de la innovación.
Supervisión humana diversa
Una junta heterogénea y multidisciplinaria de revisión de la ética de la IA revisa las funciones basadas en la IA con mayor potencial de tener un impacto ético. La diversidad de las trayectorias y experiencias, tanto personales como profesionales, es esencial para identificar posibles problemas con una variedad de perspectivas que un equipo menos diverso quizá no podría ver. Escucha a los miembros de nuestra junta. Ver el vídeo.
Comentarios
Proporcionamos mecanismos para aportar comentarios que permiten informar sobre resultados con posibles prejuicios, de modo que se pueda solucionar cualquier problema. La IA experimenta un desarrollo continuo y queremos trabajar con nuestra comunidad para seguir mejorando nuestros productos y herramientas para todos. Si tienes alguna duda o quieres informar de un posible problema relacionado con la ética de la IA, contáctanos.
Shantanu Narayan, director general de Adobe, habla sobre cómo hacer frente a la desinformación en la nueva era de la IA generativa.
Washington Post en directo | 5 de marzo de 2024
