Evolucionar: operacionalizar la diversidad, la equidad y la inclusión en sus proyectos de IA


En los últimos años, el campo de la IA se ha visto inundado de preocupaciones sobre la ética y la equidad en la IA. Al mismo tiempo, el mundo se ha dado cuenta de los problemas estructurales profundamente arraigados de la injusticia racial.

Los dos están inextricablemente vinculados. La IA es una de las transformaciones tecnológicas más poderosas que hemos visto: parte de un hilo que comienza con el auge de la computadora personal y atraviesa la explosión de Internet y la revolución móvil. Tiene el poder de hacer grandes cosas, pero es proporcionalmente peligroso.

Una de las formas más importantes en que la industria puede reducir los daños potenciales de la IA es garantizar la diversidad, la equidad y la inclusión (DEI) en cada paso del proceso de creación e implementación. En este momento, ciertamente la gran mayoría de los que crean IA dentro de la empresa, en las nuevas empresas tecnológicas y en las pequeñas y medianas empresas de todo tipo comprenden esto: por qué DEI es importante. no solo por razones morales, sino también prácticas.

Pero realmente poner en funcionamiento DEI es un desafío diferente, y ese fue el enfoque del evento reciente de VentureBeat, “Evolucionar: garantizar la diversidad, la equidad y la inclusión en la IA. ” Buscamos la sabiduría de un panel de expertos de la industria: Huma Abidi, director senior de productos de software de IA en Intel; Rashida Hodge, vicepresidenta de comercialización de mercados globales de América del Norte en IBM; y Tiffany Deng, directora de gestión de programas para la equidad de ML e IA responsable, en Google.

Cambiar la mentalidad: un mejor espejo

El viejo mantra de “muévete rápido y rompe cosas” ha expirado. “Creo que debería haber un nuevo mantra: muévete rápido y hazlo bien”, dijo Abidi. Señaló que la misma noción de “romper cosas” es peligrosa porque hay mucho en juego en la IA. Añadió: “La IA para todos solo es posible cuando los tecnólogos y los líderes empresariales trabajan juntos conscientemente para crear una fuerza de trabajo de DEI”.

“Como mujer negra en tecnología, personalmente entiendo la dura realidad de lo que sucede cuando descuidamos hacer el trabajo real, y el trabajo real es garantizar que la conversación no se trate solo del algoritmo”, dijo Hodge. “La tecnología sirve de espejo para nuestra sociedad. Revela nuestro sesgo, revela nuestra discriminación, [and] revela nuestro racismo “. Dijo que tenemos que entender que las tecnologías son moldeadas por las personas que las fabrican y que esas personas no son inmunes a los efectos sistémicos de trabajar en un entorno que no es diverso ni inclusivo.

Hodge también dijo que debe haber un cambio de enfoque de arreglar las cosas solo abordando el algoritmo subyacente a reclutar y retener talentos diversos. “Cada vez más, las tecnologías tienen que ver con los matices de las personas y los procesos, [and] el aumento de personas y procesos, por lo que estos sistemas de IA son un reflejo directo de quiénes somos, porque los capacitamos como individuos ”, dijo.

Deng dijo que las personas ponen todo su ser sobre la mesa cuando se trata de IA, y eso puede servir como una guía sobre cómo pensar en ello como creadores. El desarrollo de la IA no puede ser un proceso aislado. “Entrar en esas comunidades, comprender cómo están usando la tecnología, comprender cómo se pueden dañar, comprender qué necesitan para que sea mejor, para que tenga más impacto en sus vidas” es la clave para crear IA, dijo. . “Y es una perspectiva que te estás perdiendo si no tienes una fuerza laboral diversa”.

Conclusiones clave:

  • Cambie la antigua mentalidad y el enfoque del desarrollo.
  • Los líderes empresariales y los tecnólogos deben trabajar juntos conscientemente para garantizar una fuerza laboral diversa.
  • La tecnología sirve de espejo para nuestra sociedad; necesitamos un mejor espejo.
  • Las personas y su trabajo se ven afectados por estar en entornos diversos y no diversos.
  • No siempre se trata del algoritmo subyacente; centrarse en reclutar y retener talentos diversos.
  • Salga del silo tecnológico y comuníquese con las comunidades que se verán afectadas por su IA para comprender los daños potenciales y las necesidades reales que existen.

Construyendo el personal adecuado

“Su fuerza laboral debe parecerse a las personas a las que está tratando de servir”, dijo Deng. Ella mencionó la noción que se ha adoptado en otros lugares: que la perspectiva que no tener es porque ese asiento en particular en la mesa está vacío. Así es como se obtienen puntos ciegos, dijo. Esa tabla debe reflejar la sociedad en general, pero también “las metas que tenemos para el futuro”.

Se ha hablado mucho de la necesidad de expertos en el dominio de proyectos de IA. Es decir, si está construyendo algo para el sector de la educación, debe incorporar educadores y confiar en su experiencia. Si está tratando de resolver un problema en el cuidado de personas mayores, necesita que los proveedores de atención médica y los especialistas se involucren.

Aunque es importante aprovechar los expertos en el dominio, eso es solo una parte de un todo mayor. “No se trata solo de la experiencia en el dominio. También se trata de una transformación de procesos de negocio de extremo a extremo que incluye expertos en dominios ”, dijo Hodge.

Abidi se hizo eco de esta idea. “Abordar el sesgo en la IA no es solo un desafío técnico”, dijo. “Los algoritmos son creados por personas, por lo que los sesgos en el mundo real no solo se imitan, sino que se pueden amplificar”. Por lo tanto, aunque los expertos en dominios son importantes para crear sistemas de inteligencia artificial, necesita una mayor cantidad de personas de múltiples áreas. “También se necesitan defensores de los consumidores, profesionales de la salud pública, diseñadores industriales, legisladores, todos ellos básicamente vinculados a la fuerza laboral diversa, que es… representativa de la población a la que servirá esa solución”, agregó.

Conclusiones clave:

  • Su fuerza laboral debe parecerse a las personas a las que está tratando de servir, para que no tenga puntos ciegos.
  • No se trata solo de adquirir experiencia en el dominio; se trata de una transformación empresarial de un extremo a otro.
  • Una “fuerza laboral diversa” incluye personas de múltiples áreas de especialización.

Garantizar los flujos de trabajo correctos

Con la fuerza laboral adecuada en su lugar, también debe asegurarse de tener los flujos de trabajo adecuados. Hodge enfatizó que, conceptualmente, lo primero en lo que debe pensar es en el “por qué”.

“Es realmente fundamental comprender qué problema está resolviendo con la IA”, dijo. Esa claridad en torno a su enfoque inicial, dijo, es importante.

Deng se hizo eco de Hodge al llamar a uno de los grandes consejos del Dr. Timnit Gebru: preguntarnos “¿deberíamos estar haciendo esto?”

“Creo que es un primer paso realmente importante para pensar y cambiar los flujos de trabajo”, dijo Deng. Aunque la IA puede ayudar a transformar prácticamente cualquier industria o empresa, esa es una primera pregunta fundamental. Lo que sigue es preguntarse si un determinado proyecto o idea tiene sentido para el problema en cuestión y cómo podría causar daño.

Si hace esas preguntas cruciales y difíciles desde el principio de un proyecto, las respuestas pueden llevarlo a cerrar un flujo de trabajo completo que habría tenido un resultado pobre. Eso podría requerir algo de coraje, dadas las presiones internas o externas. Sin embargo, en última instancia, tomar la decisión acertada no es solo lo correcto, sino también la mejor decisión comercial, porque evita proyectos que están condenados al fracaso.

Hodge afirmó que desde una perspectiva práctica, no hay necesariamente un punto de partida singular para un proyecto dado; dónde debe comenzar depende de la estructura de la empresa, las necesidades, los problemas comerciales que debe resolver, los expertos internos disponibles, etc.

Abidi aboga por definir y construir estándares y procesos claros que sean cuantificables y tengan medidas de calidad y solidez. “Eso, de nuevo, para mí está conduciendo a soluciones éticas que son justas, transparentes, [and] explicable ”, dijo.

Un ejemplo que dio es Hoja de datos para conjuntos de datos, un documento dirigido por Gebru que defiende la necesidad de una mejor documentación en IA. El resumen del artículo dice que “cada conjunto de datos [should] ir acompañado de una hoja de datos que documente su motivación, composición, proceso de recopilación, usos recomendados, etc. “

También sugirió otro proyecto de documentación de Gebru, Tarjetas modelo para informes de modelos. Según el documento: “Las tarjetas modelo también revelan el contexto en el que se pretende usar los modelos, detalles de los procedimientos de evaluación del desempeño y otra información relevante”.

“Básicamente, necesita incorporar estos principios básicos en su flujo de trabajo”, dijo. “Mi punto es que, como cualquier otro producto de software, desea asegurarse de que sea robusto y todo eso, pero para la IA, especialmente usted, además de tener estándares y procesos, debe agregar estas cosas adicionales”.

También está la cuestión de si la IA es excesiva para la tarea en cuestión. “No todos los problemas necesitan ser resueltos por la IA”, señaló Hodge.

También abogó por un enfoque cuidadoso e iterativo para desarrollar IA, un proceso comercial continuo que tiene un ciclo de vida y requiere que usted continúe regresando a él a medida que cambian los datos o necesita ajustar el modelo en función de los resultados del mundo real.

“Con la IA, el cambio no tiene por qué suceder de una sola vez”, dijo. “Algunos de los mejores proyectos de IA en los que he estado involucrado … MVP se abren camino para escalar”. Usan sprints incrementales, lo cual es importante porque hay matices en este trabajo, y eso requiere retroalimentación y más retroalimentación y más datos, y así sucesivamente. “Así como nosotros, como seres humanos, procesamos la información y procesamos los matices, a medida que leemos más información, a medida que visitamos un lugar diferente, tenemos diferentes perspectivas. Y aportamos matices a la forma en que tomamos decisiones; deberíamos mirar las aplicaciones de IA exactamente de la misma manera ”, dijo.

Conclusiones clave:

  • No olvide el “por qué” y los problemas que está tratando de resolver, y pregunte “¿Deberíamos?”
  • No existe un punto de partida singular para un proyecto, depende de las necesidades de una empresa determinada.
  • Definir y construir estándares y procesos claros que sean cuantificables y tengan medidas de calidad y solidez.
  • No todos los problemas necesitan ser resueltos por IA.
  • “MVP” a su manera de escalar: los atajos en el trabajo son atajos al fracaso.
  • Piense en el desarrollo de la IA como un proceso empresarial continuo con un ciclo de vida: continúe revisándolo.

Consejo general

A lo largo de la conversación, los panelistas ofrecieron una gran cantidad de consejos generales para las empresas que buscan crear proyectos de IA y poner en práctica la diversidad, la equidad y la inclusión. Aquí hay una lista resumida:

  • No es necesario que empiece desde cero; ya hay muchas herramientas excelentes disponibles.
  • ¡La IA no es mágica! Requiere capacitación, experiencia, diseño apropiado y datos diversos.
  • Preparación organizativa: asegúrese de que su empresa esté preparada para las soluciones que está creando.
  • Disponibilidad de datos: El adagio de “basura adentro, basura afuera” es cierto. Los datos alimentan todas las soluciones de IA y es necesario que los revise con el tiempo.
  • Nunca pierda de vista el valor que espera aportar: ¿Este proyecto de IA es simplemente algo interesante o realmente tiene un impacto?
  • No hay IA sin IA (arquitectura de la información), así que observe detenidamente la estructura de sus fuentes de datos, lago de datos, etc.
  • Cuando mida resultados, no se deje atrapar por la “precisión” per se; comprenda lo que está resolviendo, examine cómo lo que hizo es útil y relevante, y sopese las compensaciones inherentes caso por caso.

VentureBeat

La misión de VentureBeat es ser una plaza urbana digital para que los responsables de la toma de decisiones técnicas obtengan conocimientos sobre tecnología transformadora y realicen transacciones. Nuestro sitio ofrece información esencial sobre tecnologías y estrategias de datos para guiarlo a medida que lidera sus organizaciones. Te invitamos a convertirte en miembro de nuestra comunidad, para acceder a:

  • información actualizada sobre los temas de su interés,
  • nuestros boletines
  • contenido exclusivo de líderes de opinión y acceso con descuento a nuestros preciados eventos, como Transform
  • funciones de red y más.

Hazte miembro

Latest articles

Guatemala protesta por despido de fiscal de corrupción

Los guatemaltecos protestan contra la corrupción del gobierno el 20 de septiembre de 2017. Foto: Keneth Cruz. ...

Paquetes de papel de aluminio para fajitas de pollo (¡para exteriores o en casa!)

Hemos pasado mucho tiempo al aire libre este verano, lo cual me encanta, pero eso también significa que necesitamos más ideas de...

Netflix y SpaceX muestran cómo el turismo espacial en streaming es el nuevo reality show

Cuando SpaceX lance su primera tripulación totalmente civil al espacio a finales de este otoño y realice un viaje de varios...

El sistema de salud de EE. UU. Ocupa el último lugar entre las naciones ricas, una vez más: la política

Como recordatorio, este subreddit es para discusión civil.En general, sea cortés con los demás. Debatir / discutir / discutir los méritos de...
49.6k Followers
Follow

Related articles

Leave a reply

Please enter your comment!
Please enter your name here

Translate »