Por que la controvertida salida de Google de Timnit Gebru está provocando una tormenta de fuego en la tecnología


La cultura laboral de Google está nuevamente envuelta en controversias.

La investigadora de ética en inteligencia artificial Timnit Gebru, una pionera muy respetada en su campo y una de las pocas mujeres negras líderes en la industria, dijo a principios de esta semana que Google la despidió después de bloquear la publicación de su investigación sobre el sesgo en los sistemas de IA. Días antes de la partida de Gebru, envió un memorando interno mordaz a sus colegas detallando cómo los altos mandos de Google intentaron aplastar su investigación. También criticó a su departamento por lo que describió como una continua falta de diversidad entre su personal.

En su correo electrónico interno ampliamente leído, que fue publicado por Platformer, Gebru dijo que la compañía estaba “silenciando de la manera más fundamental posible” y afirmó que “tu vida empeora cuando comienzas a abogar por las personas subrepresentadas” en Google.

Después de la partida de Gebru, el jefe de investigación de inteligencia artificial de Google, Jeff Dean, envió una nota al departamento de Gebru el jueves por la mañana diciendo que, después de una revisión interna, su trabajo de investigación no cumplía con los estándares de publicación de la compañía. Según Gebru, la compañía también le dijo que su nota crítica para sus compañeros de trabajo era “inconsistente con las expectativas de un gerente de Google”.

Un representante de Google se negó a comentar. Gebru no respondió a una solicitud de comentarios.

La acusación de Gebru de haber sido expulsada de la poderosa compañía de tecnología en circunstancias cuestionables está causando revuelo en las comunidades tecnológicas y académicas, con muchos investigadores prominentes, líderes de derechos civiles y colegas de inteligencia artificial de Google de Gebru hablando públicamente en Twitter en su defensa. UNA petición para apoyarla ya ha recibido las firmas de más de 740 empleados de Google y más de 1.000 académicos, líderes sin fines de lucro y colegas de la industria. Su partida es significativa porque afecta a tensiones más amplias en torno a la diversidad racial en Silicon Valley, así como a si los académicos tienen o no libertad suficiente para publicar investigaciones, incluso si son controvertidas, mientras trabajan en las principales empresas que controlan el desarrollo de tecnologías poderosas y tienen su propios intereses corporativos a considerar.

¿Qué llevó a la partida de Gebru?

La gente todavía está tratando de desentrañar exactamente qué llevó a la salida de Gebru de Google.

Lo que sabemos es que Gebru y varios de sus colegas estaban planeando presentar un trabajo de investigación en una próxima conferencia académica sobre las consecuencias no deseadas en los sistemas de procesamiento del lenguaje natural, que son las herramientas utilizadas en el campo de la computación para comprender y automatizar la creación de textos escritos. palabras y audio. La investigación de Gebru y sus colegas, según el New York Times, “detectar fallas en una nueva generación de tecnología del lenguaje, incluido un sistema creado por Google que respalda el motor de búsqueda de la empresa “. También supuestamente discutió las consecuencias ambientales de los sistemas informáticos a gran escala utilizados para impulsar los programas de procesamiento del lenguaje natural.

Como parte del proceso de Google, Gebru envió el documento a Google para su revisión interna antes de que se publicara de manera más amplia. Google determinó que el documento no estaba a la altura de sus estándares porque “ignoró demasiadas investigaciones relevantes”, según el memo que Dean envió el jueves.

Dean también dijo en su memorando que Google rechazó el artículo de Gebru para su publicación porque lo envió un día antes de la fecha límite de publicación en lugar de las dos semanas requeridas.

Gebru solicitó una mayor discusión con Google antes de retractar el documento, según el Times. Si Google no podía abordar sus preocupaciones, Gebru dijo que renunciaría a la empresa.

Google le dijo a Gebru que no podía cumplir con sus condiciones y que la compañía estaba aceptando su renuncia de inmediato.

Es un proceso estándar para una empresa como Google revisar la investigación de sus empleados antes de que se publique fuera de ella. Pero ex colegas e investigadores externos de la industria que defendían a Gebru cuestionaron si Google estaba aplicando arbitrariamente sus reglas de manera más estricta en este escenario.

“Simplemente parece extraño que alguien a quien se le han escrito libros sobre ella, que es citado y citado a diario, sea despedido porque un artículo no se revisó correctamente”, dijo Rumman Chowdhury, un científico de datos que es el ex jefa de IA responsable en Accenture Applied Intelligence y ahora ha lanzado su propia empresa llamada Parity. Chowdhury no tiene ninguna afiliación con Google.

El conflicto y el despido / dimisión de Gebru reflejan una tensión creciente entre los investigadores que estudian la ética de la IA y las principales empresas tecnológicas que los emplean.

También es otro ejemplo de problemas profundos y continuos que dividen a partes de la fuerza laboral de Google. El miércoles, la Junta Nacional de Relaciones Laborales (NLRB) emitió una queja que decía que Google había espiado a sus trabajadores y probablemente había violado las leyes laborales. cuando despidió a dos empleados activistas el año pasado.

Después de varios años de confusión en la fuerza laboral de Google sobre cuestiones que van desde los controvertidos planes de Google hasta el trabajo con el ejército de EE. UU. a acoso sexual de sus empleados, los últimos meses habían sido relativamente tranquilos. La mayor presión pública de la compañía provino en cambio del escrutinio legal antimonopolio y las acusaciones no probadas de los legisladores republicanos de que los productos de Google muestran un sesgo anti-conservador. Pero el caso de Gebru y la reciente denuncia de la NLRB muestran que la empresa sigue librando batallas internas.

“Lo que hizo Timnit fue presentar algunas evaluaciones duras pero importantes de cómo van los esfuerzos de la empresa con las iniciativas de diversidad e inclusión y cómo corregir el rumbo en eso”, dijo Laurence Berland, un exingeniero de Google que fue despedido después de organizar a sus colegas en torno a los trabajadores. cuestiones y uno de los empleados impugnó su despido con la NLRB. “Fue apasionante, pero no solo no constructivo”, dijo.

Por qué es importante la partida de Gebru

En el campo relativamente nuevo y en desarrollo de la IA ética, Gebru no solo es un investigador fundamental, sino un modelo a seguir para muchos académicos jóvenes. También es líder de grupos clave como Negro en IA, que están fomentando una mayor diversidad en el campo en gran parte blanco, dominado por hombres de la IA en EE. UU.

(Si bien Google no desglosa sus datos demográficos específicamente para su departamento de investigación de inteligencia artificial, sí comparte anualmente sus números de diversidad. Solo el 24,7 por ciento de su fuerza laboral técnica son mujeres y el 2,4 por ciento son negros, según su informe de diversidad e inclusión de 2020. .)

“Timnit es un pionero. Es una de las fundadoras de la inteligencia artificial responsable y ética ”, dijo Chowdhury. “Los científicos e ingenieros informáticos entran en el campo gracias a ella”.

En 2018, Gebru y otra investigadora, Joy Buolamwini, publicaron una investigación innovadora que mostraba software de reconocimiento facial identificado las personas de piel más oscura y las mujeres incorrectamente en tasas mucho más altas que las personas de piel más clara y los hombres.

Su trabajo ha contribuido a un reconocimiento más amplio en la industria tecnológica sobre la Consecuencias no deseadas de la IA que está capacitado en conjuntos de datos que pueden marginar a las minorías y las mujeres, reforzando las desigualdades sociales existentes.

Fuera de Google, a los académicos en el campo de la inteligencia artificial les preocupa que el despido de Gebru pueda asustar a otros investigadores para que no publiquen investigaciones importantes que puedan pisotear a sus empleadores.

“No está claro para los investigadores cómo van a continuar haciendo este trabajo en la industria”, dijo Moritz Hardt, profesor de ciencias de la computación de UC Berkeley, quien se especializa en aprendizaje automático y ha estudiado la equidad en la IA. “Es un momento escalofriante, diría yo”.



Latest articles

1Inch price hits a new high as the top DEX aggregator vies for DeFi dominance

A medida que el ecosistema de finanzas descentralizadas (DeFi) evoluciona y se expande para abarcar todo el sector de las criptomonedas, la carrera...

El Departamento de Justicia tiene como objetivo tomar medidas enérgicas contra las ‘armas fantasma’

WASHINGTON (AP) - El Departamento de Justicia publicó el viernes una regla propuesta que ampliaría la definición de arma de fuego, requiriendo que...

Cómo obtener un préstamo inicial de la SBA

Emprendedores que esperan obtener financiación inicial con un Préstamo de la SBA Puede buscar los siguientes programas respaldados (y, en algunos casos,...
49.6k Followers
Follow

Related articles

Leave a reply

Please enter your comment!
Please enter your name here

Translate »