AI Weekly: formas constructivas de recuperar el poder de las grandes tecnologías


Facebook lanzó una junta de supervisión independiente y comprometido nuevamente con las reformas de privacidad esta semana, pero después de años de promesas hechas y rotas, nadie parece estar convencido de que se está produciendo un cambio real. La Comisión Federal de Comercio (FTC) se espera que decida si demandar a Facebook pronto, las fuentes dijeron al New York Times, luego de una multa de $ 5 mil millones el año pasado.

En otras investigaciones, el Departamento de Justicia presentó una demanda contra Google esta semana, acusando a la empresa Alphabet de mantener múltiples monopolios mediante acuerdos exclusivos, recopilación de datos personales e inteligencia artificial. Esta semana también surgió la noticia de que la IA de Google desempeñará un papel en creando un muro fronterizo virtual.

Lo que se ve en cada caso es una empresa poderosa que insiste en que puede regularse a sí misma, ya que los reguladores gubernamentales parecen llegar a la conclusión opuesta.

Si las maquinaciones de Big Tech no fueran suficientes, esta semana también hubo noticias de un Bot de Telegram que desnuda a mujeres y niñas; La IA se utiliza para agregar o cambiar la emoción de los rostros de las personas en las fotos; y Clearview AI, una empresa que investigado en varios países, presuntamente planea introducir funciones para la policía para utilizar de forma más responsable sus servicios de reconocimiento facial. Oh, cierto, y hay una campaña electoral presidencial en marcha.

Es suficiente para que la gente llegue a la conclusión de que está indefensa. Pero eso es una ilusión, una que el príncipe Harry, la duquesa Meghan Markle, Algoritmos de opresión La autora, la Dra. Safiya Noble, y el director del Centro de Tecnología Humana, Tristan Harris, intentaron diseccionar a principios de esta semana en un charla organizada por Time. El Dr. Noble comenzó reconociendo que los sistemas de inteligencia artificial en las redes sociales pueden detectar, amplificar y profundizar los sistemas existentes de desigualdad como el racismo o el sexismo.

“Esas cosas no necesariamente comienzan en Silicon Valley, pero creo que hay muy poca consideración por eso cuando las empresas buscan maximizar el resultado final mediante el compromiso a toda costa, en realidad tiene un daño y un costo desproporcionados para las personas vulnerables. Estas son cosas que hemos estado estudiando durante más de 20 años y creo que son realmente importantes para sacar a relucir este tipo de imperativo de ganancias que realmente prospera con el daño ”, dijo Noble.

Como Markle señaló durante la conversación, la mayoría de los extremistas en los grupos de Facebook llegaron allí porque El algoritmo de recomendación de Facebook sugirió que se unieran a esos grupos..

Para actuar, Noble dijo que se preste atención a las políticas públicas y la regulación. Ambos son cruciales para las conversaciones sobre cómo operan las empresas.

“Creo que una de las cosas más importantes que la gente puede hacer es votar por políticas y personas que estén al tanto de lo que está sucediendo y que puedan intervenir realmente porque nacemos en los sistemas en los que nacimos”, dijo. “Si les preguntas a mis padres cómo fue nacer antes de que se aprobara la Ley de Derechos Civiles, ellos tuvieron una experiencia de vida cualitativamente diferente a la mía. Así que creo que parte de lo que tenemos que hacer es comprender la forma en que la política realmente da forma al medio ambiente “.

En lo que respecta a la desinformación, Noble dijo que la gente haría bien en abogar por una financiación suficiente para lo que llamó “contrapesos” como escuelas, bibliotecas, universidades y medios públicos, que según dijo se han visto afectados negativamente por las grandes empresas tecnológicas.

“Cuando tienes un sector como el tecnológico que es tan extractivo – no paga impuestos, deslocaliza sus ganancias, desfinancia los contrapesos educativos democráticos – esos son los lugares donde realmente necesitamos intervenir. Ahí es donde hacemos un cambio sistémico a largo plazo, es reintroducir fondos y recursos en esos espacios ”, dijo.

Las formas de rendición de cuentas componen uno de cinco valores que se encuentran en muchos principios éticos de la IA. Durante la charla, Tristan Harris enfatizó la necesidad de responsabilidad sistémica y transparencia en las empresas de Big Tech para que el público pueda comprender mejor el alcance de los problemas. Por ejemplo, Facebook podría formar una junta para que el público informe los daños; entonces Facebook puede producir informes trimestrales sobre el progreso hacia la eliminación de esos daños.

Para Google, una forma de aumentar la transparencia podría ser divulgar más información sobre las solicitudes de revisión del principio de ética de la IA realizadas por los empleados de Google. Un portavoz de Google le dijo a VentureBeat que Google no comparte esta información públicamente, más allá de algunos ejemplos. Obtener esos datos trimestralmente podría revelar más sobre la política de los empleados de Google que cualquier otra cosa, pero me gustaría saber si los empleados de Google tienen reservas sobre el aumento de la vigilancia de la empresa a lo largo de la frontera entre Estados Unidos y México o qué proyectos controvertidos atraen más. objeciones en una de las empresas de inteligencia artificial más poderosas de la Tierra.

Desde que Harris y otros liberaron El dilema social en Netflix hace aproximadamente un mes, varias personas criticaron el documental por no incluir las voces de las mujeres, en particular las mujeres negras como la Dra. Noble, que han pasado años evaluando problemas que subyacen El dilema social, por ejemplo, cómo los algoritmos pueden automatizar el daño. Dicho esto, fue un placer ver a Harris y Noble hablar juntos sobre cómo Big Tech puede construir algoritmos más equitativos y un mundo digital más inclusivo.

Para un desglose de lo que El dilema social señoritas, puedes lea esta entrevista con Meredith Whittaker, que tuvo lugar esta semana en una conferencia virtual. Pero también contribuye a la alentadora conversación sobre soluciones. Un consejo útil de Whittaker: descarte la idea de que los algoritmos son tecnología sobrehumana o superior. La tecnología no es infalible y las grandes tecnologías no son mágicas. Más bien, el control que las grandes empresas tecnológicas ejercen sobre la vida de las personas es un reflejo del poder material de las grandes corporaciones.

“Creo que eso ignora el hecho de que mucho de esto no es en realidad producto de la innovación. Es el producto de una concentración significativa de poder y recursos. No es progreso. Es el hecho de que ahora todos estamos, más o menos, reclutados para llevar teléfonos como parte de la interacción en nuestra vida laboral diaria, nuestra vida social y ser parte del mundo que nos rodea ”, dijo Whittaker. “Creo que, en última instancia, esto perpetúa un mito que cuentan estas propias empresas, que esta tecnología es sobrehumana, que es capaz de cosas como piratear nuestros cerebros de lagarto y apoderarse por completo de nuestras subjetividades. Creo que también pinta una imagen de que esta tecnología es de alguna manera imposible de resistir, que no podemos rechazarla, que no podemos organizarnos contra ella “.

Whittaker, un ex empleado de Google que ayudó a organizar una huelga en las oficinas de Google en todo el mundo en 2018, también considera que la organización de trabajadores dentro de las empresas es una solución eficaz. Animó a los empleados a reconocer los métodos que han demostrado su eficacia en los últimos años, como la denuncia de irregularidades para informar al público y a los reguladores. El voluntariado y la votación, dijo, pueden no ser suficientes.

“Ahora tenemos herramientas en nuestra caja de herramientas para toda la tecnología, como la huelga, varios trabajadores de Facebook que denunciaron y escribieron sus historias cuando se fueron, que se están convirtiendo en sentido común”, dijo.

Además de comprender cómo el poder da forma a las percepciones de la IA, Whittaker anima a las personas a tratar de comprender mejor cómo la IA influye en nuestras vidas hoy. En medio de tantas otras cosas esta semana, podría haber sido fácil perderse, pero el grupo AIandYou.org, que quiere ayudar a las personas a comprender cómo la IA afecta su vida diaria, lanzó su primer video introductorio con el profesor de informática de Spelman College, el Dr. Brandeis Marshall, y la actriz Eva Longoria.

La pandemia de COVID-19, una recesión económica histórica, exige justicia racial, y las consecuencias del cambio climático han hecho que este año sea un desafío, pero un resultado positivo es que estos eventos han llevado a muchas personas a cuestionar sus prioridades y cómo cada uno de nosotros podemos marcar la diferencia.

La idea de que las empresas de tecnología pueden regularse a sí mismas parece haberse disuelto hasta cierto punto. Las instituciones están tomando medidas ahora para reducir el poder de las grandes tecnologías, pero incluso con el Congreso, la FTC y el Departamento de Justicia, las tres principales palancas antimonopolio, ahora actúan para tratar de controlar el poder de las grandes empresas tecnológicas, no lo creo. Conozco a mucha gente que confía en que el gobierno podrá hacerlo. Defensores y expertos en políticas tecnológicas, por ejemplo, cuestionar abiertamente si las facciones del Congreso pueden reunir la voluntad política para lograr un cambio duradero y efectivo.

Pase lo que pase en las elecciones o con la aplicación de las leyes antimonopolio, no tiene por qué sentirse impotente. Si desea un cambio, las personas que están en el centro del asunto creen que requerirá, entre otras cosas, imaginación, compromiso con la política tecnológica y una mejor comprensión de cómo los algoritmos impactan nuestras vidas con el fin de disputar intereses poderosos y construir un mundo mejor para nosotros y las generaciones futuras.

Como Whittaker, Noble y el líder de la investigación antimonopolio en el Congreso Como he dicho, el poder que posee la gran tecnología puede parecer insuperable, pero si la gente se compromete, hay razones reales para esperar un cambio.

Para obtener cobertura de IA, envíe sugerencias de noticias a Khari Johnson y Kyle Wiggers y editor de IA Seth Colaner – y asegúrese de suscríbete al boletín semanal de AI y marcar nuestro Canal AI.

Gracias por leer,

Khari Johnson

Redactor senior de AI


El problema del audio:

Descubra cómo las nuevas soluciones API basadas en la nube resuelven el audio frustrante e imperfecto en las videoconferencias. Accede aquí


Latest articles

Disney Plus actualiza la introducción con el tributo a Chadwick Boseman

Disney Plus ha revelado un nuevo tributo a Chadwick Boseman. Disney Plus ha actualizado la introducción de la película Black Panther para incluir un...

El gobierno sueco reconsidera la estrategia de contención del COVID-19

Si bien gran parte de Europa se bloqueó para detener la propagación del coronavirus, Suecia se basó en gran medida en medidas voluntarias...

Los eurodiputados respaldan la distensión comercial de Estados Unidos

Los eurodiputados respaldaron el jueves un mini acuerdo comercial con Estados Unidos que hará que Europa reduzca los aranceles...

Diez consejos para evitar el “fenómeno ocupacional del agotamiento”.

Cómo evitar el agotamiento del trabajo desde casa durante la pandemia H¿Alguna vez te has sentido agotado con tu trabajo? Espera,...

Related articles

Leave a reply

Please enter your comment!
Please enter your name here

Translate »