Para garantizar la equidad de sus modelos de IA, Oasis Labs se asocia con Meta utilizando tecnología de vanguardia en el campo de la evaluación de la privacidad. Oasis Labs ha construido la plataforma con Secure Multi-Party Computation (SMPC) que ayuda a Meta a proteger la información cuando la empresa pide a los usuarios en Instagram que rellenen una encuesta para identificar su raza y etnia como parte de la asociación tecnológica de Meta.
Se prevé que el proyecto desarrollará aún más la medición de la equidad en los modelos de aprendizaje automático, lo que tendrá un impacto positivo en la vida de las personas de todo el mundo y será beneficioso para la sociedad en general.
Entre sus muchos atributos, esta plataforma servirá como protagonista de un proyecto que pretende identificar si los modelos de IA son justos y permitir una mitigación adecuada, lo que constituye un programa pionero en su género y un paso importante hacia la predicción de la equidad en los modelos de IA.
La IA y la privacidad se encuentran
Hay una encuesta fuera de la plataforma que está siendo presentada por los equipos de IA responsable, equidad de Instagram y derechos civiles de Meta a las personas que usan Instagram. Se solicitará voluntariamente a los usuarios que compartan su raza y/o etnia.
Para proteger la privacidad de las respuestas de la encuesta de los usuarios, la información, que es recogida por un proveedor de encuestas externo, se compartirá en secreto con facilitadores externos de tal manera que ni los facilitadores ni Meta puedan saber lo que los usuarios han respondido.
A continuación, los facilitadores calcularán una medida de equidad utilizando predicciones encriptadas de los modelos de IA, que serán compartidas criptográficamente por Meta, y que luego serán reconstituidas por Meta en resultados agregados de medición de equidad basados en una combinación de resultados desidentificados de cada facilitador.
Las técnicas criptográficas utilizadas por la plataforma Meta permiten medir la parcialidad y la equidad, al tiempo que proporcionan a los contribuyentes de datos altos niveles de protección de la privacidad, ya que contribuyen con información de medición demográfica sensible a la plataforma.
Esteban Arcaute, Director de Inteligencia Artificial Responsable de Meta, dijo:
«Buscamos asegurar que la IA en Meta beneficie a las personas y a la sociedad, lo que requiere una profunda colaboración, tanto interna como externa, entre un conjunto diverso de equipos. La metodología Secure Multi Party Compute es un enfoque centrado en la privacidad, desarrollado en colaboración con Oasis Labs, que permite realizar un trabajo de medición crucial sobre la equidad, al tiempo que mantiene la privacidad de las personas en primer plano mediante la adopción de métodos de preservación de la privacidad bien establecidos.»
Se prevé que Oasis Labs, con la ayuda de Meta, explore otros enfoques de preservación de la privacidad para estudios de sesgo más complejos. Se espera que al explorar usos novedosos de las tecnologías emergentes de la Web3 con el apoyo de las redes blockchain para llegar a miles de millones de personas en todo el mundo. Básicamente, el objetivo es proporcionar una mayor accesibilidad, audibilidad y transparencia a nivel mundial con respecto a los métodos para realizar una encuesta y recopilar datos de la misma, así como el uso de estos datos para la medición.
