¿Cómo evitar que la Inteligencia Artificial discrimine a mujeres y minorías?

IBM pidió reglas que eliminen el sesgo en la inteligencia artificial (IA) para aliviar las preocupaciones de que la tecnología use datos basados en prácticas discriminatorias pasadas y puedan perjudicar a mujeres, minorías, discapacitados, adultos mayores y otros.

Mientras busca definir un creciente debate en Estados Unidos y Europa sobre cómo regular el floreciente sector, IBM instó a la industria y los gobiernos a desarrollar conjuntamente normas para medir y combatir la posible discriminación.

La compañía con sede en Armonk, Nueva York, emitió propuestas de política antes de un panel sobre inteligencia artificial al margen del Foro Económico Mundial en Davos. La iniciativa está diseñada para encontrar un consenso sobre reglas que pueden ser más estrictas de lo que la industria podría producir, pero menos estrictas de lo que los gobiernos podrían imponer por sí mismos.

“Nos parece bastante claro que la regulación gubernamental de la inteligencia artificial es la próxima frontera en la regulación de la política tecnológica”, asegura Chris Padilla, vicepresidente de Asuntos Gubernamentales y Regulatorios de International Business Machines Corp.

La compañía de 108 años, una vez líder mundial en tecnología, se ha rezagado durante años. En su lucha por seguir siendo relevante, IBM ha vinculado su futuro a tecnologías más nuevas como la inteligencia artificial y los servicios en la nube. Sin embargo, aún no ha mostrado un crecimiento significativo de los ingresos de esas áreas.

Las recomendaciones de IBM exigen que las empresas trabajen con los gobiernos para desarrollar normas sobre cómo asegurarse, por ejemplo, de que a los afroamericanos se les garantice un acceso justo a la vivienda a pesar de los algoritmos que se basan en datos históricos como códigos postales o tasas hipotecarias y pueden estar sesgados por la discriminación. En Estados Unidos, eso probablemente ocurriría a través del Instituto Nacional de Normas y Tecnología del Departamento de Comercio.

IBM también sugiere que las compañías nombren altos funcionarios de ética de IA, lleven a cabo evaluaciones para determinar cuánto daño puede representar un sistema de IA y mantengan la documentación sobre los datos al “hacer determinaciones o recomendaciones con implicaciones potencialmente significativas para las personas”, a fin de que sea posible explicar las decisiones.

Encabezar el debate sobre la regulación de la IA le da a IBM la oportunidad de volver a ser el centro de atención como líder en tecnología de vanguardia.

Las propuestas de inteligencia artificial tienen como objetivo evitar crisis potenciales que podrían enfurecer a clientes, legisladores y reguladores de todo el mundo, similar a lo que sucedió con Facebook en el escándalo de datos de Cambridge Analytica, cuando los datos personales de millones de usuarios fueron transferidos a la firma de consultoría política sin su conocimiento.

“No creo que aún estemos en el mismo lugar en materia de inteligencia artificial”, dijo. “Así que no creo que sea demasiado tarde para probar este enfoque”.

Las preocupaciones sobre la IA y el aprendizaje automático, herramientas de software que utilizan los datos existentes para automatizar el análisis futuro y la toma de decisiones, van desde la identificación de rostros en imágenes de cámaras de seguridad hasta la determinación de las tasas hipotecarias.

La inteligencia artificial es fundamental para el futuro de muchas compañías de tecnología, incluida IBM, pero ha generado preocupaciones de que podría eliminar empleos y propagar las disparidades existentes en áreas como la aplicación de la ley, el acceso al crédito y la contratación.