Compartir

La empresa de Redmond está desarrollando una herramienta para identificar sesgos en algoritmos.

Como el inteligencia artificial Avances, surgen dudas en relación con su adopción y posibles irregularidades. El problema con esta tecnología es que Su esencia es la automatización. Así como la cadena de producción era una extensión de la capacidad de producción, la IA permite que la tecnología delegue tareas que antes requerían la supervisión de una persona.

Esto significa que las tareas se pueden replicar a granel si no necesitan esa supervisión humana en este momento. Hay un costo para el personal: debe pagarle a un trabajador que, por ejemplo, monitorea las noticias de un periódico para obtener aquellas que son valiosas para su negocio, pero un sistema de inteligencia artificial casi nunca lo ha desarrollado para que el mismo software pueda monitorear cientos de periódicos con algunos ajustes.

El problema aquí es que cuando cada periódico es monitoreado por una persona, tiene su propio conjunto de criterios. Todos serán propensos a algún tipo de fracaso porque nadie es perfecto. Pero lo que hará un software de IA es Replica el mismo error en todos estos cientos de tareas.. Tu error siempre será el mismo, o más bien el resultado de la misma tendencia.

Estos tipos de desviaciones son los que Microsoft quiere evitar. Por ejemplo, si el software que monitorea las noticias pone menos énfasis en aquellos con protagonistas negros, entonces hay un problema. Para abordar esto, es necesario poder identificar sesgos en los algoritmos. Sin embargo, la empresa con sede en Redmond cree que este es el primer paso entonces necesitas poder eliminar estas distorsiones.

Una cruzada para hacer que la tecnología sea más neutral

Recientemente, Facebook también anunció una herramienta que puede usarse para identificar sesgos en algoritmos. Y ese es exactamente este problema se ha convertido en una preocupación común en la industria. La inteligencia artificial tiene que ser lo más neutral posible para que los consumidores puedan confiar en ella.

El trabajo de Microsoft está evolucionando en esta dirección. Por fin Los algoritmos tomarán cada vez más decisiones por nosotros. Y estos no deben estar imbuidos de signos o prejuicios discriminatorios.

Imágenes: Éfeso, Pixies

Dejar una respuesta

Please enter your comment!
Please enter your name here