Ética en la Inteligencia Artificial
La IA ha tenido un gran impacto en nuestra sociedad, y con cada avance llegamos a más preguntas sobre lo que es correcto e incorrecto con respecto a IA. Para responder estas preguntas debemos de aplicar la ética en la Inteligencia Artificial.
La ética es el estudio de lo correcto e incorrecto, entonces con esta herramienta se definen reglas para guiar el desarrollo y progreso de la IA. Esto es necesario debido a que los sesgos humanos se pueden transferir inconscientemente a los algoritmos y programas, y éstos podrían propagarlos a grandes escalas.
IBM identifica al “Reporte Belmont” como una guía de los principios para el diseño de algoritmos de IA: [1]
· Respeto a las personas: Se debe reconocer la autonomía de las personas, y proteger a aquellos con autonomía reducida.
· Beneficencia: No se debe herir a las personas, además se deben maximizar los beneficios y minimizar los posibles daños.
· Justicia: Este principio tiene que ver con la distribución de beneficios de manera justa. En el “Reporte Belmont” se identifican 5 maneras de distribuirlos:
o Igualdad (todos por igual)
o Equidad (a cada quién lo que necesite)
o Esfuerzo individual
o Contribución social
o Mérito
Algunos de las preocupaciones principales respecto a IA son las siguientes:
· Impacto en trabajos: Lo que la mayoría de las personas suele pensar es que la IA automatizará muchos trabajos, resultando en una pérdida de posiciones laborales. Sin embargo, de acuerdo con IBM el problema debería de interpretarse de una manera diferente: la IA va a cambiar la demanda de trabajos a otras áreas para administrar los sistemas y datos. [1]
· Opacidad: Algunos sistemas de IA toman decisiones que afectan las vidas de las personas, debido a esto deberíamos ser capaces de entender el razonamiento que se siguió para llevar a cabo esas acciones. El problema es que muchos algoritmos de IA funcionan como una caja negra, es decir, es imposible saber por qué obtuvimos cierto resultado. Por otro lado, podría considerarse la opacidad de la empresa dueña de la IA, quizá no quieran difundir el funcionamiento al público para mantener su ventaja competitiva sobre otras empresas. [2]
· Sesgos y discriminación: Como se mencionó anteriormente, los sesgos humanos se pueden transferir a los algoritmos. Existen muchos casos que sirven de ejemplo, como cuando Amazon intentó incorporar IA en el proceso de contratación, pero accidentalmente lo sesgaron en contra de las mujeres. [3]
La ética en la IA nos ayuda a guiar el futuro de la humanidad y la tecnología, pero aún quedan muchos detalles que discutir para encontrar la respuesta correcta.
Ing. Daniela Rodríguez
Fuentes
[1] IBM Cloud Education. (18 de Marzo de 2021). AI Ethics. Obtenido de IBM: https://www.ibm.com/cloud/learn/ai-ethics
[2] Gordon, J.-S., & Nyholm, S. (s.f.). Ethics of Artificial Intelligence. Obtenido de Internet Encyclopedia of Philosophy: https://iep.utm.edu/ethic-ai/#H5
[3] Dastin, J. (10 de Octubre de 2018). Amazon scraps secret AI recruiting tool that showed bias against women. Obtenido de Reuters: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G