¿Cómo debe aplicarse la ética en la ciencia de datos?

Hubo un furor reciente con Facebook experimentando con sus usuarios para ver si podían alterar las emociones de los usuarios y ahora okcupid .

Si bien no soy un científico de datos profesional, leí sobre la ética de la ciencia de datos del libro de Cathy O'Neill 'Doing Data Science' y me gustaría saber si esto es algo que se les enseña a los profesionales a nivel académico (eso esperaría) o algo que se ignora o se aplica ligeramente en el mundo profesional. Particularmente para aquellos que terminaron haciendo ciencia de datos accidentalmente .

Si bien el artículo vinculado se refería a la integridad de los datos, el libro también discutió la ética moral detrás de la comprensión del impacto de los modelos de datos que se crean y el impacto de esos modelos que pueden tener efectos adversos cuando se usan de manera inapropiada (a veces sin darse cuenta) o cuando los modelos son inexacto, nuevamente produciendo resultados adversos.

El artículo discute un código de práctica y menciona el Código de conducta de la Asociación de Ciencia de Datos , ¿es algo que está en uso? La regla 7 es de particular interés (citado de su sitio web):

(a) Una persona que consulta con un científico de datos sobre la posibilidad de establecer una relación cliente-científico de datos con respecto a un asunto es un cliente potencial.

(b) Incluso cuando no se produzca una relación entre el cliente y el científico de datos, un científico de datos que haya aprendido información de un posible cliente no deberá usar o revelar esa información.

(c) Un científico de datos sujeto al párrafo (b) no proporcionará servicios profesionales de ciencia de datos para un cliente con intereses materialmente adversos a los de un cliente potencial en la misma industria o una industria sustancialmente relacionada si el científico de datos recibió información del cliente potencial eso podría ser significativamente perjudicial para esa persona en el asunto

¿Es esto algo que se practica profesionalmente? Muchos usuarios aceptan ciegamente que recibimos algún servicio gratuito (correo, redes sociales, alojamiento de imágenes, plataforma de blog, etc.) y aceptan un EULA para que nos envíen anuncios.

Finalmente, cómo se regula esto, a menudo leo sobre los usuarios que están en pie de guerra cuando cambian los términos de un servicio, pero parece que se requiere cierta organización de libertad, acción de clase o un senador para reaccionar ante tales cosas antes de que algo suceda.

Por cierto, no estoy haciendo ningún juicio aquí o diciendo que todos los científicos de datos se comportan así, estoy interesado en lo que se enseña académicamente y se practica profesionalmente.

Creo que la ética en Data Science es importante. Hay una diferencia fundamental en el uso de los datos del usuario para mejorar su experiencia y mostrar anuncios relevantes y el uso de los datos del usuario para engañar a las personas para que hagan clic en los anuncios en aras de la ganancia monetaria. Personalmente, me gustan los anuncios que me dan información relevante, como ofertas de cosas que compraría de todos modos. Sin embargo, mostrarme anuncios de pérdida de peso porque me abandonaron es espeluznante y poco ético. Como mi amigo Peter siempre dice, "no seas espeluznante con los datos".

No parece haber ninguna ética especial en la ciencia de datos: explotar el dolor de otra persona para ganar dinero es simplemente incorrecto. Entonces está robando su información para ganar dinero. No es como ser médico y decidir si empujar al paciente hacia la cirugía con una posibilidad externa de trabajar cuando eso es lo que quieren, pero sabes que su cónyuge e hijos solo quieren aprovechar al máximo el tiempo que podrían tener juntos. Hasta ahora, estas cosas parecen poco enseñadas, pero si se requiere algo, es una ayuda reconocer cuándo se explota injustamente a las personas.