Caos en Reino Unido por un algoritmo que discriminó adolescentes | RED/ACCIÓN

Caos en Reino Unido por un algoritmo que discriminó adolescentes

Por culpa de la pandemia no se pudieron tomar una serie de exámenes a estudiantes secundarios. Una IA decidió los resultados, pero todo fue un caos absoluto.

¡Bienvenido a FUTURO! Espero que hayas tenido una buena semana. Abro esta edición con una historia triste: discriminación entre estudiantes secundarios en Reino Unido culpa de un algoritmo. Además, te cuento cómo Twitter y Oracle se sumaron a la carrera por la compra de TikTok, te recomiendo una app para trackear tus viajes en bici y entrevisto a Federico Malek, CEO de iúnigo.

Compartí esta newsletter o suscribite

1

Caos en Reino Unido por una inteligencia artificial que discriminó estudiantes de secundaria. En muchas oportunidades hablé en FUTURO sobre cómo los algoritmos y sus sesgos pueden afectar negativamente la vida de las personas y seguir agrandando brechas. Y lo que pasó esta semana en Reino Unido a la hora de evaluar a estudiantes secundarios lo demuestra perfectamente.

  • Background. Todos los años los estudiantes de secundaria de Reino Unido dan un examen llamado A-Level, que ayuda a determinar a qué universidades podrán ir. Por el coronavirus, esos exámenes fueron cancelados y en su lugar se le pidió a los maestros que estimaran cuál sería la nota que se sacarían los chicos. Las calificaciones pronosticadas por los maestros fueron luego ajustadas utilizando un algoritmo que ponderaba las calificaciones según el desempeño histórico de los estudiantes en la escuela. ¿Para qué se usaba un algoritmo y no se tomaba directamente el puntaje de los maestros? Para compensar la tendencia de los profesores a inflar el rendimiento esperado de sus alumnos y predecir todo con mayor precisión. Pero todo terminó mal. Muy mal.
  • ¿Qué pasó? Cuando los estudiantes recibieron los resultados descubrieron que habían sido calificados por debajo de lo que esperaban teniendo en cuenta sus calificaciones anteriores y su desempeño en exámenes simulados. Un 40% consideró que los resultados habían sido peores a los que esperaban mientras que un 2% que habían mejorado.
  • Discriminación. Las peores víctimas de este algoritmo fueron los estudiantes que tenían buenas calificaciones pero que iban a institutos de zonas de clase baja, mientras que los estudiantes que iban a escuelas de mayor nivel adquisitivo tenían más probabilidades de que sus calificaciones aumentaran. El algoritmo de prueba reforzó el sesgo económico y social integrado en el sistema escolar que hay en Reino Unido. Algo que expertos en inteligencia artificial describieron como "poco ético y peligroso para la educación".
  • Vuelta atrás. Después de días de controversia y protestas, el gobierno decidió descartar los resultados de ese algoritmo y tomar las predicciones de los maestros.

Podés leer este contenido gracias a cientos de lectores que con su apoyo mensual sostienen nuestro periodismo humano ✊. Bancá un periodismo abierto, participativo y constructivo: sumate como miembro co-responsable.

2

Microsoft, Oracle y Twitter, en carrera para comprar TikTok. Hace algunas semanas que desde la compañía fundada por Bill Gates confirmaron que querían comprar, al menos, la división de TikTok que funciona en Estados Unidos, Australia, Canadá, y Nueva Zelanda. Y en esas semanas hubo muchas novedades, porque ahora se sumaron a la carrera dos actores importantes: Twitter y Oracle.

  • Todos quieren el santo grial de las redes sociales. TikTok es la plataforma que logró colarse en el mundo de las redes sociales más utilizadas y es muy lógico que Twitter y Microsoft quieran adquirirla. El primero se estancó hace tiempo en lo relacionado al crecimiento en su base de usuarios y el segundo ni siquiera forma parte del juego de las redes sociales.
  • El tercer competidor. Lo curioso de todo esto es Oracle, una compañía de soluciones en la nube para otras empresas. Uno de los puntos a favor que tiene Oracle es que su fundador y CEO, Larry Ellison, es muy cercano a Donald Trump, quien está siguiendo las negociaciones de cerca porque, de no realizarse la adquisición de TikTok por parte de alguna empresa estadounidense, amenazó con prohibirla en su país.
  • 90 días. En un primer momento Trump había dicho que les daría 45 días a las empresas que estén interesadas para lograr la adquisición. Esta semana extendió ese plazo a 90.

3

Tres preguntas a: Federico Malek, CEO de iúnigo, seguro de autos 100% digital.

  • ¿Cómo ves el panorama tecnológico durante la pandemia?
    El panorama es de acelerada digitalización por parte de las empresas tradicionales. Hay un reseteo en el mindset de las compañías y personas que antes se mostraban reacias a la digitalización, y ahora empezaron a usar nuevas tecnologías y canales digitales.
  • ¿Imaginás que habrá un antes y un después tecnológico?
    Sí. En especial en lo que respecta al sourcing de talento digital y de tecnología. Con el fenómeno del home office, las empresas que requieren de este tipo de talento comienzan a buscarlos fuera del código postal en donde se encuentran sus oficinas centrales. El pool de talentos comienza a ser global, lo cual impone condiciones más competitivas para todo tipo de proyectos digitales.
  • ¿Hay algún emprendimiento que te parezca interesante y valga la pena recomendar en este contexto?
    Creo que los grandes ganadores de este contexto son las plataformas on demand y cualquier compañía que distribuye servicios y productos de manera digital. Están comenzando a surgir aplicaciones que resuelven problemas específicos de esta nueva normalidad, como las que organizan las colas de los comercios y permiten sacar número de atención de manera digital y remota. A esos emprendimientos le prestaría especial atención.

4

Delivery con drones en Brasil. Hace años se viene hablando del futuro del delivery y cómo los drones serán los dispositivos que se utilizarán para hacer entregas para acortar tiempos. Finalmente el emprendimiento iFood en Brasil empezará a hacer pruebas después que recibió el permiso por parte del estado.

  • Funcionamiento. Los vuelos experimentales se realizarán en dos escenarios diferentes y deberían comenzar antes de que termine 2020. Los drones están pensados como una forma de impulsar la eficiencia de la operación logística: los dispositivos voladores realizarán la primera parte de la ruta de entrega, le darán el pedido a un mensajero con moto, bicicleta o scooter y ese será el encargado de hacer la entrega final.
  • Solo una prueba. Por ahora no se trata más que de un test y las autoridades brasileñas decidirán cómo continuará. Si todo sale como es esperado la empresa, que es uno de los 12 unicornios brasileros, ya identificó 200 ciudades en el país donde podría funcionar.

5

App recomendada: Strava, para trackear tus viajes en bici. La bicicleta es uno de los medios más recomendados para moverse en época de pandemia y cada vez más personas están empezando a utilizarla.

  • Datos. Una de las mejores apps para trackear todo lo relacionado a tus viajes en bici es Strava, que permite saber cuántos kilómetros hiciste, el tiempo que te tomó el viaje, la velocidad promedio a la que te moviste y la velocidad máxima a la que fuiste entre otros datos además de mostrarte el mapa con la ruta que realizaste. Muy completa y, además, la mayoría de las opciones están disponibles en la versión gratuita.

6

Google convierte a los teléfonos con Android en sismómetros. El buscador presentó una actualización para su sistema operativo para celulares que le permite detectar terremotos. Por ahora se trata de una característica que está siendo testeada en California. La intención de la empresa, según revelaron, es crear "la red de detección de terremotos más grande del mundo".

  • ¿Cómo funciona? Desde la compañía aseguran que los acelerómetros que tienen los smartphones actuales son lo suficientemente sensibles para poder medir los temblores generados por los terremotos.
  • Futuro. Por ahora lo que hará la empresa con esta información es brindar datos relevantes cuando los usuarios hagan búsquedas, pero en el futuro el teléfono podría alertar a los usuarios para que estos tomen medidas precautorias.

Llegamos al final de FUTURO. Espero que esta edición te haya gustado y, como siempre, si tenés una app para recomendarle a la comunidad, no tenés más que contestar este correo para hablarme de ella.

¡Te mando un abrazo y buen fin de semana!

Axel

Con el apoyo de

Recibí FUTURO

La tecnología que viene hoy. Todos los viernes, por Axel Marazzi.

Ver todas las newsletters

EN PROFUNDIDAD