2.3. Idees principals de la interacció basada en la conversa
2.3.3. Gènere, estil i to
Tot i haver tingut una entrada molt ràpida i amb un impacte molt directe a les nostres vides, els bots no deixen de ser una tecnologia molt emergent i això significa que hi ha molts aspectes sobre els quals hem d’aprendre i millorar. Les pautes que hem vist abans ens ofereixen un resum de com els humans ens comuniquem entre nosaltres per poder-ho aplicar a interfícies conversacionals.
«Els estereotips de gènere estan molt presents encara a nivell humà i, aquests prejudicis, els projectem de manera inconscient (o conscient per a alguns) en els agents conversacionals. Aquests sentiments i percepcions sobre un agent es poden utilitzar per desenvolupar models mentals d’un sistema. Els usuaris poden estar més inclinats a mesurar l’èxit d’un sistema en funció del seu biaix i la seva connexió emocional amb l’agent, en lloc del rendiment del sistema.»
En el seu text, McDonell i Baxter no entren en les implicacions ètiques dels seus resultats, però sí que conclouen que el gènere de l’assistent de veu té un efecte sobre la satisfacció general dels usuaris i la percepció estereotipada de gènere.
El fet que tots els assistents de veu tinguin per defecte una veu femenina pot perpetuar el biaix de gènere i donar suport a la idea que el paper de la dona queda relegat a la persona que t’assisteix i et serveix. En termes generals, és cert que les dones semblen generar més confiança i menys agressivitat, però la idea que qui dissenya i desenvolupa aquests assistents són majoritàriament homes sembla donar suport a la idea que hi ha certs estereotips que val la pena reforçar per perpetuar una imatge única.
La tria pot semblar casual, però el que provoca és que es traslladin a la intel·ligència artificial vells patrons, com ara qui és el que mana i qui és el que obeeix.