Informeu -Vos Del Vostre Nombre D'Àngel
Disseny de Lauren Park
'Serà una foto de polla?' és una pregunta que tanta gent, especialment les dones, es fan amb por, sempre que veuen un DM d'un desconegut. Bé, finalment hi ha una aplicació per a aquesta ansietat, almenys per als vostres DM de Twitter.
La inspiració per SafeDM , un filtre de bloqueig de contingut que actualment està en desenvolupament, es va activar quan Kelsey Bressler es va trobar amb l’assetjament no desitjat del tipus sexual digital.
'[Era] una persona a l'atzar i volia cridar la meva atenció', diu Bressler. 'Em van preguntar per què no em parles mai i després em van enviar ... això. Crec que sé per què no parlo amb aquesta persona '.
L’experiència de Bressler amb el porno de venjança també l’ha animat a lluitar contra aquest assetjament. Amb un equip de tres persones més, treballa en un filtre de contingut AI, que li ensenya a reconèixer les imatges de la polla, a informar-ne l’usuari i també a eliminar-les de la safata d’entrada.
La investigació ho demostra El 53 per cent de les dones de 18 a 29 anys i aproximadament 78 per cent de dones mil·lenàries són imatges explícites no sol·licitades, moltes de les quals són imatges de polla.
'Si una dona no ha experimentat intermitències cibernètiques, coneix a algú que sí. És una cosa tan habitual que realment no hem tingut una solució que no sigui dir a les dones que tanquin els seus DM, cosa que al meu entendre no és la resposta correcta ', diu Bressler. 'Això és una cosa que a la majoria de les dones els fa molta il·lusió'.
Com aprèn l’IA com són les imatges de la polla?
Bé, gràcies a El tuit viral de Bressler al setembre , moltes fotos sol·licitades s’envien al compte ShowYoDiq . (Algunes fotos, malauradament, també s’envien per error i no per error al compte personal de Twitter de Bressler.) Dicks coberts de purpurina. Dicks amb mitjons. Penis a les gàbies: totes aquestes fotos han estat provades per ajudar a la IA a reconèixer què fa que sigui una foto de polla.
Tweet
Si es tracta d'un penis, SafeDM suprimirà automàticament la imatge i respondrà al remitent dient que el missatge enviat és un missatge inadequat i li farà saber a l'usuari el seu nombre d'atacs.
'No els renyem al missatge. Diem que era un contingut inadequat. Estem treballant en tots els verbs i en el recompte de vaga, que [després] d'una certa quantitat d'atacs bloqueja automàticament la persona perquè no es posi en contacte amb vosaltres de nou '.
Alguns usuaris potencials han declarat que voldrien bloquejar manualment els infractors en lloc de fer que SafeDM ho fes automàticament per ells. Bressler i el seu equip escolten els comentaris dels interessats en el filtre.
'És el que volen els usuaris. Intentem que les coses siguin el més flexibles possibles perquè la gent pugui canviar aquesta configuració ”, diu Bressler. Quan es publiqui, el filtre i la seva configuració seran completament funcionals, però l’equip està disposat a adoptar les opcions sol·licitades per l’usuari a la data posterior al llançament als seus usuaris finals, tot conservant la seva funcionalitat bàsica.
Aquest filtre de contingut (provisionalment) es publicarà el 14 de febrer
Gràcies a la quantitat de dades proporcionades per gent ansiosa, hi ha hagut força proves per ajudar el filtre de contingut a determinar què és un penis i què, bé, no és només un producte d’aspecte fàl·lic. Això també ha ajudat l’equip a desenvolupar el filtre amb força rapidesa, incloent si el filtre ha de capturar o no els falsos positius.
'Tenim més del 99% de precisió, tot i que tenim falsos positius', diu Bressler. 'Hem d'arribar a un punt en què hem de decidir si la gent vol veure objectes com el penis, és també assetjament? Encara que [la imatge] no sigui un penis, el filtre hauria de filtrar-lo de totes maneres? Realment es remunta al que vol l'usuari '.
Les proves de twitter de SafeDm han demostrat un gran progrés i precisió des que es va anunciar al setembre, amb cada vegada menys recursos a través del filtre de contingut AI. I la gent està naturalment publicitada sobre la propera versió. En un gir sorprenent, Bressler va esmentar que algunes de les seves persones preferides per rebre missatges sobre el filtre provenen de pares, especialment de pares amb filles.
'Estan contents de fer-ho, però trist perquè sigui necessari començar. [He tingut un parell de] pares [que] s’alegren que hi estic treballant perquè tenen filles i no volen que s’ho facin ”.
Qualsevol persona que tingui un compte de Twitter podrà utilitzar el filtre de bloqueig de contingut
'No necessiteu un model de telèfon específic', explica Bressler. “Qualsevol compte de Twitter ho pot fer servir. Funciona igual a l'aplicació i al web '.
L’objectiu final del projecte és retornar el control a la comunitat perquè no hagin de viure amb por del que resideix a les seves bústies d’entrada de Twitter.
el patrimoni net de gregg davis
'És curiós com es pot treure alguna cosa d'una situació complicada i tenir un petit control sobre la situació i fer del món un lloc millor'.
