Ta Reda På Ditt Antal Ängel
Design av Lauren Park
'Kommer det här att bli en kukbild?' är en fråga så många människor, särskilt kvinnor, ställer med en känsla av rädsla när de ser en DM från en främling. Nåväl, det finns äntligen en app för den ångest, åtminstone för dina Twitter-DM.
Inspirationen för SafeDM , ett innehållsblockerande filter som för närvarande är under utveckling, utlöste när Kelsey Bressler befann sig att hantera oönskade trakasserier, av den digitala sexuella typen.
'[Det var] en slumpmässig person och ville få min uppmärksamhet', säger Bressler. ”De frågade varför pratar du aldrig med mig och skickade mig ... det. Jag tror att jag vet varför jag inte pratar med den personen. ”
Bresslers erfarenhet av hämndporn har också fått henne att slå tillbaka mot denna trakasserier. Med ett team på tre andra arbetar hon med ett innehållsfilter AI, lär sig att känna igen kukbilder, informera användaren om dem och ta bort dem från sin inkorg.
Forskning visar att 53 procent av kvinnorna 18 till 29 och ungefär 78 procent av tusenåriga kvinnor är meddelade oönskade explicita bilder, varav många är kukbilder.
”Om en kvinna inte har upplevt cyberblixt känner hon någon som har gjort det. Det är något så vanligt att vi verkligen inte har haft någon annan lösning än att berätta för kvinnor att bara stänga sina läkare, vilket enligt min mening inte är det korrekta svaret, säger Bressler. 'Det här är något som de flesta kvinnor är väldigt glada över.'
Hur lär sig AI hur kukbilder ser ut?
Tack till Bresslers virala tweet i september , många begärda foton skickas till kontot VisaYoDiq . (Vissa bilder skickas tyvärr också felaktigt och inte av misstag till Bresslers personliga Twitter-konto.) Dicks täckta med glitter. Dicks med strumpor på sig. Peniser i burar - alla dessa foton har testats för att hjälpa AI att känna igen vad som gör en kukbild.
Tweet
Om det är en penis raderar SafeDM automatiskt bilden och svarar avsändaren och säger att det som skickades var ett olämpligt meddelande och låter användaren få veta deras antal.
”Vi skäller inte ut dem i meddelandet. Vi säger att det var olämpligt innehåll. Vi arbetar med hela ordspråket och vårt antal strejkar, [som efter] en viss mängd strejker blockeras personen automatiskt från att kontakta dig igen. ”
Vissa potentiella användare har angett att de själva vill blockera gärningsmän i stället för att SafeDM automatiskt gör det åt dem. Bressler och hennes team lyssnar på feedback från de som är intresserade av filtret.
”Det är vad användarna vill ha. Vi försöker göra saker så flexibla som möjligt så att människor kan ändra dessa inställningar, säger Bressler. När det släpps kommer filtret och dess inställningar att fungera fullt ut, men teamet är villigt att anta användarförfrågade alternativ efter släppdatum till slutanvändarna samtidigt som de behåller sin kärnfunktion.
Detta innehållsfilter är (preliminärt) inställt på att släppas 14 februari
Tack vare mängden data som tillhandahålls av ivriga människor har det varit en hel del att testa för att hjälpa innehållsfiltret att avgöra vad som är en penis, och vad, ja, inte bara är en fallande produkt. Detta har också hjälpt teamet att utveckla filtret ganska snabbt, inklusive huruvida falska positiva bör eller inte bör fångas av filtret eller inte.
'Vi är över 99 procent korrekta, även om vi har falska positiva', säger Bressler. ”Vi måste komma till en punkt där vi måste avgöra om människor vill se penis som föremål, är det också trakasserier? Även om [bilden] inte är en penis, bör filtret filtrera bort det ändå? Det går verkligen tillbaka till vad användaren vill. ”
SafeDms twittertestning har visat enorma framsteg och noggrannhet sedan det tillkännagavs i september med mindre och mindre att komma igenom innehållsfiltret AI. Och folk är naturligtvis hypade över den kommande utgåvan. I en överraskande twist nämnde Bressler att några av hennes favoritpersoner för att få meddelanden om filtret är från pappor, särskilt pappor med döttrar.
”De är glada att jag gör det men sorgligt att det är nödvändigt att börja med. [Jag har haft ett par] pappor [som] är glada att jag jobbar med det eftersom de har döttrar och de vill inte att de ska hantera detta. ”
Alla som har ett Twitter-konto kommer att kunna använda innehållsblockeringsfiltret
'Du behöver inte en specifik telefonmodell', förklarar Bressler. ”Alla Twitter-konton kan använda detta. Det fungerar på samma sätt i appen och på nätet. ”
Det yttersta målet för projektet är att ge tillbaka kontrollen till samhället så att de inte behöver leva i rädsla för vad som finns i deras Twitter-inkorgar.
lätt att sätta upp för långt hår
'Det är roligt hur du kan ta något ur en suglig situation och få lite kontroll över situationen och göra världen till en bättre plats.'
