Microsoft vänder sig till AI för att rensa dåligt språk från Xbox Live-chattar

0 Shares

Svordomar

Microsoft har meddelat att de introducerar nya filter som gör det möjligt för Xbox Live-spelare att undvika språk som de kan tycka stötande eller oacceptabelt. Det hoppas att det AI-drivna systemet hjälper till att minska trolling och mobbning.

Systemet kommer att vara valfritt och erbjuder tre nivåer av språkfiltrering, samt möjligheten att förbli ofiltrerad. Det är en utvidgning av Microsofts familjeinställningar, och företaget säger att det erkänner “att medan vissa vuxna använder svordomar utan någon dålig avsikt under spel, kommer föräldrar med små barn sannolikt inte att finna samma upplevelse acceptabel”.

Microsoft medger att det finns skillnader mellan hur vänner pratar med varandra och hur främlingar interagerar. För detta ändamål har företaget försökt göra filtreringssystemet så anpassningsbart och flexibelt som möjligt. Det är inte en funktion som passar alla; det är möjligt att ha filtrering på plats för vissa chattar, men inaktiverat för vänner. För barn är den högsta filtreringsnivån aktiverad som standard.

Meddelandet om den nya funktionen förklarar Microsoft: “Vi vill ge dig, spelaren, kontrollen över vilka meddelanden du vill se när du är engagerad i Xbox-communityn, så vi möjliggör nya sätt att filtrera innehåll, särskilt text. Dessa nya automatiserade textfiltreringsfunktioner börjar snart rulla ut över Xbox-ekosystemet, först med privata meddelanden och expanderar över tiden till profiler, LFG, klubbar och ditt aktivitetsflöde.

Företaget säger vidare:

Med den här uppdateringen ställer du in dina egna specifika nivåer för automatiserad filtrering så att du kan bestämma vad som är acceptabelt och vad som inte finns i de textbaserade meddelandena du får över Xbox Live. Filternivåer kan anpassas baserat på fyra filtreringsnivåer – vänliga, medelstora, mogna och ofiltrerade. Och som alltid, om du får ett meddelande som bryter mot våra Community Standards för Xbox, även med filter på plats, kan du fortfarande rapportera detta beteende till Xbox Enforcement för uppföljning.

Kolla in videon nedan där Major Nelson avslöjar de kommande funktionerna:

På längre sikt hoppas Microsoft kunna utvidga systemet till allt innehåll på Xbox Live och utnyttja sin kunskap om AI och maskininlärning för att förbättra plattformen för alla.

Bildkredit: MaryValery / Shutterstock

0 Shares