Microsoft säger att det är dags för myndighetsreglering av ansiktsigenkänning

0 Shares

Ansiktsigenkänning

Ansiktsigenkänning används alltmer i både allmän databehandling och i hela världen. Smartphones och datorer kan låsas upp i ansiktet, men tekniken används också för säkerhets- och polisändamål.

Även om de flesta användningar är legitima och hjälpsamma, finns det utrymme för missbruk. Microsoft anser att det är dags för reglering för att undvika detta. Företaget uppmanar regeringen runt om i världen att införa nya lagar, men också på teknikindustrin att införa skydd för att skydda mot missbruk och partiskhet.

Se även:

I ett blogginlägg som säger “det är dags för handling” uttrycker Microsofts president Brad Smith sin övertygelse om att 2019 är året då regeringar måste börja reglera teknik för ansiktsigenkänning. Han säger att företag måste erkänna sitt sociala ansvar och acceptera det faktum att tekniken måste “styras av rättsstatsprincipen”.

Blogginlägget är mer än bara ett krav på att något ska göras; Microsoft har några förslag på hur saker kan hanteras – även om de erkänner att “vi har inte svar på varje potentiell fråga”.

Smith identifierar tre särskilda områden som oroar sig för:

Först, särskilt i sitt nuvarande utvecklingsläge, ökar vissa användningar av ansiktsigenkänningsteknik risken för beslut och, mer generellt, resultat som är partiska och, i vissa fall, i strid med lagar som förbjuder diskriminering.

Andrakan den utbredda användningen av denna teknik leda till nya intrång i människors integritet.

Och tredje, kan användningen av ansiktsigenkänningsteknik av en regering för massövervakning inkräkta på demokratiska friheter.

Att ta itu med partiskhet och diskriminering är först på Microsofts träfflista. Företaget arbetar redan med andra företag för att lösa dessa problem, men anser att lagstiftning fortfarande är nödvändig. Specifikt söker Microsoft transparens från de som använder ansiktsigenkänning, samt vill att ansiktsigenkänningssystem ska testas av tredje part för partiskhet och noggrannhet.

Sekretess är ett annat viktigt problem, och Smith föreslår en “enkel strategi”:

Säkerställer meddelande. Lagen bör kräva att enheter som använder ansiktsigenkänning för att identifiera konsumenter lägger iögonfallande meddelande som tydligt visar att dessa tjänster används.

Förtydligande av samtycke. Lagen bör specificera att konsumenter samtycker till användning av ansiktsigenkänningstjänster när de går in i lokaler eller fortsätter att använda onlinetjänster som har denna typ av tydligt meddelande.

Slutligen vill Smith att åtgärder vidtas för att se till att saker inte blir en verklig version av 1984:

Begränsning av pågående statlig övervakning av specifika individer.För att skydda mot användningen av ansiktsigenkänning för att inkräkta på demokratiska friheter bör lagstiftningen tillåta brottsbekämpande myndigheter att använda ansiktsigenkänning för att fortsätta övervaka specifika personer i offentliga utrymmen endast när:

ett domstolsbeslut har erhållits för att tillåta användning av ansiktsigenkänningstjänster för denna övervakning; eller där det finns en nödsituation med överhängande fara eller risk för dödsfall eller allvarlig fysisk skada på en person.

Smith påpekar dock att lagstiftning inte är slutet på berättelsen. Han säger att teknikföretag har ett ansvar för att göra rätt saker och han uppmuntrar till samarbete. Han avslutar med att fastställa sex principer som Microsoft kommer att anta, och han uppmuntrar regeringar att göra detsamma:

    Rättvisa. Vi kommer att arbeta för att utveckla och distribuera ansiktsigenkänningsteknik på ett sätt som strävar efter att behandla alla människor rättvist.

    Genomskinlighet. Vi kommer att dokumentera och tydligt kommunicera funktionerna och begränsningarna för ansiktsigenkänningsteknik.

    Ansvarighet. Vi kommer att uppmuntra och hjälpa våra kunder att distribuera ansiktsigenkänningsteknik på ett sätt som säkerställer en lämplig nivå av mänsklig kontroll för användningar som kan påverka människor på följdvisa sätt.

    Icke-diskriminering. Vi kommer att förbjuda användning av ansiktsigenkänningsteknik i våra användarvillkor för att begå olaglig diskriminering.

    Meddelande och samtycke. Vi kommer att uppmuntra kunder från den privata sektorn att meddela och säkerställa samtycke för användning av ansiktsigenkänningstekniker.

    Laglig övervakning. Vi kommer att förespråka skydd för människors demokratiska friheter i övervakningsscenarier för brottsbekämpning och kommer inte att använda ansiktsigenkänningsteknik i scenarier som vi tror kommer att äventyra dessa friheter.

Ta en titt på hela blogginlägget för att se Smiths argument och resonemang.

0 Shares