Microsoft efterlyser regeringsreglering av ansiktsigenkänning på grund av “potential för missbruk”

0 Shares

Ansiktsigenkänning av mask

Microsofts president Brad Smith har uppmanat regeringen att reglera ansiktsigenkänningsteknologi och citerar oro för att den är öppen för missbruk. Medan han erkänner att teknikföretaget har en roll att spela, han att det är upp till de valda företrädarna att införa regler.

Med en fruktansvärd analogi (“Alla verktyg kan användas för gott eller ont. Även en kvast kan användas för att svepa golvet eller slå någon över huvudet.”) Smith påpekar att även om ansiktsigenkänningsteknik är onekligen användbart, finns det också potential för att det “missbrukas och missbrukas av privata företag och offentliga myndigheter”. Han vill att regeringen ska göra något åt ​​det.

Se även:

Smith säger inte bara att något behöver göras; Microsoft har ett antal förslag och rekommendationer för att gå vidare. Han är tydligt medveten om att regeringar och byråer runt om i världen rullar ut ansiktsigenkänningssystem för en rad ändamål och målar en dyster bild av vad detta kan betyda:

Föreställ dig en regering som spårar vart du än gick den senaste månaden utan din tillåtelse eller vetskap. Föreställ dig en databas över alla som deltog i ett politiskt möte som utgör själva kärnan i yttrandefriheten. Föreställ dig butikerna i ett köpcentrum med ansiktsigenkänning för att dela information med varandra om varje hylla som du bläddrar i och produkter du köper, utan att fråga dig först. Detta har länge varit saker av science fiction och populära filmer – som “Minority Report”, “Enemy of the State” och till och med “1984” – men nu är det på väg att bli möjligt.

Han pekar på några av de frågor som har upptäckts med ansiktsigenkänning som skäl att vara oroliga – till exempel det faktum att sådana system är mer exakta när det gäller att känna igen vita män än kvinnor, och bättre på att känna igen människor med ljusare hud i allmänhet . Han fortsätter med att säga att även om element av “bias” kan strykas ut, kommer igenkänningssystem alltid att ha en viss felhastighet.

Microsoft är särskilt intresserad av denna fråga just nu eftersom den befann sig i centrum för invandringsdebatten nyligen – oro uppstod om företaget hade ett kontrakt som involverade ansiktsigenkänning med ICE (Smith är snabb att påpeka att “vi” sedan dess har vi bekräftat att avtalet i fråga inte alls används för ansiktsigenkänning “).

Trots oro över hur regeringar kan använda sig av ansiktsigenkänningsteknik, ser Smith på regeringen för att hålla saker i kontroll:

Det enda effektiva sättet att hantera en regerings användning av teknik är att regeringen proaktivt ska hantera denna användning själv. Och om det finns oro för hur en teknik kommer att användas bredare i hela samhället, är det enda sättet att reglera denna breda användning att regeringen gör det. Detta är i själva verket vad vi anser behövs idag – ett regeringsinitiativ för att reglera korrekt användning av ansiktsigenkänningsteknik, först informerad av en tvåpartis- och expertkommission.

Medan vi uppskattar att vissa människor idag efterlyser teknikföretag att fatta dessa beslut – och vi inser ett tydligt behov av vår egen ansvarsutövning, vilket diskuteras längre fram – anser vi att detta är ett otillräckligt substitut för allmänhetens beslutsfattande. och dess representanter i en demokratisk republik. Vi lever i en nation av lagar och regeringen måste spela en viktig roll för att reglera ansiktsigenkänningsteknik. Som en allmän princip verkar det mer förnuftigt att be en vald regering att reglera företag än att be icke-utvalda företag att reglera en sådan regering.

Han fortsätter med att föreslå ett antal frågor som måste övervägas när man utarbetar regler och genomför kontroller:

Bör brottsbekämpande användning av ansiktsigenkänning vara föremål för mänsklig tillsyn och kontroller, inklusive begränsningar för användningen av tekniken för ansiktsigenkänning utan hjälp som bevis på en individs skuld eller oskyldighet för ett brott? På samma sätt bör vi se till att det finns civil övervakning och ansvarsskyldighet för användningen av ansiktsigenkänning som en del av statlig nationell säkerhetsteknik? Vilka typer av rättsliga åtgärder kan förhindra att ansiktsigenkänning används för rasprofilering och andra kränkningar av rättigheter samtidigt som teknologin tillåter nytta? Bör användning av ansiktsigenkänning av offentliga myndigheter eller andra vara föremål för minimala prestandanivåer för noggrannhet? Bör lagen kräva att återförsäljare lägger synliga meddelanden om att de använder ansiktsigenkänningsteknik i offentliga utrymmen? Borde lagen kräva att företag får förhandsgodkännande innan de samlar enskildes bilder för ansiktsigenkänning? Om så är fallet, i vilka situationer och platser bör detta gälla? Och vad är det rätta sättet att be om och få sådant samtycke? Ska vi se till att individer har rätt att veta vilka bilder som har samlats in och lagrats som har identifierats med deras namn och ansikten? Ska vi skapa processer som ger juridiska rättigheter för individer som tror att de har identifierats felaktigt av ett ansiktsigenkänningssystem?

Det här är uppenbarligen inte ett problem som kommer att lösas över natten eftersom det involverade en mycket komplex uppsättning interrelaterade frågor. Men när Microsoft har sagt sitt stycke kan vi förvänta oss att andra teknikföretag gör detsamma i ett försök att ses på rätt sida av debatten.

Bildkredit: ra2studio / Shutterstock

0 Shares