Axon gebruikt voorlopig geen gezichtsherkenning in politie bodycams

Bodycam bedrijf Axon uit Arizona deed afgelopen jaar iets ongebruikelijks voor een technologiebedrijf. De organisatie heeft een ethische adviesraad van externe experts samengesteld om richting te bieden wat betreft potentiële nadelen van zijn technologie. Afgelopen donderdag publiceerde de raad een rapport waarin zij het bedrijf aanraden gezichtsherkenningstechnologie niet te implementeren op zijn bodycams, die veel gebruikt worden door de Amerikaanse politie, gezien de ethische problemen en technologische beperkingen die dit met zich meebrengt. Axon zegt dat dergelijke externe ethische adviesraden nieuw zijn onder technologiebedrijven, en dat zij hopen dat andere bedrijven de ethische roadmap die zij ontwerpen kunnen nastreven.

Problemen met gezichtsherkenning in bodycams

De adviesraad concludeerde dat het gebruik van politie bodycams een complete “non-starter” was. Ze ontdekten dat de technologie nog niet betrouwbaar genoeg is om personen te identificeren, en dat deze met name onnauwkeurig is als het gaat om vrouwen, jongeren, en mensen van niet-blanke etniciteiten. Deze ongelijkheden zouden onrechtvaardigheden alleen maar voortzetten en verscherpen.

Volgens het rapport zouden de tekortkomingen, met name onder wetshandhavingsvoorwaarden zoals een politie achtervolging met schuddende bodycams en slechte verlichting, erger kunnen zijn. Mogelijk zijn de tekortkomingen relatief gezien onbelangrijk als het gaat om het vinden van een vermiste oudere in een menigte, maar real-time gezichtsherkenning voor het markeren van een verdachte zou ertoe kunnen leiden dat agenten personen als gevaarlijker waarnemen dan dat zij echt zijn, waardoor zij meer geweld gebruiken dan de situatie vereist.

Afgelopen donderdag maakte Axon bekend dat zij het advies van de raad opvolgen, en voorlopig hun bodycams niet zullen voorzien van face-matching technologie (het proces waarbij een gezicht wordt gematcht met een beeld van een specifiek persoon in een set mug shots of een andere database). Axon zal samenwerken met de ethische adviesraad in hun onderzoek naar het beter begrijpen en oplossen van de belangrijkste kwesties die in het rapport naar voren kwamen. Zo zullen zij onder andere manieren zoeken om de vooroordelen uit de algoritmen te halen.

Voorzichtiger omgaan met technologie

Axons beslissing geeft weer hoe gezichtsherkenning technologie steeds controversiëler wordt naarmate het meer gebruikt wordt. Burgers en wetgevers zijn niet altijd blij met de macht die software die in staat is mensen in het openbaar te herkennen kan geven aan politie en overheden. Om die reden gaan Axon en andere technologiebedrijven voorzichtiger om met de technologie, in tegenstelling tot het gebruikelijke patroon van snel bewegen, voor opschudding zorgen, en het achterlaten van problemen waar de samenleving mee moet dealen. Zoals Axons oprichter en CEO Rick Smith aangaf in een interview zouden zij zonder hun ethische adviesraad mogelijk doorgegaan zijn voordat ze echt begrepen wat er mis kon gaan met deze technologie. Een van de elf leden van de raad, Mecole Jordan, zegt dat nieuwe technologieën vaak gewoonweg verkocht worden en de gemeenschappen later de negatieve gevolgen ontdekken. De laatste tijd is gezichtsherkenning onder de microscoop gekomen bij het Amerikaanse parlement en plaatselijke overheden vanwege angsten dat massasurveillance zal leiden tot een politiestaat waarin de overheid binnendringt in het dagelijks leven van onschuldige burgers, en onterecht minderheden aanwijst als criminelen.

Volgens Smith was de raad geïnspireerd op speculatie die zich begon te verspreiden dat Axon privacy onvermijdelijk zou bedreigen door gezichtsherkenning aan hun camera’s toe te voegen. Smith zegt dat de organisatie alleen van plan was tools te creëren om de politie te helpen video’s te managen en gezichten en andere identificerende informatie te bewerken. Axon heeft in het verleden ook moeten strijden tegen claims dat hun technologie gevaarlijk is, waarbij zij in sommige gevallen schuldig zijn bevonden en een schadevergoeding hebben moeten betalen. Het bedrijf is een van de weinigen die met behulp van een adviesraad bescherming creëert tegen onbedoelde consequenties van hun technologische uitvindingen voordat zij ze op de markt brengen.

Hoe bescherm jij je tegen onethische consequenties?

Axons adviesraad bestaat uit elf leden, waaronder advocaten, technologen en wetshandhavings veteranen. Het is belangrijk dat een dergelijke raad wordt gevormd door een diverse en externe groep specialisten en vertegenwoordigers van de mensen die het meest getroffen worden door de technologie. Op deze manier helpt de raad ervoor te zorgen dat de producten van het bedrijf op verantwoorde wijze worden ontworpen. Laat je hierdoor inspireren, zodat je niet alleen je eigen bedrijf beschermt tegen de consequenties van onethische middelen, maar je technische tools ook daadwerkelijk een waardevolle bijdrage leveren aan de samenleving.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s